جایگزین نانسی پلوسی آماده است تا هوش مصنوعی را تنظیم کند

به عنوان یک سناتور ایالت کالیفرنیا، اسکات وینر قانونی را با هدف مهار خطرات هوش مصنوعی پیشرفته تدوین کرد. اکنون، پس از پیروزی در رقابت تنگاتنگ کنگره برای کرسی باز نانسی پلوسی، رئیس مجلس نمایندگان، می تواند نقشی کلیدی در تنظیم سیاست فدرال هوش مصنوعی ایفا کند.

من روز جمعه با وینر صحبت کردم، تنها چند ساعت پس از اعلام پیروز شدن او. اما او قبلا به خطر هوش مصنوعی فکر می کرد. روز قبل، METR غیرانتفاعی هوش مصنوعی گزارشی منتشر کرد که به طور گسترده به عنوان شواهدی مبنی بر اینکه Anthropic به بهبودی بازگشتی دست یافته است، تفسیر شده بود، پدیده‌ای که در آن هوش مصنوعی به طور معناداری به پیشرفت خود کمک می‌کند و پیشرفت هوش مصنوعی به طور بالقوه از کنترل خارج می‌شود.

وینر با اشاره به این گزارش به عنوان شواهدی مبنی بر اینکه ما به سرعت در حال اتمام زمان برای تنظیم هوش مصنوعی هستیم، گفت: «این بسیار نگران کننده است. او گفت: «امیدوارم کنگره قبل از [پایان] امسال اقدام قاطعانه ای انجام دهد. "به نظر نمی رسد این اتفاق بیفتد."

وینر در سال‌های اخیر به طور فزاینده‌ای بر روی هوش مصنوعی متمرکز شده است و بسیاری از نگرانی‌های جنبش ایمنی هوش مصنوعی را به خود اختصاص داده است: در طول مکالمه 20 دقیقه‌ای ما، او از عبارت «بهبود خود بازگشتی» دوازده بار استفاده کرد، برای مثال. او می‌گوید: «ما باید سرعت این کار را کاهش دهیم. چون خیلی سریع حرکت می‌کند و ما می‌توانیم به یک فاجعه راه برویم.»

وینر قبلا تأثیر واقعی بر سیاست هوش مصنوعی داشته است. SB 1047، لایحه‌ای که او در سال 2024 تهیه کرد، قرار بود به اولین قانون واقعی مرزی هوش مصنوعی در کشور تبدیل شود قبل از اینکه توسط فرماندار کالیفرنیا گاوین نیوسام وتو شود. او سپس از SB 53 حمایت مالی کرد، یک لایحه ساده تر که نیوسام آن را امضا کرد. هر دو لایحه از قوانین فدرال پیشنهادی الهام گرفته اند.

کمپین کنگره وینر بیش از 3 میلیون دلار از Public First Action دریافت کرد، یک سازمان غیرانتفاعی به نفع مقررات هوش مصنوعی که بودجه قابل توجهی را از Anthropic دریافت می کند. این مشارکت باعث شد مخالفان از او به دلیل نزدیک بودن بیش از حد به صنعت هوش مصنوعی انتقاد کنند، اما وینر می گوید که این نمی تواند دور از واقعیت باشد.

او پس از مصاحبه ما در پیامی نوشت: «اول عمومی از من حمایت کرد زیرا من اولین قانون‌گذار در کشور بودم که مقررات هوش مصنوعی را معرفی کردم و اولین کسی بودم که آن را تصویب و اجرا کردم. حملاتی که به من برای حمایت [Public First] انجام شد، به طرز تکان‌دهنده‌ای بدبینانه بود – به معنای واقعی کلمه به نامزدی که در واقع هوش مصنوعی را به دلیل مخالفت Big Tech تنظیم می‌کرد و به دروغ ادعا می‌کرد که نامزد به نوعی به فناوری بزرگ نزدیک است، حمله می‌کردم.

وینر می‌گوید که اگر کنگره کمیته‌ای منتخب در زمینه هوش مصنوعی تشکیل دهد - چیزی که دموکرات‌ها از سپتامبر درباره آن بحث کرده‌اند - او مشتاق خدمت خواهد بود. و او مشتاق بسیاری از ایده های سیاستی است که در اطراف کنگره شناور است. او می‌گوید: «فکر می‌کنم داشتن یک تنظیم‌کننده فدرال قوی، توانمند و چابک واقعا مهم است»، و اشاره کرد که نماینده رو خانا، یکی از دموکرات‌ها از کالیفرنیا، قانونی را برای ایجاد چنین تنظیم‌کننده‌ای پیشنهاد کرده است.

او همچنین بر اهمیت حفاظت از افشاگران، الزامات آزمایش و ممیزی، و الزام سوئیچ کشتن تاکید می‌کند و می‌خواهد کنگره از قدرت نظارتی خود برای پاسخگویی به آزمایشگاه‌های هوش مصنوعی استفاده کند. او می‌گوید: «این مربوط به آینده بشریت است، و ما می‌خواهیم مطمئن شویم که مردم حرفی برای گفتن دارند و مردم می‌دانند چه اتفاقی در حال رخ دادن است.

و به عنوان یک قانونگذار قدیمی ایالتی، او با پیشدستی گسترده فدرال از قوانین هوش مصنوعی ایالتی مخالف است، که برخی از قوانین فدرال پیشنهادی مستلزم آن است. او خاطرنشان می کند: «ایالات همان طور که براندیس می گوید، آزمایشگاه هستند. «شما می‌خواهید که ایالت‌ها بتوانند به روش‌هایی که کنگره گاهی اوقات اینطور نیست، زیرک باشند.»

وینر می‌گوید مهم‌تر از همه، از کنگره می‌خواهد که سیاست‌ها را با دندان واقعی تصویب کند. او می‌گوید: «بسیار مهم است که وقتی کنگره اقدام می‌کند، این کار را به شیوه‌ای انجام دهیم که واقعا معنی‌دار باشد و مطابق با لحظه باشد». این به معنای جدی گرفتن احتمال فاجعه هوش مصنوعی است، چیزی که او به زبانی که معمولا توسط کارشناسان ایمنی هوش مصنوعی استفاده می شود، مورد بحث قرار می دهد. او به من گفت: «ما در لحظه ای هستیم که از نظر خطر از دست دادن کنترل بر هوش مصنوعی بسیار خطرناک است. ما باید با خود-بهبودی بازگشتی مقابله کنیم.

وقتی در آن قلمرو قرار گرفتید، واقعا به طور بالقوه دستور العملی برای از دست دادن کامل کنترل است.»

او در مبارزه با خطر فاجعه‌بار هوش مصنوعی متحدانی خواهد داشت. به عنوان مثال، سناتور برنی سندرز با بسیاری از تأثیرگذارترین چهره‌های جنبش ایمنی هوش مصنوعی ملاقات کرده است و بارها در مورد هوش مصنوعی و خطر وجودی صحبت کرده است. اما هنوز شکاف بزرگی بین Wiener’s Bay Area، دیدگاه مبتنی بر AGI و روحیه ملی هوش مصنوعی وجود دارد، که با مخالفت با مراکز داده تثبیت شده است.

این واقعیت که رأی دهندگان 40 مورد از 41 اقدام ضد مرکز داده را در روز سه شنبه تأیید کردند ممکن است نشانه خوبی برای وینر و سایر افرادی باشد که از مقررات هوش مصنوعی حمایت می کنند، اما وینر می گوید که این حرکت را بیشتر به نگرانی های محلی مرتبط می داند تا سؤالات بزرگتر در مورد خطر هوش مصنوعی.

او می‌گوید: «افرادی که واقعا مخالف این هستند که هوش مصنوعی به کجا می‌رود – این منطقه‌ای است که در آن واقعا می‌توانند کاری در مورد آن انجام دهند. اما مرکز داده شورش می‌کند—به نظر من، فکر می‌کنم بیشتر به این دلیل است که مردم از این که ممکن است چنین چیزی در جامعه‌شان وجود داشته باشد، با تمام تأثیرات نزدیک خانه‌های مردم، افزایش قبوض برق و استفاده از آب، ناراحت هستند.

وینر با توجه به سوابق ضعیفش در تنظیم صنعت فناوری، خود را نسبت به توانایی کنگره برای مهار هوش مصنوعی «محتاطانه خوشبین» توصیف می کند. او همچنین نگرانی‌هایی در مورد توانایی عبور از قانون از دونالد ترامپ، رئیس‌جمهور آمریکا دارد، که نگرانی‌ها در مورد خطر فاجعه‌آمیز هوش مصنوعی را در ماه سپتامبر یک «فریب» خواند و نشان داد که تمایلی آشکار به همکاری با چین ندارد، چیزی که وینر آن را برای جلوگیری از بدترین عواقب هوش مصنوعی ضروری می‌داند.

اما او می‌گوید که غیرقابل پیش‌بینی بودن ترامپ مقداری امید را فراهم می‌کند، هر چند که نوعی امید است. وینر می‌گوید: «تاکنون چیزی که ما دیده‌ایم چیزهای مشکل‌ساز هستند، اما فاجعه‌های کامل نیستند. "امیدوارم برای تشویق رئیس جمهور به سمت بازیگری فاجعه ای رخ ندهد. و امیدوارم که اگر چنین چیزی باشد - که همانطور که گفتم، امیدوارم اینطور نباشد - اما اگر این کار را کرد، امیدوارم تا حد امکان کوچک باشد."