لایحه ایمنی آنتروپیک به ایالات متحده این امکان را می دهد که در صورت خطر قریب الوقوع مرگ بیش از 50 نفر، یک مدل هوش مصنوعی را مسدود کند.

داریو آمودی، مدیر عامل آنتروپیک، در سفری که در سپتامبر به واشنگتن دی سی داشت. بلومبرگ/گتی ایماژ Anthropic به دنبال شکل دادن به مقررات هوش مصنوعی با ارائه یک لایحه ایمنی هوش مصنوعی است.

POLITICO پیش نویس محرمانه قانون پیشنهادی را به دست آورد.

این لایحه به دولت اجازه می‌دهد یک مدل هوش مصنوعی را تنها در صورتی مسدود کند که خطر قابل پیش‌بینی و قریب‌الوقوع بیش از یک میلیارد دلار خسارت یا کشته شدن یا مجروح شدن جدی بیش از 50 نفر را به همراه داشته باشد. به گفته سه نفری که از تلاش‌ها آگاه بودند و برای بحث در مورد بحث‌های خصوصی ناشناس ماندند، نمایندگان غول هوش مصنوعی Anthropic به آرامی پیش‌نویس لایحه‌ای را برای تنظیم ایمنی و امنیت هوش مصنوعی مرزی به قانون‌گذاران کاپیتول هیل ارائه کردند.

پیش نویس محرمانه که توسط POLITICO به دست آمده و قبلا گزارش نشده بود، نشان دهنده تلاش قابل توجه آزمایشگاه هوش مصنوعی مرزی برای شکل دادن به قوانین حاکم بر فناوری خود است، زیرا کنگره چگونگی واکنش به صنعت در حال حرکت را بررسی می کند.

یکی از سخنگویان آنتروپیک گفت: «این لایحه پیشنهادهایی است که در چارچوب هوش مصنوعی پیشرفته Anthropic ارائه شده است، که ما از ژوئن با قانونگذاران فدرال و ایالتی از آن حمایت کرده ایم. اینها سیاست های معقولی هستند که ما معتقدیم کنگره باید به آنها عمل کند.»

این لایحه به دولت اجازه می‌دهد تنها در صورتی از انتشار یا استفاده از یک مدل جلوگیری کند که خطر قابل پیش‌بینی و قریب‌الوقوع بیش از یک میلیارد دلار خسارت یا کشته شدن یا مجروح شدن جدی بیش از 50 نفر را به همراه داشته باشد. این خطر باید از ایجاد یا انتشار یک سلاح بیولوژیکی، فرار مدل از کنترل های توسعه دهنده آن یا یک حمله سایبری ناشی شود. آینه های زبانی که در قوانین هوش مصنوعی کالیفرنیا از جمله SB 53 یافت می شود که سال گذشته به قانون تبدیل شد.

آزمایشگاه‌های پیشرو هوش مصنوعی در تابستان امسال مجموعه‌ای از حوادث را فاش کردند که در آن عوامل هوش مصنوعی وب‌سایت‌ها و پلتفرم‌ها را هک یا بررسی کردند. به نظر می رسد تاکنون هیچ گزارشی باعث مرگ گسترده یا بیش از یک میلیارد دلار خسارت شده باشد.

آنتروپیک هنوز به طور علنی از تلاش‌های قانونی خاصی در کنگره حمایت نکرده است، اما آنها از برخی قوانین ایمنی ایالتی در زمینه هوش مصنوعی، از جمله دو قانون در کالیفرنیا، حمایت کرده‌اند. رئیس روابط ایالتی و دولت محلی آنها در ایالات متحده قبلا به پولیتیکو گفته بود که آنها امیدوارند ایالت ها به تصویب قوانین ایمنی قوی تری در زمینه هوش مصنوعی ادامه دهند که استانداردها را در سراسر کشور افزایش دهد.

بر اساس این لایحه، ارزیاب های مستقل که در وزارت بازرگانی ثبت نام می کنند، وظیفه ارزیابی دوره ای آزمایشگاه و مدل های مرزی آن را خواهند داشت. تا زمانی که پرداخت مشروط به نتایج ارزیابی ها نباشد، ارزیاب ها ممکن است توسط خود آزمایشگاه برای کار خود دستمزد دریافت کنند.

اگر ارزیاب‌ها تشخیص دهند که «ریسک برشماری قریب‌الوقوع» برای مدل‌های مرزی یک شرکت وجود دارد، باید آن را ظرف 72 ساعت پس از تکمیل ارزیابی خود به بازرگانی گزارش کنند.

در حالی که وزارت بازرگانی می‌تواند پس از تشخیص اینکه مدلی خطرناک است، از قاضی درخواست کند که انتشار مدل را متوقف کند، این زبان صراحتا هر «وزارت، آژانس یا افسر» دیگر ایالات متحده را از تعلیق توسعه، استقرار یا استفاده داخلی مدل منع می‌کند. یک قاضی فدرال در دادگاه منطقه ای کلمبیا می تواند دستور تعلیق یک مدل را بدهد.

در طول تابستان، آنتروپیک تحت کنترل‌های گسترده صادرات قرار گرفت که دو مدل از پیشرفته‌ترین مدل‌های آن را تعطیل کردند. این تصمیم در طوفانی از تماس‌های تلفنی بین مقامات دولتی و مدیران شرکت گرفته شد و برخی از صنعت فناوری را نگران کرد که دسترسی به فناوری آنها ممکن است به هوس مقامات دولتی محدود شود.

لایحه آنتروپیک همچنین برخی از قوانین هوش مصنوعی ایالتی مربوط به افشای عمومی خطر، ارزیابی شخص ثالث و گزارش رویدادهای مهم را پیشی خواهد گرفت. پیش دستی یک نقطه عطف سیاسی در کاپیتول هیل بوده است و دموکرات‌ها برخی از پیشنهادهایی را که می‌ترسیدند مقررات تصویب شده توسط کالیفرنیا، ایلینوی و نیویورک را خنثی کند، رد کردند.

بسیاری از گروه‌های صنعت فناوری استدلال کرده‌اند که در مقایسه با استاندارد ملی یکپارچه، پیروی از قوانین دولتی به ایالت دشوار است.

این قانون همچنین آزمایشگاه‌های مرزی را ملزم می‌کند تا چارچوب‌های ایمنی ایجاد کنند، گزارش‌های شفافیت را برای مدل‌های مرزی جدید منتشر کنند، حفاظت‌هایی را برای افشاگران اجرا کنند و حوادث ایمنی مهم را به بازرگانی گزارش دهند.

کاپیتول هیل در تابستان امسال شاهد فعالیت های زیادی در زمینه قوانین ایمنی هوش مصنوعی بوده است. در مجلس نمایندگان، لوری تراهان (دولت ماساچوست) و جی اوبرنولت (رئیس کالیفرنیا) قانون FRONTIER را رهبری کردند که به دولت این امکان را می‌دهد که استقرار مدل‌های مخاطره‌آمیز را متوقف کند و برخی از قوانین هوش مصنوعی ایالتی را پیشی بگیرد.

در مجلس سنا، جان تون، رهبر اکثریت و سناتورهای امی کلوبوچار (دموکرات) و تد کروز (تگزاس) در حال مذاکره در مورد لایحه ایمنی هوش مصنوعی با هدف کاهش خطرات فاجعه آمیز هستند. اما از سوی برخی از گروه‌های ایمنی و سناتور ماریا کانتول (D-Wash.)، دموکرات ارشد کمیته بازرگانی کروز، که از دولت می‌خواهند نقش بزرگ‌تری در بررسی مدل‌های هوش مصنوعی داشته باشد، با باد مخالف مواجه شده است.

دیگر پیشروها، از جمله نماینده گرگ کاسار (دولت تگزاس) و سناتور برنی سندرز (I-Vt.)، در خواستار توقف توسعه هوش مصنوعی پیشرفته و ممنوعیت ابرهوش، نوعی از هوش مصنوعی نظری که بسیار فراتر از توانایی های شناختی انسان است، بسیار فراتر از همکاران خود رفته اند.

این داستان در ابتدا در POLITICO ظاهر شد و توسط شبکه گزارشگران جهانی Axel Springer که از منابع اتاق‌های خبری این شرکت برای انتشار نمونه‌های جاه‌طلبانه، تحقیقات، مصاحبه‌ها، نظرات و تحلیل‌ها استفاده می‌کند، استفاده می‌کند. این به روزنامه نگاران - از جمله روزنامه نگاران POLITICO، Business Insider، WELT، BILD، Onet و Fakt - اجازه می دهد تا در داستان های اصلی برای صدها میلیون مخاطب بین المللی در سراسر پلتفرم ها همکاری کنند.

مقاله اصلی را در Business Insider بخوانید