تلاش برای محدود کردن اختیارات دولت آمریکا در کنترل هوش مصنوعی
شرکت آنتروپیک پیش‌نویس محرمانه‌ای را در اختیار قانون‌گذاران آمریکایی قرار داده که اختیارات دولت برای جلوگیری از انتشار مدل‌های پیشرفته هوش مصنوعی را محدود می‌کند.
شرکت آمریکایی آنتروپیک، یکی از توسعه‌دهندگان اصلی مدل‌های پیشرفته هوش مصنوعی در تلاش است، بر روند قانون‌گذاری برای این فناوری در کنگره آمریکا تاثیر بگذارد. پولیتیکو به نقل از سه منبع آگاه گزارش داد، نمایندگان این شرکت در هفته‌های اخیر پیش‌نویس قانونی را به صورت غیرعلنی با اعضای کنگره در میان گذاشته‌اند که حدود اختیارات دولت در نظارت بر مدل‌های پیشرفته هوش مصنوعی را مشخص می‌کند.
بر اساس پیش‌نویسی که این رسانه خبری آمریکایی به آن دست یافته، دولت آمریکا فقط در شرایط مشخصی می‌تواند مانع انتشار یا استفاده از یک مدل پیشرفته هوش مصنوعی شود.
مطابق این پیشنهاد، مداخله دولت زمانی مجاز خواهد بود که خطر قابل پیش‌بینی و قریب‌الوقوعی وجود داشته باشد؛ خطری که بتواند بیش از یک میلیارد دلار خسارت ایجاد کند یا به مرگ یا جراحت شدید بیش از ۵۰ نفر منجر شود.
این خطر نیز باید به یکی از سه وضعیت مشخص مربوط باشد: تولید یا انتشار سلاح بیولوژیکی، خروج مدل از کنترل توسعه‌دهنده یا انجام حمله سایبری.
سخنگوی آنتروپیک در واکنش به گزارش پولیتیکو اعلام کرد، پیشنهادهای ارائه‌شده همان چارچوبی است که شرکت از ماه ژوئن در گفت‌وگو با قانون‌گذاران فدرال و ایالتی دنبال کرده است. او گفت: «اینها سیاست‌های معقولی هستند که معتقدیم کنگره باید درباره آنها اقدام کند.»
آنتروپیک پیش از این از برخی قوانین ایالتی مرتبط با ایمنی هوش مصنوعی ، از جمله دو قانون در کالیفرنیا، حمایت کرده بود. مقام مسئول روابط این شرکت با دولت‌های ایالتی و محلی نیز پیش‌تر ابراز امیدواری کرده بود که ایالت‌های آمریکا قوانین سخت‌گیرانه‌تری برای افزایش استانداردهای ایمنی هوش مصنوعی تصویب کنند.
با این حال، پیش‌نویس تازه از جایگزینی بخشی از مقررات ایالتی با یک چارچوب سراسری فدرال حمایت می‌کند.
یکی دیگر از بخش‌های پیشنهاد آنتروپیک به ایجاد سازوکاری برای بررسی دوره‌ای ایمنی شرکت‌های توسعه‌دهنده هوش مصنوعی اختصاص دارد. بر اساس این طرح، ارزیابان مستقل باید در وزارت بازرگانی آمریکا ثبت‌نام کنند و به صورت دوره‌ای، شرکت‌ها و مدل‌های پیشرفته آنها را بررسی کنند.
هزینه فعالیت این ارزیابان می‌تواند از سوی خود شرکت‌های توسعه‌دهنده پرداخت شود، مشروط بر اینکه دستمزد آنها به نتیجه ارزیابی وابسته نباشد.
چنانچه ارزیابان به این نتیجه برسند که یک مدل با یکی از خطرات قریب‌الوقوع تعریف‌شده در قانون روبه‌رو است، موظف خواهند بود حداکثر ظرف ۷۲ ساعت پس از پایان بررسی، موضوع را به وزارت بازرگانی گزارش دهند.
پیش‌نویس آنتروپیک همچنین برای جلوگیری از مداخله مستقیم نهادهای اجرایی آمریکا محدودیت‌هایی در نظر گرفته است. طبق این پیش‌نویس، وزارت بازرگانی در صورت شناسایی خطر می‌تواند از دادگاه درخواست کند انتشار یک مدل متوقف شود. اما سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های دولتی حق نخواهند داشت به طور مستقل توسعه، عرضه یا استفاده داخلی از یک مدل را متوقف کنند.
در چنین شرایطی صدور دستور توقف در اختیار قاضی دادگاه فدرال ناحیه کلمبیا خواهد بود.
این پیشنهاد پس از آن مطرح شده که آنتروپیک در تابستان امسال با محدودیت‌های گسترده صادراتی آمریکا روبه‌رو شد و دو مدل بسیار پیشرفته این شرکت در نتیجه تصمیم‌های دولت از فعالیت بازماندند.
به گزارش پولیتیکو، این تصمیم در جریان مجموعه‌ای از تماس‌های تلفنی میان مقام‌های دولت و مدیران آنتروپیک اتخاذ شده است.
این اتفاق نگرانی‌هایی را در صنعت فناوری ایجاد کرده که دولت ممکن است بدون روند نظارتی روشن و قابل پیش‌بینی، دسترسی به فناوری‌های پیشرفته را محدود کند.
پیش‌نویس تازه آنتروپیک در عمل به دنبال آن است که تصمیم‌گیری درباره توقف مدل‌های هوش مصنوعی از اختیار مستقیم مقام‌های اجرایی خارج شود و در چارچوب روند قضایی مشخصی قرار گیرد.
پیش‌نویس آنتروپیک در کنار محدود کردن مداخله دولت، تعهداتی را نیز برای شرکت‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی در نظر گرفته است.
این شرکت‌ها باید چارچوب‌های ایمنی مشخصی تدوین کنند، گزارش‌های شفافیت درباره مدل‌های جدید منتشر کنند و سازوکارهایی برای حفاظت از افشاگران تخلفات داشته باشند. گزارش حوادث مهم مرتبط با ایمنی به وزارت بازرگانی نیز از دیگر الزامات پیش‌بینی‌شده است.
برخی سیاستمداران ترقی‌خواه آمریکا مواضع سخت‌گیرانه‌تری اتخاذ کرده‌اند.
گرگ کسار، نماینده دموکرات مجلس نمایندگان، و برنی سندرز، سناتور مستقل، خواستار توقف موقت توسعه مدل‌های پیشرفته هوش مصنوعی و ممنوعیت ایجاد «ابرهوش مصنوعی» شده‌اند.
ابرهوش مصنوعی به نوعی فرضی از هوش مصنوعی گفته می‌شود که توانایی‌های شناختی آن به‌مراتب فراتر از انسان باشد.
ورود مستقیم آنتروپیک به روند تدوین قانون نشان می‌دهد که شرکت‌های بزرگ هوش مصنوعی فقط موضوع نظارت دولت نیستند، بلکه تلاش می‌کنند بر قواعدی که فعالیت آینده آنها را تعیین می‌کند نیز اثر بگذارند.
پیشنهاد این شرکت از یک سو بر ارزیابی مستقل، شفافیت و گزارش خطرات تاکید دارد و از سوی دیگر، مداخله دولت را به مواردی با آستانه خسارت بسیار بالا محدود می‌کند.
اینکه کنگره آمریکا تا چه اندازه با چنین چارچوبی موافقت خواهد کرد، هنوز روشن نیست.
با افزایش توانایی مدل‌های هوش مصنوعی و گسترش استفاده از عامل‌های خودکار، اختلاف اصلی میان قانون‌گذاران، شرکت‌های فناوری و نهادهای ناظر بر سر این است که چه نهادی باید اختیار توقف یک مدل پرخطر را داشته باشد و این اختیار در چه شرایطی قابل اعمال باشد.
To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video