نابود کردن بشریت خلاف قانون است

آخر این هفته، سام آلتمن، ایلان ماسک و داریو آمودی، مدیران هوش مصنوعی با نیاز به کاهش سرعت توسعه هوش مصنوعی موافقت کردند. با توجه به قابلیت‌های بالقوه آخرالزمانی محصولاتی که ایجاد کرده‌اند، غول‌های هوش مصنوعی زمان بیشتری می‌خواهند تا دریابند چگونه از سیستم‌هایی که برای ساختن آن عجله دارند محافظت کنند.

تعداد معدودی از کارمندان در سراسر صنعت شغل خود را ترک کرده و نسبت به فناوری به سرعت در حال تحول ابراز نگرانی کرده اند. یکی از محققین Anthropic اخیرا ادعا کرده است که بیش از 10 درصد احتمال دارد که هوش مصنوعی بتواند «همه انسان ها را بکشد»، و این باعث تشدید ترس ناشی از حوادث اخیر که در آن مدل های OpenAI، Anthropic و Meta به شرکت های دیگر هک شده اند، می شود. OpenAI اخیرا فاش کرد که برخی از مدل‌های خود برای ماه‌ها تبانی کردند تا اطلاعات Hugging Face را به سرقت ببرند، وب‌سایتی که ابزارهایی را برای توسعه‌دهندگان هوش مصنوعی ارائه می‌دهد.

اما مطمئنا کار پرداختن به خطرات هوش مصنوعی نباید به مدیرانی سپرده شود که میلیاردها دلار از این فناوری کسب کنند. در حالت ایده‌آل، دولت فدرال این شرکت‌ها را تنظیم می‌کند و نرده‌های محافظ لازم برای فعالیت ایمن صنعت را ایجاد می‌کند. به‌طور خلاصه، ابزارهایی برای رسیدگی به آسیب‌های ناشی از هوش مصنوعی در حال حاضر وجود دارد: دولت‌ها قوانین مدنی و کیفری علیه رفتارهایی دارند که امنیت جان و مال را تهدید می‌کنند و در برابر محصولات تجاری که برای مصرف‌کنندگان خطر ایجاد می‌کنند.

این شامل فناوری جدید نیز می شود، همانطور که تسویه حساب 17 میلیارد دلاری اخیر متا بر سر ادعاهایی که محصولاتش به کودکان آسیب می رساند، به وضوح نشان می دهد. اکنون کار پیش روی دادستان‌ها و سازمان‌های اجرایی، ایجاد سابقه‌ای برای مسئول دانستن شرکت‌های هوش مصنوعی در مورد آنچه مدل‌هایشان انجام می‌دهند، است.

دادستان‌ها باید شرکت‌های هوش مصنوعی را به‌خاطر ایجاد مدل‌هایی که در صورت ارتکاب توسط یک انسان به‌طور آشکار غیرقانونی رفتار می‌کنند، مسئول بدانند: هک کردن بانک‌ها برای سرقت وجوه، جعل هویت یک انسان برای جمع‌آوری اطلاعات شخصی حساس، نفوذ به سیستم کنترل ترافیک هوایی. با اعمال مجازات‌های قانونی بر توسعه‌دهندگان هوش مصنوعی برای جرایم نسبتا خفیف، دادستان‌ها این شرکت‌ها را مجبور می‌کنند تا خطر قانونی جرایم شدیدتر و خطرناک‌تر را درونی کنند.

در مقاله‌ای که شنبه به صورت آنلاین منتشر شد، Amodei پیشنهاد کرد که هر شرکت بزرگ هوش مصنوعی در رویه‌های رایج ایمنی با یکدیگر همکاری کند و به عوامل شخص ثالث اجازه دهد تا مطابقت را نظارت کنند. در تئوری، تهدید پیگرد قانونی و سایر تحریم‌های قانونی می‌تواند شرکت‌ها را در مورد نحوه آموزش مدل‌هایشان و اینکه کجا اشتباه می‌کنند، بازدارد. اما در نهایت، اگر شرکت‌های هوش مصنوعی هیچ مسئولیت قانونی در قبال آنچه مدل‌هایشان در جهان انجام می‌دهند، نداشته باشند، نظارت مؤثر نخواهد بود.

[ویل اورموس: لحظه قرمز رمز هوش مصنوعی]

توسعه سریع هوش مصنوعی باعث گمانه‌زنی‌های گسترده‌ای در مورد اینکه چه اتفاقی می‌افتد زمانی که این فناوری «سرکش شود» شده است. این استعاره باید کنار گذاشته شود، زیرا نشان می‌دهد که شرکت‌ها و افرادی که این مدل‌ها را می‌سازند و به کار می‌برند، در ساخت محصولاتی که ظاهرا برای کنترل آن‌ها بسیار هوشمند هستند، مقصر نیستند. برخورد با فناوری خودمختار ممکن است بی سابقه باشد، اما ایجاد محصولی که ممکن است «تا پایان دهه همه ما را بکشد»، همانطور که یکی از کارمندان سابق آنتروپیک هشدار داده است، مطمئنا به عنوان یک آسیب سهل انگاری جنایی قابل ارزیابی است.

شکاکان ممکن است از خود بپرسند که آیا مدیران عامل هوش مصنوعی نگرانی های آخرالزمانی را به عنوان روشی عقب مانده برای لاف زدن در مورد قدرت عظیم فناوری خود ابراز می کنند. رفتار شرکت‌ها در زمینه‌های مختلف نشان نمی‌دهد که امنیت بشریت اصلی‌ترین دغدغه آنهاست. برخی از مدیران هوش مصنوعی در ایالات متحده میلیون‌ها دلار به نفع رئیس‌جمهور ترامپ اهدا کرده‌اند که تا حد زیادی نگرانی‌ها در مورد ایمنی هوش مصنوعی را رد کرده و قبلا گفته است که قصد ندارد وارد عمل شود.

مقاله مدیر عامل Anthropic شرکت خود را به دلیل اولویت دادن به "احتیاط بر سود" تحسین کرد - و با این حال او آن را به سمت چیزی که ممکن است بزرگترین IPO در تاریخ باشد هدایت می کند.

[Toluse Olorunnipa: AI در حال چرخش در سیستم سیاسی ما است]

شرکت‌های هوش مصنوعی در برابر تلاش‌ها برای استفاده از سیستم قانونی برای محدود کردن رفتار خود مقاومت خواهند کرد. یک وکیل OpenAI اخیرا استدلال کرده است که "اجرای قانون پس از آن ابزار وحشتناکی است" برای مدیریت مضرات بالقوه هوش مصنوعی مولد. این مطمئنا در مورد یک رویداد انقراض جمعی صادق است، اگر کسی باقی نماند که اتهامات را مطرح کند. اما علیرغم آنچه که به نظر می رسد یک اجماع نگران کننده در مورد خطرات هوش مصنوعی است، به نظر می رسد که مدیران عامل خواستار برخی از "رمز رفتار" غیرقابل اجرا و سرعت آهسته تر برای توسعه فناوری هستند.

اگر خطراتی که آنها در مورد آنها هشدار می دهند واقعا واقعی است، قوانین کیفری ما باید تضمین کند که مجرمان قابل پیگرد قانونی هستند. با توجه به اینکه تهدیدات مبهم در مورد خطرات هوش مصنوعی تغییرات معنی داری در نحوه رفتار این شرکت ها ایجاد نکرده است، شاید دورنمای زندان باعث شود شرکت های هوش مصنوعی اقدامات احتیاطی را جدی تر انجام دهند.

لینا خان، رئیس سابق کمیسیون تجارت فدرال، اخیرا خاطرنشان کرد: «هیچ معافیت هوش مصنوعی از قوانین در حال حاضر وجود ندارد. پیگردهای کیفری پس از نشت نفت، بلایای خطوط هوایی، و دفن زباله های سمی رخ داده است. مسئولیت کیفری در آن موارد آشکار بود. شرکت های هوش مصنوعی مستحق هیچ برخورد خاصی نیستند.

وقتی مدیران هوش مصنوعی در مورد یک فاجعه هشدار می دهند، محصولی را توصیف نمی کنند که «سرکش می شود». بلکه محصول از قابلیت هایی استفاده می کند که آنها ایجاد کرده اند. و اگر این محصول سهل انگارانه یا مجرمانه رفتار کند، سازندگان آن باید با عواقب آن مواجه شوند.