شرکت های هوش مصنوعی در حال آماده شدن برای شکل دادن به قوانین بعد از اینکه همه چیز اشتباه می شود

برخی از محققان هوش مصنوعی امسال هشدارهایی را به صدا درآورده‌اند که هوش مصنوعی می‌تواند منجر به انقراض انسان در دهه آینده شود. اکنون، طبق گزارش‌ها، شرکت‌های بزرگ هوش مصنوعی در حال اجرای سناریوهایی برای نحوه برخورد با پیامدهای یک حادثه فاجعه‌بار هوش مصنوعی هستند.

Axios گزارش می دهد که بسیاری از افراد داخلی هوش مصنوعی بر این باورند که یک حادثه بزرگ مرتبط با هوش مصنوعی ممکن است ظرف 6 تا 12 ماه آینده رخ دهد. آنها پیش بینی یک رویداد بزرگ مانند یک حمله سایبری را دارند که می تواند دسترسی به خدمات مالی، اینترنت یا حتی برق و آب را مختل کند.

چه هوش مصنوعی سرکش باشد و چه هکرهایی که از این فناوری برای انجام یک حمله استفاده می کنند، شرکت های پشت این فناوری انتظار دارند که اگر مشکلی پیش بیاید، بیشتر تقصیرها را بر عهده خواهند گرفت، و آنها باید بدانند که در صورت وجود چنین اتفاقی چگونه نتیجه را طی خواهند کرد.

در حالی که مدیریت بحران این روزها بخشی استاندارد از تجارت است، Axios گزارش می دهد که بسیاری از محققان و مدیران ارشد هوش مصنوعی معتقدند یک حادثه بزرگ اجتناب ناپذیر است.

همین هفته، سام آلتمن، مدیر عامل OpenAI به پولیتیکو گفت که «جهان باید اتفاقات بدی را بپذیرد» در ازای مزایای هوش مصنوعی.

این گزارش تنها یک هفته پس از آن منتشر شد که دونالد ترامپ رئیس جمهور آمریکا از مدیران شرکت های بزرگ فناوری در کاخ سفید میزبانی کرد. در جلسه 29 سپتامبر، مدیران گوگل، متا، آنتروپیک، OpenAI، xAI و انویدیا توافق نامه ای داوطلبانه امضا کردند که در آن برخی استانداردهای ایمنی محدود هوش مصنوعی را تشریح می کرد. ترامپ این استانداردها را که هیچ مکانیسم اجرایی قانونی ندارند، "اخلاقی الزام آور" خواند.

در همین حال، مدیران OpenAI و Anthropic قبلا خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی قوی‌تر شده بودند. این تماس ها در بحبوحه موجی از هشدارهای محققان در شرکت های هوش مصنوعی در مورد خطرات توسعه کنترل نشده هوش مصنوعی، از جمله احتمال اینکه این فناوری روزی به انقراض انسان منجر شود، انجام شد.

Axios همچنین گزارش می‌دهد که مدیران هوش مصنوعی انتظار دارند دموکرات‌ها در صورت کسب قدرت بیشتر پس از انتخابات میان‌دوره‌ای امسال، به‌ویژه پس از یک حادثه بزرگ مرتبط با هوش مصنوعی، قوانین سخت‌تر را اعمال کنند.

طبق گزارش‌ها، آمادگی‌های این شرکت‌ها شامل بدترین سناریوهای احتمالی تیم قرمز و آموزش اعضای کنگره است. هدف کمک به شکل دادن به هر قانونی است که قانونگذاران ممکن است پس از یک فاجعه بزرگ دنبال کنند.

OpenAI و Anthropic بلافاصله به درخواست‌ها برای اظهار نظر پاسخ ندادند.

با این حال، یک سخنگوی OpenAI به Axios تایید کرد که این شرکت تمریناتی را برای آماده شدن برای سناریوهای مختلف انجام می دهد.

سخنگوی OpenAI گفت: "OpenAI تمرین های آمادگی را انجام می دهد که در آن تیم ها در مورد طیف وسیعی از سناریوهای بالقوه بحث و کار می کنند." "این سناریوها اجتناب ناپذیر تلقی نمی شوند، بلکه به ما کمک می کنند تا برای شرایط مختلف آماده شویم."