آیا هوش مصنوعی همه ما را خواهد کشت؟

"آرام بمانید و از بسکتبال لذت ببرید." این یک پیام اطمینان‌بخش غیرمعمول از طرف PA در اوبر آرنا برلین در روز پنجشنبه بود.

مشخص شد که 10 سپتامبر، Bundesweiter Warntag آلمان است، بررسی سالانه سیستم هشدار اضطراری ملی. این بر روی یک سیستم منحصر به فرد عمل می کند تا مستقیما با تلفن های هوشمند سازگار به هر کسی در آلمان دسترسی پیدا کند و تا زمانی که دستگاه روشن است، بدون توجه به تنظیمات تلفن، زنگ هشدار را به صدا در می آورد.

همچنین هشدارهای همزمان در سراسر پخش کننده های رادیویی و تلویزیونی همراه با نمایشگرهای دیجیتال وجود دارد. این آزمون برای همه ساکنان آلمان به خوبی تبلیغ می شود. نه به هزاران نفری که برای جام جهانی بسکتبال زنان در شهر بودند.

دو پدر و مادر آمریکایی در راه رفتن به میدان با جوانان خود مطمئن نبودند که چگونه پاسخ دهند. به هر حال، هر تلفنی که در مجاورت آنها بود، از جمله تلفن خودشان، زنگ خطر بلندی می‌داد و فیلم‌های جنگ هسته‌ای اینگونه شروع می‌شوند، اما آنها نمی‌خواستند بچه‌هایشان را بترسانند.

خوشبختانه من به آنها اطمینان دادم و 45 دقیقه بعد همه چیز تایید شد. تشکیلات خودگردان این پیام بسیار ساده را در جریان حمله ایالات متحده به مجارستان در مرحله یک چهارم نهایی داد.

این سناریویی است که اتفاق می‌افتد، فرد عجیب و غریب را ترسانده و فراموش می‌شود.

صنعت «مطمئن» رئیس OpenAI می تواند ایمنی هوش مصنوعی را کنترل کند

سپس محققی در Anthropic، شرکت هوش مصنوعی که در پشت کلود قرار دارد، تخمین زد که بیش از 10 درصد احتمال دارد که هوش مصنوعی پیشرفته بتواند بشریت را در دهه آینده بکشد و وحشت بزرگتری در پی داشته باشد.

ایوان هابینگر، محققی که این بیانیه را بیان کرد، بیشتر از بسیاری از افراد، نحوه عملکرد سیستم‌های هوش مصنوعی را دیده است. در عین حال، او هیچ چیز مشخصی مانند مجموعه داده‌ها نداشت که بر اساس آن تخمین بزند.

با این حال، بسیاری از مردم را می ترساند. سام آلتمن، بنیانگذار OpenAI، گفت که درصد ریسک دقیق نامشخص است، اما همچنین اینکه آیا این ریسک 10 درصد است یا 6 درصد، باز هم غیرقابل قبول است.

بنیانگذاران فناوری واقعا در صحبت کردن به زبانی که ترس بشریت را کاهش می دهد خوب نیستند.

به همین دلیل است که داریو آمودی، یکی از بنیان‌گذاران Anthropic، حداقل امیدوارکننده است که نیاز به اعمال محدودیت‌هایی برای توسعه هوش مصنوعی وجود دارد. نگرانی اصلی آمودی این است که مدل‌های هوش مصنوعی به طور فزاینده‌ای قادر به توسعه جانشینان خود هستند.

قبلا مواردی از مدل‌های هوش مصنوعی، هم در OpenAI و هم در Anthropic وجود داشته است که از آزمایش‌های sandbox فرار کرده و به سیستم‌های سایر شرکت‌ها نفوذ کرده‌اند.

آمودی، بر خلاف همکارش، ممکن است برای این که هوش مصنوعی همه ما را بکشد، عددی قائل نیست، اما اکنون به دنبال اقدام است. وقتی افرادی که هوش مصنوعی می‌سازند و سرمایه‌گذاری‌های احمقانه‌ای در این فرآیند ایجاد می‌کنند، نگران هستند، احتمالا ارزش گوش دادن به آنها را دارد.

Anthropic می‌خواهد ارزیاب‌های مستقلی در شرکت‌های مرزی هوش مصنوعی تعبیه شده باشد و این ارزیابان بتوانند فرآیندهای آموزشی و پروتکل‌های ایمنی را در طول مسیر بررسی کنند. حتی در بخش‌هایی که به شدت تنظیم شده‌اند، این نوع دسترسی روزمره خارج از هنجار است.

غول هوش مصنوعی قصد دارد این فرآیند را خودش شروع کند، اما طبیعتا می خواهد سایر اپراتورهای بزرگ در این زمینه به آن بپیوندند.

اکنون، قبل از اینکه آمودی را شاد کنید، هنوز چیزهای زیادی برای شکستن در اینجا وجود دارد. چه کسی ارزیاب ها را انتخاب می کند؟ چه کسی به آنها پول می دهد؟ به کی جواب میدن؟ و آیا آنها واقعا می توانند تاخیر در عرضه یا تغییرات در محصولات قبل از راه اندازی را مجبور کنند؟

همچنین این موضوع وجود دارد که شرکت‌هایی که قبلا از آبشش‌ها حمایت مالی کرده‌اند، توانایی بسیار بیشتری در پرداخت هزینه‌های ناشی از این نوع نظارت در محل خواهند داشت. کسب‌وکارهای چالش‌بر ذاتا ذخایر نقدی مشابهی برای بر عهده گرفتن چنین مسئولیت‌هایی ندارند.

به همین دلیل است که دیدگاه گسترده اتحادیه اروپا و کمیسیون اروپا - داشتن بازرسان واقعا مستقل، تحت رهبری دولت و پاسخگوی آنها - راه عملی‌تر برای اجرای شرایط ایمنی است.

در حال حاضر انگیزه زیادی برای افرادی مانند Amodei و Altman وجود دارد که خواستار مقررات بیشتر برای ایمن کردن توسعه باشند. اگر مانع ورود بیشتر از زمانی باشد که شروع به کار کردند، محافظت از مزایای تجاری موجود برای آنها بسیار آسان تر می شود.

رهبران بازار موجود نیز قدرت لازم را دارند تا از همان لحظه اعمال محدودیت‌های این محدودیت‌ها را کنار بزنند.

موضوع چین هم هست. هر چه در مورد واداشتن ایالات متحده به اتخاذ نوع مقررات سختگیرانه مورد علاقه اتحادیه اروپا باشد، این سطح از کاهش بالقوه توسعه در غرب به عنوان یک هدیه در پکن در نظر گرفته می شود.

بدون اینکه چین با توپ بازی کند و موضعی مشابه حتی آمریکایی‌ها اتخاذ کند، خطر خراب شدن سیستم‌های هوش مصنوعی افزایش می‌یابد.

اگر بیش از پنج دقیقه به آن فکر کنید، همه چیز بسیار وحشتناک است. تعدادی از شما که این مطلب را می خوانید احتمالا اصطلاحاتی مانند SkyNet و Cyberdyne Systems در ذهن شما وجود دارد.

دلیلی برای اطمینان وجود دارد. هیچ ابزار یا تکه ای از فناوری خوب یا بد نیست. انتخاب‌هایی که انسان‌ها مستقیما انجام می‌دهند، اگر اغلب سهوا انجام می‌دهند، بر اینکه فناوری به همه ما سود می‌رساند یا آسیب می‌زند، تأثیر می‌گذارد.

با این حال، مستقیم تر، نحوه واکنش ما به یک شوک نیز مهم است. آن والدین خارج از اوبر آرنا وحشت نکردند. آنها گیج و در عین حال آرام بودند. اگر قرار بود برلین تکه تکه شود، نگرانی بچه ها در مورد آن فایده ای نداشت.

بهتر است فقط آرام بمانید و از بسکتبال لذت ببرید.