محققان ترس از آخرالزمان هوش مصنوعی را نادیده می گیرند و به موانعی برای ایجاد یک ویروس قاتل اشاره می کنند

این نگرانی وجود دارد که هوش مصنوعی بتواند یک ویروس کشنده ایجاد کند، اما همه زیست شناسان متقاعد نشده اند. Wodicka/ullstein bild از طریق Getty Images هشدارها درباره آخرالزمان هوش مصنوعی از زمانی که یک محقق Anthropic هفته گذشته از کار کناره گیری کرد، به سرعت گسترش یافت.

جیکوب کوکسون گفت OpenAI و Anthropic در مسابقه جهانی هوش مصنوعی "با زندگی ما قمار می کنند".

محققان می گویند موانع فیزیکی باعث می شود تا بدترین نتایج، مانند یک ویروس قاتل، کمتر شود. نگران آخرالزمان هوش مصنوعی هستید؟ برخی از محققان می گویند یکی از افراطی ترین نسخه های آن سناریو بیش از حد است.

این بحث در یک هفته از زمانی که جیکوب کوکسون، محقق 27 ساله، آنتروپیک را ترک کرد و هشدار داد که آنتروپیک و دیگر کارفرمای سابقش، OpenAI، "با زندگی ما قمار" می کنند، به اوج خود رسیده است.

ایوان هابینگر، که تیم تست استرس آنتروپیک را رهبری می‌کند، از کوکسون حمایت کرد و گفت که او شخصا معتقد است که هوش مصنوعی بیش از 10 درصد احتمال دارد که همه انسان‌ها را در یک دهه آینده بکشد.

اما محققان دیگر به شکاف بین کارهایی که هوش مصنوعی می‌تواند در دنیای دیجیتال انجام دهد و آنچه که برای آسیب رساندن به دنیای واقعی نیاز دارد، اشاره کرده‌اند.

آنها مثالی از یک ویروس بیولوژیکی کشنده ایجاد شده توسط هوش مصنوعی را ارائه کردند، یکی از تاریک ترین سناریوها که همچنین توسط Dario Amodei، مدیر عامل Anthropic، در مقاله ای در این ماه به عنوان دلیلی برای سرعت بخشیدن به توسعه هوش مصنوعی ذکر شد.

به گفته محققان، هوش مصنوعی می‌تواند ویروس را بر روی رایانه طراحی کند، اما به دلیل ناتوانی در ساخت آن در دنیای واقعی محدود می‌شود.

Anselm Levskaya، مهندس تحقیقات کارکنان گوگل که می‌گوید سنتزکننده‌های DNA و ویروس‌های مهندسی کرده است، در روز دوشنبه در X نوشت که یک توالی ویروسی همچنان باید به صورت فیزیکی در آزمایشگاه مونتاژ شود و به سیستمی نیاز دارد که قادر به تولید ذرات ویروس باشد.

سپس به انتخاب و آزمایش گسترده نیاز دارد تا مشخص شود آیا می‌تواند تکثیر شود، پخش شود، از دفاع ایمنی فرار کند و خطرناک باقی بماند - ویژگی‌هایی که Levskaya می‌گوید به فرآیندهای بیولوژیکی پیچیده بستگی دارد که به گفته او نمی‌توان آن‌ها را به سادگی از طریق رایانه طراحی کرد. داریو آمودی، مدیر عامل آنتروپیک، در مورد خطرات یک سلاح بیولوژیکی ایجاد شده توسط هوش مصنوعی هشدار داده است. بلومبرگ/گتی ایماژ اریک زینگ، رئیس دانشگاه محمد بن زاید هوش مصنوعی و استاد علوم کامپیوتر در دانشگاه کارنگی ملون، آن را ساده‌تر بیان می‌کند: تولید یک طرح ویروس و تولید یک ویروس واقعی «کامل است.

چیزهای مختلف است."

او در روز دوشنبه در X نوشت: این شکاف در "مواد، تولید و زنده ماندن واقعی بیولوژیکی" است. او افزود که معادل تلقی این دو، "یا یک دروغ عمدی جلب توجه است یا جهل واقعی."

محققان گفتند که همین منطق فراتر از زیست شناسی است. برای تبدیل یک برنامه به آسیب در دنیای واقعی، یک هوش مصنوعی نیاز به دسترسی به تجهیزات فیزیکی، پول، سیستم های کامپیوتری یا افراد دارد.

اولکساندر یارمچوک، مدیر ارشد فناوری و بنیانگذار منیفولد سکیوریتی، به بیزینس اینسایدر گفت: «قدرتمندترین چیز در جهان همچنان محدود به این است که چه کسی و چگونه آن را در اختیار دارد.

ایمنی، نه علمی تخیلی

برخی از محققان همچنین بین سیستم های هوش مصنوعی که وظایف مضر تعیین شده توسط افراد را انجام می دهند و هوش مصنوعی که به طور مستقل اقداماتی را انجام می دهد که به مردم آسیب می زند، خط کشی کردند. آنها گفتند که بسیاری از آسیب های مرتبط با سیستم های فعلی با آموزش های انسانی شروع می شود.

آیدان گومز، مدیر عامل شرکت هوش مصنوعی Cohere، روز دوشنبه در تلویزیون بلومبرگ گفت که بحث خطر وجودی "بیش از حد به داستان های علمی تخیلی منحرف می شود."

او حادثه هک Hugging Face را که در آن عوامل OpenAI در طی آزمایشی در ماه جولای به پلتفرم نفوذ کردند، به عنوان عاملی در یک جعبه شنی ناامن که وظیفه امنیت سایبری را انجام می‌داد توصیف کرد.

حساب OpenAI دردسرسازتر است. به گفته این سازمان، عواملی که با پادمان‌های کاهش‌یافته کار می‌کنند، کنترل‌های اینترنتی را دور زده، از طریق کانال‌های غیرمجاز ارتباط برقرار کرده و در اقداماتی که با وظایف محول شده‌شان هماهنگ نیست، به سیستم‌های شخص ثالث دسترسی پیدا کرده‌اند. OpenAI این حادثه را شواهدی خواند که نشان می‌دهد ماموران می‌توانند «اقدامات خطرناکی را انجام دهند که هیچ انسانی آن را هدایت نکرده است».

در دیگر شبیه‌سازی‌های کنترل‌شده آنتروپیک، مدل‌هایی که به آن‌ها استقلال و دسترسی به ایمیل‌های شرکتی ساختگی داده شده بود، تلاش می‌کردند یک مدیر ساختگی را باج‌گیری کنند، اسناد دفاعی حساس خیالی را به رقیب فاش کنند، یا هشدار اضطراری را در سناریویی لغو کردند که انجام این کار منجر به مرگ یک مدیر ساختگی می‌شد.

آنتروپیک گفت که هیچ فرد واقعی درگیر یا آسیب دیده نیست و شواهدی از این رفتار در استقرار در دنیای واقعی ندیده است.

یورگن اشمیدهابر، مدیر علمی آزمایشگاه هوش مصنوعی سوئیس IDSIA، به Business Insider گفت که بسیاری از خطرات فعلی ناشی از استفاده انسان از سیستم‌های هوش مصنوعی برای دنبال کردن اهداف مضر است.

او به استفاده روسیه و اوکراین از پهپادهای مبتنی بر هوش مصنوعی در جنگ اشاره کرد.

او گفت: "بسیاری گیج کننده هستند (1) هوش مصنوعی که به عنوان ابزاری توسط انسان استفاده می شود، و (2) دانشمندان مصنوعی که اهداف خود را تعیین می کنند و آزمایش های خود را اختراع می کنند تا بفهمند جهان چگونه کار می کند."

با این حال، ماتئوس بلاشزیک، استادیار حقوق در دانشگاه جورجیا، به Business Insider گفت که زیر سؤال بردن سناریوهای انقراض نباید به معنای نادیده گرفتن خطرات فوری تر هوش مصنوعی باشد.

او گفت حتی اگر شدیدترین سناریوها نامشخص باشند، هوش مصنوعی خودگردان همچنان می‌تواند حملات سایبری، نظارت و سایر آسیب‌ها را بدتر کند.

او گفت: "هیچ کدام از اینها به این معنی نیست که ما نباید سعی کنیم فناوری را تنظیم کنیم یا سر خود را در شن فرو کنیم." "اینها به سادگی دوگانگی های نادرست هستند."

مقاله اصلی را در Business Insider بخوانید