چرا هوش مصنوعی نمی‌تواند بشریت را با سلاح‌های زیستی از بین ببرد؟

یکی از تئوری های برتر در مورد اینکه چگونه یک هوش مصنوعی سرکش ما را از بین می برد؟ سلاح های بیولوژیکی در اوایل تابستان امسال، مدیران عامل هوش مصنوعی خواستار قوانین جدیدی برای کنترل ساخت DNA مصنوعی شدند. سپس ماه گذشته، محققان دانشگاه استنفورد و موسسه Arc نشان دادند که هوش مصنوعی می تواند ژنوم های ویروسی جدیدی را طراحی کند. این ایده هفته گذشته پس از انتشار گزارشی که Anthropic نشان می‌داد تلاش‌هایی برای استفاده از کلود به روش‌هایی صورت گرفته است که «می‌تواند از توسعه سلاح‌های بیولوژیکی حمایت کند، مطرح شد.

نویسندگان گزارش از سوء استفاده بیولوژیکی به عنوان «یکی از جدی‌ترین خطرات مدل‌های هوش مصنوعی مرزی» یاد می‌کنند. اندکی پس از آن، داریو آمودی، مدیر اجرایی، از دولت خواست تا به آزمایشگاه‌های هوش مصنوعی کمک کند تا «در مرزها حرکت کنند». با وجود هشدار در مورد طاعون قاتل ایجاد شده توسط هوش مصنوعی، بسیاری از دانشمندان می گویند این خطر در لیست نگرانی های جهان بسیار کم است. دیوید بلامی، دانشمند پژوهشی در مؤسسه مدل های بنیادی در سانی ویل، کالیفرنیا، هوش مصنوعی را به عنوان یک تهدید اساسا جدید در مورد ایجاد سلاح های زیستی نمی بیند.

جامعه علمی برای چندین دهه با این سوال دست و پنجه نرم کرده است که آیا باید تحقیقات بیولوژیکی بالقوه خطرناک را منتشر کرد یا خیر - معروف به معضل استفاده دوگانه. بلامی می‌گوید قبل از مدل‌های زبان بزرگ، خود اینترنت، مجلات علمی با دسترسی آزاد و خدمات ترجمه مانند Google Translate دسترسی به اطلاعات بیولوژیکی از جمله پروتکل‌های آزمایشگاهی را برای مردم آسان‌تر می‌کرد. او می‌افزاید: «هوش مصنوعی اساسا ابزاری است که می‌تواند هم به بازیگران خوب مانند دانشمندان کمک کند و هم بازیگران را تهدید کند که اطلاعات را سریع‌تر مطالعه کنند و آن پروتکل‌ها را سریع‌تر تعریف و منبع‌سازی کنند».

اما این قابلیت‌ها واقعا گلوگاه تولید سلاح‌های زیستی نیستند.» او می‌گوید که گلوگاه واقعی، فرآیند مونتاژ یک ویروس یا سایر عوامل بیولوژیکی و مواد خام، تجهیزات و دانشی است که برای انجام این کار لازم است. یک بازیگر بد باید قطعات ژنی لازم را به دست آورد و یک ژنوم کامل را از ابتدا بسازد، سپس تأیید کند که ویروس می تواند انسان را آلوده کند، باعث بیماری مورد نظر شود و از فردی به فرد دیگر قابل انتقال باشد.

دستیاران آزمایشگاه رباتیک می توانند برخی از کارها را خودکار کرده و گردش کار را تا حدی تسریع کنند، اما یک فرد همچنان به دانش لازم برای اجرای آن آزمایش ها و منابع لازم برای انجام آنها نیاز دارد. جیسون کلی، مدیر عامل استارت‌آپ بیوتکنولوژی Ginkgo Bioworks، فکر می‌کند بعید است که یک هوش مصنوعی عمومی بتواند پاتوژن‌های موجود را کنترل و منتشر کند، چه رسد به مهندسی و استقرار پاتوژن‌های جدید.

Ginkgo Bioworks در ایجاد آزمایشگاه‌های خودمختار تخصص دارد و اخیرا پروژه‌ای را با OpenAI اجرا کرد که در آن مدل GPT-5 آن آزمایشگاه را اداره می‌کرد. او می‌گوید: «هوش مصنوعی نمی‌توانست آزمایشگاه را تسخیر کند، تا حدی به این دلیل که انسان‌هایی که در داخل آن کار می‌کردند به سادگی می‌توانستند مواد و تجهیزاتی را که ربات برای تولید فیزیکی یک سلاح زیستی درخواست می‌کرد، به دست نیاورند.

او می‌گوید همه آن انسان‌های مزاحم که به عنوان چک عمل می‌کنند به این معنی است که «شما باید ربات‌های بسیار بیشتری در همه جا داشته باشید»، تا یک AGI بتواند ماشین‌هایی را برای انجام کارهای ویروس‌شناسی اغلب ظریف مورد نیاز استقرار دهد. ایمونولوژیست Derya Unutmaz نیز می‌گوید که انسان‌ها می‌توانند هرگونه تلاش AGI برای ایجاد یک بیماری کشنده را خنثی کنند.

حتی اگر یک ابر هوش شرور به نحوی موفق به انتشار یک ابر ویروس شود، او استدلال می کند که دانشمندان می توانند از سایر سیستم های هوش مصنوعی برای تولید سریع واکسن استفاده کنند. با این حال، حتی برخی از افرادی که فکر نمی کنند AGI به طور مستقل یک سلاح زیستی را روی ما در حال حاضر یک تهدید واقعی می کند، نگران بازیگران بدی هستند که از این فناوری استفاده می کنند و همچنین آنچه ممکن است در آینده رخ دهد. اولیویا شارفمن، کارشناس بیوتکنولوژی در این فناوری می‌گوید: «امروزه دسترسی به یک آزمایشگاه کاملا خودمختار و ساخت خودکار ویروس برای هوش مصنوعی غیرممکن است، زیرا هنوز آزمایشگاه‌های کاملا خودمختار وجود ندارند.

تانک nk موسسه پیشرفت. "اما من فکر می کنم که یک هوش مصنوعی می تواند به کسی پول بدهد تا این کار را برای آنها انجام دهد." او فکر می‌کند که بیوتروریسم با کمک هوش مصنوعی یک تهدید فوری است و گروه‌هایی هستند که ممکن است به اندازه کافی پوچ‌گرا برای انجام این کار باشند، از جمله «جانشینان هوش مصنوعی فراانسانی»، افرادی که به ایدئولوژی حاشیه‌ای می‌پردازند که امیدوارند ربات‌ها را جایگزین انسان کنند. کارشناسان دیگر چندان نگران یک سلاح زیستی هوش مصنوعی نیستند، زیرا فکر نمی کنند که جنگ بیولوژیکی از نظر روش شناختی چندان منطقی باشد.

فرانسوا بلوکس، زیست‌شناس ژنتیک و پروفسور زیست‌شناسی محاسباتی به WIRED می‌گوید: «خطرات معمولا تا حدودی اشتباه درک می‌شوند،» با اشاره به اینکه مردم تمایل دارند «ارزش پاتوژن‌ها را به‌عنوان سلاح بیش از حد ارزیابی کنند». با کنار گذاشتن AGI همه چیز، بلوکس می‌گوید که سلاح‌های زیستی صرفا گزینه جذابی برای نسل‌کشی‌های مشتاق نیستند، به خصوص که هدف قرار دادن گروه‌های خاص و در امان ماندن از دیگران دشوار است، و تولید انبوه و توزیع پاتوژن‌ها در مقابل، مثلا پرتاب بمب، از نظر لجستیکی پیچیده است.

او می‌گوید: «اگر می‌خواهید مردم را بکشید، راه‌های بسیار، بسیار، بسیار بهتری برای کشتن آن‌ها وجود دارد تا اینکه بخواهید ویروس یا باکتری را مهندسی کنید و سپس آن را آزاد کنید.» شارفمن می‌گوید که با توجه به هوش مصنوعی تهدید سلاح‌های زیستی، اکنون زمان مناسبی برای حمایت بهتر در برابر همه تهدیدات بیولوژیکی، از جمله پاتوژن‌های موجود مانند H1N1 است.

این می‌تواند شامل اقدامات سطح بالا مانند تصویب قوانین برای تقویت پروتکل‌های امنیتی پیرامون فناوری سنتز DNA باشد، اما او همچنین از تغییراتی برای کاهش خطرات ناشی از همه ویروس‌ها مانند ارتقاء سیستم‌های تصفیه هوا در ساختمان‌ها حمایت می‌کند. Steph Guerra، رئیس هوش مصنوعی و زیستی در Rand Corporation، یک اندیشکده سیاست، می‌گوید که آیا هوش مصنوعی خطر توسعه سلاح‌های زیستی را به‌طور آشکار افزایش می‌دهد یا نه، پاسخ به سوالی سخت است.

او می‌گوید: نشان داده شده است که هوش مصنوعی در یکپارچه‌سازی اطلاعات با یکدیگر و ایجاد انگیزه برای افراد برای انجام کارهای خوب و بد بسیار خوب است. گوئرا می‌گوید حتی اگر خطر کم باشد، هنوز راه‌هایی وجود دارد که جامعه بتواند در برابر سوء استفاده احتمالی از آن محافظت کند. یکی این که دولت ها می توانند قوانینی را اتخاذ کنند که به شرکت هایی که DNA و RNA مصنوعی می فروشند ملزم به غربالگری مشتریان و سفارشات برای جلوگیری از سوء استفاده از مواد ژنتیکی شوند.

بسیاری از شرکت‌ها در حال حاضر از نرم‌افزار برای غربالگری سفارش‌ها برای به اصطلاح «توالی‌های نگرانی» استفاده می‌کنند، اما این عمل جهانی یا اجباری نیست. با این حال، قبل از اینکه یک بازیگر بد به آن نقطه برسد، اکثر همه موافقند که مدل‌ها باید محافظ‌های مناسبی داشته باشند تا اطلاعات عملی و خطرناک را در اختیار افراد قرار ندهند. Guerra می‌گوید که خطر یک تهدید زیستی توسعه‌یافته توسط هوش مصنوعی را می‌توان با تقویت سیستم‌های نظارت جهانی برای تشخیص شیوع بیماری‌های جدید و پاتوژن‌های در گردش برای محققان در اسرع وقت کاهش داد.

او می‌گوید پروتکل‌های اشتراک‌گذاری داده در شرکت‌های هوش مصنوعی، ارائه‌دهندگان سنتز ژن و دولت نیز می‌تواند به جلوگیری از سوء استفاده کمک کند. او می‌گوید: «تقریبا با هر گونه کنترل امنیت زیستی، راه‌هایی وجود دارد که بتوان آنها را دور زد. به همین دلیل است که ما به رویکردهای لایه‌ای نیاز داریم که اصطکاک را در کل مسیر، از ایده‌پردازی گرفته تا قصد یک بازیگر بد، تا انتشار یک سلاح زیستی فراهم کند.» یونوتماز می‌گوید نگرانی شدیدتری وجود دارد: اینکه تمام مکالمات مربوط به نابودی هوش مصنوعی توجه را از این که چگونه سیستم‌های پیشرفته می‌توانند به انسان در ساخت واکسن کمک کنند منحرف می‌کنند.

ent و سایر پیشرفت های پزشکی. او می گوید: «ما واقعا باید روی جنبه مثبت آن تمرکز کنیم.