شبح سلاح‌های زیستی مجهز به هوش مصنوعی زنگ خطری برای بیوتکنولوژی است

در هفته‌های اخیر، رهبران برخی از بزرگترین شرکت‌های هوش مصنوعی هشدار داده‌اند که فناوری‌هایی که در حال توسعه هستند خطرناک است. آخر هفته گذشته، داریو آمودی، مدیر عامل آنتروپیک، استدلال کرد که هوش مصنوعی خطرات جدی دارد و پیشرفت باید کند شود. سام آلتمن، مدیر عامل OpenAI، در X پاسخ داد: "من با داریو موافقم که ما باید از مرزها عبور کنیم."

این پست‌ها چند روز پس از آن منتشر شد که محقق هوش مصنوعی Jacob Coxon اعلام کرد که نقشی را در Anthropic ترک می‌کند، به این اتهام که نه آن‌ها و نه OpenAI (جایی که او در آن کار می‌کرده) مسئولانه عمل نمی‌کنند. او در X پست کرد: «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد». یکی دیگر از کارمندان آنتروپیک، ایوان هابینگر، علنا با او موافق بود. ما واقعا معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد!» او در X پاسخ داد. من شخصا فکر می کنم که این رقم در دهه آینده بیش از 10٪ خواهد بود.

یکی از راه‌هایی که می‌ترسند هوش مصنوعی به همه ما پایان دهد، کمک به طراحی، ایجاد و انتشار نوعی از سلاح‌های زیستی است. بیایید نگاه دقیق تری به چرایی آن بیندازیم.

یک سلاح زیستی ممکن است یک ویروس بسیار کشنده باشد که افراد را بر اساس ژن هایشان هدف قرار می دهد. این می تواند قارچی باشد که یک محصول را از بین می برد و باعث ناامنی غذایی می شود. شاید این یک سم بی مزه و بی بو باشد که می تواند بدون شناسایی به منبع آب منطقه برود.

نگرانی این است که ابزارهای هوش مصنوعی می توانند برای کمک به تولید عواملی مانند این استفاده شوند. در سال 2022، محققان شرکت Collaborations Pharmaceuticals دریافتند که انجام این کار با استفاده از یک "مولکول ژنراتور" هوش مصنوعی که برای یافتن داروهای بالقوه برای بیماری های انسانی ساخته شده بودند، بسیار آسان است. در کمتر از شش ساعت، این مدل 40000 مولکول با پتانسیل استفاده به عنوان عوامل جنگ شیمیایی تولید کرد. برخی از آنها حتی سمی تر از عوامل عصبی شناخته شده طراحی شده بودند.

نویسندگان در آن زمان نوشتند: «بدون هشدار بیش از حد، این باید به عنوان زنگ خطری برای همکاران ما در جامعه «هوش مصنوعی در کشف مواد مخدر» باشد.

این زنگ خطری برای دیوید مگنوس، استاد پزشکی و اخلاق زیست پزشکی در دانشگاه استنفورد بود، حتی اگر او از اواخر دهه 1990 خطرات مرتبط با سوء استفاده از علم پزشکی و بیوتکنولوژی را ارزیابی می کرد. او می گوید: «این برای من خیلی ترسناک بود. "البته، همه چیز از آن زمان به بعد به نوعی منفجر شده است."

امروزه، ربات‌های هوش مصنوعی می‌توانند به سؤالاتی درباره موضوعاتی که همه حوزه‌های علم را در بر می‌گیرند پاسخ دهند. دونیا سابرا، محقق امنیت زیستی در دانشگاه هامبورگ در آلمان، می‌گوید: هر کسی می‌تواند از مدل‌های زبانی بزرگی استفاده کند که بر اساس دانش و تجربه «تقریبا هر دانشمندی که تا به حال در این سیاره زندگی می‌کرده است» استفاده کند. این مدل‌ها می‌توانند دستورالعمل‌ها و آموزش ویدیویی در مورد نحوه انجام آزمایش‌ها ارائه دهند.

این را با پیشرفت‌های بیوتکنولوژی ترکیب کنید که ویرایش ژن و ابزارهای زیست‌شناسی مصنوعی را بسیار در دسترس‌تر کرده است (جنبش «زیست‌شناسی DIY» قبلا افراد زیادی را قادر به راه‌اندازی آزمایشگاه‌ها در خانه کرده است)، و با یک موقعیت بالقوه بسیار خطرناک روبرو خواهید شد. صبرا می گوید: «احتمال این است که فردی مصمم در نهایت موفق شود.

تدابیر امنیتی وجود دارد. افرادی که می خواهند ژنوم های جدیدی بسازند، معمولا باید قطعات DNA را به شرکت هایی سفارش دهند که درخواست های مشکوک را بررسی می کنند. محققان مسئول تحقیقات بالقوه خطرناک را از طریق دورهای تجزیه و تحلیل به نام "تیم قرمز" انجام می دهند، که در آن دانشمندان مستقل به دنبال راه هایی هستند که ممکن است از کار سوء استفاده شود، و "تیم آبی"، جایی که دیگران با کاهش احتمالی مواجه می شوند. و شرکت‌های هوش مصنوعی ابزارهای خود را در تلاش برای جلوگیری از ارائه اطلاعات علمی که ممکن است مورد سوء استفاده قرار گیرد، بهینه‌سازی کرده‌اند. اما هیچ یک از این حفاظ ها آهنین نیستند.

در گزارشی که هفته گذشته منتشر شد، آنتروپیک اذعان کرد که مردم سعی کرده‌اند از مدل‌های آن برای کشف راه‌هایی برای انتقال بیشتر ویروس چیکونگونیا، ایجاد نوعی آنفولانزای پرندگان که برای انسان خطرناک‌تر است، و ساختن «اطلس پپتیدهای سمی سم» استفاده کنند.

مگنوس می گوید: «ما یک رفت و برگشت ثابت داریم. ما باید ابزارهای نظارتی و غربالگری بهتری بسازیم، [اما] هوش مصنوعی در کشف راه‌های دور زدن آنها واقعا خوب است.» او می‌گوید احتمالا برای یافتن راه‌هایی برای محدود کردن استفاده از هوش مصنوعی باید از هوش مصنوعی استفاده کنیم.

در اینجا باید اضافه کنم که همه دانشمندان در مورد سطح خطر اتفاق نظر ندارند. در یک نشست خبری اخیر در رسانه‌ها، برخی از زیست‌شناسان در کالج امپریال لندن استدلال کردند که ابزارهای هوش مصنوعی برای توسعه کامل سلاح‌های زیستی به اندازه کافی خوب نیستند و آزمایش پاتوژن‌های جدید به کار دشوار، زمان‌بر و انسانی نیاز دارد. برخی فکر می کنند نرده های محافظی که در اختیار داریم کافی است.

و وندی بارکلی، پروفسور بیماری‌های عفونی در امپریال، خاطرنشان کرد که، همانطور که اوضاع پیش می‌آید، بیشترین خطر یک بیماری همه‌گیر ناشی از یک سلاح زیستی نیست، بلکه از عوامل بیماری‌زایی است که در حال حاضر در گردش هستند. H5N1 را در نظر بگیرید، ویروس آنفولانزای پرندگان که قبلا میلیون‌ها پرنده را کشته و به طور گسترده در گاوهای شیری ایالات متحده پخش شده است. ماه گذشته در مزرعه ای در یوتا نیز در راسو اسیر شده شناسایی شد.

از طرف دیگر صبرا دوست دارد 5 تا 10 سال آینده فکر کند. او می‌گوید: کشورها باید سیستم‌های مراقبت بهداشتی خود را تقویت کنند، پادزهرهایی را برای سموم شناخته شده آماده کنند و داروها را ذخیره کنند، او می‌گوید: «ما باید آماده باشیم.»

کوین اسولت، زیست‌شناس MIT که هر دو فناوری را برای ردیابی سریع انتشار یک ویژگی ژنتیکی در کل جمعیت و راه‌هایی برای محدود کردن آن فناوری اختراع کرد، این نگرانی‌ها را در یک پست X در روز چهارشنبه تکرار کرد و اظهار داشت که یک مدل زبان بزرگ «شکل جدیدی از سلاح زیستی را فاش کرده است که من نمی‌دانستم امکان‌پذیر است».

وی افزود: «لطفا به عشق خدا، فرزندان، آینده بشریت یا هر چیز دیگری که مقدس می‌دانید، بیایید در اینجا احتیاط کنیم.»

این مقاله برای اولین بار در خبرنامه هفتگی بیوتکنولوژی MIT Technology Review، The Checkup منتشر شد. برای دریافت آن در صندوق ورودی خود هر پنجشنبه، و ابتدا مقاله‌هایی مانند این را بخوانید، اینجا ثبت‌نام کنید.