تهدید هوش مصنوعی دانشمندان را در شب بیدار نگه می دارد

هوش مصنوعی مرگ من خواهد بود. و تو و هر کسی که می شناسیم

حداقل، این همان چیزی است که تعداد فزاینده ای از فناوران و سیاست گذاران از آن می ترسند.

هفته گذشته، یک محقق ارشد در Anthropic اعلام کرد که بیش از 10 درصد احتمال دارد که هوش مصنوعی «همه انسان‌ها» را در دهه آینده بکشد. این پیش‌بینی اعصاب‌گیر، همراه با حملات سایبری اخیر آغاز شده توسط هوش مصنوعی، به درخواست‌ها برای کاهش سرعت پیشرفت هوش مصنوعی دامن زد - پیشنهادی که Anthropic و OpenAI متعاقبا پذیرفتند.

همه انبیای عذاب هوش مصنوعی درباره چگونگی وقوع این آخرالزمان دقیقا موافق نیستند. بسیاری بر سناریوهایی تمرکز می‌کنند که یادآور فیلم‌های ترمیناتور هستند، که در آن ماشین‌های فوق‌هوشمند برای نابودی بشریت توطئه می‌کنند - شاید به همان شیوه‌ای نه کاملا عمدی که انسان‌ها به دودو یا کبوتر مسافری ریختند.

خوراکی های کلیدی

همه گیری های مصنوعی یکی از بزرگترین خطرات وجودی پیش روی بشریت است.

هوش مصنوعی می‌تواند سلاح‌های زیستی را قدرتمندتر و ساخت آسان‌تر کند.

دولت‌ها می‌توانند با سرمایه‌گذاری بیشتر برای آمادگی همه‌گیر، ما را از عوامل بیماری‌زای طبیعی و مصنوعی ایمن‌تر کنند.

اما راه دیگری وجود دارد که احتمالا شهودی‌تر است که هوش مصنوعی می‌تواند باعث مرگ دسته‌جمعی، اگر نگوییم انقراض انسان شود: با تسهیل ساختن و استقرار سلاح‌های زیستی فاجعه‌بار برای مردم.

نکته مهم این است که این فرضیه نیازی به هوشیار یا فوق هوشمند شدن مدل های هوش مصنوعی ندارد. صرفا آنها را ملزم به تسریع روندهای موجود در بیوتکنولوژی می کند.

برای کسانی که از این فرضیه نگران هستند، تهدیدی که هوش مصنوعی ایجاد می کند اساسا دوگانه است. اول اینکه، هنگامی که با پیشرفت تکنولوژی در ویرایش ژن و سنتز DNA ترکیب می‌شود، چت ربات‌ها می‌توانند تعداد افرادی را که می‌توانند ویروس‌های خطرناکی را که قبلا برای علم پزشکی شناخته شده است، به‌طور چشمگیری افزایش دهند. و هرچه مهندسان زیستی بالقوه بیشتری در جهان وجود داشته باشد، احتمال اینکه فرد ثابت کند یک روانپزشک سخت کوش است بیشتر است.

دوم، هوش مصنوعی می‌تواند به زیست‌شناسان آموزش دیده کمک کند تا یک ابرویروس سفارشی را کشف کنند - یا مهندسی کنند - که ممکن است به دست اشتباه بیفتد.

عناوین اخیر به هر دوی این ترس ها اعتبار بخشیده است.

در اوایل سال جاری، زیست‌شناسان هشدار دادند که با چند دستور ساده، ربات‌های چت را برای ارائه دستورالعمل‌های دقیق برای مهندسی سویه مقاوم در برابر درمان از یک پاتوژن بدنام، پروتکل‌های گام به گام برای بازآفرینی ویروسی که زمانی همه‌گیری می‌شد، و توصیه‌هایی در مورد پراکنده کردن محموله‌های بیولوژیکی از طریق بالون آب‌وهوا ارائه کردند.

در ماه آگوست، تیمی از دانشمندان فاش کردند که یک مدل هوش مصنوعی آموزش‌دیده بر روی توالی‌های DNA، طرح‌هایی را برای ویروس‌های کشنده که در طبیعت دیده نمی‌شوند (البته، ویروس‌هایی که برای باکتری‌ها و نه حیوانات کشنده هستند) ایجاد کرده است. و هفته گذشته، آنتروپیک اعلام کرد که چندین تلاش مشکوک بازیگران دولتی برای استفاده از کلود برای تحقیقات در مورد سلاح‌های زیستی را خنثی کرده است.

دقیقا مشخص نیست که هوش مصنوعی چقدر خطر ابتلا به یک بیماری همه گیر مصنوعی را افزایش می دهد. حتی قبل از ChatGPT، پیشرفت‌ها در زیست‌شناسی مصنوعی ابزارهای مهندسی زیستی را قوی‌تر و در دسترس‌تر می‌کرد. و حتی پس از چهار سال پیشرفت سریع هوش مصنوعی، موانع فنی برای مهندسی ابرویروس‌های جدید بسیار زیاد است.

صرف نظر از این، دولت‌ها می‌توانند - و باید - کارهای بیشتری برای محافظت از ما در برابر همه‌گیری‌های مصنوعی، چه مصنوعی و چه طبیعی انجام دهند. مهم نیست که تأثیر نهایی هوش مصنوعی بر امنیت زیستی چه خواهد بود، اکنون زمان آن است که هم برای بدترین سناریو آماده شویم و هم در حالت ایده آل، از آن جلوگیری کنیم.

چرا ابرویروس های مصنوعی ترسناک هستند؟

قبل از اینکه به بررسی این موضوع بپردازیم که چگونه هوش مصنوعی می‌تواند خطر یک بیماری همه‌گیر انسان‌ساز را افزایش دهد، ارزش آن را دارد که بگوییم چرا این چشم‌انداز بسیار نگران‌کننده است.

به عبارت ساده تر، چیزهای کمی می توانند تمدن – و/یا گونه انسان – را به شکلی معتبرتر از یک ابر ویروس مصنوعی نابود کنند.

بیماری های عفونی بیش از هر نیروی دیگری روی زمین باعث مرگ انسان شده است. مرگ سیاه حداقل 30 درصد از اروپاییان را در دهه 1300 نابود کرد، در حالی که آنفولانزای 1918 50 میلیون نفر را در سراسر جهان کشت. نیازی نیست که من به شما بگویم در سال 2020 اوضاع چگونه بود (یا اگر واکسن‌ها در زمان بی‌سابقه تولید نمی‌شدند چقدر بدتر می‌شدند).

و طبیعت بدون تلاش این فجایع را آغاز کرد. بیوتروریستی که آگاهانه به دنبال به حداکثر رساندن مرگ انسان است، می‌تواند از نظر تئوری کار دست تکامل را بهبود بخشد. اگر بیوتکنولوژی به پیشرفت خود ادامه دهد - و دانشمندان ژنوم های ویروسی را شناسایی کنند که به طور قابل اعتمادی قابلیت انتقال و کشندگی بالایی دارند - یک عامل مخرب ممکن است روزی بتواند ویروسی بسازد که هم به اندازه سرخک مسری و هم به اندازه ابولا کشنده است.

انتخاب طبیعی به طور کلی ویروس هایی را که هم بسیار قابل انتقال و هم به شدت کشنده هستند، ناپسند می کند. اشکالاتی که میزبان خود را بیش از حد قابل اطمینان می کشند، اغلب در گسترش مشکل دارند. با این حال، یک ویروس با دوره طولانی بدون علامت می تواند از این معامله فرار کند. به عنوان مثال، HIV می تواند قبل از ایجاد علائم قابل توجه، برای یک دهه در بدن فرد زندگی کند. در تئوری، یک ویروس تنفسی بسیار مسری می تواند به طور مشابه برای چندین هفته، ماه یا حتی سال ها در کمین باشد.

اگر بیوتروریست ها موفق شوند یک ویروس به راحتی قابل انتقال و بسیار کشنده را آزاد کنند، می توانند پایه های موجودیت مدرن را متزلزل کنند. در آن سناریو، حضور مطمئن در محل کار ممکن است مستلزم پذیرش 50 تا 50 شانس برای کشته شدن وحشیانه خود و خانواده‌تان باشد. کووید هرگز کارگران ضروری را ملزم نمی‌کرد که خطراتی را در جایی نزدیک به این بالا بپذیرند (پیش از اینکه واکسن‌ها در دسترس باشند، این ویروس کمتر از 1 درصد نرخ مرگ و میر در میان کارگران سنین اولیه داشت). اگرچه قهرمانان زیادی در میان ما وجود دارد، پزشکان، پرستاران، کارگران انبار، تکنسین های نیروگاه، تحویل d

رودخانه‌ها و دیگر کارگران ضروری ممکن است شانس ورق زدن سکه را برای از بین بردن عزیزان خود تحمل نکنند. و اگر به اندازه کافی سرپناه وجود داشته باشد، سیستم های تولید و توزیع مراقبت های بهداشتی، غذا، آب و برق می توانند به سرعت خراب شوند.

مشکل "جوکر" بشریت

همه اینها این سؤال را ایجاد می کند: چه کسی می خواهد این کار را انجام دهد؟

به هر حال، ویروس‌ها سلاح‌های وحشتناکی هستند: ساختن آن‌ها دشوار، کنترل آن‌ها غیرممکن است، و زندگی کسانی که آنها را پرورش می‌دهند و توزیع می‌کنند به خطر می‌اندازند. تا حدودی به این دلایل، سلاح های بیولوژیکی به ندرت مورد استفاده قرار گرفته اند. آخرین حملات مرگبار بیوترور، پیام های سیاه زخم در سال 2001 بود.

کارشناسان مضطرب امنیت زیستی ممکن است به نقل از افسر سابق اطلاعاتی بریتانیا، آلفرد پنی‌ورث، پاسخ دهند: «بعضی از مردان فقط می‌خواهند سوختن جهان را تماشا کنند.»

تیراندازان دسته جمعی به طور منظم جان خود را به دلیل کشتن تصادفی دیگران از دست می دهند. و نماد شکنان درخشان به طور دوره ای ایدئولوژی های قاتلانه را توسعه می دهند. تد کاچینسکی، ریاضیدان دانشگاه هاروارد که تبدیل به Unabomber شد، آرزو داشت که باعث فروپاشی تمدن صنعتی شود.

و هر چند وقت یکبار، یک ابرشرور مشتاق در زمینه ویروس شناسی تحصیلات تکمیلی می گیرد. در دهه 1990، مهندس ژنتیک سیچی اندو که در دانشگاه کیوتو تحصیل کرده بود، به فرقه مرگ Aum Shinrikyo ژاپن پیوست. اندو با استفاده از بودجه ۱ میلیارد دلاری این گروه، به دنبال سلاحی به ابولا، تب کیو، بوتولینوم، و سیاه زخم بود – با هدف کشتن هرچه بیشتر افراد بی ایمان.

البته اندو شکست خورد. و سایکوپات های گرگ تنها هرگز به چیزی کشنده تر از یک سلاح تهاجمی، بمب یا هواپیما دست نیافته اند.

اما برخی از دانشمندان بر این باورند که پیشرفت‌های فناوری - از جمله هوش مصنوعی مولد - ممکن است قدرت فاجعه‌باری را برای اندوس‌ها و کازینسکی‌های فردا فراهم کند.

چگونه هوش مصنوعی و بیوتکنولوژی می توانند بیوتروریسم را دموکراتیک کنند

کوین اسولت زیست شناس MIT یکی از برجسته ترین کاساندراهای رشته خود است. و او دو نگرانی اساسی را بیان کرده است. اولین مورد این است که پیشرفت ها در زیست شناسی مصنوعی و هوش مصنوعی به سرعت در حال گسترش مجموعه افرادی است که می توانند ویروس های شناخته شده را مهندسی کنند.

طی 15 سال گذشته، هزینه و دشواری ویرایش ژنوم به شدت کاهش یافته است. به گفته اولیویا شارفمن، محقق بیوتکنولوژی در مؤسسه پیشرفت، در سال 2012، برای اصلاح یک سایت خاص در ژنوم، اغلب نیاز به دسترسی به پروتئین های مهندسی شده سفارشی داشتید که قیمت آنها بیش از 5000 دلار بود و همچنان ضعیف عمل می کرد. به لطف ابزار ویرایش ژن CRISPR، دانشمندی با حداقل آموزش آزمایشگاهی می‌تواند چنین اصلاحی را با حداقل 30 دلار انجام دهد. در همین حال، سنتز DNA نیز به طور اساسی مقرون به صرفه تر شده است.

اگر دسترسی قانونی به مواد بیولوژیکی خطرناک دشوار بود، ممکن است این مسئله چندان مهم نباشد. اما اسولت و همکارانش اخیرا نشان دادند که اینطور نیست. به عنوان یک آزمایش، آنها از دانش آموز خواستند قطعات ژنوم آنفولانزای 1918 را با نام مستعار و موقعیت جعلی سفارش دهد. سی و شش شرکت از 38 شرکت سنتز DNA ژنوم ها را بدون اینکه بپرسند متقاضی اجازه دولت یا نیت درستی داشته است را ارسال کردند. این قطعات با هم برای ایجاد چندین برابر ویروس کافی بودند.

به گفته Esvelt، مهندسی معکوس ویروس های شناخته شده با استفاده از ابزارهای مدرن، به مهارت های نخبه نیاز ندارد. هر دانشجوی تصادفی فارغ التحصیل زیست شناسی ممکن است این کار را انجام دهد.

و هوش مصنوعی ممکن است چنین مهندسی اولیه ویروسی را آسان‌تر کند.

در تئوری، یک ربات چت می‌تواند به شما در برنامه‌ریزی حمله به سلاح‌های زیستی به همان روشی که می‌تواند شما را در تعمیر ماشین ظرفشویی راهنمایی کند، کمک می‌کند: با یافتن و ترکیب اطلاعات گسترده اینترنت، ارائه دستورالعمل‌های گام به گام برای پیمایش چالش‌های ناآشنا، و ارائه تمام سوالات عیب‌یابی که ممکن است متعاقبا ایجاد شود.

و شواهدی وجود دارد مبنی بر اینکه مدل‌های هوش مصنوعی دقیقا چنین کمکی را به بیوتروریست‌های بالقوه ارائه می‌کنند.

در مطالعه‌ای در سال 2023، محققان MIT از دانش‌آموزان خواستند تا در مورد مهندسی یک بیماری همه‌گیر از چت ربات‌های آن دوره راهنمایی بگیرند. در عرض یک ساعت، مدل‌های هوش مصنوعی چهار پاتوژن امیدوارکننده را پیشنهاد کردند، پروتکل‌های دقیقی برای ساخت آنها با DNA مصنوعی ارائه کردند، فهرستی از خرده‌فروشان سنتز DNA با استانداردهای غربالگری پایین ارائه کردند، و توصیه کردند - اگر کاربران هنوز قادر به ساخت ویروس نیستند، حتی با این همه کمک - می‌توانند از یک سازمان تحقیقاتی قراردادی کمک بخرند تا برخی از آنها را انجام دهند.

و البته، مدل‌های مرزی از سال 2023 بسیار بهتر شده‌اند. سال گذشته، SecureBio، سازمان غیرانتفاعی امنیت زیستی Esvelt، دریافت که یک مدل OpenAI از 94 درصد ویروس‌شناسان خبره در عیب‌یابی مشکلات پیچیده آزمایشگاهی بهتر عمل کرده است.

تحقیقات داخلی آنتروپیک نتایج مشابهی را به همراه داشته است. در یک آزمایش، این شرکت آماتورها را موظف به تهیه پیش نویس طرح دستیابی به سلاح های زیستی کرد. این امر به برخی از شرکت‌کنندگان امکان دسترسی به منابع اولیه اینترنتی و برخی دیگر به کمک مدل‌های کلود (با خاموش کردن پادمان‌ها) را می‌دهد. به گفته کارشناسان دفاع زیستی که پیشنهادها را برای خطاهای مهم بررسی کردند، کسانی که با هوش مصنوعی کار می‌کنند، طرح‌های بسیار مناسب‌تری را توسعه دادند.

بنابراین، دلیلی وجود دارد که فکر کنیم تعداد افرادی که دارای مهارت‌ها و منابع لازم برای مهندسی معکوس یک ویروس از طرح‌های ژنومی هستند، به شدت در حال افزایش است - و به همراه آن، این خطر وجود دارد که یک نیهیلیست یا ایدئولوگ تشنه به خون دست خود را به یک پاتوژن خطرناک بیاورد.

هوش مصنوعی ممکن است به دانشمندان در یادگیری بیش از حد کمک کند

چه چیزی بدتر از بازگرداندن آبله؟ نگرانی دوم اسولت این است که همین نیروهای تکنولوژیک - همراه با جاه طلبی های اغلب بی پروا دانشمندان برتر - منجر به کشف یا توسعه یک ابر ویروس، یک پاتوژن جدید یا سفارشی طراحی شده حتی خطرناک تر از آنچه طبیعت در گذشته به وجود آورده است، شود.

امروزه، برخی از دانشمندان فعالانه در تلاش برای کشف - و شناسایی عمومی - ویروس‌های جدیدی هستند که در طبیعت در گردش هستند و از نظر تئوری می‌توانند همه‌گیری بعدی را آغاز کنند. برخی دیگر آزمایش‌های به‌اصطلاح افزایش عملکرد را انجام می‌دهند و پاتوژن‌ها را تغییر می‌دهند تا تشخیص دهند کدام جهش‌ها را قابل انتقال، کشنده‌تر یا دشوارتر می‌کند (برخی ادعا کرده‌اند که کووید-19 دقیقا از این نوع تحقیقات پدید آمده است، اگرچه این نظریه به طور گسترده در میان اپیدمیولوژیست‌ها رد شده است).

این کار عموما برای پیش‌بینی تهدیدات اپیدمیولوژیک آینده در نظر گرفته شده است تا بتوانیم واکسن‌هایی را قبل از رسیدن آنها تولید کنیم. اما کار آنها می تواند به طور ناخواسته دستور العمل هایی برای مهندسی معکوس سلاح های زیستی با تلفات انبوه در اختیار بازیگران بد قرار دهد.

به‌طور جداگانه، پیشرفت‌ها در ویرایش ژن و هوش مصنوعی ممکن است پیشرفت‌هایی را در مهندسی ویروسی که پاتوژن‌های آخرالزمانی تولید می‌کنند، فراهم کند.

مطالعه اخیر محققان در استنفورد و موسسه آرک چنین ترس هایی را تغذیه کرد. دانشمندان یک هوش مصنوعی به نام "Evo" را بر روی توالی های DNA باکتریوفاژها، ویروس های ساده ای که باکتری ها را آلوده می کنند، آموزش دادند. آنها سپس از این «مدل زبان ژنومی» برای تولید طرح‌های اولیه برای صدها باکتری‌وفاژ که در هیچ کجای طبیعت یافت نمی‌شوند، استفاده کردند. 16 مورد از این طرح ها پاتوژن های زنده ای را تولید کردند که برخی از آنها در کشتن باکتری ها بهتر از اجداد طبیعی خود بودند.

با این حال، آنچه واضح است این است که پاتوژن های جدید یکی از بزرگترین تهدیدات امنیتی هستند که گونه ما با آن مواجه است.

از نظر تئوری، دانشمندان ممکن است روزی بتوانند ویروس‌های انسانی جدید را با استفاده از همان تکنیک‌های اولیه مهندسی کنند. علاوه بر این، حتی اگر مدل‌های زبان ژنومی در این کار شکست بخورند، ممکن است همچنان بتوانند به کاربران کمک کنند ویروس‌های موجود را به گونه‌ای تغییر دهند که آنها را قابل انتقال، کشنده‌تر یا مقاوم‌تر به واکسن کند.

این اکتشافات می‌توانند از نظر تئوری به بیوتروریست‌های آماتور یا گروه‌های افراطی با بودجه خوب مانند Aum Shinrikyo فیلتر شوند. روش دیگر، یک برنامه تسلیحاتی تحت حمایت دولت می تواند یک ابر ویروس فاجعه بار ایجاد کند، سپس آن را از طریق نشت آزمایشگاهی یا (شاید، به احتمال زیاد) تلاش عمدی برای نسل کشی در جهان منتشر کند.

برای سناریوی سابق سابقه ای وجود دارد: اتحاد جماهیر شوروی تلاش کرد تا آبله و ویروس ماربورگ را با وجود خطرات قابل توجه و کاربرد نظامی مشکوک چنین سلاح های بیولوژیکی به سلاح تبدیل کند. در این فرآیند، دانشمندان شوروی به طور تصادفی باعث شیوع آبله در حین آزمایش شدند، در حالی که اجازه دادند سیاه‌زخم از آزمایشگاه نشت کند که باعث مرگ حداقل 64 نفر شد.

سلاح های زیستی آسان نیست

با همه این‌ها، دلایلی وجود دارد که می‌توان این سوال را مطرح کرد که آیا هوش مصنوعی واقعا احتمال یک بیماری همه‌گیر مصنوعی را بیشتر می‌کند.

چت بات ها ممکن است برخی از چالش های پیش روی یک زیست شناس آماتور با آرزوهای همه کش را حل کنند. اما لزوما بزرگترین موانع در مسیر آن شخص را برطرف نمی کند.

مهندسی ویروسی یک کار پیچیده، دشوار و فیزیکی است. انجام موفقیت آمیز آن به چیزی نیاز دارد که دانشمندان آن را "دانش ضمنی" می نامند - مهارت ها و درک های عملی که توضیح آنها با کلمات دشوار است: دانستن اینکه چگونه می توان لرزش دست را که می تواند رشته های ظریف DNA را پاره کند، مهار کرد، یا اینکه چگونه تشخیص داد که DNA در محلول شما به غلظت مناسب رسیده است، یا اینکه چگونه وقتی یک نمونه آلوده شده است، بو کنید.

و اینها چیزهایی هستند که کلود هنوز نمی تواند به طور قابل اعتماد بیان کند. در مطالعات، آماتورهایی که به یک مدل زبان بزرگ دسترسی دارند، تمایل دارند در چالش‌های بیولوژیکی نوشتاری بهتر عمل کنند - اما در کار آزمایشگاهی واقعی نه. در یک مطالعه تصادفی شده در سال 2026، غیر دانشمندانی که با سیستم‌های هوش مصنوعی مرزی کار می‌کنند، نسبت به کسانی که به تنهایی به اینترنت متکی هستند، احتمال بیشتری برای تکمیل یک تکلیف آزمایشگاهی چند مرحله‌ای نداشتند.

البته، دانش ضمنی لزوما برای بیوتروریست های مشتاق در قالب Seiichi Endo - دانشمندان فارغ التحصیل آموزش دیده با تجربه آزمایشگاهی گسترده، مشکلی ایجاد نمی کند. اما حداقل، به نظر نمی‌رسد که چت‌بات‌ها هر سوءاستفاده‌ای را که زمانی AP Bio را می‌گرفتند، به یک ویروس‌شناس توانا تبدیل کرده باشند.

و در حالی که هوش مصنوعی احتمالا به زیست شناسان برتر کمک می کند تا مرزهای حوزه خود را پیش ببرند، موانع بر سر راه ویروس های روز رستاخیز مهندسی سفارشی همچنان بسیار زیاد است. آزمایش "Evo" مسلما نمونه ای از این موضوع است. اگرچه این مدل برای چند باکتریوفاژ جدید طرح‌های اولیه تولید کرد، تقریبا همه ژنوم‌های پیشنهادی آن کارایی نداشتند. محققان مجبور بودند صدها توالی DNA را به سختی آزمایش کنند تا به 16 رشته زنده برسند. و مهندسی نسخه های کمی تغییر یافته از یک باکتریوفاژ بسیار کوچک و شناخته شده که قادر به آلوده کردن E.

coli در آزمایشگاه - و ایجاد یک ویروس جدید وحشتناک تر از هر طبیعتی که تاکنون ابداع کرده است - کارهای مشابهی نیستند.

برای ارائه یک تشبیه سخت: این واقعیت که من می‌توانم در NBA 2K26 روی ویکتور ویمبانیاما دانک کنم، به این معنی نیست که من در زندگی واقعی به سمت او پیشرفت می‌کنم.

حتی در عصر CRISPR و ChatGPT، زیست شناسی یک رشته فوق العاده دشوار است که در برابر مدل سازی قابل اعتماد مقاومت می کند. اثرات اصلاح یک ژن واحد اغلب می‌تواند نتایج غیرقابل پیش‌بینی و متناقضی را به همراه داشته باشد که با زیست‌شناسی میزبان، پاسخ‌های ایمنی و شرایط محیطی که دانشمندان تنها تا حدودی آن را درک می‌کنند، متفاوت است. هوش مصنوعی ممکن است به ما در غلبه بر این پیچیدگی ها کمک کند. همچنین ممکن است نباشد.

ما باید برای همه گیری بعدی آماده شویم

دانشمندان در مورد اینکه همه‌گیری‌های مصنوعی چقدر خطر جدی دارند - و هوش مصنوعی چقدر آن را بزرگ می‌کند، اختلاف نظر دارند.

با این حال، آنچه واضح است این است که پاتوژن های جدید یکی از بزرگترین تهدیدات امنیتی هستند که گونه ما با آن مواجه است. حتی اگر زیست‌شناسی مصنوعی و هوش مصنوعی وجود نداشتند، انتخاب طبیعی همچنان ویروس‌های جدیدی را تولید می‌کرد - و به‌طور دوره‌ای به ویروس‌هایی که سیستم ایمنی انسان را مختل می‌کنند، حمله می‌کرد.

به همین دلیل، صرف نظر از پیامدهای هوش مصنوعی برای مهندسی ویروس، نیاز فوری به آسیب پذیری جوامع ما در برابر همه گیری های آینده وجود دارد. در دنیایی که چت‌بات‌ها و CRISPR به طور قابل قبولی بیوتروریسم را آسان‌تر می‌کنند، عدم سرمایه‌گذاری تهاجمی در سلامت عمومی بیش از پیش بی‌ملاحظه‌تر است.

خبر خوب این است که ما از قبل می‌دانیم - از تجربه‌ای که به سختی به دست آورده‌ایم - گام‌های زیادی را می‌دانیم که می‌توانیم برای کاهش خطر ابتلا به یک بیماری همه‌گیر جدید برداریم و در صورت نیاز آماده پاسخگویی به آن باشیم.

دولت‌ها می‌توانند با سرمایه‌گذاری بر روی واکسن‌هایی که در برابر کل خانواده‌های ویروس‌ها (یا در حالت ایده‌آل، همه آن‌ها) و ضد ویروس‌های طیف وسیع محافظت می‌کنند، قدرت مخرب سرایت‌های جدید را محدود کنند. با تأمین مالی دقیق فاضلاب و نظارت بالینی، احتمال ابتلای اولیه به همه‌گیری‌ها را افزایش دهیم. اطمینان حاصل کنید که کارگران ضروری مجبور نیستند بین زنده ماندن و حفظ تمدن در بحبوحه یک بیماری همه گیر، با توسعه و سپس انباشت تجهیزات حفاظت شخصی بی‌خبر، یکی را انتخاب کنند. با ارتقای سیستم های تهویه و فیلتراسیون، فضاهای داخلی را کمتر میزبان ویروس های معلق در هوا می کند. الف

و با الزام به غربالگری دقیق سفارشات DNA مصنوعی، خطر بیوتروریسم را کاهش دهید.

ترس از اینکه بشریت توسط ماشین‌های فوق‌هوشمند انجام شود، در حال حاضر توجه رسانه‌ها و نگرانی‌های سیاسی را برانگیخته است. و این ممکن است تضمین شده باشد. اما ما باید حداقل به همان اندازه به دشمنان ارگانیک و قدیمی گونه خود توجه کنیم که به دشمنان فرضی و روباتی خود توجه می کنیم - و نه فقط به این دلیل که دومی می تواند شروع به آموزش ترفندهای جدید کند.