من به عنوان مسئول ارشد امنیت زیستی کاخ سفید خدمت کردم. این چیزی است که من با هوش مصنوعی به دنبال آن هستم

در اتاق موقعیت کاخ سفید، سخت ترین تماس ها هرگز موارد اضطراری آشکار نبودند. چیزی که مرا بیدار نگه می داشت شب هایی بود که بخشی از اطلاعات وارد می شد و بحث بر سر این نبود که چه کار کنم. در مورد این بود که آیا اصلا چیزی در حال وقوع است یا خیر.

در سال 2023، من و تیمم در حال ارزیابی برنامه‌های آنفلوانزای همه‌گیر کشور بودیم که اتاق وضعیت به من اطلاع داد که آنفولانزای H5N1 پدری را مبتلا کرده و دخترش را در یک روستای دورافتاده کامبوج کشته است. آیا ویروس بین مردم پخش می شد - شروع یک بیماری همه گیر که می تواند میلیون ها نفر را بکشد؟ مشاور امنیت ملی پرسید که آیا باید فورا به رئیس جمهور بایدن اطلاع رسانی شود یا خیر. اگر این موارد اولین نشانه‌ها بودند، باید طی چند روز میلیاردها دلار برای واکسن‌ها و درمان‌ها اختصاص دهیم.

بهش گفتم صبر کن نه به این دلیل که فکر می‌کردم چیزی نیست، بلکه به این دلیل که ما قبلا، قبل از رسیدن هشدار، در مورد چیزی که به ما می‌گوید چیزی است به توافق رسیده بودیم: انتقال پایدار از انسان به انسان. ما با مقامات بهداشتی کار کردیم تا داده های نظارتی را از اورژانس های اطراف جمع آوری کنیم و آن را با سال های قبل مقایسه کنیم. موارد به طور غیرمنتظره بالا نبود. من به او گفتم که لازم نیست رئیس جمهور هشدار داده شود و اگر حقیقت اصلی تغییر کند به او اطلاع خواهم داد.

آن ماشه دو کار را همزمان انجام داد. ما را از نادیده گرفتن یک وضعیت اضطراری واقعی باز داشت، و ما را از تشدید وضعیتی که نبود. تقریبا در هر بحرانی که من کار کرده‌ام، لحظه تعیین‌کننده قبل از اینکه کسی قبول کند که چنین بحرانی وجود دارد فرا می‌رسید. ما اکنون در یکی از آن لحظات هستیم.

روز سه‌شنبه، رئیس‌جمهور ترامپ و رهبران برخی از بزرگترین شرکت‌های هوش مصنوعی کشور توافقنامه کاخ سفید در مورد ابراطلاعات را امضا کردند، توافقنامه‌ای داوطلبانه که از شرکت‌ها می‌خواهد کنترل‌های داخلی را در مورد خطرات از جمله امنیت زیستی تقویت کنند. این توافق خواستار نظارت داخلی، ارزیابی مستقل و نظارت هیئت مدیره است. اما شرکت‌ها را تا حد زیادی مسئول تعیین این است که این پادمان‌ها چگونه باید باشند و چه زمانی یک ریسک به اندازه کافی جدی شده است تا اقدام کنند.

بیل گیتس به آمریکایی ها هشدار می دهد که هوش مصنوعی امسال از آستانه عبور کرده است که در میان آنها قابلیت حمله زیستی وجود دارد. او گفت که آستانه بیشترین نگرانی این است که آیا یک هوش مصنوعی می تواند سلاح بیوتروریسمی طراحی کند که بتواند میلیون ها نفر را بکشد. هفته گذشته، مدیر اجرایی Anthropic از شورای امنیت سازمان ملل خواست تا از ممنوعیت استفاده از هوش مصنوعی برای ساخت سلاح های بیولوژیکی حمایت کند. آنتروپیک به دنبال افشای پنج مورد سوء استفاده بیولوژیکی از مدل‌هایش بود، از جمله محققی که در مورد چگونگی سازگاری آنفولانزای H5N1 با پستانداران و ایجاد بیماری فراتر از دستگاه تنفسی مطالعه می‌کرد.

این شرکت حساب ها را مسدود کرد. تقریبا هیچ مصونیت جمعیتی در برابر H5N1 وجود ندارد، تقریبا نیمی از موارد انسانی کشنده هستند و ویروس هنوز به طور مؤثر بین افراد پخش نمی شود.

هنوز نه. آخرین بند آستانه ای است که در سال 2023 به مشاور امنیت ملی دادم. این مرز بین دو بستگان آلوده در یک روستای کامبوج و یک بیماری همه گیر است. شخصی از یک مدل هوش مصنوعی می‌پرسید که چگونه از آن عبور می‌کند.

اکثر افرادی که افشاگری هایی مانند این را می خوانند به یکی از این دو نتیجه می رسند: هوش مصنوعی سلاح های بیولوژیکی را به طرز وحشتناکی در دسترس قرار داده است، یا پادمان ها کار می کنند و جای نگرانی وجود ندارد. هیچ کدام به ما نمی گوید که ما بیشتر از همه باید بدانیم. گیتس درست می گوید که از یک خط عبور کرد، اما هیچ چیزی دنبال نشد، زیرا هیچ کس از قبل تصمیم نگرفته بود که چه اقداماتی را برای عبور از آن انجام دهد. سوال مفیدتر این است: هوش مصنوعی چه کمکی به این شخص می‌کند و چه کاری نمی‌تواند انجام دهد؟

آستانه ای که گیتس توضیح داد در مورد طراحی است. نکته بعدی این است که آیا هوش مصنوعی می تواند طراحی را از دنیای دیجیتال به دنیای فیزیکی منتقل کند یا خیر. مدلی که بتواند یک پروتکل تحقیقاتی برای ایجاد یک پاتوژن بنویسد، شخصی نیست که بتواند آن را ایجاد کند. برای رشد ویروس به DNA سنتز شده، تجهیزات و آزمایشگاهی با چهار دیواره نیاز دارید. هوش مصنوعی هنوز این موانع را برطرف نکرده است.

این دلیلی برای رها کردن نیست. این نشان می‌دهد که کجا می‌توانیم ریسک را کاهش دهیم، در حالی که این هنوز ممکن است.

در اتاق موقعیت، قبل از رسیدن اورژانس به این سوال پاسخ دادیم: یک ماشه قابل مشاهده خاص، همراه با یک اقدام خاص، از قبل توافق شده است. ما این نظم و انضباط اقدام ماشه ای را برای خطرات مرتبط با هوش مصنوعی و زیست شناسی اعمال نکرده ایم. بنابراین در اینجا چیزی است که من به دنبال آن هستم، و هر کدام باید چه چیزی را شروع کنند.

من با دقت به شواهدی توجه می کنم که نشان می دهد شخصی بدون تخصص زیستی پیشرفته از هوش مصنوعی برای غلبه بر مشکلات تجربی استفاده می کند که قبلا به قضاوت متخصص نیاز داشت. این امر مستلزم ارزیابی‌کنندگان مستقل است که مدل‌های هوش مصنوعی را قبل از استقرار تیم قرمز کنند، نه افشای داوطلبانه شرکت.

من به دنبال دنباله ای نگران کننده تولید شده توسط هوش مصنوعی هستم که از یک ارائه دهنده سنتز سفارش داده شود یا از طریق یک آزمایشگاه خودکار اجرا شود. همانطور که کمیسیون دوحزبی دفاع زیستی که من در آن خدمت می‌کنم، به ابزارهای واترمارک و ردیابی برای سیستم‌های طراحی بیولوژیکی نیاز دارد.

و من به دنبال اثبات این هستم که هوش مصنوعی تجربه عملی مورد نیاز برای کارهای خطرناک بیولوژیکی را به میزان قابل توجهی کاهش داده است. ارائه دهندگان سنتز DNA، آزمایشگاه های ابری و سینت سایزرهای روی میز جایی هستند که یک قابلیت دیجیتال به یک قابلیت فیزیکی تبدیل می شود. غربالگری در آنجا باید گسترش یابد. یک لایحه دو حزبی سنا از ژانویه تغییر نکرده است.

هیچ یک از اینها "هوش مصنوعی به یک سوال بیولوژیکی خطرناک پاسخ داد." هر ماشه نشان می‌دهد که مانعی که دانش تولید شده توسط هوش مصنوعی را از قابلیت استفاده از آن در آزمایشگاه فیزیکی جدا می‌کند، شروع به فرسایش می‌کند. هر کدام یک عمل همراه با خود دارند.

در مواجهه با یک خطر ترسناک جدید، ما تمایل به پرسیدن سوالی داریم که پاسخ دادن به آن تقریبا غیرممکن است: چقدر باید نگران باشم؟ آستانه های از پیش تعریف شده هشدار دهنده نیستند. این همان چیزی بود که به ما اجازه داد وقتی دو مورد آنفولانزای H5N1 در یک خانواده کامبوجی ظاهر شد، با آرامش پاسخ دهیم. ما می‌دانستیم به دنبال چه سیگنالی هستیم و در صورت یافتن آن چه باید بکنیم. بدون یک هشدار، هر هشدار مبهمی تبدیل به چیزی برای وحشت یا یک چیز دیگر می شود که قبلا در آن زندگی کرده ایم.

هوش مصنوعی در کمک به مردم در انجام کارهای بیولوژیکی پیشرفته بهتر شده است، و بدون پادمان های قوی تر، خطر بیوتروریسم را افزایش می دهد. توافق کاخ سفید یک تصدیق مهم است که امنیت زیستی در مرکز گفتگوهای ایمنی هوش مصنوعی قرار دارد. اما کنترل های داخلی تنها بخشی از پاسخ است.

گام بعدی حل و فصل دو چیز است: چه شواهدی نشان می‌دهد که هوش مصنوعی به یک قابلیت خطرناک کمک کرده تا به دنیای فیزیکی منتقل شود، و چه کاری انجام خواهیم داد. "هنوز نه" اطلاعات مفیدی است. یک طرح نیست.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد