دانشمندان اکنون می‌توانند پروتئین‌های تولید شده توسط هوش مصنوعی را برای جلوگیری از ایجاد سلاح‌های بیولوژیکی، علامت‌گذاری کنند. اما آیا واقعا کار خواهد کرد؟

با هوش مصنوعی (AI)، دانشمندان ابزار جدید قدرتمندی برای ایجاد پروتئین‌هایی دارند که قبلا دیده نشده‌اند، که می‌تواند برای ساخت داروهای جدید پیشگامانه یا سلاح‌های زیستی ویرانگر استفاده شود.

برای کمک به محافظت در برابر استفاده‌های شرورانه از این پروتئین‌ها، دانشمندان اخیرا راهی برای "واترمارک کردن" آنها بدون به خطر انداختن عملکرد آنها پیدا کرده‌اند. تیمی از Google DeepMind این تکنیک را برای ردیابی بهتر منشأ پروتئین های طراحی شده با هوش مصنوعی توسعه دادند.

روی اسلیتور، استاد زیست‌شناسی در دانشگاه فناوری مونستر در ایرلند، که در این تحقیق شرکت نداشت، گفت: «این پتانسیل کاهش تهدیدات امنیت زیستی، مانند ایجاد سم غیرمجاز را دارد، و ممکن است به مدیریت پایگاه داده کمک کند، و از به هم ریختن پایگاه‌های داده استاندارد توسط طرح‌های مصنوعی جلوگیری کند.»

اسلیتور در ایمیلی به Live Science گفت: «در عمل، می‌تواند به ردیابی منشأ طرح، پرچم‌گذاری پروتئین‌های مهندسی شده برای بررسی‌های بیشتر امنیت زیستی و کاهش ادعاهای گمراه‌کننده درباره نحوه ساخت پروتئین کمک کند.

با این حال، در شکل فعلی، همان فناوری‌های هوش مصنوعی که واترمارک‌ها را اضافه می‌کنند، می‌توانند آنها را نیز از بین ببرند.

روش های جدید برای پنهان کردن واترمارک

رونمایی از برنامه هوش مصنوعی AlphaFold در سال 2020 نقطه عطفی در مهندسی پروتئین بود. این ابزار که در سال 2024 جایزه نوبل شیمی را به دمیس حسابیس، جان جامپر و دیوید بیکر برد، می‌تواند ساختار سه بعدی یک پروتئین را از توالی بلوک‌های سازنده آن به نام اسیدهای آمینه نشان دهد. پروتئین‌ها مانند اوریگامی تا می‌شوند و اشکال سه‌بعدی به خود می‌گیرند که عملکرد آنها را دیکته می‌کند.

با این حال، فناوری AlphaFold همچنین دری را برای تولید پروتئین‌های کاملا جدید باز کرد که می‌توان از آنها برای ایجاد تهدیدات زیستی استفاده کرد، از جمله پروتئین‌های ویروسی که می‌توانند از سیستم ایمنی ما و واکسن‌های موجود فرار کنند.

جورج رز، استاد بازنشسته بیوفیزیک در دانشگاه جانز هاپکینز، می گوید: «هر چیزی که می تواند برای خوب استفاده شود، می تواند برای بد استفاده شود.

ابزارهای غربالگری کنونی مولکول های خطرناک یا محدود جدید را با مشاهده اینکه چقدر توالی اسید آمینه آنها با تهدیدات شناخته شده مشابه است، شناسایی می کنند. اما مشکل این است که هوش مصنوعی می‌تواند پروتئین‌هایی ایجاد کند که شبیه چیزی که تا به حال دیده‌ایم نیست. این چیزی است که هدف تکنیک واترمارک جدید حل آن است.

تیم DeepMind تلاش های واترمارکینگ را به عنوان "خانواده" تکنیک های مرتبطی که SynthIDBio می نامند، در نظر گرفته است. اولین عضو این خانواده SynthIDBio-sequence است که واترمارک ها را در توالی اسید آمینه پروتئین های ایجاد شده توسط برنامه ای به نام ProteinMPNN رمزگذاری می کند.

شکل سه بعدی یک پروتئین تا حد زیادی توسط توالی اسید آمینه آن یا ترتیب بلوک های سازنده آن تعیین می شود. در سلول ها، این بلوک ها توسط ریبوزوم ها جمع می شوند (تصویر). (اعتبار تصویر: استیون مکدوول/کتابخانه عکس علمی از طریق گتی ایماژ) هنگامی که کاربران به ProteinMPNN شکل سه بعدی مورد نظر پروتئین خود را می گویند، گزینه های اسید آمینه را انتخاب می کند که در نهایت به آن شکل تبدیل می شود.

Sequence SynthIDBio به طور ماهرانه ای بر نحوه انتخاب هر آمینو اسید طبق یک "کلید" علامت گذاری مخفی تاثیر می گذارد. هنگامی که دنباله تولید می شود، هر کسی که کد پنهان را می داند می تواند ارزیابی کند که چقدر احتمال دارد دنباله تحت بایاس کلید ایجاد شده باشد. در مطالعه اخیر خود، تیم DeepMind نشان داد که پروتئین های ساخته شده با این واترمارک همچنان می توانند به اهداف خود و همچنین پروتئین های فاقد واترمارک متصل شوند.

یک تکنیک خواهر به نام SynthIDBio-structure، در عوض یک واترمارک را مستقیما در ساختار پروتئین جاسازی می کند. این کار را با تغییر عملکرد AlphaFold 3، الگوریتم پیش‌بینی پروتئین شاخص DeepMind انجام می‌دهد.

وقتی AlphaFold ساختاری را پیش‌بینی می‌کند، ساختار SynthIDBio یک مأموریت جانبی به آن می‌دهد: هوش مصنوعی باید تغییرات جزئی در نحوه چیدمان اتم‌های پروتئین ایجاد کند. این ترفندها را می‌توان بعدا توسط یک آشکارساز دریافت کرد، و به اندازه‌ای کوچک هستند که شبیه اعوجاج آشکار به نظر نمی‌رسند.

در آزمایشی، این دو سیستم واترمارک‌های مخفی ایجاد کردند که با دقت باورنکردنی قابل شناسایی بودند، بیش از 99 درصد پروتئین‌های واترمارک شده را علامت‌گذاری کردند و 99.9 درصد پروتئین‌های فاقد واترمارک را به درستی نادیده گرفتند.

نحوه دور زدن واترمارک پروتئینی

Live Science با چندین متخصص صحبت کرد که موافق بودند که SynthIDBio یک شاهکار فنی چشمگیر است. با این حال، آنها گفتند که هنوز برای اجرای گسترده آماده نیست.

بروس ویتمن، دانشمند کاربردی اصلی مایکروسافت، در ایمیلی به Live Science گفت: این دو تکنیک "موثر اما شکننده هستند." به این دلیل که همانطور که تیم DeepMind نیز در مقاله خود اشاره کرده است، واترمارک ها را می توان به راحتی حذف کرد.

من تصور می کنم که اطمینان از رعایت قوانین بسیار دشوار است.

بروس ویتمن، دانشمند کاربردی اصلی در مایکروسافت

ویتمن می‌گوید: «برای توالی‌ها، واترمارک‌ها را می‌توان با «توالی‌سازی مجدد» حذف کرد – به طور مؤثر، توالی اسید آمینه پروتئین را تغییر می‌دهد به طوری که واترمارک دیگر قابل تشخیص نیست. برای سازه‌ها، واترمارک‌ها را می‌توان با اضافه کردن نویز به یا تغییر مختصات فضایی سازه حذف کرد. ابزارهای غربالگری نمی توانند تشخیص دهند که آیا واترمارک از یک پروتئین حذف شده است یا خیر.

کارشناسان همچنین تردید دارند که واترمارکینگ راه حلی بلندمدت برای امنیت زیستی ارائه دهد.

یک واترمارک پاک‌نشدنی می‌تواند مشخص کند که چه کسی در ابتدا یک پروتئین شرور ساخته است، یا مشخص کند که کاربر چه زمانی بدون اجازه به یک نرم‌افزار تولید پروتئین دسترسی داشته است. ماکس براکمن، متخصص سلاح‌های شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای در آزمایشگاه اسپیز در سوئیس، گفت: این ممکن است برخی از جنایتکاران را منصرف کند، اما تروریست‌هایی که به دنبال ایجاد پروتئین جدیدی برای یک سلاح بیولوژیکی هستند، کمتر به شناسایی پس از یک حمله موفقیت‌آمیز اهمیت می‌دهند.

علاوه بر این، اکثریت قریب به اتفاق نرم‌افزارهای پیش‌بینی و تولید پروتئین منبع باز هستند، به این معنی که بسیاری از کدها برای استفاده و اصلاح آزادانه در دسترس هستند. این کار را برای ایجاد واترمارکینگ در این برنامه‌ها سخت‌تر می‌کند. ویتمن هشدار داد که قبل از اینکه واترمارک به استاندارد صنعتی تبدیل شود، این زمینه باید به سمت مدل های منبع بسته تغییر کند.

انحصاری Live Science Pro

هوش مصنوعی مسائل ریاضی «غیر ممکن» را حل می کند. آیا می تواند بهترین ریاضیدانان جهان باشد؟

برخی از مطالعات نشان می‌دهند که کدهای نوشته‌شده با هوش مصنوعی می‌توانند در تجزیه و تحلیل زیست‌پزشکی انسان‌ها را شکست دهند. این چه معنایی برای این رشته دارد؟

هوش مصنوعی در یکی از سیستم‌های رمزنگاری مورد مطالعه جهان ضعف پیدا کرد - آیا داده‌های شما در معرض تهدید است؟

وی افزود که واترمارکینگ می تواند به جای ارائه حفاظت مستقل، به عنوان یک لایه از سپر دفاعی امنیت زیستی عمل کند. اجرای مقررات از بالا به پایین چالش برانگیز خواهد بود. او گفت: «من تصور می‌کنم اطمینان از رعایت مقررات بسیار دشوار خواهد بود.

رز حتی در مورد تنظیم استفاده از پروتئین های مولد صریح تر بود.

او گفت: «من متقاعد شده‌ام که کار نخواهد کرد. هنگامی که یک فناوری شیرین وجود دارد که کاری انجام می دهد، مقررات دولتی برای پنهان نگه داشتن آن هرگز واقعا موفق نبوده است.

به ما در بهبود Live Science Pro کمک کنید: ما همیشه در تلاش هستیم تا محتوای خود را بهتر کنیم. نظرات خود را در مورد Pro در اینجا برای ما بگذارید.