ایمنی هوش مصنوعی و امنیت سایبری باید متحد باشند. در عوض، آنها در تضاد هستند

— Getty Images

در ماه ژوئیه، انبوهی از ماموران OpenAI از جعبه‌های شنی خود بیرون آمدند و با هم همکاری کردند تا یک حمله سایبری به شرکت هوش مصنوعی Hugging Face انجام دهند. به نظر می‌رسید این حادثه بدترین ترس جامعه ایمنی هوش مصنوعی را تأیید می‌کند: با هوشمندتر شدن هوش مصنوعی، تلاش‌ها برای مهار آن دور می‌زند. اما برای برخی از کارشناسان امنیت سایبری، این حادثه نشان داد که در وهله اول، هوش مصنوعی چقدر ضعیف بوده است.

دو اردوگاه در مورد اینکه کدام دفاع مستحق توجه بیشتر است اختلاف نظر دارند. به گفته کارشناسان امنیت سایبری، شرکت‌های هوش مصنوعی باید نحوه استفاده از مدل‌ها را در طول آزمایش بهبود بخشند و مکانیسم‌های نظارتی را برای دستگیری عوامل بد رفتاری بهبود بخشند. همه سازمان ها باید برای مهاجمان مجهز به هوش مصنوعی آماده شوند و دفاع را تقویت کنند. اما بسیاری از افراد در ایمنی هوش مصنوعی فکر می کنند که این دفاع ها با شکست مواجه می شوند. آنها می ترسند که در سال های آینده هوش مصنوعی بتواند بر هر تلاش انسانی برای مهار آن مانور دهد و تنها راه حل بادوام «همسو کردن» هوش مصنوعی با ارزش های انسانی است.

این نسخه بسیاری از کارشناسان امنیت سایبری را که احتمال منسوخ شدن تخصصشان را مسخره می‌کنند، در رتبه‌بندی قرار داده است. آنها تمرکز ایمنی هوش مصنوعی را بر آنچه که عوامل هوش مصنوعی انجام دادند - به جای آنچه شرکت های هوش مصنوعی نتوانستند انجام دهند - به عنوان بازی در دستان صنعت می دانند. و آنها نگران هستند که هشدارها در مورد بیهودگی دفاع های سنتی می تواند با منصرف کردن سرمایه گذاری در امنیت سایبری به یک پیشگویی خود تحقق بخش تبدیل شود.

در همین حال، محققان ایمنی هوش مصنوعی وجود دارند که می‌ترسند نشان دادن چنین حوادثی به‌عنوان شکست‌های امنیتی که به راحتی قابل اصلاح هستند، پوشش سیاسی به کسانی می‌دهد که می‌خواهند توسعه هوش مصنوعی بدون کنترل پیش برود. شیام سانکار، مدیر ارشد فناوری Palantir در ماه اکتبر در Face the Nation گفت که حادثه Hugging Face به دلیل "پیکربندی امنیت سایبری وحشتناک" بود و افزود که عوامل "در یک جعبه شنی نبودند" و به اینترنت دسترسی داشتند. در واقع، این عوامل در یک جعبه شنی فعالیت می کردند و از یک آسیب پذیری کشف نشده برای دسترسی به اینترنت باز سوء استفاده می کردند.

در 13 اکتبر، حدود 400 دانشگاهی نامه سرگشاده ای را امضا کردند که خواستار اتحاد شدند. این نامه خواستار ایجاد یک نهاد بین‌المللی است که بهترین شیوه‌ها را برای ایمن نگه داشتن هوش مصنوعی با مشورت دولت‌ها و طیف وسیعی از متخصصان هوش مصنوعی و امنیت سایبری استاندارد می‌کند. زک کورمان، یکی از بنیانگذاران استارت آپ امنیت سایبری Embroidery و منتقد سرسخت ایمنی هوش مصنوعی، می گوید، اما این به اختلافات بزرگتر بین دو گروه نمی پردازد. او می‌گوید: «هر دوی ما معتقدیم که پیام‌های گروه دیگر منجر به آسیب جدی خواهد شد.

با افزایش مخاطرات، رقابت بر سر اینکه چه کسی می‌تواند تصمیم بگیرد واقعا به چه معناست ایمن کردن هوش مصنوعی افزایش می‌یابد. در 15 اکتبر، Anthropic اعلام کرد که به METR - سازمانی که عمیقا در جامعه ایمنی هوش مصنوعی تعبیه شده است - دسترسی دائمی مانند کارمندان برای ارزیابی عملکردهای ایمنی شرکت می دهد. ایلان ماسک پاسخ داد و گفت که SpaceXSI "احتمالا" همین کار را خواهد کرد. چه کسی این دسترسی را دریافت می‌کند می‌تواند راه‌حل‌هایی را که اولویت‌بندی می‌شوند شکل دهد – و آنچه مردم در مورد نقض‌های آینده می‌دانند.

جامعه ایمنی هوش مصنوعی شامل شبکه‌ای از سازمان‌ها و محققان است که بسیاری از آنها تیم‌های ایمنی در شرکت‌هایی از جمله OpenAI و Anthropic را کار می‌کنند. در خانه‌های گروه برکلی و در کنفرانس‌های مؤثر نوع‌دوستی، آنها بیش از یک دهه را صرف بحث در مورد احتمال تصاحب هوش مصنوعی فوق‌هوشمند کرده‌اند. برخی از اعضا با جدیت و با عظمت، مشاغل، روابط و ترتیبات زندگی خود را بر اساس این اعتقاد که دارند با یکی از مبرم ترین مشکلات بشریت مقابله می کنند، سازماندهی کرده اند.

امنیت سایبری قدیمی‌تر و پراکنده‌تر، با فرهنگ بدبینی، عمل‌گرایی و طنز تاریک متحد شده است. ریشه های آن تا حدی در فرهنگ هکرها نهفته است: قلع و قمع کنندگان راه هایی برای شکستن نرم افزار پیدا می کنند. تماشای شکست سیستم‌های ظاهرا ایمن باعث بی‌احترامی بسیاری نسبت به اقتدار و بی‌شکیبایی نسبت به نظریه‌های بزرگ شده است. برای سال‌ها، این دو گروه ارتباط کمی با یکدیگر داشتند. حادثه «صورت در آغوش گرفتن» آن را تغییر داد.

از نظر آنها، فرار ناتوانی در برنامه ریزی برای نقض را آشکار کرد. عوامل OpenAI در طول فرار خود از یک آسیب پذیری روز صفر سوء استفاده کردند. اما کارشناسان امنیت سایبری طوری آموزش دیده اند که فرض کنند هر لایه ای ممکن است شکست بخورد. بهترین شیوه های امنیتی نیاز به لایه های چندگانه دارد که به عنوان "دفاع در عمق" شناخته می شود. OpenAI قبلا یک لایه اضافی ساخته بود: مانیتورها - AIهایی که بر هوش مصنوعی نظارت می کنند. اما، همانطور که دانشمند ارشد OpenAI بعدا به TIME گفت، به دلیل ارزیابی هایی که منجر به رخنه Hugging Face شد، شرکت لایه نظارتی را روشن نکرده بود. کورمان درباره اقدامات امنیتی OpenAI می گوید: «آنها کار وحشتناکی انجام دادند.

سه کارمند OpenAI می گویند که به شرکت در مورد مشکلات احتمالی هشدار داده اند. به گفته این شرکت، آنها بعدا به دلیل اشتراک گذاری اطلاعات حساس اخراج شدند.

جفری لدیش، مدیر اجرایی سازمان ایمنی هوش مصنوعی Palisade Research، نگران است که جامعه امنیت سایبری تصویر بزرگتر را از دست داده باشد. او استدلال می‌کند که حتی اگر ضعف‌های امنیتی امروز برطرف شود، هوش مصنوعی با توانایی فزاینده می‌تواند آسیب‌پذیری‌ها را چنان ظریف پیدا کند که انسان‌ها مجبور باشند برای شناسایی آن‌ها به سایر هوش مصنوعی‌ها تکیه کنند – سیستم‌هایی که ممکن است خودشان غیرقابل اعتماد باشند. از نظر Ladish، واکنش جامعه امنیت سایبری به Hugging Face مانند این است که دانشمندان دایناسورها را زنده می‌کنند، فرار آنها را تماشا می‌کنند، سپس با توصیه حصارهای بلندتر پاسخ می‌دهند.

امنیت هوش مصنوعی و امنیت سایبری در کنار تفاوت‌های فرهنگی خود، درک رقابتی از هوش مصنوعی دارند. برای بسیاری از افراد در ایمنی هوش مصنوعی، هوش مصنوعی شبیه یک ارگانیسم دیجیتال است. توانایی های آن از طریق آموزش به جای برنامه ریزی فردی ظاهر می شود. آنها معتقدند اگر این فرآیند هوش در سطح انسان تولید کند، می تواند شبیه ورود یک گونه بیگانه باشد. کارشناسان امنیت سایبری هوش مصنوعی را بیشتر شبیه نرم‌افزار می‌دانند و تردید دارند که مهار عوامل هوش مصنوعی حتی اگر بسیار توانمندتر شوند، غیرممکن شود.

کورمان می گوید: "آنها جادو نیستند، درست است؟ آنها هنوز هم باید قوانین خاصی از فیزیک را دنبال کنند." اما قوانین فیزیک مهار را تضمین نمی کند. نوام براون از OpenAI اخیرا پیشنهاد کرد حتی رایانه هایی که به طور فیزیکی از شبکه جدا شده اند نیز می توانند با ایجاد الگوهای گرمایی که مانند کد مورس عمل می کنند، ارتباط برقرار کنند.

تاکنون، شرکت‌های هوش مصنوعی به نگرانی‌های هر دو گروه پاسخ داده‌اند. پس از نقض، هر دو OpenAI و Anthropic به دنبال تقویت امنیت در حالی که به سرمایه گذاری در تحقیقات هم ترازی ادامه می دهند. اما این تلاش‌ها این سوال را باز می‌گذارند که چه کسی می‌تواند ارزیابی کند که آیا هر یک از روش‌ها کارآمد هستند یا خیر.

بسیاری از آنچه در مورد حادثه Hagging Face شناخته شده است، از تحقیقات Redwood Research و METR، دو سازمان وابسته به جامعه ایمنی هوش مصنوعی ناشی می شود. منتقدان استدلال می‌کنند که این روایت را منحرف کرده است، زیرا تحقیقات آنها بیشتر بر آنچه که هوش مصنوعی انجام می‌دهد متمرکز بود تا زیرساخت‌های امنیتی اطراف.

کریس پینتر، رئیس METR، می‌گوید که این سازمان تلاش می‌کند از جهان‌بینی‌های مختلف استخدام کند، اما در تلاش است تا افرادی را که نسبت به سناریوهای از دست دادن کنترل شک دارند، استخدام کند تا در برابر این خطرات محافظت کنند. پینتر در پاسخ به این سوال که آیا محققان METR که سال‌ها رفتار خطرناک هوش مصنوعی را پیش‌بینی می‌کردند، ممکن است شواهد جدید را به عنوان تأیید پیش‌بینی‌های خود تفسیر کنند، اذعان می‌کند که نگران این احتمال است.

پینتر می گوید، اما یافته های METR همیشه انتظارات محققان را برآورده نمی کند. در حالی که این سازمان شاید بیشتر به دلیل اندازه گیری رشد سریع هوش مصنوعی شناخته شده است، یک مطالعه نشان داد که دستیاران کدنویسی هوش مصنوعی سرعت مهندسین با تجربه را کاهش می دهند. او می‌گوید: «هدف ما آگاه کردن جهان است، نه متقاعد کردن آن در مورد چیز خاصی. او از درخواست ها برای طیف وسیع تری از ارزیاب های مستقل استقبال می کند.

بسیاری از محققان ایمنی هوش مصنوعی امیدوارند که همسویی بتواند حتی سیستم‌های بسیار توانمند را ایمن کند، اما می‌خواهند توسعه آن کند شود تا زمان کار برای جبران آن فراهم شود. کورمان شک دارد که مهار هوش مصنوعی غیرممکن شود. اما اگر چنین شود، او می گوید، توسعه باید متوقف شود، نه فقط کند شود. او می‌گوید هم‌ترازی به مفیدتر کردن سیستم‌های هوش مصنوعی کمک می‌کند، اما ایده تکیه بر آموزش یک سیستم برای جلوگیری از آسیب رساندن به افراد را رد می‌کند، در حالی که هیچ محافظ خارجی نمی‌تواند آن را متوقف کند. او می گوید: «این فوق العاده ناامن ترین چیزی است که می توانید تصور کنید.

با این حال، خود همسویی تا حدی به امنیت سایبری بستگی دارد. در طول آموزش، مدل‌ها یاد می‌گیرند که از کدام اقدامات موفق می‌شوند. اگر یک هوش مصنوعی بتواند از یک نقص امنیتی برای دریافت اعتبار برای تکمیل یک کار بدون انجام واقعی آن سوء استفاده کند، آموزش می تواند تمایل به تقلب را تقویت کند. بستن این حفره ها به جلوگیری از یادگیری تقلب توسط هوش مصنوعی در وهله اول کمک می کند. در همین حال، کورمان اذعان می‌کند که برخی از ابزارهایی که از تحقیقات ایمنی هوش مصنوعی به دست آمده‌اند - مانند نظارت بر زنجیره‌های فکری هوش مصنوعی - برای متخصصان امنیت سایبری استفاده می‌شوند.

بسیاری از شواهدی که ممکن است روزی اختلافات را حل کند، توسط شرکت هایی که هر دو طرف به دنبال بررسی دقیق هستند، کنترل می شود.

در تحقیقات METR، اقدامات امنیت سایبری خارج از محدوده ای بود که OpenAI با آن موافقت کرده بود. بدون هیچ الزام قانونی برای OpenAI برای به اشتراک گذاشتن اطلاعات، این غیرانتفاعی اهرم کمی برای فشار دادن به یک تحقیق گسترده تر داشت. پینتر قانونی می خواهد که استانداردهایی را برای محققان مستقل ایجاد کند. او می‌گوید: «جامعه نباید بخواهد به ما تکیه کند [...] که این فرآیند بداهه حدس زدن آنچه مردم می‌خواهند را انجام دهیم.»