عوامل هوش مصنوعی «سرکش نمی کنند». آزمایشگاه های مرزی اصول اولیه امنیتی را نادیده می گیرند

از ماه جولای، آزمایشگاه‌های هوش مصنوعی مرزی ایالات متحده و سایر رهبران هوش مصنوعی مجموعه‌ای از حوادث را فاش کرده‌اند که در آن مدل‌های آن‌ها بدون مجوز به سیستم‌های کامپیوتری خارجی دسترسی پیدا کرده‌اند، رویدادهایی که عموما به عنوان عوامل هوش مصنوعی «سرکش» توصیف می‌شوند.

شناخته شده ترین و مورد مطالعه این حوادث، هک OpenAI به Hugging Face است، که OpenAI در ابتدا آن را به عنوان "حادثه سایبری بی سابقه، شامل قابلیت های سایبری پیشرفته" توصیف کرد و بعدا گفت که به دلیل "رفتار نامناسب" یا رفتاری است که سازندگان آن قصد نداشتند.

پس از انتشار اخبار مربوط به حادثه Hagging Face، آنتروپیک فاش کرد که یکی از مدل‌های آن به زیرساخت‌های تولید سه سازمان دسترسی غیرمجاز پیدا کرده است. متا گفت که یکی از مدل های هوش مصنوعی آن شرکت دیگری را در طول آزمایش امنیت سایبری هک کرده است. و گوگل اعتراف کرد که مدل جمینی آن سه "هک کامپیوتر بدون جهت" انجام داده است.

اگرچه گزارش های مطبوعاتی و خود ارائه دهندگان مدل از زبان هایی مانند عوامل سرکش یا ناهماهنگی استفاده می کنند، کارشناسان امنیت سایبری که با CSO صحبت می کردند استدلال می کنند که زبان یک حقیقت ساده را پنهان می کند: این حوادث ناشی از شکست غیرقابل توجیه آزمایشگاه های مرزی در اجرای اقدامات امنیت سایبری است که برای دهه ها مشهور بوده است.

[همچنین ببینید: ایمن سازی عوامل هوش مصنوعی: کنترل های کلیدی و بهترین شیوه ها و وقتی عامل هوش مصنوعی شما سرکش می شود چه کسی پاسخگو است؟ ]

به گفته 12 نفر از کارشناسان امنیت سایبری CSO که در سه کنفرانس صنعتی در ماه سپتامبر و در گفتگوهای بعدی با آنها مصاحبه شد، این مشکل این است که آزمایشگاه‌های مرزی، به‌ویژه OpenAI و Anthropic، توصیه‌های آنها را در مورد چگونگی بهبود شیوه‌های مدیریت ریسک امنیت سایبری خود برای جلوگیری از این نوع هک‌های مخفیانه که اغلب بر این باورند که تحت هک‌های AI مخفیانه هستند را رد کرده‌اند. تخصص برتر

گری مک‌گرو، یکی از بنیان‌گذاران موسسه یادگیری ماشین بریویل، به CSO می‌گوید: «انصافا آن‌قدر که فکر می‌کنند خوب نیستند. بهتر است آنها به تخصص هایی که به سختی از افراد در انواع زیرمجموعه های امنیتی مانند پزشکی قانونی یا مهندسی امنیتی، ساخت جعبه های ماسه ای، راه اندازی یا نظارت بر موقعیت های امنیتی شبکه به دست می آید، احترام بیشتری قائل شوند.

نه Anthropic و نه OpenAI به درخواست‌های CSO برای اظهار نظر پاسخ ندادند.

شکست‌های غیرقابل توجیه در مبانی امنیت سایبری، به ویژه مهار

طبق گفته متخصصان امنیت سایبری CSO که با آنها صحبت شده است، یکی از بزرگترین شکست‌های امنیت سایبری توسط آزمایشگاه‌های هوش مصنوعی مرزی، عدم اجرای روش‌های کنترل آزموده‌شده و واقعی است که به دهه 1990 بازمی‌گردد، مانند راه‌اندازی جعبه‌های شنی ایمن که به طور مؤثری عوامل را از فرار از محیط‌های آزمایشی خود باز می‌دارد.

راب تی لی، افسر ارشد هوش مصنوعی و رئیس تحقیقات موسسه SANS، به CSO می گوید: "اینها چیزهایی هستند که ما سال ها با آنها سر و کار داشتیم." "هیچ دلیلی وجود ندارد که هر بار این اتفاق می افتد، "اوه، ما نمی دانیم آنها چگونه بیرون آمدند."

لی می‌گوید: «می‌توانید بگویید که تیم‌های امنیتی آن‌ها نسبتا نوپا هستند. "مردم در سمت مهار امنیت سایبری استدلال می کنند که اکثر دلایلی که ما شاهد نقض محدودیت ها هستیم این است که به درستی تنظیم نشده است."

لی می افزاید: "حادثه "Huging Face" به طور قطع نشان داد که این حقیقت این نیست که ماموران فوق العاده باهوش بودند، بلکه به معنای واقعی کلمه یک حفره وجود داشت که مورد سوء استفاده قرار گرفت زیرا به درستی در سمت مهار پیکربندی نشده بود."

دن والاک، کارشناس متخصص در مرکز هوش مصنوعی، امنیت و فناوری RAND، فکر می‌کند که شکست‌های امنیتی آزمایشگاه‌های هوش مصنوعی به این واقعیت خلاصه می‌شود که آنها امنیت سایبری را در اولویت قرار نمی‌دهند.

او به CSO می گوید: «من می گویم که آنها امنیت سایبری را در اولویت قرار نمی دهند. والاک می‌گوید: «فکر نمی‌کنم بتوانم چنین چیزی را برای همه آزمایشگاه‌ها بگویم.» با اشاره به راه‌اندازی مدل Large 4 AI توسط آزمایشگاه هوش مصنوعی فرانسوی Mistral، که شرکت گفت سعی کرد قبل از اینکه Mistral آن را قطع کند، فراتر از محیط آزمایشی خود عمل کند.

و او می‌افزاید: "منزوی کردن یکی از این موارد هوش مصنوعی علم موشک نیست. افراد امنیتی در مورد نحوه انجام شکاف هوا صحبت می‌کنند، بنابراین به معنای واقعی کلمه هیچ راه الکتریکی برای انتقال داده‌ها از اینجا به اینجا وجود ندارد، یا در غیاب آن، کنترل خروج واقعا قوی برای اطمینان از اینکه هیچ چیز از بین نمی‌رود، وجود ندارد."

علاوه بر این، به نظر می‌رسد آزمایشگاه‌های مرزی نظارت کافی بر رفتار عوامل خود انجام نمی‌دهند. والاک می‌گوید حادثه «صورت در آغوش‌کش» ​​«روزها ادامه داشت و هیچ‌کس متوجه آن نشد». "مردم این آزمایش ها را شروع کردند و آنها را تماشا نکردند. این فقدان کنترل است. و سپس از اتفاقی که افتاده شگفت زده می شوند."

جدایی ایمنی از امنیت

یکی از موانعی که برای متقاعد کردن آزمایشگاه‌های مرزی برای ارتقای بازی امنیتی خود وجود دارد، تمرکز شدیدی است که آن‌ها بر آنچه که «ایمنی» می‌نامند، دارند، که به شیوه‌های سنتی امنیت سایبری تعمیم نمی‌دهند.

والاک از RAND می گوید: «من می توانم ببینم که چگونه رفتار امنیتی شبیه ایمنی هوش مصنوعی است. اما اگر روشی که شما این ابزار هوش مصنوعی را ارزیابی می‌کنید، راه‌اندازی آن در اینترنت و دیدن آنچه اتفاق می‌افتد است، ابزار امنیتی کلاسیک برای این کار است.»

لی از موسسه SANS می‌گوید: «اگر این آزمایشگاه‌های مرزی واقعا می‌خواهند چیزهای خود را آزمایش کنند، باید مؤلفه امنیت سایبری خود را تقویت کنند. اما واکنش جدی آنها در پاسخ به خروج عوامل خود این است که می‌گویند: «این یک مشکل امنیت سایبری نیست.» به معنای واقعی کلمه به یک مشکل ایمنی هوش مصنوعی تبدیل شده است که از جنبه امنیت سایبری جدا شده است.»

بسیاری از کارشناسان هوش مصنوعی پیشنهاد می‌کنند که اگر شرکت‌های هوش مصنوعی از توصیه‌های متخصصان امنیت سایبری استقبال کنند، می‌تواند به پایان دادن به نوع رفتار نامحدود عامل هوش مصنوعی که باعث نگرانی‌ها می‌شود، کمک کند. لی می گوید: «ایمنی هوش مصنوعی بر قوانین جاده تمرکز دارد. "همه چیز در مورد قوانین گاردریل است."

اما او می گوید: «من معتقدم که امنیت سایبری می تواند حاوی هوش مصنوعی باشد. ما فقط باید در اتاقی باشیم که در آن اتفاق می افتد و روی میز بنشینیم. برای حوزه ما مهم است که تا حد امکان به افراد ایمنی هوش مصنوعی نزدیک باشد."

امنیت سایبری بد می تواند مسئولیت را افزایش دهد

اگر آزمایشگاه‌های مرزی اصول امنیت سایبری را نادیده می‌گیرند که می‌تواند انواع حوادثی را که نگرانی‌های گسترده‌ای ایجاد کرده‌اند را کاهش داده یا حذف کند، این موضوع باعث می‌شود که آنها باید در قبال عوامل "سرکش" خود مسئول شناخته شوند. صنعت بیمه در حال حاضر در سمتی قرار گرفته است که مدیران صنعت هوش مصنوعی را مسئول این اقدامات می داند.

سناتورهای دموکرات قانونی را معرفی کرده اند که اپراتورهای عامل هوش مصنوعی را مسئول حوادث هک می کند. حتی کاخ سفید دوستدار هوش مصنوعی نیز ظاهرا به این نتیجه رسیده است که شرکت‌ها باید در قبال عوامل خاطی خود مسئول شناخته شوند، در حالی که کمیسیون تجارت فدرال ایالات متحده در حال انجام تحقیقاتی در مورد آزمایشگاه‌های Anthropic، OpenAI و سایر آزمایشگاه‌های هوش مصنوعی در مورد خطراتی است که فناوری‌های آن‌ها برای مصرف‌کنندگان ایجاد می‌کند.

با این حال، در جلسات اخیر قانون‌گذاری و شورا، نمایندگان آزمایشگاه‌ها به این ایده پایبند بودند که مسئولیتی در قبال عوامل هوش مصنوعی ندارند.

کارشناسان می گویند این موقعیت غیرقابل دفاع است، به ویژه با توجه به شکست های امنیت سایبری آزمایشگاه ها.

McGraw از BIML موقعیت آزمایشگاه ها را چنین توصیف می کند: "وکلا را برای ما نفرستید، آن را به برنامه ما بفرستید. این تقصیر برنامه ما است." ارزیابی او از این استدلال: "این فقط BS بالاست."

او همچنین این سوال را مطرح می‌کند که آیا شکست‌های عملیاتی آزمایشگاه‌ها اعتماد به قابلیت‌های امنیتی گسترده‌تر آنها را تضعیف می‌کند یا خیر. او می گوید: «آنها درون حباب خودشان زندگی می کنند. "این واقعیت که آنها نمی توانند عملیات روشن و آسان را به درستی انجام دهند، برای توانایی های آنها در مهندسی امنیت، که انجام آن بسیار سخت تر است، خوب نیست."

SANS Lee می‌گوید: «این جایی است که قابلیت ردیابی هم برای مسئولیت و هم بیمه مطرح می‌شود، زیرا اگر یکی از این عوامل شناسایی شود، و بتوانند آن را به فردی که آن را آغاز کرده است، ردیابی کنند، مسئولیت شروع می‌شود و می‌گوید: «هی، تو، تو قانون را زیر پا گذاشتی، بنابراین، ما باید پیگرد قانونی کنیم.»

آنچه که اکنون رهبران امنیتی باید انجام دهند

حتی با وجود شواهدی که نشان می‌دهد آزمایشگاه‌های مرزی شیوه‌های صحیح امنیت سایبری را اجرا نمی‌کنند و بحث در مورد مسئولیت حل نشده باقی مانده است، CISO و سایر رهبران امنیتی می‌توانند اقداماتی را برای محافظت از خود در برابر خطاهای مدل هوش مصنوعی انجام دهند.

اول، وقتی نوبت به ارزیابی ابزارها بر اساس مدل‌های آزمایشگاهی مرزی می‌رسد، مک‌گرو می‌گوید: «من همیشه یک نهاد خارجی برای کمک به آن می‌گیرم. هوش مصنوعی فوق‌العاده قدرتمند و بسیار مفید است، اما خطرات بزرگ‌سالی بسیار جدی را به همراه دارد که بر شرکت تأثیر می‌گذارد. این خطرات را شناسایی کنید، کنترل‌های درست را اعمال کنید، مطمئن شوید که پذیرش هوش مصنوعی فقط خودسرانه و خواسته یا ناخواسته و در سرتاسر شرکت نیست، بلکه دارای یک مرجع متمرکز است که به مشکل نگاه می‌کند و سپس برای چیز بزرگ بعدی آماده شوید.

برای لی، بهترین محافظت، پرسیدن سؤالات درست است. او می‌گوید: «این کار با پرسیدن سؤالات درست و سپس یافتن ابزارها و قابلیت‌های آن [آزمایشگاه‌های هوش مصنوعی] که قادر به نشان دادن سطح بالاتری از صلاحیت امنیت سایبری هستند، شروع می‌شود». "شما واقعا به دنبال افرادی در تیم هایی هستید که با مشکلات بسیار سختی دست و پنجه نرم می کنند."

اما اساسا، بهترین آمادگی برای مقابله با ضعف‌های سایبری مدل هوش مصنوعی این است که مطمئن شویم تمام شیوه‌های مدیریت ریسک امنیت سایبری طولانی مدت در سراسر سازمان وجود دارد. والاک می‌گوید: «این کمترین هیجان‌انگیزترین بخش بحث است. "این نسخه سایبری "سبزیجات خود را بخور" است.

او می افزاید: «ما باید نرم افزار خود را دوباره مهندسی کنیم تا امنیت بهتری داشته باشد. ما باید در همه حساب‌های خود احراز هویت چند عاملی داشته باشیم. ما باید سبزیجات خود را از منظر دفاعی سایبری بخوریم. و می‌دانیم چگونه این کار را انجام دهیم.

همچنین ببینید: