بانکداران در حال تقویت دفاع خود در برابر عوامل سرکش هوش مصنوعی هستند

مدیران بزرگ بانک‌ها نگران خطرات ناشی از هوش مصنوعی برای سیستم‌های خود هستند. کریس هندروس/ گتی ایماژ بانک های بزرگ این هفته درآمد خود را گزارش کردند و مدیران یک نگرانی بزرگ را مورد توجه قرار دادند.

آنها سیستم های خود را در برابر عوامل سرکش هوش مصنوعی که ممکن است تلاش کنند آنها را هک کنند، سخت می کنند.

همانطور که مدل های مرزی به طور فزاینده ای توانمند می شوند، امنیت سایبری هوش مصنوعی در ذهن کسب و کارها قرار دارد. «هفته درآمدهای بانک های بزرگ بود و وال استریت تهدید جدیدی در ذهن خود داشت: هوش مصنوعی سرکش.

مدیران بزرگ‌ترین مؤسسات مالی کشور از تماس‌های درآمدی خود استفاده کردند تا به سرمایه‌گذاران اطمینان دهند که تمام تلاش خود را برای دفع حملات مدل‌های هوش مصنوعی قدرتمند و سرکش انجام می‌دهند.

برخی در مورد اقداماتی که انجام می‌دادند، مشخص بودند، مانند مدیر عامل بانک آمریکا، برایان موینیهان.

موینیهان طی تماسی با درآمد روز چهارشنبه و مصاحبه با CNBC گفت که این بانک پس از انتشار مدل‌های قدرتمند هوش مصنوعی مانند Anthropic's Mythos، برای تقویت آسیب‌پذیری‌های پایگاه‌های کد خود عجله کرده است.

این شرکت 1000 مشاور خارجی را برای رفع این مشکلات در سه ماهه گذشته استخدام کرد و کار آنها همچنان ادامه دارد.

مدیر عامل سیتی گروپ، جین فریزر، احساسات مشابهی را در مورد ایمنی هوش مصنوعی در جریان تماس سود سه ماهه سوم این شرکت در روز سه شنبه به اشتراک گذاشت.

او گفت: "ما منتظر وقوع خطرات نیستیم" و افزود: "ما سیستم های خود را سخت تر کرده ایم و سناریوهای چالش برانگیز و مخرب را برای تست استرس دفاعی و پاسخ های خود اجرا می کنیم."

بعدا در این تماس، او گفت که سیتی گروپ به "سرمایه گذاری در قابلیت های پیشرو" برای تقویت دفاع سایبری خود ادامه می دهد.

مدیر عامل مورگان استنلی، تد پیک، در تماسی چهارشنبه گفت که این شرکت "هر آنچه را که لازم باشد" برای محافظت از دارایی های مشتریان خود سرمایه گذاری می کند، زیرا "شما نمی توانید در خارج از گاراژ خود با هوش مصنوعی درگیر شوید."

دیوید سولومون، مدیرعامل گلدمن ساکس، گفت که این بانک نگرانی‌هایی در مورد «پیشرفت بی‌نظیر مدل‌های مرزی» می‌بیند و هوش مصنوعی در کنار فرصت‌ها، خطرات قابل توجهی را نیز به همراه دارد.

سولومون در تماس سه‌شنبه‌ای افزود: «ما باید نوآوری را فعال کنیم و همچنین مسئولیت بخواهیم».

و در نهایت، جیمی دیمون، مدیرعامل جی‌پی مورگان، در تماسی روز سه‌شنبه گفت که اجازه نمی‌دهد "فقط هیچ عامل خارجی به داخل شرکت بیاید، زیرا این برای مشتریان و جی‌پی مورگان بسیار خطرناک است."

عوامل سرکش هوش مصنوعی در ذهن خود هستند

نظرات مدیران مالی در حالی بیان می شود که عوامل سرکش هوش مصنوعی توسط آزمایشگاه هایی مانند OpenAI، Anthropic، Google و Meta که قادر به سوء استفاده از آسیب پذیری های نرم افزار هستند، نرم افزار و وب سایت چندین سازمان را در ماه های اخیر هک کرده اند.

یکی از اولین موارد این اتفاق در ماه جولای رخ داد، زمانی که یک عامل OpenAI در طی یک آزمایش امنیت سایبری به سیستم‌های داخلی شرکت هوش مصنوعی Hugging Face هک کرد.

اخیرا، عوامل آن وب‌سایت دولتی استرالیا را هک کردند و باعث شد، نخست‌وزیر آنتونی آلبانیز، «نگرانی شدید» استرالیا را درباره این حادثه به سم آلتمن، مدیر عامل OpenAI بیان کند.

خود کارکنان هوش مصنوعی به طور فزاینده ای نگران سرعت توسعه هوش مصنوعی و خطرات ناشی از آن شده اند. در ماه سپتامبر، محقق Anthropic، Jacob Coxon، علنا استعفا داد و گفت که Anthropic و OpenAI «با جان‌ها قمار می‌کنند» و بسیاری از کارمندان دیگر در آزمایشگاه‌های مرزی را بر آن داشت تا با نگرانی‌های مشابهی حضور پیدا کنند.

اندکی پس از آن، روسای شرکت‌های هوش مصنوعی، مانند آلتمن، داریو آمودی، و ایلان ماسک، مدیرعامل SpaceXAI، همگی با اشاره به کند کردن توسعه هوش مصنوعی و اضافه کردن کنترل‌ها و تعادل‌های ایمنی، با «پیش‌رفت از مرزها» موافقت کردند.

مقاله اصلی را در Business Insider بخوانید