بانک آمریکا پیمانکارانی را استخدام کرد تا از نرم افزار خود در برابر عوامل قدرتمند هوش مصنوعی محافظت کنند

بانک آمریکا پیمانکاران خارجی را برای محافظت از نرم افزار خود در برابر هوش مصنوعی قدرتمند استخدام کرد. اسکات اولسون/گتی ایماژ دومین بانک بزرگ ایالات متحده از خود در برابر مدل های قدرتمند هوش مصنوعی محافظت می کند.

بانک آمریکا 1000 مشاور را استخدام کرد تا شکاف‌های نرم‌افزاری خود را که می‌توانستند مورد سوء استفاده قرار گیرد، تقویت کند.

عوامل هوش مصنوعی که به طور فزاینده ای توانمند و سرکش هستند در ماه های اخیر به یک نگرانی بزرگ تبدیل شده اند. بانک آمریکا در حال تقویت دفاع خود در برابر مدل های قدرتمند هوش مصنوعی است.

برایان مونیهان، مدیر عامل شرکت در روز چهارشنبه در تماسی با تحلیلگران گفت که بانک 1000 کارمند اضافی - مشاوران خارجی - را برای چیزی که او آن را "بهسازی Mythos" نامید، استخدام کرده است.

او در مصاحبه ای با CNBC در روز چهارشنبه این موضوع را گسترش داد. او گفت که توسعه مدل‌های قدرتمند هوش مصنوعی، مانند Anthropic's Mythos، آسیب‌پذیری‌های نرم‌افزاری خاصی را در کد بانک آشکار کرده است که هم توسط کارکنان داخلی و هم توسط فروشندگان خارجی استفاده می‌شود.

Mythos، یک مدل هوش مصنوعی محدود که به دلیل توانایی‌اش در یافتن و بهره‌برداری از نقاط ضعف نرم‌افزاری شناخته می‌شود، طی سال گذشته به صورت مرحله‌ای و با نرده‌های محافظ عرضه شد. موینیهان به CNBC گفت که وقتی مدل‌های مرزی شروع به عرضه کردند، مدیران BofA نشستند و در مورد چگونگی تقویت سریع آسیب‌پذیری فکر کردند.

مونیهان به سی‌ان‌بی‌سی گفت: «ما 1000 پیمانکار را استخدام کردیم تا به ما در انجام کار وصله‌کاری در سه ماهه دوم کمک کنند، و این افراد امروز در اینجا هستند و به ما کمک می‌کنند، علاوه بر 3000 نفری که در آن منطقه داریم.»

این مقام اجرایی دقیقا نگفت که این ابتکار چقدر هزینه داشته است. با این حال، او در تماس با درآمد گفت که BofA برای رفع مشکلات نرم افزاری و رسیدگی به مسائل مربوط به انطباق با پولشویی که منجر به جریمه 1.2 میلیارد دلاری خزانه داری شد، «دو صد میلیون به علاوه» هزینه کرده است.

سرمایه گذاری BofA در افزایش امنیت نرم افزاری خود زمانی انجام می شود که مدل های هوش مصنوعی به طور فزاینده ای توانمند و مستقل می شوند. عوامل هوش مصنوعی توسط آزمایشگاه‌هایی مانند OpenAI، Anthropic، Google و Meta نرم‌افزار و وب‌سایت چندین سازمان از جمله شرکت هوش مصنوعی Hugging Face و وب‌سایت دولتی استرالیا را هک کرده‌اند. ماموران آنتروپیک حتی یک سرنخ قتل نادرست را به پلیس فیلادلفیا ارسال کردند.

جیمی دیمون، مدیرعامل جی‌پی مورگان چیس، قبلا علیه Mythos صحبت کرده بود و در اوایل این ماه به بلومبرگ گفت که خطرات امنیت سایبری پس از انتشار این مدل "10 برابر" افزایش یافته است.

او افزود: «هوش مصنوعی آسیب‌پذیری‌هایی ایجاد کرد که ما از آن‌ها خبر نداشتیم و همیشه قبل از این موارد نگران سایبری بودیم.

مقاله اصلی را در Business Insider بخوانید