وال استریت برای "روز بعد" هوش مصنوعی آماده می شود

بزرگترین بانک های آمریکا برای جلوگیری از بدترین سناریوهای هوش مصنوعی تلاش می کنند. اما آکسیوس آموخته است که آنها برای «روز بعد» یک فاجعه نیز آماده می شوند.

چرا مهم است: موسسات مالی آمریکا در برنامه ریزی سناریو برای فاجعه به بزرگترین شرکت های هوش مصنوعی پیوسته اند، سیگنالی محتاطانه اما نگران کننده در مورد میزان خطری که شرکت های بزرگ در افق می بینند. وضعیت بازی: بانک‌ها فعالیت‌های عامل هوش مصنوعی بررسی نشده را تجربه می‌کنند، که عمدتا توسط مشتریانی هدایت می‌شود که اعتبار ورود به سیستم را به نمایندگان ارائه می‌دهند، که در برخی موارد به نظر می‌رسد اقداماتی مستقل از درخواست‌های کاربر انجام داده‌اند.

این فعالیت متمایز از رفتار سرکشی است که در حمله تابستانی به استارت آپی به نام Hugging Face، جایی که یک عامل هوش مصنوعی یک پلتفرم را در قسمتی هک کرد که یک بحران امنیتی صنعت را آغاز کرد، متفاوت است.

در عوض، بانک‌ها از اثرات و ریسک‌های موجی ناشی از اینکه کاربران به نمایندگان اجازه ورود به حساب‌هایشان را می‌دهند و اقدامی انجام می‌دهند، می‌ترسند، به‌ویژه که نمایندگان می‌توانند اقداماتی را انجام دهند که کاربران تحریم نکرده‌اند.

نگرانی ها در مورد سیستم های هوش مصنوعی مرزی، نه عوامل هوش مصنوعی، بانک ها را به سرمایه گذاری در پیشگیری و برنامه ریزی برای بدترین شرایط سوق داده است. بزرگنمایی: گزارش Axios در بحبوحه نگرانی های فزاینده درباره بحران رو به رشد امنیت سایبری منتشر شد. مدیر عامل Salesforce، مارک بنیوف، "کد قرمز" را در X پست کرد، به نقل از یک کارمند امنیتی Anthropic که گفت: "هرچقدر اوضاع در 4 روز گذشته بدتر شده باشد، قبل از اینکه بهتر شوند، خیلی بدتر خواهند شد."

کارمند Anthropic به محققان امنیتی اشاره داشت که آسیب‌پذیری‌های عمده‌ای را در یک زبان برنامه‌نویسی مورد استفاده برای اجرای میلیون‌ها وب‌سایت پیدا کرده‌اند که یکی از مهم‌ترین اکتشافات امنیت سایبری است که تاکنون با هوش مصنوعی انجام شده است.

گزارش Axios در مورد بانک‌ها، که به هوش مصنوعی عامل اشاره می‌کرد، نه سیستم‌های هوش مصنوعی مرزی، باعث درخواست‌هایی برای تنظیم مقررات از سراسر طیف سیاسی، از جمله سناتور برنی سندرز، فرماندار فلوریدا، ران دیسانتیس و سناتور مارک وارنر شد.

دیوید ساکس، پادشاه سابق هوش مصنوعی کاخ سفید، گفت: بانک‌ها باید از عوامل هدایت‌شده توسط کاربر پشتیبانی کنند که به کاربران امکان «اعطا، محدود کردن و لغو دسترسی» را می‌دهند و فقط خواندن به عنوان یک «گام موقت» است.

ساکس گفت ادغام "رفتار عامل مجاز توسط کاربر و حملات سایبری غیرمسئولانه است." فلاش بک: بانک های بزرگ بخشی از آزمایش های اولیه Anthropic's Mythos، توانمندترین مدل های سایبری آزمایشگاه هوش مصنوعی بودند. این بخشی از تلاش آزمایشگاه‌های هوش مصنوعی و بانک‌های بزرگ برای استفاده از این فناوری برای درک بهتر و آمادگی برای حملات سایبری یا سایر خطرات بود.

از آن زمان، بانک‌ها بر روی طرح‌هایی کار کرده‌اند که نه تنها از مسائل مربوط به هوش مصنوعی جلوگیری کنند، بلکه چگونه از حساب‌ها محافظت کنند، به مشتریان اطمینان دهند و در صورت وقوع حمله‌ای در مقیاس بزرگ، عملیات را ادامه دهند. بررسی واقعیت: این فقط استاندارد نیست، بلکه برای صنایع مهمی که باید به دولت، سهامداران و مشتریان پاسخ دهند، ضروری است. برنامه ریزی سناریو یک الزام برای ارائه دهندگان زیرساخت های حیاتی، از جمله در بخش مالی است. پرهیز از آن سوء رفتار خواهد بود.

سناریوهای پرخطر شامل ترس است: جیمی دیمون، مدیر عامل JPMorgan در اوایل این ماه در شیکاگو درباره احتمال حملات سایبری یا احتمال اینکه عوامل هوش مصنوعی اقداماتی را انجام دهند که کاربران آن را تایید نمی‌کنند، هشدار داد.

دیمون گفت: "شما فرض می کنید که آنها از طرف شما به درستی عمل خواهند کرد و ممکن است نکنند." او گفت که تنها پاسخ، هوشیاری است و هشدار داد که توقف هوش مصنوعی ممکن نخواهد بود. شما نمی توانید جلوی آن را بگیرید.

یکی از اقتصاددانان ماه گذشته امکان انتقال وجه نقد خانوار کاربران خود را به حساب‌های با بازدهی بالاتر توسط یک بانک توسط نمایندگان مطرح کرد. بین خطوط: بانک‌ها از مشتریان می‌خواهند که بدانند هیچ گونه فعالیت عامل یا شواهدی مبنی بر تأثیر هک بر وجوه یا حساب‌های مشتریان ندیده‌اند. بانک‌ها اکیدا به کاربران توصیه می‌کنند که رمز عبور خود را در اختیار نمایندگان قرار ندهند، به‌ویژه از آنجایی که سرویس‌هایی وجود دارند یا در حال توسعه هستند که به مشتریان امکان دسترسی فقط خواندنی را می‌دهند. استارت‌آپ Plaid یکی از این پلتفرم‌ها است که می‌تواند موجودی‌ها و تاریخچه تراکنش‌ها را در کنار سایر عملکردها جمع‌آوری کند.

یکی از سخنگویان JPMorgan به Axios گفت: "مشتریان تحت هیچ شرایطی نباید رمز عبور را با شخص یا چیزی به اشتراک بگذارند. پلتفرم‌های امن بانکداری باز وجود دارد که شامل تحویل دادن کلید به حساب شما نمی‌شود. مشتریان اولین خط دفاعی برای محافظت از حساب‌های خود هستند.»

JPMorgan اقداماتی را برای مسدود کردن دسترسی نماینده به همراه سایر بانک‌ها انجام داده است، اگرچه در حال بررسی راه‌های امن برای اجازه دادن به مشتریان برای ارتباط با خدماتی است که انتخاب می‌کنند. فتنه: شرکت های هوش مصنوعی پیش بینی واکنش های سیاسی را دارند. بانک ها در حال آماده شدن برای اختلالات احتمالی عملیاتی هستند. میزان برنامه ریزی فدرال برای بحرانی که هر دو را در بر می گیرد نامشخص است. نتیجه: سرعت پیشرفت هوش مصنوعی باعث می شود وال استریت و سیلیکون ولی برای بدترین سناریوها آماده شوند در حالی که واشنگتن در تلاش برای کاهش خطرات سایبری است و روی تعهدات داوطلبانه ایمنی حساب می کند.