خطرات هوش مصنوعی برای سیستم های مالی

این نسخه‌ای از آتلانتیک دیلی است، خبرنامه‌ای که شما را در بزرگ‌ترین داستان‌های روز راهنمایی می‌کند، به شما کمک می‌کند ایده‌های جدید را کشف کنید، و بهترین‌ها را در فرهنگ توصیه می‌کند. برای آن در اینجا ثبت نام کنید.

عوامل هوش مصنوعی امروزی به هکرهای استثنایی تبدیل شده‌اند و در حال حاضر تهدیدی برای برخی از مهم‌ترین زیرساخت‌های زندگی مدرن هستند: بانک‌ها.

هم در امور مالی و هم در فناوری، رهبران صنعت به خوبی از خطرات آگاه هستند و خود را برای مبارزه آماده می‌کنند. در اوایل سال جاری، زمانی که آنتروپیک برای عرضه یک مدل قدرتمند جدید به نام Mythos آماده می‌شد، این شرکت پیش‌نمایش اولیه هوش مصنوعی را در اختیار گروهی از شرکت‌ها قرار داد تا به آنها کمک کند تا دفاع خود را تقویت کنند. JPMorganChase در این لیست بود و طبق گزارش ها، با گسترش برنامه Anthropic، بانک های بیشتری اضافه شدند.

پس از عرضه، اسکات بسنت، وزیر خزانه داری و جروم پاول، رئیس وقت فدرال رزرو، با روسای بانک آمریکا، سیتی گروپ، گلدمن ساکس، و سایر مؤسسات مالی بزرگ دیدار کردند تا در مورد پیامدهای بالقوه مدل جدید صحبت کنند، مدلی که آنتروپیک ادعا کرد می تواند «به جز ماهرترین انسان ها در یافتن و بهره برداری از نرم افزارها از همه انسان ها پیشی بگیرد».

چیزی که عوامل هوش مصنوعی را از تهدیدات امنیت سایبری گذشته متمایز می کند این است که آنها با سرعت ماشین حرکت می کنند و می توانند به صورت گروهی احضار شوند. این ربات‌ها می‌توانند به صورت دسته جمعی حمله کنند و به دنبال شکاف در سیستم‌های بک‌اند شرکت‌ها باشند. دفتر کنترل ارز، که بر بسیاری از بانک های ایالات متحده نظارت دارد، در گزارشی به کنگره در تابستان امسال نوشت که هوش مصنوعی "سرعت، مقیاس و پیچیدگی حملات سایبری را که موسسات مالی را هدف قرار می دهد" افزایش داده است.

تحقیقات سال گذشته حاکی از آن است که احتمال مواجهه مالی با حملات سایبری مبتنی بر هوش مصنوعی بیشتر از سایر صنایع است، اما ما می‌توانیم این تهدیدات را در بخش فناوری مشاهده کنیم. شرکت‌های فناوری معمولا وصله‌های نرم‌افزاری هفتگی - به‌روزرسانی‌ها و رفع اشکال‌ها، اساسا - را در موردی که به عنوان Patch Tuesday شناخته می‌شود، ارسال می‌کنند. در عصر تهدیدات عامل، حجم آن به روز رسانی ها افزایش یافته است. مایکروسافت در اوایل این ماه نزدیک به 1000 مشکل را اصلاح کرد که یک رکورد بی سابقه است. این روند قبل از ورود Mythos در حال افزایش بود، اما، طبق J.P.

در تحلیل مورگان، پیشرفته‌ترین مدل‌ها به‌طور چشمگیری چشم‌انداز خطر سایبری را تغییر داده‌اند و منجر به «سونامی از تکه‌ها» شده است. خودی ها کلمه ای برای آن ساخته اند: "Patchmaggedon".

همچنین این خطر وجود دارد که شرکت های هوش مصنوعی کنترل عواملی را که به دنیا می فرستند از دست بدهند. در اوایل سال جاری، OpenAI فاش کرد که عوامل آن دستورالعمل‌ها را زیر پا گذاشته و سرورهای شرکتی به نام Hugging Face را هک کرده‌اند. آنها همچنین اطلاعات کارمندان را دزدیدند و برای مخفی کردن شواهد از مدیران انسانی خود توطئه کردند.

همانطور که همکارم جاش تیرانگیل اشاره کرد، این حادثه‌ای بود که «سرعت توسعه هوش مصنوعی را آشکار کرد، اما همچنین نظارت سهل‌انگیز بر انسان‌هایی که ظاهرا به آن توجه می‌کردند را نشان داد». OpenAI از آن زمان چندین نقص دیگر را فاش کرده است و موارد مشابه هک هوش مصنوعی در Google، Anthropic و Meta رخ داده است.

اگر عوامل هوش مصنوعی موفق به شناسایی نقاط ضعف اساسی در پایگاه کد بانک شوند، چه اتفاقی ممکن است بیفتد؟ گفتن با قطعیت سخت است. اما از آنجایی که بانک‌ها تقریبا همه جنبه‌های زندگی مدرن را تشکیل می‌دهند، قطع یا اختلال در سیستم‌های پشتیبان می‌تواند در تجارت دیجیتال موج بزند. اینکه برخی از خطرات مرتبط با هوش مصنوعی مرزی ذاتا ناشناخته هستند، می تواند آماده سازی را دشوار کند. شرکت‌هایی که این ابزارها را می‌سازند، تا زمانی که به طور کامل آموزش داده نشده باشد، همیشه میزان توانایی‌های یک مدل را درک نمی‌کنند - دانشمند ارشد OpenAI نوشته است که "هوش مصنوعی بیش از طراحی رشد کرده است."

علیرغم همه اینها، کارشناسان امنیت سایبری که با آنها صحبت کردم، روشن کردند که صنعت خدمات مالی در هراس نیست. این تا حدی به این دلیل است که از این عوامل و مدل‌های مرزی می‌توان برای جلوگیری از حملات سایبری نیز استفاده کرد. مهندسان امروزی می‌دانند که دفاع در برابر هوش ماشینی ممکن است به هوش ماشینی نیاز داشته باشد. شرکت ها در حال حاضر از این ابزارها برای کشف تقلب، مدیریت ریسک و موارد دیگر استفاده می کنند.

مایک سیلورمن، رئیس استراتژی و نوآوری در مرکز تجزیه و تحلیل و به اشتراک گذاری اطلاعات خدمات مالی، به من گفت که شرکت ها از هوش مصنوعی برای تقویت آنچه به عنوان تشخیص ناهنجاری شناخته می شود - سیستم های هشدار اولیه برای تهدیدات احتمالی - و همچنین انواع دیگر نظارت بر داده ها استفاده می کنند. یکی از مدیران امنیت سایبری در یکی از بزرگترین بانک های ایالات متحده به من گفت که مراکز عملیات امنیتی صنعت - مراکز دفاعی که به طور سنتی توسط انسان ها مدیریت می شود - در حال بررسی امکان توسعه عوامل خود هستند و مهندسان در سراسر بخش اکنون در حال طراحی سیستم هایی با A هستند.

من توانایی ها را در ذهن دارم

از آنجایی که بخش مالی مدت‌ها هدف کلاهبرداری، کلاهبرداری و نقض داده‌ها بوده است، در حال حاضر در حالت آماده‌باش قرار دارد. اما همه نهادها به یک اندازه توانایی مقابله با تهدیدات جدید را ندارند. برخی از بانک های کوچکتر ممکن است فاقد منابع و تخصص امنیتی شرکت های بزرگتر باشند. همانطور که مدل‌های هوش مصنوعی پیشرفت می‌کنند، این ابزارها ممکن است تفاوت بین آن‌هایی را که می‌توانند برای چیزی که در راه است آماده شوند، و کسانی که نمی‌توانند، آشکار کنند.

مرتبط: متئو وونگ می نویسد، فرض کنید هک خواهید شد.

دیپ فیک برای حساب بانکی شما می آید.

در اینجا سه داستان جدید از آتلانتیک آورده شده است: هواداران از ترامپ خواستند برای انتخابات میان دوره ای حکومت نظامی اعلام کند

تبادل نظر افشاگرانه بین دونالد ترامپ و کیتلان کالینز

تله عروسی دون جونیور

اخبار امروز مسعود پزشکیان، رئیس جمهور ایران، یک روز پس از تهدید پرزیدنت ترامپ به «نابودی» این کشور، در مجمع عمومی سازمان ملل گفت که ایران در جنگ با ایالات متحده تسلیم نخواهد شد. پزشکیان گفت که ایران به روی دیپلماسی برای پایان دادن به مناقشه باز است.

وزارت دادگستری از ممنوعیت ترامپ برای CNN، MS NOW و Politico در کاخ سفید دفاع کرد و استدلال کرد که گزارش این رسانه ها نگرانی های امنیت ملی را برانگیخته است. این سه سازمان خبری برای بازگرداندن دسترسی خود شکایت می کنند.

هاروی واینستین در سال 2006 به دلیل تجاوز جنسی به میریام هیلی دستیار سابق تولید Project Runway به 15 سال زندان محکوم شد. این حکم پرونده جنایی او در نیویورک را بسته است، اگرچه او هنوز به دلیل محکومیت جداگانه در کالیفرنیا با محکومیت مجدد روبرو است.

اعزام ها

سیاره هفتگی: آیا می توان غول های انرژی را مسئول آب و هوای شدید دانست؟ راس اندرسن در مورد تهدید وجودی صنعت نفت گزارش می دهد.

همه خبرنامه های ما را در اینجا کاوش کنید. عصر بخوانید پل برسباخ / ثبت نام شهرستان اورنج / گتی چرا پسر سیاهم را به مدرسه خصوصی می فرستم

نوشته جنیشا واتس

از زمانی که حتی قبل از اینکه بتواند صحبت کند، نگران این بودم که پسرم را کجا به مدرسه بفرستم. من می‌دانم که داشتن یک انتخاب به هیچ وجه نشانه‌ی موقعیت است: من بخشی از گروهی از والدین هستم که پول، زمان و تحصیلات کافی برای تصمیم‌گیری بهترین‌ها برای فرزندانمان دارند. و این واقعیت که من می توانم انتخاب کنم به این معنی است که می توانم انتخاب اشتباهی انجام دهم. بنابراین هر زمان که با یک والدین سیاه‌پوست تحصیل‌کرده ملاقات می‌کنم، ناگزیر از آنها در مورد مدرسه راهنمایی می‌خواهم. به یاد دارم که یک نفر پاسخ داد: "ما از رویکرد نیکول هانا جونز استفاده کردیم."

من دقیقا می دانستم منظور او چیست. یک دهه پیش، من داستان جلدی را که نیکول برای مجله نیویورک تایم نوشته بود خواندم درباره تلاش او و همسرش برای تصمیم گیری دخترشان، ناجیا، به مدرسه. آنها در نهایت او را در یک "مدرسه با فقر بالا و تمام سیاهپوستان" قرار دادند زیرا معتقد بودند که خانواده های طبقه متوسط ​​در قبال چنین مؤسسات نادیده گرفته شده ای مسئولیت دارند ...

من همیشه نوشته‌های نیکوله را تحسین کرده‌ام، و در طول سال‌ها، او به یک دوست و معتمد تبدیل شده است. اگرچه بسیاری در اینترنت نیکوله را متهم کرده اند که دخترش را برای آرمان هایش قربانی کرده است، به نظر من او شجاع است. با این حال، وقتی پسرم به سن مدرسه نزدیک می شود، متوجه می شوم که هرگز نمی توانم انتخابی را که او انجام داد، انجام دهم.

مقاله کامل را بخوانید. بیشتر از آتلانتیک الکساندرا پتری: چگونه با سوسیس گوزن شمالی بگوییم "تهاجم گرینلند را متوقف کنید".

خاورمیانه هنوز در راه است

ساخت دنیای قبل از جنگ

شی به آنچه می خواهد می رسد.

الکساندرا پتری: اوه، خوب، طاق ترامپ سلاح های درجه نظامی را ذخیره می کند.

پس از همه، دیوید الیسون کنترل CNN را در دست خواهد گرفت.

فرهنگ گسست تصویر توسط آلیسا گائو / اقیانوس اطلس بخوانید. داستین ایلینگ‌ورث شش عنوان را توصیه می‌کند که دیگر مد نیستند، اما اگر موفق به خواندن یکی شوید، ممکن است آن را دوست داشته باشید.

خاطره بسازید. دیانا ساورین می نویسد، آنی دیلارد، که هفته گذشته درگذشت، بسیاری از زندگی شخصی خود را با دقت خارج از محدوده داستان های غیرداستانی خود نگه داشت. او رازهای ماندگار آنچه را که دیلارد از Pilgrim در Tinker Creek رها کرده است را بررسی می کند.

جدول کلمات متقاطع روزانه ما را پخش کنید. رافائلا جینیچ در این خبرنامه مشارکت داشت.

وقتی کتابی را با استفاده از لینک موجود در این خبرنامه خریداری می کنید، کمیسیون دریافت می کنیم. از شما برای حمایت از آتلانتیک سپاسگزاریم.