عوامل هوش مصنوعی سازمان های دولتی را هک می کنند. برای امنیت سایبری "واقعا ترسناک" است

خبر فوری هفته گذشته مبنی بر اینکه ماموران OpenAI سرویس بهداشت عمومی استرالیا و سه آژانس دیگر را در حین انجام کاری که قرار بود یک تحقیق نسبتا پیش پا افتاده باشد هک کردند، آخرین نمونه از فرار هوش مصنوعی از کنترل انسان است.

روز جمعه، مشخص شد که نمایندگان همان شرکت - نام ابزارهای هوش مصنوعی مستقل‌تر آن که می‌توانند بدون آموزش مداوم کار کنند - با وب‌سایت‌های دولت ایالات متحده، از جمله وب‌سایت‌های وزارت آموزش و کمیسیون بورس و اوراق بهادار، تنظیم‌کننده بزرگ‌ترین بازارهای جهان، «دخالت» کردند.

Jonathan Ruane، مدرس ارشد و دانشمند پژوهشی در موسسه فناوری ماساچوست و متخصص هوش مصنوعی، می‌گوید: «این احساس یک لحظه به نظر می‌رسد، نه فقط به خاطر آن خبر، بلکه به دلیل پیشرفت‌های گسترده‌تر اخیر در توانایی‌های فناوری. هک قابل توجه Hugging Face در هاب برای خود توسعه دهندگان هوش مصنوعی وجود داشت که شامل عوامل OpenAI نیز می شد و آگاهی رو به رشد در بالاترین رده های سیاست و تجارت بزرگ در مورد سرعت حرکت همه اینها وجود داشت.

با این حال، روآن خط انقراض انسان را ترسیم می کند. «آنچه در این حوادث دیده‌ایم این است که این عوامل با یکدیگر همکاری می‌کنند، کارها را به صورت مستقل انجام می‌دهند و سیستم‌ها را هک می‌کنند.

اما مردم برای مدت طولانی نگران حفاظت از اطلاعات حساس و امنیت هستند. آنچه اکنون می‌بینیم مسلما مهم است، اما جهش بزرگی است که از آنجا به نگرانی در مورد آینده گونه‌هایمان برویم.»

"آیا فکر می‌کنم هوش مصنوعی می‌تواند نقش بزرگی در یک رویداد مهم امنیت سایبری ایفا کند؟ کاملا. و من فکر می‌کنم ما باید نگران این باشیم. من با افرادی که در مرز امنیت سایبری کار می‌کنند صحبت می‌کنم و این برای آنها مانند یک بازی ضربه زدن به خال روی استروئیدها شده است و هوش مصنوعی به طور فزاینده‌ای توسط هر دو طرف مورد استفاده قرار می‌گیرد. اما تهدیدی که برای انسان وجود دارد، وجود ندارد."

پروفسور شان ایگرتایگ، مدیر برنامه مسئولیت‌پذیری و آینده هوش مصنوعی در دانشگاه کمبریج، هفته گذشته در صحبت با پادکست The Irish Times In The News، به نظر نمی‌رسد که این احتمال را کاملا رد کند، و پرونده Hugging Face را توصیف کرد، زمانی که حدود 1200 مامور مستقل با هم کار کردند تا دستورات اصلی خود را بشکنند. سیستم های یک سازمان شخص ثالث و سپس ردیابی های آنها را به عنوان "واقعا ترسناک" پوشش می دهند. بیش از یک هفته طول کشید تا OpenAI حتی ببیند چه اتفاقی افتاده است.

افشاگران می گویند هوش مصنوعی می تواند همه ما را بکشد. در اینجا دلیل است

Ó hÉigeartaigh نرخ اخیر توسعه را «بسیار شگفت‌انگیز» و برخی از آن را «بسیار نگران‌کننده» توصیف می‌کند. او در پاسخ به این سوال که آیا هوش مصنوعی واقعا می‌تواند همه ما را بکشد، گفت که حداقل از جنبه عملی، تمایل ما به کنترل هر چه بیشتر وسایل و ماشین‌ها از طریق وب به این معنی است که "تنها کاری که باید انجام دهید این است که خلاقانه فکر کنید" که چگونه آنها حداقل می‌توانند این کار را انجام دهند.

"چند سال بعد آنها ممکن است حتی باهوش‌تر باشند و اگر از کنترل ما خارج شوند، ممکن است نتوانیم آنها را تحت کنترل خود در آوریم."

Aybars Tuncdogan در پاسخ به سوالی درباره رویدادهای استرالیا که در آن ماموران سیستم مدیکر این کشور و سه سازمان دیگر را در ماه ژوئن هک کردند، پیشنهاد می‌کند که این حادثه یک هشدار جدی است که قوانین قدیمی اعمال نمی‌شوند.

آیا هک وب سایت خدمات بهداشتی استرالیا ممکن است در ایرلند اتفاق بیفتد؟

او می‌گوید: «ما برای این پدیده بسیار کمتر آماده‌ایم زیرا با تفکر امنیتی سنتی در تضاد است.

تونکدوگان، دانشیار در کالج کینگز، مدرسه بازرگانی لندن، می‌گوید: «در همه زمینه‌های امنیتی - از سرقت از جواهرفروشی گرفته تا سناریوهای نظامی و اطلاعاتی گرفته تا امنیت سایبری - معمولا تناسبی بین پیچیدگی یک حمله هدفمند و ارزش دارایی وجود دارد.

"در این مورد، سیستم هوش مصنوعی برای یافتن یک آمار بهداشتی ساده، یک پورتال دولتی را زیر پا گذاشته است. این از دیدگاه سیستم معقول است، زیرا برای آن، ارضای هدفی که در نظر گرفته شده است، مهمترین چیز در جهان است. این سیستم ها می توانند آسیب پذیری ها را به سرعت کشف کرده و از آنها سوء استفاده کنند [و نتیجه این است] شما سیستم های هوش مصنوعی را دریافت می کنید که به یک سیستم دولتی ساده حمله می کنند تا اطلاعاتی را پیدا کنند."

"شما به شرکت ها یا دولت ها پاسخ نمی دهید": OpenAI خطاهای پنهان سیستم های هوش مصنوعی را آشکار می کند

او می‌گوید این پدیده قابل کنترل است، اما "فقط تا حدی محدود. همانطور که ما کار کردن با سایر نیروهای طبیعت را یاد گرفتیم، گام به گام به درک بیشتری از هوش مصنوعی خواهیم رسید، که اساسا یک پدیده ریاضی است.

برخی از حوادث تقریبا به‌عنوان بخشی از این فرآیند یادگیری و آزمایش اتفاق خواهند افتاد. امیدواریم از طریق کنترل‌های امنیتی مناسب، بتوانیم بدون هیچ رویداد فاجعه‌باری در راه به این درک برسیم.»

با این حال، بازیگران بد، جنایتکار یا دولتی را در معادله بنویسید، و برخی معتقدند پتانسیل اشتباه کردن چیزها به میزان قابل توجهی افزایش می یابد.

جوئل پیرسون، استاد علوم اعصاب و فوتوریسم عصبی و معاون مؤسسه هوش مصنوعی دانشگاه نیو ساوت ولز، به گاردین گفت که این نقض که توسط OpenAI کشف شد، شرکت می‌گوید، تنها دو ماه بعد و از طریق ایمیلی که یک ماه پس از آن به یک آدرس ایمیل دولتی در دسترس عموم فرستاده شد، به نظر می‌رسد که «یک اتفاق امنیتی نسبتا جزئی» باشد.

چیزی که من نگران آن هستم آخرین مدل‌های وزن باز و دسترسی آزاد [که به راحتی توسط اشخاص ثالث بدون مجوز پذیرفته می‌شوند و تطبیق داده می‌شوند] از چین است که قرار است در مقیاس توسط سازمان‌ها و کشورهای شرور، شاید به‌ویژه روسیه استفاده شود: این چیزها در مقیاسی برای انجام کارهایی بسیار آسیب‌رسان‌تر و بسیار پرهزینه‌تر برای استرالیایی‌ها به کار می‌روند.

پیرسون گفت که تعداد کمی از سازمان‌های تحت حمایت دولت در آنجا توانسته‌اند با سرعت توسعه ابزارها مطابقت داشته باشند.

اقتصاد گیگ با آخرالزمان هوش مصنوعی خود مواجه است

در ماه مه، Tuncdogan اشاره کرد که نسخه جدید مدل کلود زبان بزرگ Anthropic تقریبا 10 برابر آسیب‌پذیری‌های امنیتی در زیرساخت یک مرورگر وب معمولی را نسبت به نسخه قبلی خود پیدا کرده است.

در ایرلند، حمله سایبری اجرایی خدمات سلامت 2021 به ذهن خطور می کند. هزینه اولیه برای آژانس، یا دولت، کمی بیش از 100 میلیون یورو بود، اما به طور قابل توجهی بیشتر از آن برای تقویت امنیت سایبری سازمان هزینه شده است. اما آیا می تواند در برابر حمله جنایتکاران یا یک آژانس دولتی خارجی مجهز به آخرین فناوری مقاومت کند؟

Eimear Murphy، مدیر عامل REIM Solutions، که امنیت سایبری و سایر دوره‌های مرتبط را در مرکز آموزش ساخت پیشرفته در Dundalk ارائه می‌کند، می‌گوید که کارهای زیادی در اینجا انجام می‌شود تا اطمینان حاصل شود که این فناوری به همان اندازه برای اهداف دفاعی به‌طور مؤثر مورد استفاده قرار می‌گیرد که هر کسی ممکن است آن را برای حمله به یک سازمان دولتی یا شرکت تجاری مستقر کند.

مقررات و قوانین جدید مسئولیت مشخصی را بر دوش سازمان‌ها می‌گذارد تا به این روند ادامه دهند، اما در بسیاری از موارد، او می‌گوید: «بزرگ‌ترین چالش این است که اطمینان حاصل شود [وقتی] هوش مصنوعی وارد می‌کنند یا اجازه استفاده از آن را می‌دهند، به روشی محدود انجام می‌شود». او پیشنهاد می‌کند که کارمندان، قرار دادن اطلاعات حساس در حساب‌های شخصی در ChatGPT یا موارد مشابه همچنان یک نگرانی مهم است.

او می‌گوید، در کنفرانس سالانه سایبر ایرلند در این هفته، مشخص بود که مرکز امنیت سایبری ملی (NCSC)، سازمان‌های دولتی و نهادهای عمومی «برای اطمینان از ایمنی همه» چقدر کار انجام می‌دهند.

او می‌افزاید که برای این کار، توانایی سازمان‌های دولتی و سایرین برای استفاده از فناوری «برای تجزیه و تحلیل آسیب‌پذیری‌ها، شناسایی سریع‌تر آنها و مقابله با هر خطری» ضروری است.

به نظر می رسد که بازی پرشارژ whack-a-mole برای آینده قابل پیش بینی ادامه خواهد داشت، اما طرفین کمی ناهموار به نظر می رسند. NCSC بودجه ای 12 میلیون یورویی برای سال جاری دارد در حالی که گلدمن ساکس سرمایه گذاری جهانی در توسعه فناوری در سال 2026 را 1 تریلیون دلار اعلام کرده است.

ایرلند، سازمان‌های دولتی، بخش مالی و بقیه اگر نمی‌خواهند جزو کسانی باشند که مورد ضرب و شتم قرار می‌گیرند، کارشان قطع می‌شود.