هک های هوش مصنوعی آشفتگی ایجاد می کنند که شرکت های هوش مصنوعی برای آن هزینه ای نمی پردازند

این حادثه در 18 جولای رخ داد، زمانی که آنتروپیک گفت که در حال آزمایش توانایی مدل کلود هایکو 4.5 خود برای انجام «کارهای نمونه در صفحات وب به‌طور تصادفی» است. به مدل دستور داده شد که «هیچ چیز مخربی را ارائه نکند»، و با این حال، کلود اطلاعاتی را به پلیس ارسال کرد که به دنبال اطلاعاتی در مورد تحقیقات قتل در حال انجام است. کلود نوشت: «به یاد می‌آورم که کسی را دیدم که با توضیحات در آن منطقه مطابقت داشت ... در آن دوره زمانی.

ارسالی که شامل نام یا اطلاعات تماس نمی‌شد، در یک پوشه هرزنامه قرار گرفت و افسران آن را بررسی نکردند تا اینکه آنتروپیک در 28 سپتامبر این گاف را کشف کرد و در 7 اکتبر به بخش اطلاع داد. ارائه آگاهانه اطلاعات ساختگی در مورد یک جنایت به پلیس یک جنایت در پنسیلوانیا است، اما تاکنون، مقامات اتهامی علیه آنتروپیک مطرح نکرده‌اند، و مشخص نیست که آیا هرگز چنین خواهند کرد یا خیر.

سولومون لیچ، سخنگوی دادستان منطقه فیلادلفیا، می‌گوید این دفتر "در مورد اینکه آیا چیزی به طور فعال در حال بررسی است یا خیر، اظهار نظر نمی‌کند." آنتروپیک بلافاصله به درخواست اظهار نظر پاسخ نداد. علی‌رغم تمام توجه‌هایی که به هک OpenAI از Hugging Face و بسیاری از نمونه‌های دیگر از رفتار نادرست عامل هوش مصنوعی که در ماه‌های اخیر آشکار شده است، تنها یک شکایت شناخته‌شده بزرگ برای مسئول دانستن سازندگان مدل تشکیل شده است.

این پرونده به جای یک قربانی مستقیم هک، توسط یک گروه مدافع مطرح شد. عوامل هوش مصنوعی در انجمن های سرگرمی ها، وب سایت های دولتی و ابزارهای نرم افزاری مختلف دخالت کرده اند. قربانیان برخی از هزینه‌ها را متحمل شده‌اند، از جمله فشار اضافی روی سرورهای خود و مدت زمانی که برای وصل کردن آسیب‌پذیری‌های امنیتی پنهان صرف کرده‌اند. طبق گزارش‌ها، تنظیم‌کننده‌های دولتی، از جمله اتحادیه اروپا، کمیسیون تجارت فدرال ایالات متحده، و برخی از ایالت‌های ایالات متحده، هنوز در حال بررسی OpenAI و Anthropic درباره این حوادث هستند.

اما احترام قاره‌ها به ارتقای نوآوری می‌تواند شرکت‌ها را قادر سازد از هرگونه مجازات فوری فرار کنند. زمانی که ریک الرود، مهندس نرم افزاری که در آلمان زندگی می کند، متوجه یک کوتاه کننده URL شد که اخیرا به آن کمک می کند تا رفتار عجیبی داشته باشد، دو محقق امنیتی را که با آنها دوست بود تماس گرفت تا ببیند آیا آنها می توانند مشکل را تشخیص دهند. الرود می‌گوید، محققان عواملی از Anthropic و سایر ارائه‌دهندگان را دریافتند که از این سرویس موسوم به da.gd استفاده می‌کنند تا قوانینی را که آزمایشگاه‌های هوش مصنوعی برای کنترل رفتار آنها وضع می‌کنند، دور بزنند.

(به عنوان مثال، Anthropic می گوید که طول آدرس های وب سایت را که کلود می تواند بازدید کند را محدود می کند تا با قرار دادن داده ها در انتهای URL ها از انجام اقدامات مخرب جلوگیری کند.) جو نیدلمن، یکی از محققین امنیتی که کمک‌های حرفه‌ای را ارائه می‌کند، می‌گوید تحقیقات Da.gd و تلاش‌های مداوم برای جلوگیری از سوء استفاده بیشتر از ابزار آن "کمی زمان زیادی را صرف کرده است."

اما او و سایر حامیان da.gd وضعیت را به عنوان یک فرصت یادگیری ارزشمند می بینند. نیدلمن می‌گوید: «این چشم‌ها را باز می‌کرد، و افزود که da.gd «هیچ وسیله و هیچ برنامه‌ای» برای دریافت غرامت از آنتروپیک برای پاکسازی ندارد، زیرا «ما شاهد بودیم که بسیاری از عوامل فعالیت‌های مشابهی انجام می‌دادند، همه آن‌ها به عوامل خودمختار منتسب نبودند» و «همه آن‌ها به تنهایی آنتروپیک نبودند». فروشندگان ابزارهای امنیت سایبری مشتاق هستند تا هزینه را به قربانیان بدهند.

در رویدادی که این هفته توسط توسعه‌دهنده نرم‌افزار شکار اشکال Snyk برگزار شد، شرکت‌کنندگان در پنل این استارت‌آپ، یکی از سرمایه‌گذاران آن، OpenAI و گوگل، همه سازمان‌ها را تشویق کردند که از عوامل هوش مصنوعی برای تقویت دفاع خود در برابر سایر عوامل هوش مصنوعی استفاده کنند. اد سیم، شریک عمومی Boldstart Ventures گفت: «ما باید همه چیز را دوباره اختراع کنیم تا مقیاس ماشین را با مقیاس ماشینی مطابقت دهیم.

او و دیگران علاقه کمی به تنظیم آزمایشگاه‌های هوش مصنوعی نشان دادند. Manoj Nair، مدیر ارشد فناوری و نوآوری در Snyk، گفت که کسب و کارهای بزرگ به دلیل منابع انسانی محدود، به طور متوسط ​​به ازای هر هشت مورد، یک باگ را اصلاح می کنند. اما او گفت که برای مردم ضروری است که برخی از اشکالات شکار، رفع و نظارت را به عوامل هوش مصنوعی بسپارند.

"شما باید به نقطه ای برسید که بتوانید همه چیز را اصلاح کنید، زیرا در عصر هک عاملی، "آن 10 چیز قبل از اینکه متوجه شوید به 100 چیز تبدیل می شوند." او بعدا اضافه کرد که هوش مصنوعی "اگر آن را به نقطه قوت خود تبدیل کنید یک مصیبت نیست." برخی از شرکت ها در حال پاسخ به فراخوان برای مسلح شدن هستند. بانک آمریکا این هفته اعلام کرد که 1000 پیمانکار را برای رفع اشکالات کشف شده توسط هوش مصنوعی استخدام کرده است.

نیر هفته گذشته گفت که از شرکت های بزرگی شنیده است که مایل بودند به طور موقت سیستم های خود را خاموش کنند تا حفره های امنیتی را در اولویت قرار دهند. Anthropic و OpenAI گفته‌اند که انتظار دارند گزارش‌های مربوط به حوادث را از آزمایش‌های خودشان ادامه دهند. اما درآمد شرکت‌ها، چه از مهاجمان و چه از مدافعان، همچنان افزایش می‌یابد، زیرا عواقب آن مبهم است.

این نسخه ای از خبرنامه رفتار مدل است. خبرنامه های قبلی را اینجا بخوانید.