یک شرکت تنها پشت رسوایی های هک OpenAI، Anthropic و Meta است

مدل‌های OpenAI، Anthropic و Meta در سه ماه گذشته چندین سیستم دنیای واقعی را هک کردند. این مدل‌ها به سیستم‌های وب دسترسی غیرمجاز پیدا کردند، بسته‌های مخرب منتشر کردند و از آسیب‌پذیری‌های بدون نام سوء استفاده کردند.

یک شرکت به نام Irregular مسئول هک انجام شده توسط هر سه شرکت است. آنتروپیک فاش کرد که Irregular مسئول ایجاد آزمایشاتی است که منجر به هک کلود به اهداف دنیای واقعی و ارائه مدل ها به اینترنت می شود. Irregular ادعا می کند که در آن زمان از ارائه دسترسی به اینترنت به آن مدل های هوش مصنوعی بی اطلاع بود.

در یک اکوسیستم رسانه ای عادی تر، واکنش ها به این مسائل امنیت سایبری آشکار خواهد بود. شرکت های آمریکایی هوش مصنوعی در تجارت با Irregular تجدید نظر خواهند کرد، نه تنها به دلیل شکست این شرکت در ایمن سازی سیستم هایش، بلکه به این دلیل که این یک شرکت اسرائیلی است که به طور بالقوه خارج از نظارت ایالات متحده است. قانونگذاران اقدامی علیه Irregular یا علیه شرکای تجاری آمریکایی آن، از جمله OpenAI، Anthropic و Meta را در نظر خواهند گرفت. آن‌ها ممکن است به تقویت مسئولیت در برابر شرکت‌هایی فکر کنند که به مدل‌های هوش مصنوعی دستور می‌دهند تا حملات سایبری انجام دهند و مدل‌های آن‌ها سپس این حملات سایبری را انجام می‌دهند.

در هر ارزیابی، کلود با یک چالش CTF وظیفه داشت: به مدل یک سناریوی تخیلی، یک ماشین هدف و یک قطعه اطلاعات مخفی ("پرچم") داده شد تا از آن بازیابی شود. هر چهار فرمان بیان کردند که کلود به اینترنت دسترسی ندارد، اما در هر مورد، پیکربندی نادرست در محیط، دسترسی به اینترنت را باز کرده است. هیچ یک از اعلان‌ها بیان نمی‌کردند که کدام سیستم‌ها در حیطه تمرین هستند یا در جایی که کلود می‌تواند پرچم را جستجو کند محدود شده است.

همه حوادث تنها شامل یک نمونه واحد از کلود بود که به صورت مجزا کار می کرد، با هر اجرا بین 10 تا 34 ساعت کار فعال.

در عوض، Irregular، Anthropic و متحدان آنها یک کمپین رسانه ای را آغاز کرده اند که به معنای واقعی کلمه یک ایدئولوژی آخرالزمانی را با زبانی هیجان انگیز ترویج می کند. ارزیابی رویداد Anthropic، "بی پروایی" هوش مصنوعی خود را مقصر می داند. Irregular توصیف می کند که "عامل خود تبدیل به یک عامل تهدید می شود". داریو آمودی، مدیر عامل آنتروپیک، در مورد هک مشابه OpenAI–Hugging Face هشدار داد که یک گروه آتی «می‌تواند کل اینترنت را در اختیار بگیرد». و یک تیتر آسوشیتدپرس ادعا کرد که ربات ها "سرکش می شوند".

در یکی از گزارش‌های آنتروپیک، مدل کلود آن از طریق برخورد با نام شبیه‌سازی‌شده، انتشار یک بسته مخرب و اسکن سیستم‌های خارجی، سیستم یک شرکت واقعی را نقض کرد. در این آزمون، Anthropic و Irregular به اشتباه به این مدل دسترسی اینترنتی ارائه کردند و به مدل "کدام سیستم ها در محدوده تمرین بودند" دستور ندادند.

در حالی که آنتروپیک ادعا می کند که مشکلات آنها ناشی از "ازدحام سرکش" و "عدم همسویی" است، افشای بعدی آنها نشان می دهد که دقیقا صفر درصد از عوامل "سرکش" بوده اند. در این آزمایش، زمانی که کارکنان آنتروپیک به مدل‌ها گفتند که هک دنیای واقعی را انجام ندهند، هک‌های دنیای واقعی مدل‌های کلود به صفر درصد کاهش یافت. بر اساس یافته‌های خود، Anthropic و Irregular تمام مسئولیت حوادث امنیت سایبری را بر عهده دارند.

در پی این حملات، Anthropic و Irregular گروهی از اینفلوئنسرهای ایمنی هوش مصنوعی را به کار گرفته‌اند که توسط بنیادهای مرتبط با آنتروپیک پرداخت می‌شود تا توجه خود را از تقصیر خود منحرف کنند و به سمت نظریه بی‌پایه «عامل سرکش» بروند. Irregular نیز مانند آنتروپیک از این پایه ها جدایی ناپذیر است.

Omer Nevo، یکی از بنیانگذاران Irregular و CTO، یکی از اعضای هیئت مدیره Effective Altruism Israel، و همچنین NGOهای اثربخش نوع دوستی Heron و Probably Good است. دان لاهاو، بنیانگذار و مدیرعامل Irregular، 395000 دلار برای شروع دوره به همراه سلا نوو، برادر عمر نوو دریافت کرد. سلا و عمر یک سازمان غیردولتی را برای آموزش مردم در مورد نوع دوستی مؤثر، آموزش متمرکز بر تأثیر تأسیس کردند. آنها همچنین Probably Good را با هم تأسیس کردند. 2

این شعبه‌ها همگی توسط داستین موسکوویتز، اهداکننده اصلی اهداف ایمنی مؤثر نوع‌دوستان/هوش مصنوعی پس از دستگیری سام بنکمن-فرید تأمین می‌شوند. اولین سرمایه گذار Irregular شرکت Good Ventures داستین موسکوویتز بود. وسیله بشردوستانه داستین موسکوویتز، ضریب اعطا/ بشردوستی باز، از نوع دوستی مؤثر اسرائیل، هرون و احتمالا خوب حمایت مالی می کند. 3

Irregular دسترسی غیرمجاز به دست آورد، سوابق را تغییر داد و بسته‌های سرقت اعتبار را با استفاده از مدل‌های ناامنی منتشر کرد. تحت شرایط خاص، این رفتار قانون تقلب و سوء استفاده رایانه‌ای، بخش 1030(a)(2)(C) را نقض می‌کند، که دسترسی غیرمجاز عمدی به دست آوردن اطلاعات را پوشش می‌دهد. با این حال، اتهامات جنایی آن مستلزم اثبات ملموس خسارت و قصد است. 5

در حالی که اساسا با آزمایشگاه های آمریکایی قرارداد می بندد، رهبری کلیدی نامنظم، کارمندان و منابع مستقر در اسرائیل ممکن است تحت نظارت آمریکا نباشند. بازدید و مصاحبه های Ynet دفاتر Irregular در تل آویو را توصیف می کند. فهرست شرکت CheckID دو نهاد مرتبط را شناسایی می کند: Pattern Labs Tech Inc.، یک شرکت دلاور، و Pattern Tech Ltd، به شماره 516854460، یک شرکت فعال اسرائیلی ثبت شده در تل آویو.

جدول زمانی افشای عمومی را مشخص می کند. ارزیابی تصحیح شده آنتروپیک در سپتامبر، چهار حادثه را در هفت اجرا به حساب می‌آورد. OpenAI و Meta رویدادهای ارزیابی نامنظم جداگانه ای را گزارش کردند. تاریخ ها افشاگری ها را توصیف می کنند، نه تاریخی که هر نفوذ اساسی رخ داده است. ↩

Impact Focused Education، Dan Lahav و Sella Nevo را به عنوان بنیانگذاران خود معرفی می کند. دفتر کل کمک هزینه یک توصیه 394968 دلاری به آنها ثبت می کند، رسید تأیید شده یا یک مدرک شناسایی دقیق جایزه به دوره. هیئت مدیره EA اسرائیل ; هیئت مشورتی هرون ; احتمالا تخته خوب ; دفتر کل کمک مالی EA Funds ; رابطه عمر و سلا ; بنیانگذاران IFE ↩

بنیانگذاران Good Ventures; رابطه ضریب دادن ; تامین مالی هرون ; احتمالا کمک مالی خوب ; کمک مالی نامنظم؛ دفتر کل کمک مالی EA Funds. ↩

نمودار نقش های سازمانی انتخاب شده و بودجه را نشان می دهد. جدول همچنین پیوندهای خانوادگی و تحصیلی را که از نمودار حذف شده اند، ثبت می کند. صندوق زیرساخت EA یک جایزه مشترک MOOC 394968 دلاری را در سه ماهه سوم سال 2022 به دان لاهاو و سلا نوو توصیه کرد. دو فلش نشان دهنده آن یک توصیه است. دفتر کل دوره و سازمان را بدون نام ترک می کند. ↩

مقررات پنج ساله جنایات بخش 1030(a)(2)(C) قانون کلاهبرداری و سوء استفاده رایانه ای مستلزم تشدید کننده ای مانند مزیت تجاری، پیشبرد عمل مجرمانه یا ظالمانه دیگر یا به دست آوردن اطلاعاتی به ارزش بیش از 5000 دلار است. مقررات اصلی جنایت اولین جرم برای آسیب رساندن به دسترسی یا انتقال تحت §1030(a)(5) مستلزم وضعیت روانی مشخص و آسیب قانونی، مانند حداقل 5000 دلار برای ضرر یا خسارت واجد شرایطی است که ده رایانه محافظت شده را تحت تأثیر قرار می دهد. ارزیابی قانونی همچنان به مجوز هر سیستم، اختلال، هزینه پاسخگویی و ایالات متحده نیاز دارد.

ارتباط تجاری دادستان ها همچنین باید رفتار و دانش افراد مسئول و مبنایی برای نسبت دادن آن اعمال به نامنظم ایجاد کنند. 18 U.S.C. § 1030. ↩