هک توسط عوامل هوش مصنوعی مستقل، سؤالات سختی را در مورد پاسخگویی قانونی ایجاد می کند

اریک تاکر، آسوشیتدپرس اریک تاکر، آسوشیتدپرس

واشنگتن (AP) - وزارت دادگستری سابقه طولانی در تحقیق و تعقیب هکرهایی دارد که به شبکه یک شرکت خصوصی نفوذ می کنند.

اما وقتی هکرها انسان نباشند چه اتفاقی می افتد؟

این سؤالی است که در مرکز بحث سیاست عمومی که سیلیکون ولی و واشنگتن را به دنبال افشای شرکت‌های فناوری پیشرو مبنی بر اینکه مدل‌های هوش مصنوعی آنها سرکش شده و به سازمان‌های دیگر هک شده‌اند، آزار می‌دهد. این حملات حتی از داخل صنعت درخواست هایی را برای نظارت و مقررات بیشتر ایجاد کرده است، تحقیقات کنگره را برانگیخته و سؤالاتی را در مورد اینکه آیا چارچوب قانونی چند ساله طراحی شده برای مجازات هکرهای جنایتکار در عصر بازیگران مستقلی که قادر به مهندسی ویرانگری خود هستند کافی است یا خیر، ایجاد کرده است.

جک نلسون، افسر ارشد امنیت اطلاعات و معاون مشاور عمومی در شرکت نرم افزاری ایوانتی، گفت: همه اینها به یک "غرب وحشی" تبدیل می شود. او گفت که پرسش‌های مربوط به مسئولیت‌پذیری بر آنچه شرکت‌ها در هنگام توسعه مدل‌ها می‌دانستند، میزان درک آن‌ها از آنچه ممکن است رخ دهد و نرده‌های محافظ وجود دارد متمرکز خواهد شد.

نلسون گفت: "اگر شما صاحب یک ببر بوده اید و قفلی روی قفس نگذاشته اید، ببر احتمالا کار بدی انجام داده است که شما قصدش را نداشتید اما می دانستید که می تواند داشته باشد، بنابراین شما مسئول قفل نکردن قفس هستید."

او افزود: «نمی‌دانم که بگویم این مدل‌ها ببرهای بدون قفل هستند یا نه، اما این احتمالا چارچوب مناسبی برای فکر کردن به آن است.

چشم انداز پاسخگویی قانونی نامشخص است. شکایت احتمالی است، اما برخی از کارشناسان حقوقی معتقدند هرگونه تحقیقات جنایی با توجه به ماهیت مستقل حملات و عدم وجود شواهدی که مدل‌های هوش مصنوعی با هدف هک کردن شبکه‌های دیگر طراحی شده‌اند، با بار بسیار بالایی روبرو خواهد بود.

این مشکل در ماه ژوئیه زمانی که OpenAI فاش کرد که سیستم هوش مصنوعی آن از یک محل آزمایش فرار کرده و از اعتبارنامه‌های سرقت شده برای نفوذ به سرورهای Hugging Face، مرکز توسعه هوش مصنوعی و بازار استفاده می‌کند تا اطلاعات مورد نیاز برای انجام یک کار را به دست آورد، ظاهر شد.

از آن زمان، آنتروپیک گفت که مدل‌های هوش مصنوعی آن سه سازمان دیگر را در طول آزمایش هک کردند و باعث شد تا شرکت بررسی کند که آیا مدل‌ها می‌توانند از داخل محیط‌های آزمایشی که باید بسته می‌شدند به اینترنت دسترسی داشته باشند. متا گفته است که یک "پیکربندی نادرست" در طول آزمایش منجر به این شد که یک مدل هوش مصنوعی به تنهایی به اینترنت دسترسی پیدا کند و یک شرکت دیگر را هک کند. گوگل اخیرا افشای مشابهی را انجام داده است.

این افشاگری ها به داریو آمودی، مدیر عامل آنتروپیک کمک کرد و خواستار کاهش سرعت توسعه شد. این موضوع به همین ترتیب بر واشنگتن مسلط شده است، اسکات بسنت، وزیر خزانه‌داری، به قانون‌گذاران گفت که مخالف دادن «معافیت مسئولیت» به آزمایشگاه‌های هوش مصنوعی - این همان چیزی است که آنها می‌خواهند. در همین حال، رئیس‌جمهور دونالد ترامپ، در برابر درخواست‌ها برای نظارت بیشتر مقاومت کرده است، اما برنامه‌های خود را برای انتصاب یک تزار و گروه ضربت هوش مصنوعی اعلام کرده است.

این هک‌ها می‌توانند منجر به دعوا بر سر مسئولیت شود که یادآور بحث در مورد بخش 230 قانون نجابت ارتباطات در سال 1996 است که از شرکت‌های فناوری برای مطالب ارسال شده بر روی پلتفرم‌هایشان محافظت می‌کند.

FBI به طور علنی هیچ تحقیقی را اعلام نکرده است، اما کاش پاتل، رئیس، در جلسه استماع کنگره هفته گذشته این موضوع را "مرز جدید" نامید. او در پاسخ به سؤالات سناتور جاش هاولی، جمهوریخواه میسوری که تحقیقات کنگره را آغاز کرده است، پیشنهاد کرد که این دفتر نظارت را به مدل هایی که به قصد ارتکاب جرم ایجاد شده اند محدود کند.

پاتل گفت: «آنچه که ما باید بر اساس منابع انجام دهیم این است که به دنبال افرادی باشیم که این مدل‌ها را ایجاد کرده‌اند که سرکشی می‌کنند... برای هدفی خاص و به قصد ارتکاب یک عمل مجرمانه. ما نمی توانیم افرادی را مجازات کنیم که آنها چیزی را به طور قانونی ایجاد کرده باشند و سپس یک جنایتکار آن را بگیرد و تغییر دهد و سپس آن را متفرق کند.

دادستان کل تاد بلانچ گفته است که وزارت دادگستری هیچ برنامه ای برای تنظیم مقررات هوش مصنوعی نداشته است، اما "اگر کسی که با هوش مصنوعی مرتبط است قوانین کیفری را نقض کند، ما در مورد آن تحقیق خواهیم کرد."

سید مودی، دادستان سابق جرایم سایبری وزارت دادگستری، گفت: قانون قضایی و رویکرد FBI و وزارت دادگستری "جذاب کننده خواهد بود زیرا می تواند راه های مختلفی را طی کند."

مایکل زوایبک، رئیس سابق بخش جرایم سایبری و مالکیت معنوی دفتر دادستانی ایالات متحده در لس آنجلس، گفت: وزارت دادگستری قوانین شرکتی را در اختیار دارد که مشخص شده است "در آزمایش عوامل هوش مصنوعی خود بی پروا بوده است."

وی افزود: «و اگر در واقع عامل هوش مصنوعی در طبیعت شل شود و سپس خسارت قابل توجهی به شرکت‌های دیگر وارد کند، وزارت دادگستری باید از روی صلاحدید دادستانی به این موضوع نگاه کند که آیا می‌خواهند از شرکت خاص نمونه بسازند یا نه».

از جمله قوانین مرتبط: یک قانون 40 ساله به نام قانون کلاهبرداری و سوء استفاده رایانه ای، که دسترسی آگاهانه به رایانه را بدون مجوز غیرقانونی می کند. کاخ سفید به این قانون که علیه هکرها، هکرهای دولت ملت و سایر مجرمان سایبری استفاده شده است، در یک فرمان اجرایی به دادستان ها اشاره کرد که افرادی را که از هوش مصنوعی برای دسترسی غیرقانونی به رایانه ها یا جرایم دیگر استفاده می کنند، تعقیب کنند.

اما برخی از کارشناسان می گویند حتی اگر مبنایی برای تحقیق وجود داشته باشد، به سختی به معنای ارتکاب جرم است.

کیران راج، یکی از مقامات ارشد سابق وزارت دادگستری که در قانون امنیت سایبری متخصص است، گفت: یک چیز، قانون چندین اشاره به رفتار انجام شده «آگاهانه» یا «عمدا» دارد، اما هیچ نشانه‌ای وجود ندارد که شرکت‌ها به ماموران مستقل دستور یا مجوز ورود به شبکه دیگری را داده‌اند.

در گزارش‌های عمومی دقیق این رویدادها، شرکت‌ها هک‌ها را به‌عنوان نتایج غیرعمدی آزمایش و ارزیابی توصیف کرده‌اند، با OpenAI رفتار مدل خود را «غیرمنتظره» و «بی‌سابقه» و متا این حادثه را به «پیکربندی اشتباه» نسبت می‌دهد.

راج، یکی از مدیران ارشد سابق برنامه مایکروسافت، گفت: "من فکر می‌کنم که گفتن اینکه هر یک از این شرکت‌ها عمدا در تلاش برای انجام این کار هستند، بسیار طولانی است. هدف آنها این نیست. این کاری نیست که آنها انجام می‌دهند." این واقعیت که یک عامل هوش مصنوعی ممکن است عمدا کاری انجام دهد، به نظر من نسبت دادن این هدف به شرکت بسیار سخت است.»

از روزنامه نگاری قابل اعتماد و گفتگوی مدنی حمایت کنید.