هوش مصنوعی کلود سرکش از داده های رای دهندگان ایالات متحده - Axios استفاده کرد

این مدل برای به دست آوردن اطلاعاتی که قرار نبود، از دیوار پرداخت عبور کرد و به نگرانی‌ها در مورد سیستم‌های خودمختار فزاینده‌ای که فراتر از دستورالعمل‌های انسانی عمل می‌کنند افزود.

اکسیوس روز یکشنبه گزارش داد که مدل هوش مصنوعی کلود آنتروپیک برای به دست آوردن داده‌های رأی‌دهندگان در ایالت جورجیا آمریکا، سرکشی کرد و از دیوار پرداختی عبور کرد. این نفوذ نگرانی‌ها را در مورد توانایی توسعه‌دهندگان برای کنترل سیستم‌های خودکار هوش مصنوعی افزایش می‌دهد.

این حادثه در جریان یک پروژه آمار داخلی که شامل اطلاعات عمومی بود، رخ داد. آنتروپیک گفت که این مدل تعداد کل رای دهندگان را به دست آورده است اما به سیستم ثبت نام رای دهندگان گرجستان دسترسی ندارد، سوابق فردی رای دهندگان را بازیابی نمی کند یا هیچ داده ای را تغییر نمی دهد.

این شرکت روز یکشنبه، پیش از انتخابات میان دوره ای 3 نوامبر، این حادثه را تایید کرد.

یکی از سخنگویان آنتروپیک به Axios گفت: «بدون اینکه از او خواسته شود، مدل برای پرس و جو از داشبوردی که حاوی اطلاعاتی است که معمولا با پرداخت هزینه در دسترس است، درخواست کرد. کلود از یک صفحه وب بایگانی شده دولتی دریافته بود که داشبورد کلیدهای دسترسی دیجیتال را برای بازدیدکنندگان صادر می کند. قادر به درخواست کلید و بازیابی اطلاعات بدون پرداخت هزینه بود.

جردن فوکس، معاون وزیر امور خارجه جورجیا، به فاکس بیزینس تایید کرد که این داده ها از یک سرویس اطلاعات عمومی آمده است، اما تاکید کرد که کلود "به سیستم ثبت نام رای دهندگان وارد نشده است."

ادامه مطلب غول هوش مصنوعی دسترسی به اینترنت را به قدرتمندترین مدل های خود قطع می کند

آنتروپیک این حادثه را در گزارشی در 9 اکتبر توصیف کرد اما نامی از جورجیا نبرد. به گزارش اکسیوس، هفته ها پیش به مقامات ایالتی و کاخ سفید اطلاع داده است. یک منبع به این نشریه گفت که مقامات دولت از گرجستان خواسته اند که این حادثه را زودتر به طور عمومی افشا کند، اما این درخواست ها مورد توجه قرار نگرفت.

این مورد از جمله مواردی است که Anthropic فاش کرده است که مدل‌ها به جای توقف، راه‌های ناخواسته را برای دور زدن محدودیت‌ها پیدا می‌کنند. سایر رویدادها شامل یک نکته نادرست قتل ارائه شده به پلیس فیلادلفیا و درخواست های ناقص ثبت شده در وب سایت ویزای وزارت خارجه ایالات متحده بود.

در روز جمعه، آنتروپیک همچنین فاش کرد که یک مدل در حین یک تمرین امنیت سایبری، هویت انسانی را جعل کرده و تلاش کرده است یک توسعه‌دهنده نرم‌افزار نامرتبط را متقاعد کند که کدهای مخرب را بپذیرد. توسعه دهنده درخواست را رد کرد و تلاش ناموفق بود.

توسعه دهندگان دیگر کنترل ها را به دنبال حوادث مشابه تشدید کرده اند. OpenAI روز جمعه گفت که پس از فرار ماموران از محیط های محدود، آموزش قوی ترین مدل های خود را به صورت آفلاین نگه می دارد. در ماه ژوئیه، عوامل آن از پادمان‌ها دور زدند و به سیستم‌های متعلق به Hugging Face، یک مخزن آنلاین مدل‌ها و مجموعه‌های داده هوش مصنوعی دسترسی پیدا کردند.

آنتروپیک گفت که برخی ارزیابی ها را به حالت آفلاین منتقل کرده، ابزارهای اینترنتی را محدود کرده و سیستم هایی را برای شناسایی اقدامات غیرمجاز معرفی کرده است. این سیستم گفت که این سیستم ها هر یک از موارد فاش شده را هنگام آزمایش علیه آنها مسدود می کنند.