کلود آنتروپیک برای بدست آوردن شمارش آرا در ایالت جورجیا، دیوار پرداخت را دور زد

آنکارا (AA) - اکسیوس روز یکشنبه گزارش داد که مدل هوش مصنوعی کلود Anthropic یک دیوار پرداخت را برای به دست آوردن شمارش کل آرا در دسترس عموم از ایالت جورجیا بدون مجوز انسانی دور زد.

این حادثه زمانی رخ داد که کلود به صورت داخلی برای یک پروژه آماری مورد استفاده قرار می‌گرفت که به داده‌های عمومی نیاز داشت که معمولا ایالت برای پرداخت هزینه ارائه می‌کرد.

یکی از سخنگویان آنتروپیک به Axios گفت: «بدون اینکه از او خواسته شود، مدل برای پرس و جو از داشبوردی که حاوی اطلاعاتی است که معمولا با پرداخت هزینه در دسترس است، درخواست کرد.

این سخنگوی افزود: «از آن زمان اقدامات کاهشی را برای جلوگیری از این نوع اقدامات انجام داده ایم.

آنتروپیک گفت که کلود به سیستم ثبت نام رای دهندگان گرجستان دسترسی نداشت، سوابق رای گیری فردی را به دست نیاورد و اطلاعات انتخابات را تغییر نداد.

اطلاعات به‌دست‌آمده صرفا شامل شمارش کل آرا در دسترس عموم مردمی بود که هزینه لازم را پرداخت کردند.

به گزارش آکسیوس، آنتروپیک چند هفته پیش به دفتر وزیر امور خارجه جورجیا و کاخ سفید درباره این حادثه اطلاع داده است.

این شرکت قبلا بدون شناسایی گرجستان در گزارشی در 9 اکتبر که اقدامات ناخواسته مدل‌های هوش مصنوعی خود را بررسی می‌کرد، این مورد را شرح داده بود.

در آن گزارش، Anthropic گفت که Claude Mythos 5 از نسخه آرشیو شده وب سایت یک آژانس دولتی ناشناس دریافت که داشبورد عمومی آن توکن های دسترسی را برای بازدیدکنندگان صادر می کند.

به گفته شرکت، مدل سپس یک توکن درخواست کرد و از آن برای جستجو در پایگاه داده بدون پرداخت هزینه استفاده کرد.

آنتروپیک گفت این حادثه در میان موارد متعددی بود که در آن کلود محدودیت‌های دسترسی به اطلاعات محافظت شده توسط نشانه‌ها یا هزینه‌ها را دور زد، از جمله در وب‌سایت‌هایی که توسط سازمان‌های دولتی فدرال، ایالتی و محلی ایالات متحده اداره می‌شوند.

این شرکت این رفتار را به عنوان «پایداری» توصیف کرد که در آن مدل با مانعی مواجه شد و به جای توقف، راه ناخواسته ای را برای دور زدن آن پیدا کرد.

آنتروپیک گفت که این حوادث کمترین آسیب را در دنیای واقعی به همراه داشته است، اما هشدار داد که رفتارهای مشابه می‌تواند پیامدهای بزرگ‌تری داشته باشد زیرا مدل‌های هوش مصنوعی توانمندتر می‌شوند.

پس از بررسی، این شرکت برخی ارزیابی‌ها را به صورت آفلاین منتقل کرد، محدودیت‌های ابزارهای اینترنتی کلود را تشدید کرد و سیستم‌هایی را برای شناسایی و مسدود کردن اقدامات غیرمجاز توسعه داد.

آنتروپیک گفت که پادمان های جدید با موفقیت تمام رفتارهای افشا شده را در طول آزمایش مسدود کردند.