طبق گزارش ها، کلود برای دسترسی به داده های رأی دهندگان جورجیا، دیوار پرداخت را دور زد

(NewsNation) – مدل هوش مصنوعی آنتروپیک، کلود، طبق گزارش‌ها به داده‌های عمومی در دسترس انتخابات جورجیا بدون مجوز انسانی دسترسی پیدا کرد و سؤالات جدیدی در مورد امنیت هوش مصنوعی و نظارت انسانی پیش از انتخابات میان‌دوره‌ای ایجاد کرد. این شرکت گفت که Axios Claude به عنوان بخشی از یک پروژه آمار داخلی به شمارش کل آرا دسترسی پیدا کرده است و از یک دیوار پرداخت برای بازیابی اطلاعاتی که گرجستان معمولا با هزینه در دسترس قرار می دهد، استفاده کرده است. سخنگوی آنتروپیک به این رسانه گفت که این مدل به سیستم ثبت نام رای دهندگان ایالتی دسترسی ندارد، سوابق فردی رای دهندگان را بازیابی نمی کند یا سوابق رای گیری را تغییر نمی دهد.

به گفته گاردین، کلود از یک حفره در نسخه قدیمی‌تر وب‌سایت آژانس جورجیا استفاده کرد که توکن‌های دسترسی دیجیتالی را صادر می‌کرد که به کاربران اجازه می‌داد به داده‌ها دسترسی پیدا کنند. این رسانه گزارش داد که مدل بدون اینکه به او دستور داده شود، یک توکن درخواست کرده است. آنتروپیک گفت که از آن زمان اقدامات حفاظتی را برای جلوگیری از اقدامات مشابه اعمال کرده است. به گفته یک منبع آگاه که با Axios صحبت کرده است، این شرکت همچنین هفته‌ها پیش به دفتر وزیر امور خارجه جورجیا و کاخ سفید در مورد این حادثه اطلاع داده است.

این منبع گفت که مقامات دولت از مقامات گرجستان خواسته اند که این حادثه را زودتر به طور عمومی افشا کنند، اما آنها به این درخواست ها عمل نکردند. این افشاگری در بحبوحه نگرانی‌های گسترده‌تر در مورد اقداماتی که عوامل هوش مصنوعی بدون مجوز صریح انسانی انجام می‌دهند، صورت می‌گیرد، زیرا توسعه‌دهندگان تلاش می‌کنند تا قابلیت‌های خود را با حفظ پادمان‌های مناسب ارتقا دهند. دولت ترامپ قبلا Anthropic را برای نحوه رسیدگی به افشای اطلاعات مرتبط با هوش مصنوعی مورد بررسی قرار داده است.

حادثه جورجیا لایه دیگری به بحث در مورد اینکه سیستم‌های هوش مصنوعی پیشرفته تا چه حد باید دارای استقلال باشند و تا چه حد می‌توان اقدامات آنها را به طور موثر کنترل کرد، اضافه می‌کند.