آنتروپیک ارزیابی های داخلی خود را از اینترنت قطع می کند
پس از موجی از حوادث پرمخاطب اخیر که در آن عوامل هوش مصنوعی از مهار فرار کردند، آنتروپیک دسترسی به اینترنت را برای تمام ارزیابی‌های داخلی قطع می‌کند. در گزارشی که روز جمعه منتشر شد، این شرکت جزئیات "اقدامات مدل ناخواسته"، از جمله ارائه اطلاعات نادرست در مورد یک قتل حل نشده، را که منجر به این تصمیم شد، ارائه کرد. اگرچه تاثیر این رفتارها بسیار کم بود و ما دسترسی به اینترنت زنده را از قبل قطع کرده بودیم…
پس از موجی از حوادث پرمخاطب اخیر که در آن عوامل هوش مصنوعی از مهار فرار کردند، آنتروپیک دسترسی به اینترنت را برای تمام ارزیابی‌های داخلی قطع می‌کند. در گزارشی که روز جمعه منتشر شد، این شرکت "اقدامات مدل ناخواسته" از جمله ارائه یک نکته نادرست در مورد یک قتل حل نشده را که منجر به این تصمیم شد، توضیح داد.
اگرچه تأثیر این رفتارها بسیار اندک بود و ما قبلا دسترسی به اینترنت زنده را برای برخی ارزیابی‌های پرخطر و امنیت سایبری خاموش کرده بودیم، اکنون تصمیم گرفته‌ایم تا زمانی که تأیید کنیم اقدامات امنیتی و نظارتی ما (شرح شده در بخش اصلاح …
داستان کامل را در The Verge بخوانید.
متن اصلی (انگلیسی)
Anthropic is cutting off its internal evaluations from the internet
After a recent spate of high-profile incidents in which AI agents escaped containment, Anthropic is cutting off internet access for all internal evaluations. In a report Friday, the company detailed "unintended model actions," including submitting a false tip regarding an unsolved murder, that led to the decision. Although the impact of these behaviors was minimal and we had already turned off live internet access…