Anthropic به محققان METR این امکان را می دهد تا با دسترسی در سطح کارمند به زیر کاپوت نگاه کنند

این شرکت در روز پنجشنبه در یک پست وبلاگی اعلام کرد، Anthropic به شش محقق از METR، یک سازمان غیرانتفاعی که مدل‌های هوش مصنوعی مرزی را آزمایش می‌کند، در سطح کارمند دسترسی می‌دهد تا به طور مستقل مدل‌های Anthropic، اقدامات ایمنی و مدیریت ریسک را ارزیابی کنند.

این ترتیبات در زمانی صورت می‌گیرد که از اواخر آگوست هر هفته یا دو هفته یک‌بار حوادث عوامل هوش مصنوعی فاش می‌شود. این رویدادها درخواست ها برای بررسی مستقل شرکت های هوش مصنوعی را تشدید کرده است.

آنتروپیک در پست وبلاگ گفت: «ما می‌خواهیم در قبال تصمیم‌هایی که می‌گیریم پاسخگو باشیم. هدف ما این است که شکاف بین آنچه ارزیابی‌کنندگان در مورد سیستم‌های یک شرکت هوش مصنوعی مرزی می‌دانند و آنچه خود شرکت می‌فهمد، ببندیم.

بر اساس ترتیبات جدید، تیم METR دارای لپ‌تاپ‌های شرکتی، فضای اداری و دسترسی به ابزارهای داخلی است که تقریبا برابر با آنچه تیم‌های ارزیابی ریسک خود آنتروپیک استفاده می‌کنند، دارد. این شرکت گفت: "کارمندان Anthropic تشویق می شوند تا اطلاعات را با آنها به اشتراک بگذارند، همانطور که با یک کارمند همکار که روی ریسک همسویی کار می کند."

آنتروپیک این ترتیب را با بانکداری مقایسه کرد، شبیه به نحوه قرار دادن بازرسان مقیم در بزرگترین بانک‌ها.

METR ارزیابی های خود را از خطرات، حوادث و اقدامات Anthropic منتشر خواهد کرد و این شرکت از حق مسدود کردن آنها صرف نظر کرده است.

این شرکت گفت: «آنتروپیک نمی‌تواند انتشار را وتو کند، اما اگر اطلاعات در دسته‌های باریک و از پیش تعریف‌شده قرار می‌گیرد، می‌توانیم آن‌ها را ملزم کنیم که آن‌ها را ویرایش کنند، مانند داده‌های مشتری، هر چیزی که امتیاز وکیل و مشتری دارد، یا مربوط به اطلاعات مربوط به معماری‌های مدل آن است. آنتروپیک افزود: «METR آزاد است تا ویرایش‌های ما را به صورت عمومی توصیف کند و بگوید که آیا این ویرایش‌ها موجه بوده یا خیر، تا زمانی که این کار را بدون افشای اطلاعات ویرایش‌شده انجام دهد».

METR تنها ارزیاب است که تاکنون در بالای یک سیستم سه لایه آنتروپیک در حال ساخت است. ارزیابی‌کنندگان در سطح پایین، مانند امنیت زیستی غیرانتفاعی SecureBio، بررسی‌های محدودی انجام می‌دهند و برای انتشار به تأیید آنتروپیک نیاز دارند. رده میانی اطلاعات بیشتری دریافت می‌کند و می‌تواند بدون تأیید منتشر کند، در حالی که سطح بالا دسترسی در سطح کارمند METR را اضافه می‌کند.

اطلاعیه روز پنجشنبه وعده‌ای را که داریو آمودی، مدیرعامل Anthropic در مقاله‌ای در ماه سپتامبر داده بود، تأیید می‌کند، جایی که او پیشنهاد کرد ارزیاب‌های خارجی را در آزمایشگاه‌های هوش مصنوعی به عنوان اولین گام برای کاهش سرعت توسعه فناوری جاسازی کند. OpenAI به سرعت همان را متعهد شد و هر دو شرکت، همراه با گوگل، متا، انویدیا و xAI، از آن زمان توافق نامه کاخ سفید را امضا کردند که متعهد به بررسی مستقل است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

متا اولین مدل مرزی خود را با نام Muse Wonder Russell Brandom منتشر کرد

این استارت‌آپ هوش مصنوعی می‌گوید که می‌تواند طرح‌های آماده مجوز را در عرض چند دقیقه، Kirsten Korosec ایجاد کند

حمله ایلان ماسک به آمبانی به دلیل تاخیر در پرتاب استارلینک هند جگمیت سینگ

آنتروپیک نمی تواند به طور قابل اعتمادی عوامل هوش مصنوعی خود را کنترل کند - به جای تیم فرنهولز، رقبای داخلی خود را از اینترنت زنده قطع می کند.

باتری‌ها اکنون ارزان‌تر از توربین‌های گاز طبیعی هستند که در بسیاری از مراکز داده تیم د چانت استفاده می‌شوند

Orkut را به خاطر دارید؟ بنیانگذار آن می‌خواهد جگمیت سینگ را بازگرداند