در اینجا دلیل عدم حضور OpenAI در تلاش صنعت گسترده انویدیا برای پایان دادن به عوامل سرکش هوش مصنوعی است.

آخرین روز برای نمایش موفقیت خود برای بیش از 10000 رهبر فناوری در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

هنگامی که انویدیا روز دوشنبه کنسرسیوم جدیدی متشکل از بیش از 100 شرکت را معرفی کرد که به حل عوامل سرکش هوش مصنوعی اختصاص داده شده است، یک نام به طور مشخص گم شده بود: OpenAI.

در حالی که OpenAI تنها بازیکن بزرگ فناوری نبود که ثبت نام نکرد - آمازون، گوگل و اپل نیز به آن ملحق نشده‌اند - واضح‌ترین بازیکن گمشده بود، به خصوص به این دلیل که آنتروپیک یک حامی است.

با این حال، علیرغم عدم تعهد عمومی OpenAI به کنسرسیوم، که احتمالا به این معنی است که هر شرکت از نسخه‌ای از فناوری استفاده می‌کند و می‌فروشد و ویژگی‌هایی را به پروژه بازمی‌گرداند، یک سخنگوی OpenAI به TechCrunch گفت که این شرکت از کار انویدیا حمایت می‌کند.

تلاش جدید که پلتفرم ایمنی عامل باز انویدیا نامیده می شود، تلاش انویدیا برای گسترش فناوری امنیت عامل هوش مصنوعی و عمدتا منبع باز خود در سراسر اکوسیستم هوش مصنوعی به عنوان پاسخی مستقیم به انواع حوادث مستمر عوامل AI سرکش که آزمایشگاه های مرزی مانند Anthropic و OpenAI فاش کرده اند.

جنسن هوانگ، مدیر عامل انویدیا، هوش مصنوعی سرکش را یک مشکل مهندسی معمولی نامیده است که می‌تواند مانند هر مشکل فنی دیگری حل شود. پلتفرم ایمنی عامل باز، هوآنگ است که پولش را در دهانش می گذارد.

OpenAI با انویدیا روی امنیت عامل کار می کند، از جمله روی یکی از بخش های کلیدی نرم افزار که بخشی از این پلتفرم است: OpenShell. OpenShell یک نرم افزار منبع باز است که یک جعبه شنی را ایجاد می کند که به طور خاص برای جلوگیری از فرار عوامل طراحی شده است.

در حالی که هنوز هم عجیب است که OpenAI به سادگی مانند رقیب اصلی خود Anthropic به حامی این ابتکار تبدیل نشده است، این واقعیت که آزمایشگاه هوش مصنوعی مرزی از این تلاش پشتیبانی می کند خبر خوبی است.

"از آنچه ما می دانیم (با کمی نمک، ما به شفافیت بسیار بیشتری نیاز داریم!)، اگر @OpenAI این کار را بر روی عوامل خود که به ما حمله کردند اجرا می کرد، آنها را قبل از ما دستگیر می کردند." دلانگ ارسال کرد.

دلانگ گفت که Hugging Face قبلا یک ویژگی به پلتفرم Open Agent Safety ارائه کرده است که عوامل هوش مصنوعی را که از وب‌سایت‌هایی استفاده می‌کنند که مجاز به بازدید هستند، اما به روش‌های غیرمجاز این کار را انجام می‌دهند، شناسایی و خاموش می‌کند. به عنوان مثال، این ویژگی در صورتی عمل خواهد کرد که عوامل در حال دور زدن نرده های محافظ خود باشند و با نوشتن یادداشت هایی برای یکدیگر در یک مخزن میزبان کد منبع باز، حمله را هماهنگ کنند.

این یکی از راه‌هایی است که OpenAI گفته است که انبوه ماموران خودسرانه حمله خود را به Hugging Face هماهنگ کرده است.

اما دلیل دیگری وجود دارد که چرا برخی از این نام‌های بزرگ، از جمله OpenAI، ممکن است نخواهند به طور عمومی به تلاش‌های انویدیا متعهد شوند. برای استفاده از سیستم کامل، یک جزء سخت افزاری وجود دارد که نرم افزار منبع باز نیست، اختصاصی باقی می ماند و فقط می تواند بر روی سخت افزار انویدیا مستقر شود.

پلتفرم ایمنی Open Agent فقط یک جعبه شنی ارائه نمی دهد. همچنین رفتار عامل را در یک لایه سخت افزاری اعمال می کند، جایی که عوامل نمی توانند تشخیص دهند که در حال تماشا هستند. (برخی از مدل ها و عوامل هوش مصنوعی دروغ می گویند و وانمود می کنند که قوانین را دنبال می کنند، زمانی که می دانند تحت نظر هستند.)

بخش نظارت بر سخت افزار به Nvidia Sentry، یک ویژگی اختصاصی که بر روی پردازنده های ویژه Nvidia به نام واحدهای پردازش داده BlueField-4 اجرا می شود، متکی است. انویدیا وعده داده است که Sentry به طور مداوم رفتار عامل را از این پردازنده ها نظارت می کند و می تواند فورا عوامل را خاموش کند.

در حالی که یک راه حل سخت افزاری به وضوح ایده خوبی است، به این معنی است که پلتفرم ایمنی عامل باز دقیقا یک بازی منبع باز خالص نیست. این به انویدیا اجازه می دهد تا اطمینان حاصل کند که این راه حل همیشه بر روی سخت افزار خودش به بهترین شکل اجرا می شود. در واقع، انویدیا گفته است که برای کسانی که در حال حاضر بارهای کاری را بر روی آخرین سخت افزار خود اجرا می کنند، پیاده سازی Open Agent Safety Platform یک به روز رسانی نرم افزاری آسان است.

با این حال، رقبای انویدیا، از جمله Arm و Intel، به عنوان حامیان Open Agent Safety Platform امضا کرده‌اند، زیرا sandbox، OpenShell، می‌تواند برای کار با تراشه‌ها و سخت‌افزارهای دیگر تغییر یابد. و انویدیا طرح های مرجع را برای کل ایده نرم افزار و سخت افزار به اشتراک می گذارد.

همه اینها غیبت OpenAI را بیشتر محسوس می کند.

واضح است که OpenAI ایمنی هوش مصنوعی را فرصتی برای استقلال از سرمایه گذار اصلی خود انویدیا و همچنین فرصتی برای نشان دادن رهبری خود می بیند. این درست است حتی اگر این عوامل هوش مصنوعی OpenAI بودند که صنعت را با حادثه Hugging Face ترساندند.

به عنوان مثال، این شرکت در حال توسعه تدابیر حفاظتی خود برای تحقیقات و محصولات خود است و بدترین حادثه ای را که کشف کرده است را فاش می کند. در همین حال، OpenAI کنسرسیوم امنیت سایبری هوش مصنوعی خود را برای به اشتراک گذاری اطلاعات به نام کارخانه دفاع دارد. کسانی که برای حمایت از این ایده ثبت نام کرده‌اند عبارتند از Anthropic، Amazon Web Services و Google – بسیاری از نام‌هایی که با رویکرد فناوری‌محور Nvidia وارد نشده‌اند.

و حقیقتا، سطحی از ترس برای تجارت خوب است. OpenAI مشغول تبدیل امنیت سایبری به یک پیشنهاد سازمانی است، با همه چیز، از مدل سایبری محور خود، Daybreak، تا شبکه رو به رشدی از شرکا که شرکت ها می توانند برای پیاده سازی امنیت هوش مصنوعی استخدام کنند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آسترا و اوپوس به تازگی آزمون دیگر تورینگ تیم فرنهولز را پشت سر گذاشتند

اوراکل اخطار فورس ماژور را به مرکز داده New Mexico Stargate خود Aditya Mehta ارسال می کند

متا برای نماینده Muse AI لوکاس روپک یک پوشیدنی شبیه تاماگوچی ساخت

Vogue روبات‌هایی را به باند فرودگاه Vogue World فرستاد و مردم تحت تأثیر دومینیک-مادوری دیویس قرار نگرفتند.

آنتروپیک می گوید که آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد