پدرخوانده هوش مصنوعی یک سیستم تأیید به سبک FDA برای این فناوری می خواهد

پدرخوانده هوش مصنوعی گفت که او یک سیستم تایید به سبک FDA را برای مدل‌های هوش مصنوعی پیشنهاد می‌کند. رمزی کاردی/فایل ورزشی برای برخورد از طریق گتی ایماژ جفری هینتون یک سیستم تایید به سبک FDA را برای مدل‌های هوش مصنوعی پیشنهاد کرد.

هینتون گفت که شرکت‌ها باید قبل از عرضه مدل‌هایشان ثابت کنند، همانطور که داروسازان انجام می‌دهند.

هینتون هشدار می دهد که خود-بهبودی بازگشتی می تواند خطرات هوش مصنوعی را به سرعت تشدید کند. جفری هینتون از شرکت های هوش مصنوعی می خواهد که مانعی را که برای داروسازان آشناست برطرف کنند.

در پادکست روز سه‌شنبه «سوالات دختر باهوش»، دانشمند کامپیوتر برنده جایزه نوبل، که اغلب «پدرخوانده هوش مصنوعی» نامیده می‌شود، پیشنهاد کرد که شرکت‌های هوش مصنوعی قبل از عرضه، یک تنظیم‌کننده را متقاعد کنند که محصولاتشان ایمن هستند.

هینتون به Nayeema Raza مجری پادکست گفت: "شما مجاز نیستید فقط یک داروی جدید بسازید و آن را در بازار عرضه کنید." "شما باید FDA را متقاعد کنید. و برای انجام این کار، باید کارهای زیادی انجام دهید، حدود یک میلیارد دلار کار."

هینتون افزود: «به نظر می رسد این کمترین چیزی است که باید برای هوش مصنوعی داشته باشیم.

نسخه هینتون برای بحث ایمنی هوش مصنوعی پس از پیش‌بینی فجایع هوش مصنوعی و پس از تصمیم OpenAI برای کنار گذاشتن آخرین مدل خود، پس از آزمایش‌هایی که نگرانی‌هایی را در مورد اینکه آیا دستورالعمل‌های کاربران را دنبال می‌کند و در محدوده مجوز خود باقی می‌ماند، مطرح شد.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI، قبلا به Business Insider گفته بود که GPT-6.1 Astra در انجام کارهای دشوار بهبود یافته است، اما در دریافت مجوزها و برقراری ارتباط با آنچه که انجام داده بود کوتاهی کرده است.

هینتون گفت که هوش مصنوعی به طور فزاینده ای به بهبود خود کمک می کند و به طور بالقوه هم توانایی ها و هم خطرات آن را تسریع می کند.

هینتون گفت: «نمایش خیلی سریع رشد می کند. ما در حال شروع به خودسازی بازگشتی هستیم زیرا هوش مصنوعی به روش‌های مختلف برای بهبود هوش مصنوعی استفاده می‌شود.

هینتون افزود: «بنابراین، این فقط یک حدس است، اما من حدس می‌زنم که یک یا دو سال فرصت داریم تا همه چیز خیلی بدتر از الان شود.»

مقاله اصلی را در Business Insider بخوانید