«پدرخوانده هوش مصنوعی» می‌گوید دولت آمریکا یک سال فرصت دارد تا قبل از اینکه هوش مصنوعی «از کنترل خارج شود» قانون‌گذاری کند.

جفری هینتون "پدرخوانده هوش مصنوعی" هشدار می دهد که پنجره تنظیم هوش مصنوعی پیشرفته ممکن است به سرعت بسته شود. رمزی کاردی/فایل ورزشی برای برخورد از طریق گتی ایماژ "پدرخوانده هوش مصنوعی" هشدار می دهد که قانونگذاران ممکن است تنها یک سال فرصت داشته باشند تا هوش مصنوعی پیشرفته را تنظیم کنند.

جفری هینتون می گوید که سیستم های هوش مصنوعی شروع به ساخت نسخه های هوشمندتر از خود کرده اند.

هشدار او در حالی است که نخبگان هوش مصنوعی سیلیکون ولی برای سرعت بخشیدن به هوش مصنوعی مرزی تلاش می کنند. "پدرخوانده هوش مصنوعی" هشدار داد که قانونگذاران ایالات متحده ممکن است تنها حدود یک سال فرصت داشته باشند تا پیش از پیشرفت هوش مصنوعی تا جایی که می تواند "خارج از کنترل" شود، حفاظ های معناداری را در اطراف هوش مصنوعی قرار دهند.

جفری هینتون پس از یک جلسه توجیهی با اعضای کنگره در روز چهارشنبه گفت که پنجره تنظیم هوش مصنوعی پیشرفته به طور چشمگیری تنگ شده است زیرا این فناوری سریعتر از آنچه بسیاری از محققان انتظار داشتند توسعه می یابد.

هینتون در پاسخ به این سوال که سیاست گذاران تا چه زمانی باید عمل کنند، گفت: «شاید یک سال، اما نه بیشتر از یک سال».

او اضافه کرد که انتظارات برای زمان ظهور هوش مصنوعی فوق‌هوشمند به طرز چشمگیری افزایش یافته است و برآوردها از چند دهه به تنها چند سال کاهش یافته است.

هینتون گفت: "هوش مصنوعی اکنون به نقطه ای رسیده است که هوش مصنوعی بهتری طراحی می کند."

او گفت: "تا زمانی که کاری انجام ندهیم، از کنترل خارج خواهد شد. ما باید سرعت خود را کاهش دهیم."

روز چهارشنبه، هینتون همچنین به حادثه اخیر Hugging Face اشاره کرد، که در آن یک عامل سرکش هوش مصنوعی به پلتفرم هوش مصنوعی منبع باز حمله کرد و آن را "چرنوبیل کوچک" نامید که نشان می‌دهد با چه سرعتی کنترل سیستم‌های هوش مصنوعی مرزی سخت‌تر می‌شود.

هینتون گفت: «ما نباید چیزهایی را توسعه دهیم که ممکن است ما را از بین ببرد.

دانشمند کامپیوتر برنده جایزه نوبل به طور فزاینده ای در مورد خطرات ناشی از هوش مصنوعی پیشرفته صحبت می کند. هینتون در مصاحبه‌ای با بی‌بی‌سی هفته گذشته گفت: «غیرمعقول» نیست که باور کنیم احتمال 10 درصدی وجود هوش مصنوعی می‌تواند باعث انقراض انسان در دهه آینده شود.

آخرین هشدار هینتون چند روز پس از آن منتشر شد که داریو آمودی، مدیر عامل آنتروپیک، مقاله‌ای را منتشر کرد که در آن از صنعت هوش مصنوعی خواسته بود تا "سریع قدم بگذارد" و استدلال می‌کرد که قابلیت‌های هوش مصنوعی سریع‌تر از اقدامات ایمنی در حال پیشرفت هستند.

سام آلتمن، مدیر عامل OpenAI، دمیس حسابیس، مدیر عامل گوگل دیپ مایند، و ایلان ماسک از بخش‌های کلیدی این پیشنهاد حمایت کرده‌اند که نمایشی غیرعادی از توافق در میان رهبران رقیب هوش مصنوعی است.

این تماس ها با رویکرد دولت ترامپ در تضاد بوده است. دونالد ترامپ، رئیس‌جمهور آمریکا درخواست‌ها برای کند کردن توسعه هوش مصنوعی را رد کرد و استدلال کرد که ایالات متحده باید برتری خود را نسبت به رقبایی مانند چین در رقابت جهانی هوش مصنوعی حفظ کند.

در همین حال، قانونگذاران هر دو حزب در حال بررسی پیشنهادهای رقابتی برای پادمان های جدید هوش مصنوعی هستند.

مقاله اصلی را در Business Insider بخوانید