جفری هینتون پدرخوانده هوش مصنوعی می گوید شاید بدون هوش مصنوعی وضعیت بهتری داشتیم

یکی از پدرخوانده های هوش مصنوعی هشدار داده است که ممکن است قبل از اینکه این فناوری به درستی تنظیم شود، یک حادثه جدی هوش مصنوعی رخ دهد.

او استدلال می کند که شاید بشریت بدون هوش مصنوعی "بهتر" بوده است، اما هنوز زمان وجود دارد

هوش مصنوعی می‌تواند «شکاف بزرگی بین فقیر و غنی» ایجاد کند و خطر «از هم پاشیدگی جامعه» را به همراه داشته باشد. جفری هینتون، دانشمند کامپیوتر برنده جایزه نوبل - که به طور گسترده به عنوان یکی از پدرخوانده های هوش مصنوعی شناخته می شود - نگرانی هایی را در مورد آینده این فناوری، به ویژه خطراتی که می تواند برای خاموش کردن سیستم های مالی جهانی یا ایجاد فرسودگی گسترده قدرت استفاده شود، ایجاد کرده است.

همین سال گذشته، هینتون در حال یادآوری سرعت پیشرفت فناوری بود و اظهار داشت که «فکر نمی‌کرد تنها در 40 سال آینده به اینجا برسیم» و «10 سال پیش فکر نمی‌کردم به اینجا برسیم».

او همچنین اخیرا در مورد افرادی که دارای انگیزه های پنهانی هستند از هوش مصنوعی برای اهداف مخرب استفاده می کنند هشدار داد. هینتون گفت: «به سختی می توان دید که چگونه می توان از استفاده بازیگران بد برای کارهای بد جلوگیری کرد. با توجه به سیل اخیر حملات سایبری مجهز به هوش مصنوعی، به نظر می رسد ترس او ممکن است محقق شود.

(اعتبار تصویر: گتی ایماژ) شاید حق با پدرخوانده هوش مصنوعی باشد

هینتون در گفتگو با گاردین گفت که او یک "محکوم کننده" هوش مصنوعی نیست و فکر می کند که این فناوری می تواند برای ایجاد آینده ای بهتر مورد استفاده قرار گیرد، اما می ترسد آینده ای وجود داشته باشد که "ما در مدیریت ریسک ها شکست بخوریم و ... شکاف بزرگی بین ثروتمند و فقیر، مشکلات فرهنگی عظیم، بیکاری گسترده، فقط جامعه از هم پاشیده شود."

او همچنین ترس خود را در مورد کنترل انحصاری هوش مصنوعی ابراز کرد و اظهار داشت که شرکت‌های هوش مصنوعی در حال رقابت برای توسعه فناوری هستند تا بدون در نظر گرفتن ریسک موجود، از یکدیگر جلوتر بمانند.

هینتون استدلال می‌کند که سال آینده می‌تواند نقطه عطفی باشد و یک حادثه جدی هوش مصنوعی - مانند حمله مبتنی بر هوش مصنوعی به سیستم‌های مالی یا تولید برق - را با فروپاشی هسته‌ای نسبی در ایستگاه برق جزیره Three Mile در سال 1979 مقایسه می‌کند.

هینتون افزود: "عقل من این است که ما هنوز کنترل را در دست داریم." "ممکن است بتوانیم کاری را انجام دهیم. تنها در صورتی کارساز خواهد بود که تلاش زیادی برای آن انجام دهیم، اما ممکن است تلاش زیادی برای آن انجام دهیم."

هنوز زمان برای ایمن سازی هوش مصنوعی وجود دارد

او در این دیدگاه که هوش مصنوعی ممکن است خطرناک شود، تنها نیست. بسیاری از سیاستمداران، روسای شرکت‌ها و دانشمندان هوش مصنوعی به نفع کاهش سرعت بین‌المللی در توسعه فناوری هوش مصنوعی استدلال کرده‌اند تا امکان درک بهتر و کاهش خطرات وجود داشته باشد.

موج حملات عوامل سرکش هوش مصنوعی به جهان نگاهی اجمالی به قابلیت‌های خطرناک مدل‌های مرزی داد – حتی آن‌هایی که در محیطی امن آزمایش شده‌اند.

اما تنظیم فناوری هوش مصنوعی به یک تلاش مشترک عظیم در صحنه بین المللی نیاز دارد. هوش مصنوعی توسط رئیس جمهور ایالات متحده دونالد ترامپ به عنوان یک فناوری برد یا باخت مطرح شده است، که به نفع شرکت های هوش مصنوعی است که خودشان را تنظیم کنند و همزمان برای ادامه توسعه هوش مصنوعی تلاش می کند تا ایالات متحده بتواند برتری خود را در برابر چین حفظ کند.

برای برخی از شکاکان که سال ها در مورد خطرات توسعه مدیریت نشده هوش مصنوعی هشدار داده اند، سخنان هینتون ممکن است کمی تلخ و شیرین باشد. خطر هنوز وجود دارد و ممکن است برای تغییر هر چیزی یک حادثه بزرگ لازم باشد، اما مقررات هوش مصنوعی تنها می تواند یک فاجعه باشد.