«پدرخوانده هوش مصنوعی» می گوید بشریت در حال «از دست دادن کنترل» بر فناوری است

یوشوا بنجیو، دانشمند کامپیوتر کانادایی، هشدار داد که عوامل هوش مصنوعی ممکن است توانایی ایجاد ارتباط با انسان ها و متقاعد کردن آنها را برای عمل به شیوه هایی که در خدمت منافع آنها باشد، توسعه دهند.

مونترال - یوشوا بنجیو، دانشمند کامپیوتر کانادایی که یکی از بنیانگذاران هوش مصنوعی است، به خبرگزاری فرانسه گفت که بشریت در حال «از دست دادن کنترل» بر این فناوری است و جهان به نرده‌های محافظی مشابه کنترل تسلیحات هسته‌ای نیاز دارد.

ترس در مورد خطرات هوش مصنوعی در هفته‌های اخیر تشدید شده است، زیرا کارگران شرکت‌های بزرگ با هشدارهایی در مورد تهدیدات بالقوه وجودی برای زندگی انسان در صورت عدم کنترل سرعت پیشرفت تکنولوژی استعفا داده‌اند.

بنژیو استاد دانشگاه مونترال است که در سال ۲۰۱۸ جایزه تورینگ، جایزه نوبل محاسبات را در کنار جفری هینتون، که به طور گسترده به عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود، برد.

برای Bengio، «دلیلی وجود دارد که شرکت‌ها می‌گویند این خیلی سریع پیش می‌رود و ما کنترل خود را از دست می‌دهیم».

این مرد 62 ساله در 15 سپتامبر به AFP گفت: «افرادی مثل من برای مدت طولانی انتظار چنین چیزی را داشتند.

پس از اینکه OpenAI فاش کرد گروهی از عوامل هوش مصنوعی - برنامه‌هایی که می‌توانند به تنهایی اقداماتی را انجام دهند - در ماه ژوئیه نقض غیرمجاز پلتفرم منبع باز Hugging Face را انجام داده‌اند، هشدار گسترده‌ای به گوش رسید.

بنژیو گفت: چنین اقدام مستقلی تهدید اصلی است و هشدار داد که در آن عوامل هوش مصنوعی "توانایی عبور از موانع امنیت سایبری و ورود به هر شرکتی را دارند."

در سال 2025، Bengio شرکت غیرانتفاعی LawZero را با هدف ایجاد شکل جدیدی از هوش مصنوعی پیشرفته که "برای قابل اعتماد بودن و ایمن بودن طراحی شده است" تأسیس کرد.

بنژیو یک روز قبل از اعلام این خبر در گفتگو با خبرگزاری فرانسه گفت که مردم باید از خطرات پیش رو آگاه باشند.

او گفت که عوامل هوش مصنوعی ممکن است «توانایی ایجاد یک ارتباط فردی و متقاعد کردن انسان‌ها را برای عمل به روش‌هایی که مناسب آن است، اما لزوما برای همه ما خوب نیست» تقویت کنند، این توانایی می‌تواند پیامدهای گسترده‌ای برای دموکراسی‌ها داشته باشد.

او افزود: در درازمدت، «هوش مصنوعی ممکن است دیگر نیازی به انسان برای انجام کارهای واقعی در دنیای فیزیکی نداشته باشد».

او هشدار داد که در آن سناریو، "یک افراطی می تواند نابودی بشریت باشد."

او اذعان کرد: «این یک افراطی است، اما خاطرنشان کرد که حتی اگر یک سیستم بانکی تعطیل شود، «هنوز بسیار بسیار جدی است».

بزرگ‌ترین شرکت‌های هوش مصنوعی جهان - OpenAI، Anthropic و Google - شروع به کار بر روی ایجاد یک سازمان استاندارد کرده‌اند، همکاری‌ای که به نظر می‌رسد ترس مردم را از اینکه رقابت بین شرکت‌ها و کشورها ممکن است ایمنی را به حاشیه براند، تایید می‌کند.

برای بنجیو، رام کردن پیشرفت هوش مصنوعی «یک چالش بین‌المللی است، تا حدودی مانند سلاح‌های هسته‌ای یک چالش بین‌المللی».

بنابراین جامعه بین‌الملل باید قدرتی را که ما به جهان وارد می‌کنیم، درک کند و این قدرت باید از طریق نهادها، معاهدات و پادمان‌های دموکراتیک مدیریت شود.»

بنژیو گفت: «جامعه به زمان نیاز دارد تا آنچه را که باید در جای خود قرار دهد به کار گیرد.

اما اراده سیاسی در میان دولت های کلیدی ناهموار به نظر می رسد.

دونالد ترامپ، رئیس‌جمهور ایالات متحده در 14 سپتامبر هشدارهای مربوط به خطرات هوش مصنوعی را رد کرد و آن را «فریب‌کاری» خواند.

اما باز بودن بیشتری برای اقدام در اتحادیه اروپا وجود دارد، جایی که اورسولا فون در لاین، رئیس کمیسیون اروپا در 16 سپتامبر گفت که از بزرگترین آزمایشگاه‌های هوش مصنوعی جهان برای گفتگو در مورد «چگونه می‌توانیم از تلاش‌های صنعتی در حال انجام برای سرعت بخشیدن به مرز حمایت کنیم» دعوت خواهد کرد.

مارک کارنی، نخست وزیر کانادا، که در آن سخنرانی در استراسبورگ حضور داشت، بارها در مورد همکاری با اتحادیه اروپا در زمینه ایمنی هوش مصنوعی صحبت کرده است.

بنجیو تاکید کرد که همه شرکت‌ها باید از محدودیت‌های آینده هوش مصنوعی پیروی کنند، به‌ویژه شرکت‌های مستقر در ایالات متحده که تاکنون بر این بخش تسلط داشته‌اند.

او گفت که اقدام فوری است، اما ابراز خوش‌بینی کرد که «ما می‌توانیم به رساندن جهان به جایی کمک کنیم که با ارزش‌های دموکراتیک و ارزش‌های تقسیم قدرت همسوتر باشد». خبرگزاری فرانسه