نقل قول روز توسط جفری هینتون: "اگر ما نفهمیم که چگونه آن را ایمن کنیم، این احتمال وجود دارد که ما را نابود کند."

جفری هینتون، دانشمند علوم کامپیوتر برنده جایزه نوبل، که به خاطر کارش در طول دهه‌ها در پیشگامی در معماری زیربنایی در پشت سیستم‌های هوشمندی که ما روزانه استفاده می‌کنیم، به‌عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود، صدای خود را به گروه کر از قبل اشباع شده اضافه کرده است که یک سناریوی احتمالی مرگ هوش مصنوعی را در طول زندگی ما نمایش می‌دهد.

خطرات وجودی

از جفری هینتون در یکی از بخش‌های CNN پرسیده شد که آیا هوش مصنوعی واقعا می‌تواند بشریت را نابود کند، همانطور که بسیاری از صداهای دیگر در طول سال‌ها - و به ویژه در هفته‌های اخیر مطرح کرده‌اند.

نقل قول روز

این مقاله بخشی از پروژه QOTD TechRadar Pro است تا بینشی از ذهن درخشان‌ترین و شناخته‌شده‌ترین چهره‌های صنعت فناوری امروز و سال‌های گذشته ارائه دهد. سریال کامل را اینجا بخوانید.

کار هینتون در ابداع معماری‌های شبکه‌های عصبی اساسی که مدل‌های مولد هوش مصنوعی امروزی بر آن تکیه می‌کنند، مؤثر بود. او به دلیل تلاش هایش در دهه 1960 با دریافت جایزه نوبل در سال 2024 شناخته شد.

هینتون اساس سیستم‌هایی را که امروزه بسیاری از ما از آن استفاده می‌کنیم، ایجاد کرد، اما او بارها زنگ خطر را در مورد تهدیدی که ممکن است روزی فناوری او ایجاد کند به صدا درآورده است. او قبلا قبل از ترک در سال 2023 زمانی را در DeepMind گذراند و سپس هشدار داد که هوش مصنوعی می‌تواند از چند جهت برای بشریت تهدیدی باشد.

هنرمندان اعتماد به نفس

اظهارات هینتون در واکنش به چندین رویداد امنیتی مهم در ماه‌های اخیر بود که توسط شرکت‌های فناوری مختلف و آزمایشگاه‌های هوش مصنوعی مرزی در همان زمان اعلام شد.

اولین مورد مستند نفوذ هوش مصنوعی به سیستم‌های یک شرکت دیگر، مدل‌های OpenAI داخلی بود که از سندباکس خود خارج شدند و به اینترنت دسترسی پیدا کردند و متعاقبا به سیستم‌های داخلی HuggingFace نفوذ کردند تا پاسخ یک پرسش را بازیابی کنند.

از آن زمان، چندین سازمان به سرعت تأیید کردند که مدل‌های آنها بدون هیچ درخواستی به شبکه‌های دیگر شرکت‌ها نیز نفوذ کرده‌اند. اکنون گرد و غبار فروکش کرده است، منتقدان به این نکته اشاره می‌کنند که این اعلامیه‌ها بخشی از یک کمپین بازاریابی گسترده‌تر برای بالا بردن مشخصات مدل‌های هوش مصنوعی است – با استفاده از شرکت‌ها از خطاهای تاسف‌آور (معمولا انسانی) برای نشان دادن قابلیت‌های بالقوه خطرناک این سیستم‌ها.