جفری هینتون، پدرخوانده هوش مصنوعی: «من محکوم کننده نیستم. من فکر می کنم 1٪ احتمال دارد که ما را نابود کند.

سال‌ها پیش، وقتی مردم از جفری هینتون می‌پرسیدند که چرا روی هوش مصنوعی کار می‌کند، او جمله‌ای از جی رابرت اوپنهایمر، یکی از خالقان بمب اتمی را تکرار می‌کرد: «وقتی چیزی را می‌بینید که از نظر فنی شیرین است، جلو بروید و آن را انجام دهید.» هینتون دیگر این را نمی گوید. در عوض، او اکنون زمان خود را به هشدار در مورد خطرات ادامه مسابقه ای که به راه اندازی آن کمک کرد اختصاص می دهد. او اعتراف می کند که تا حدودی از کاری که زندگی خود را وقف آن کرده پشیمان است. تبدیل او از پدرخوانده هوش مصنوعی به پیامبر فاجعه نقطه عطفی برای صنعت بود.

این در سال 2023 اتفاق افتاد، زمانی که او در میان هشدارهای وحشتناک از سمت خود به عنوان معاون رئیس در گوگل کنار رفت. در آن زمان، برخی واکنش او را اغراق آمیز ارزیابی کردند. سه سال بعد، بسیاری از او پیروی کردند. هینتون، 78 ساله مهاجر بریتانیایی، یک دانشمند کامپیوتر و روانشناس شناختی است. جاه طلبی او این بود که بفهمد مغز انسان چگونه کار می کند تا آن مکانیسم ها را در رایانه ها تکرار کند. او در سال 1972 مفهوم شبکه عصبی را ابداع کرد.

ایده این بود که یک سیستم ریاضی ایجاد کنیم که بتواند از مثال‌ها یاد بگیرد و مانند شبکه‌های عصبی انسانی تجربه کسب کند. در آن زمان، تعداد کمی از محققان به این ایده اعتقاد داشتند. همچنین مجموعه داده‌هایی به اندازه کافی بزرگ نبود که چنین الگوریتم‌هایی از آن‌ها یاد بگیرند. سپس اینترنت آمد. سیستم های هوش مصنوعی امروزی بر اساس کار او ساخته شده اند. این امر باعث شده تا او لقب «پدرخوانده هوش مصنوعی» و همچنین جایزه تورینگ، جایزه نوبل فیزیک و جایزه شاهزاده آستوریاس اسپانیا را به خود اختصاص دهد.

با چنین رزومه ای، ممکن است فرد وسوسه شود که در موفقیت غوطه ور شود، تمجیدها و میلیون ها نفر را بپذیرد. اما راه او این نبود. هینتون در سال 2023 نقش خود را به عنوان معاون گوگل کنار گذاشت تا بتواند آزادانه در مورد خطرات ناشی از این فناوری صحبت کند. برای اینکه بتواند مصاحبه‌هایی مانند این داشته باشد، که در آن پایان روزنامه‌نگاری تولید شده توسط انسان‌ها را پیش‌بینی می‌کند، از آنچه به‌عنوان رانش فاشیستی دره سیلیکون می‌داند ابراز تاسف می‌کند و هشدار می‌دهد: اگر دونالد ترامپ در انتخابات میان‌دوره‌ای پیروز شود، پایان دموکراسی ایالات متحده خواهد بود.

این دانشمند کامپیوتر در جشنواره استارموس در تنریف و لا پالما در جزایر قناری اسپانیا شرکت کرده است. در جزیره سابق است که او با EL PAÍS صحبت می کند. سوال برای آماده شدن برای این مصاحبه، از هوش مصنوعی خواستم چندین سوال را پیشنهاد کند. برخی از آنها خوب بودند. پاسخ دهید. خوب کردی س. آیا شما واقعا به آن اعتقاد دارید؟ پس کار روزنامه نگار چه فایده ای دارد؟ چرا یک هوش مصنوعی به سادگی جایگزین ما نمی شود؟ A. خواهد شد. س. چه زمانی؟ الف. وقتی کار شما را بهتر از شما انجام می دهد و به نظر می رسد که دور از دسترس نباشد. ممکن است هوش مصنوعی در مصاحبه بهتر باشد، اما مردم همچنان افراد را در برخی زمینه ها ترجیح می دهند.

این می تواند اطلاعات مفید بیشتری را از فرد مصاحبه شونده استخراج کند، و شاید بتواند آن را به شکلی استخراج کند که برای خوانندگان مفیدتر باشد. در این صورت روزنامه شما را اخراج می کند. اما برای تلویزیون، مردم ممکن است ترجیح دهند یک شخص واقعی را ببینند. بنابراین حیف است که شما یک روزنامه نگار چاپی هستید و نه یک روزنامه نگار تلویزیونی. س. شما به تازگی در بحثی با استیون پینکر شرکت کردید. او به دلیل نظریه های خوش بینانه مشهور است. اما وقتی نوبت به هوش مصنوعی می‌رسد، شما بدبین‌تر هستید... A. اما من یک نابودگر نیستم.

من چیزی را که [الیزر] یودکووسکی و نیت سوارس می‌گویند، نمی‌گویم: اگر کسی آن را بسازد، همه ما می‌میریم. از آنجا که آنها در مورد احتمالات 99٪ صحبت می کنند ... من فکر می کنم شانس قابل توجهی وجود دارد. این بیش از 1٪ است، بنابراین ما باید واقعا نگران آن باشیم. س. باشه. اما شما جزو اولین کسانی بودید که گفتید: "مراقب باشید، این می تواند خطرناک باشد." شما نقش خود را در گوگل در سال 2023 ترک کردید. از آن زمان تاکنون هوش مصنوعی چگونه تکامل یافته است؟ A. خیلی سریعتر از آن چیزی که من فکر می کردم توسعه یافته است. این ایده که در عرض سه سال این چت ربات‌ها می‌توانند حملات سایبری را مانند حمله‌ای که علیه Hugging Face انجام می‌دهند، انجام دهند...

حتی سه سال پیش که کمی شبیه داستان های علمی تخیلی به نظر می رسید. این ایده که ما انبوهی از ماموران را خواهیم داشت که از حبس فرار کرده بودند، نحوه برقراری ارتباط با یکدیگر را فهمیدند و احساساتی داشتند، مانند زمانی که یکی از آنها برقراری ارتباط را یاد می‌گیرد و می‌گوید: «خدای من». همه چیز سریعتر از آنچه ما انتظار داشتیم در حال توسعه است. و ما داریم... اگر به تخمین‌های کارشناسان درباره مدت زمان تا رسیدن به ابرهوش نگاه کنید، یک چیز بسیار ثابت وجود دارد: آنها در زمان‌بندی متفاوت هستند، اما همه آن را نزدیک‌تر و نزدیک‌تر می‌کنند. س

مدیران Anthropic و OpenAI خواستار تنظیم مقررات شده‌اند و نگرانی‌های خود را در مورد اینکه محصولاتشان در حال حاضر چقدر قدرتمند هستند، درست زمانی که آماده عرضه عمومی می‌شوند، ابراز کرده‌اند. کمی عجیب نیست؟ فکر می کنید نگرانی آنها واقعی است یا انگیزه تجاری پشت آن نهفته است؟ الف. باشه. برخی می گویند که تلاش می کنند مقرراتی را به دست آورند تا رقابت استارتاپ ها با آنها سخت تر شود. من فکر می کنم این مزخرف است. مطمئنا داریو آمودی، مدیر عامل آنتروپیک [سازنده کلود]، واقعا نگران خطرات این موضوع است.

او خواهان مقرراتی است که رقابت استارتاپ ها با آنتروپیک را متوقف نکند، بلکه مانع از بین بردن هوش مصنوعی ما شود. در موارد دیگر ممکن است اینطور نباشد. نگرانی آمودی واقعی است. این زمانی آشکار شد که او به وزارت دفاع ایالات متحده اجازه نداد از کلود برای زیر نظر گرفتن شهروندان آمریکایی استفاده کند. سم آلتمن در ابتدا گفت که کم و بیش با آمودی موافق است. اما هنگامی که دولت ایالات متحده استفاده از کلود را متوقف کرد، سم آلتمن بلافاصله گفت: "ما این کار را انجام خواهیم داد." بنابراین آمودی مایل است برای اصول خود ضررهای قابل توجهی متحمل شود.

اینگونه است که وقتی کسی منظورش را دارد می‌گویید: آیا حاضرند چیزی را به خاطر آن از دست بدهند؟ برخی نیستند. آمودی است. س: به نظر شما، شرکت ها در تعیین محدودیت برای این مدل ها چه مسئولیتی باید بر عهده بگیرند و چه چیزی به عهده دولت ها خواهد بود؟ A. بسیار واضح است که باید مقرراتی وجود داشته باشد. بسیار واضح است که نمی توان به شرکت ها برای تنظیم خود اعتماد کرد. تاریخچه ای طولانی وجود دارد: اگر شرکت های انرژی آلودگی ایجاد می کنند، به آنها اجازه نمی دهید آلودگی را تنظیم کنند. و با شرکت‌های دارویی، اگر مقرراتی وجود نداشته باشد، مواردی مانند تالیدومید [داروی بیماری صبحگاهی که باعث نقص‌های مادرزادی شدید شد] اتفاق می‌افتد.

باید آژانسی وجود داشته باشد که بگوید شما نمی توانید دارو را آزاد کنید مگر اینکه بتوانید به آن آژانس ثابت کنید که ایمن است. ما باید دقیقا همین چارچوب را داشته باشیم: شما نمی‌توانید یک ربات چت را بدون اینکه قبلا به یک سازمان دولتی نشان دهید که از نظر آماری ایمن است، آزاد کنید. س. اما در این دنیای رقابتی و جهانی شده، آیا این خطر وجود ندارد که چین رهبری را به دست بگیرد؟ این به چه معناست؟ پاسخ: این استدلالی است که شرکت‌های فناوری برای اجتناب از مقررات از آن استفاده می‌کنند و همیشه از آن استفاده می‌کنند. چین هوش مصنوعی را کمی تنظیم می کند. من معتقد نیستم که آنها در این استدلال کاملا صادق باشند.

اما، برای مثال، وقتی آمودی گفت که اجازه نمی‌دهند از آن برای نظارت بر شهروندان ایالات متحده استفاده شود، فروش کلود افزایش یافت و OpenAI کاهش یافت. مردم OpenAI را ترک کردند و به کلود رفتند، زیرا Amodei موضع داشت. بنابراین مشخص نیست که اتخاذ موضع اخلاقی در برابر بدترین استفاده‌های هوش مصنوعی، تحقیقات را کند کند یا شرکت را غیررقابتی کند. وقتی ماشینی می‌خرید، سریع‌ترین ماشین را می‌خرید یا نسبتا سریع اما ایمن هم هست؟ س. احتمالا دومی، بله. الف

مثل این است که خودروسازان می‌گویند: «اگر هزینه اضافی برای نصب کمربند ایمنی بپردازیم، نمی‌توانیم خودروها را به همان سرعتی بسازیم، و مردم خودروهای سریع می‌خواهند، بنابراین رقابت ما را از بین خواهید برد.» این به سادگی درست نیست. س. شما علاوه بر یک مهندس، یک روانشناس نیز هستید. در این جشنواره شما با مردم شناسان و فیلسوفان مناظره کرده اید. آیا مهم است که افرادی که این فناوری را می‌سازند، این نوع بحث‌ها را داشته باشند - بحث‌های اخلاقی و انسان‌گرایانه‌تر، نه چندان محدود روی فناوری؟ A. من فکر می کنم این بسیار مهم است.

اینکه چگونه جامعه از آن فناوری استفاده می کند، نباید فقط به تکنسین ها بستگی داشته باشد. علوم انسانی لازم است که بگوییم چگونه باید در جامعه گنجانده شود. شما به دانشمندان علوم سیاسی و علوم انسانی نیاز دارید، نه فقط مهندسان. مهندسان در فکر کردن به مردم خیلی خوب نیستند. س. مهم است، اما آیا این اتفاق می افتد؟ پاسخ: نه. اساسا، برادران فناوری هستند که برای توسعه هوشمندانه‌ترین چیزها رقابت می‌کنند، زیرا فکر می‌کنند پول زیادی به دست خواهند آورد. این تنها چیزی است که به نظر می رسد به آن اهمیت می دهند.

بنابراین [جف] بزوس، [الون] ماسک، آلتمن و [مارک] زاکربرگ نمی‌خواهند مالیات بپردازند. آنها می خواهند پول زیادی به دست آورند و می خواهند با پرداخت پول به سیاستمداران نفوذ زیادی داشته باشند... س. آنها می خواهند به فضا بروند و برای همیشه جوان بمانند. الف. بله، این ایده اجتناب از مرگ به سادگی غیر واقعی است. و ماسک در حال رقابت برای انجام کارهای دیوانه کننده است. بسیاری از این لفاظی های رفتن به فضا از فنون فئودالیسم سرچشمه می گیرد. شما باید کتابی به نام The Nerd Reich بخوانید.

این در مورد تاریخچه ایدئولوژی سیاسی زیربنای دره سیلیکون است، که از افراد نسبتا دیوانه می آید. یکی به نام [کرتیس] یاروین وجود دارد. به عنوان مثال، یاروین، قبل از اینکه ترامپ برای بار دوم انتخاب شود، گفت: "اگر ترامپ دوباره انتخاب شود، کاری که باید انجام دهیم این است که یک مدیر عامل را برای ورود به دولت و خلاص شدن از شر بسیاری از دولت تعیین کنیم." این دقیقا همان کاری است که ماسک انجام داد، درست است؟ آنها اساسا از دستورات یاروین پیروی می کردند. و آنها تکنوفئودالیست هستند.

آنچه آنها معتقدند این است که مالیات دادن به ثروتمندان برای حمایت از مردم فقیر ناعادلانه است و آنچه باید انجام دهید این است که ایالت های شرکتی داشته باشید که در آن شرکت دولت را اداره می کند، کارگران اساسا برده هستند و ثروتمندان می توانند هر کاری که می خواهند انجام دهند بدون اینکه قوانین آنها را محدود کند. این چیزی است که این افراد معتقدند، و یکی از راه‌های رسیدن به آن، راه‌اندازی چیزی در زیر دریا، یا در جزیره‌ای مصنوعی، کیلومترها دورتر از هر کجا یا در فضا است. بنابراین ماسک می خواهد به مریخ برود. او می گوید این برای بقای گونه است.

این در واقع رفتن به جایی است که قوانین جامعه در آن اعمال نمی شود و ما می توانیم قوانینی را که می خواهیم اختراع کنیم. بله، این افراد ترسناک هستند. س. من می بینم که صحبت با پینکر شما را خوشبین تر نکرده است... A. بله، در مورد آنچه که در مورد اقتدارگرایی در حال رخ دادن است، من بسیار بدبین هستم. ماسک در حال حاضر مبالغ هنگفتی را برای انتخابات میان‌دوره‌ای اختصاص می‌دهد، و اگر موفق شود دموکرات‌ها را از پیروزی در آن‌ها باز دارد، آنها را از کنترل مجلس بازدارد، این پایان دموکراسی آمریکایی است. ترسناک است به اندازه دهه 1930 در اروپا ترسناک است.

برای دریافت اخبار بیشتر به زبان انگلیسی از EL PAÍS USA Edition در خبرنامه هفتگی ما ثبت نام کنید