رئیس OpenAI می‌گوید دنیا حق ترسیدن است، اما باید به شرکت‌های هوش مصنوعی اعتماد کند

چرا دونالد ترامپ تا این حد با نظارت بر هوش مصنوعی مخالف است؟

رئیس OpenAI سازنده ChatGPT می‌گوید مردم باید به شرکت‌های هوش مصنوعی اعتماد بیشتری داشته باشند تا این فناوری را ایمن نگه دارند، در میان نگرانی‌های عمومی در مورد خطرات فزاینده.

سام آلتمن روز سه شنبه در جریان کنفرانسی در سانفرانسیسکو گفت: «جهان باید اعتماد کند که ما کار درست را انجام خواهیم داد، زیرا این کار درست است و ما بزرگی آن را احساس می کنیم.

او پذیرفت که مردم نگران هوش مصنوعی هستند، زیرا توانایی این ابزارها به سرعت پیشرفت کرده است.

اما منتقدان می‌گویند که نمی‌توان به شرکت‌ها برای خودتنظیمی اعتماد کرد، سناتور چپ‌گرا برنی سندرز و استیو بنن، مشاور سابق دونالد ترامپ، رئیس‌جمهور آمریکا، از جمله کسانی هستند که خواستار مدیریت بیشتر هوش مصنوعی هستند.

خود ترامپ از درخواست‌ها برای رعایت نرده‌های محافظ بیشتر در مورد فناوری در حال حرکت انتقاد کرده و ترس از ایمنی هوش مصنوعی را یک «فریب» خوانده است.

او گفت تنها "حفاظ" مورد نیاز برای هوش مصنوعی یک رئیس جمهور "قوی و باهوش" است.

اظهارات آلتمن در روز سه‌شنبه در یک کنفرانس سالانه به میزبانی شرکت نرم‌افزاری Salesforce بیان شد.

او گفت: «برای اینکه [ما] تصور کنیم که چگونه ممکن است این اشتباه پیش برود، نیازی به تخیل قبلی نیست. من فکر می کنم که دنیا حق دارد از این بترسد.»

اما خود روسای هوش مصنوعی نیز اعتراف کرده‌اند که ممکن است تنظیم یک فناوری که به سرعت در حال تغییر است دشوار باشد.

آلتمن در مصاحبه ای با Axios که در 3 سپتامبر منتشر شد، گفت که انتظار داشت کنگره پس از شهادتش در سال 2023 یک "چارچوب اساسی" برای هوش مصنوعی پیشرفته ایجاد کند، اما این هنوز اتفاق نیفتاده است.

او پیشنهاد کرد که قانونگذاران برای همگام شدن با فناوری و تنظیم آن بدون «آهسته کردن نوآوری» تلاش کرده اند.

با وجود این واقعیت که قانونگذاران از تعطیلات تابستانی خود در روز دوشنبه بازگشتند، بعید است که قانون ایمنی جدید در مورد هوش مصنوعی به این زودی از کنگره ایالات متحده بیرون بیاید.

فقدان اجماع در میان هر دو حزب ایالات متحده در مورد چگونگی انجام هر گونه مقررات وجود دارد - و مجلس نمایندگان قرار است در پایان هفته قبل از انتخابات میان دوره ای در اوایل نوامبر دوباره وارد تعطیلی شود.

چرا ترامپ علیرغم هشدارها در زمینه هوش مصنوعی همه کاره است؟

نظرات آلتمن در روز سه‌شنبه اولین باری بود که او پس از انتشار پستی در هفته گذشته توسط محققی که شرکت هوش مصنوعی Anthropic را ترک کرده بود، علنی صحبت کرد. این محقق مدعی شد که اگر هوش مصنوعی کنترل نشود، تا پایان دهه می‌تواند همه انسان‌ها را بکشد.

تعداد انگشت شماری از مدیران و کارشناسان هوش مصنوعی در پاسخ گفتند که با این ارزیابی موافق هستند، اگرچه توضیح ندادند که چگونه به نتیجه گیری خود رسیده اند یا دقیقا چگونه هوش مصنوعی می تواند چنین کاری را انجام دهد.

پس از نظرات آلتمن، مارک زاکربرگ در خارج از X نوشت که هر شرکت هوش مصنوعی این توانایی و انگیزه را دارد که "اقدامات خود را" در جهت ایمنی انجام دهد.

مدیر اجرایی متا نوشت: «هر آزمایشگاهی که بر روی هم‌ترازی تمرکز نکند، عقب خواهد ماند.

آزمایشگاه‌ها در صورت آسیب رساندن به مدل‌هایشان با مسئولیت قابل‌توجهی روبرو هستند، بنابراین آنها انگیزه قوی برای جلوگیری از این امر نیز دارند.»

همسویی زمینه ای است که هدف آن ایجاد ایده ها و اصول اخلاقی انسانی در هوش مصنوعی است. به عبارت دیگر، هدف آن حفظ آن در مسیری است که انسان ها برای آن ارزش قائل هستند.

برخی از شخصیت‌های سیاسی با این دیدگاه مخالفت کرده‌اند که شرکت‌های هوش مصنوعی باید بتوانند خود تنظیم کنند.

برنی سندرز گفت که تصمیم گیری در مورد هوش مصنوعی به «تعدادی از ثروتمندترین افراد جهان» واگذار شده است، در حالی که استیو بنن، استراتژیست سابق کاخ سفید گفت که مردم نمی توانند به الیگارش های فناوری اعتماد کنند تا خودشان را تنظیم کنند.

رئیس OpenAI: "دنیا حق دارد بترسد"

رئیس انویدیا، جنسن هوانگ، در همان کنفرانس روز سه‌شنبه گفت که شرکت‌های هوش مصنوعی باید تصمیم بگیرند که آیا نسخه‌های جدید این فناوری باید منتشر شوند یا خیر - نه اینکه توسط نیروهای خارجی مدیریت شوند.

او گفت: «ما نیازی به قوانین یا مقررات جدید نداریم،» و افزود نباید بین سرعت نوآوری و ایمنی محصولات هوش مصنوعی «انتخاب نادرست» وجود داشته باشد.

انویدیا بزرگترین شرکت در جهان از نظر ارزش گذاری است که سود آن در نتیجه تقاضای بی رویه برای سخت افزارش افزایش یافته است.

هوانگ همچنین استدلال کرد که ایمنی یک «مشکل مهندسی» است و شرکت‌ها در صورت از دست دادن اعتماد به محصول باید «مکث کنند».

ادعاهای اخیر از داخل صنعت، بررسی دقیق توسعه هوش مصنوعی را تشدید کرده است، و داریو آمودی، مدیر اجرایی آنتروپیک را بر آن داشت تا سرعت توسعه هوش مصنوعی را کاهش دهد، خارجی و دولت ها را ترغیب کند که صنعت را تنظیم کنند.

این پست مورد تشویق آلتمن، دمیس حسابیس، بنیانگذار DeepMind گوگل و ایلان ماسک قرار گرفت.

با این حال، تا روز سه شنبه، تعداد بیشتری از رهبران هوش مصنوعی به جای دخالت دولت، از خود تنظیمی حمایت کردند.

آلتمن گفت که شرکت های هوش مصنوعی قادر به تنظیم خود هستند.

آلتمن گفت: «ما آن را درست خواهیم کرد» و افزود که اگر شرکت‌ها نتوانند «همسویی و ایمنی را بالاتر از توانایی‌ها نگه دارند»، «آهسته می‌شوند یا متوقف می‌شوند».

اما یوشوا بنجیو، یکی از پیشگامان هوش مصنوعی مدرن، در پستی که در X منتشر کرد، "تلاش های بلندپروازانه خارجی خارج از بخش انتفاعی" برای "جلوگیری از بدترین خطرات ناشی از هوش مصنوعی" مورد نیاز بود.

چرا اخطارهای روز قیامت تنها تهدیدی برای غارتگر هوش مصنوعی نیست؟

ترامپ می‌گوید ایمنی هوش مصنوعی از یک «تقلب» می‌ترسد زیرا او درخواست‌ها برای حفاظت بیشتر را رد می‌کند

برخی از چهره‌های صنعت استدلال کرده‌اند که ترس‌های احیاگر هوش مصنوعی بیش از حد افزایش یافته است و برای ایجاد تبلیغات برای صنعت مورد استفاده قرار می‌گیرد.

در طول کنفرانس، آلتمن در جمع صدها نفر از افراد تجاری سخنرانی کرد و به آنها گفت که باید از ابزارهای هوش مصنوعی برای کمک به کار خود استفاده کنند، اما همچنین برای محافظت از مشاغل خود در برابر حملات سایبری بالقوه مبتنی بر هوش مصنوعی به آنها نیاز دارند.

این ایده که مدیران هوش مصنوعی رها شوند تا به طور کامل خودشان را تنظیم کنند، برخی در صنعت را ایده بدی دانسته است.

جک کلارک، مدیر اجرایی و یکی از بنیانگذاران آنتروپیک، روز دوشنبه به بی‌بی‌سی گفت که رها کردن هوش مصنوعی به یک «صنعت کاملا غیرقانونی»، «پرتاب تاس با خطرات بسیار زیاد» است.

پاتریک هیلمن، مدیر عامل هوش منطقی، که ریاست آن را یان لیکان، حکیم صنعت هوش مصنوعی بر عهده دارد، روز سه‌شنبه به این نکته اشاره کرد که مردم چقدر به شرکت‌های فناوری اعتماد ندارند تا هر کاری را واقعا در جهت منافع عمومی، خارجی انجام دهند.

هیلمن گفت: «تنها مؤسسه‌ای که این روزها ممکن است آمریکایی‌ها کمتر از واشنگتن به آن اعتماد کنند، سیلیکون ولی است. من در هر دو کار و زندگی کرده‌ام و اطمینان می‌دهم که هر دوی شما این بدبینی را به دست آورده‌اید».

او افزود: «اگر فکر می‌کنید کاری که می‌سازید خطرناک است، به ما نشان دهید که چه کاری را آماده توقف انجام می‌دهید».

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

مقررات هوش مصنوعی با افزایش درخواست‌ها برای اقدام کنگره، با بن‌بست سیاسی مواجه است

رهبران OpenAI و Anthropic گفته اند که اخیرا شروع به کار برای نوعی توافق نامه در صنعت در مورد ایمنی کرده اند.

آمودی، طی سخنانی در کنفرانس روز سه‌شنبه، گفت که آنتروپیک اکنون در حال «گفتگو با بقیه صنعت» در مورد تعهد به استانداردهای ایمنی بهتر و بررسی ابزارهای هوش مصنوعی و توسعه است.

او همچنین گفت که یکی از بزرگ‌ترین شگفتی‌های رونق هوش مصنوعی این نیست که چگونه خود فناوری پیشرفت کرده است، بلکه تأثیر گسترده‌تر آن است.

آمودی گفت: «ما قدردان این نبودیم که این امر منجر به رشد شرکت‌ها به این سرعت می‌شود، و با چه سرعتی آنها در مرکز امور قرار می‌گیرند.

کریس لیهان، مدیر اجرایی OpenAI هفته گذشته گفت که این شرکت همچنین با سایر آزمایشگاه‌های هوش مصنوعی، خارجی، "برای پیشبرد استانداردهای هوش مصنوعی مرزی کار می‌کند، و اکنون یک تلاش داوطلبانه با یا بدون حمایت دولت ایجاد می‌کند." این آزمایشگاه ها عبارتند از Anthropic و Google Deepmind.

لیهان می‌نویسد: «با این ریسک‌ها، نمی‌توانیم اجازه دهیم که انسان کامل دشمن خوبی‌ها شود.

آیا نظر یا سوالی در مورد این داستان دارید؟