رئیس OpenAI می‌گوید دنیا حق ترسیدن است، اما باید به شرکت‌های هوش مصنوعی اعتماد کند

چرا دونالد ترامپ تا این حد با نظارت بر هوش مصنوعی مخالف است؟

رئیس Open AI سازنده ChatGPT می‌گوید مردم باید به شرکت او و سایرین مشابه آن اعتماد بیشتری داشته باشند تا در زمینه توسعه هوش مصنوعی (AI) در میان نگرانی‌های عمومی در مورد خطرات، کار درست را انجام دهند.

سام آلتمن روز سه شنبه در جریان کنفرانسی در سانفرانسیسکو گفت: «جهان باید اعتماد کند که ما کار درست را انجام خواهیم داد، زیرا این کار درست است و ما بزرگی آن را احساس می کنیم.

با این حال، آلتمن خاطرنشان کرد که ترس مردم از هوش مصنوعی توجیه شده است، زیرا توانایی این ابزارها به سرعت پیشرفت کرده است.

در همین حال، سناتور چپ‌گرا برنی سندرز و استیو بنن، مشاور سابق ترامپ، هر دو در سخنانی در واشنگتن خواستار مدیریت بیشتر هوش مصنوعی شدند.

اظهارات آلتمن در جریان حضور در یک کنفرانس سالانه به میزبانی شرکت نرم افزاری Salesforce بیان شد.

او گفت: «برای اینکه [ما] تصور کنیم که چگونه ممکن است این اشتباه پیش برود، نیازی به تخیل قبلی نیست. من فکر می کنم که دنیا حق دارد از این بترسد.»

این اولین باری بود که او پس از انتشار پستی در هفته گذشته توسط محققی که شرکت هوش مصنوعی Anthropic را ترک کرد، علنی صحبت کرد. این محقق ادعا کرد که اگر هوش مصنوعی کنترل نشود، می‌تواند تا پایان دهه تمام انسان‌ها را بکشد.

تعداد انگشت شماری از مدیران و کارشناسان هوش مصنوعی در پاسخ گفتند که با این ارزیابی موافق هستند، اگرچه توضیح ندادند که چگونه به نتیجه گیری خود رسیده اند یا دقیقا چگونه هوش مصنوعی می تواند چنین کاری را انجام دهد.

شور و شوق در مورد این ادعاها منجر به بررسی بیشتر توسعه هوش مصنوعی در روزهای اخیر شده است و در پاسخ، داریو آمودی، مدیر اجرایی Anthropic، خواستار کاهش سرعت توسعه هوش مصنوعی شد و از دولت‌ها خواست تا صنعت را تنظیم کنند.

این پست توسط آلتمن، و همچنین دمیس حسابیس، یکی از بنیانگذاران DeepMind گوگل و ایلان ماسک، مالک سایت رسانه اجتماعی X و دستیار هوش مصنوعی Grok مورد تشویق قرار گرفت.

تا روز سه شنبه، تعداد بیشتری از رهبران هوش مصنوعی به جای دخالت دولت، از خود تنظیمی حمایت کردند.

آلتمن گفت که احساس می‌کند شرکت‌های هوش مصنوعی مانند خود او می‌توانند اساسا خودشان را تنظیم کنند.

آلتمن گفت: "ما کار را به درستی انجام خواهیم داد، من به توانایی شرکت و صنعت خود برای انجام ایمن این کار مطمئن هستم." و اضافه کرد که او مطمئن است که آنها "همسویی و ایمنی را بالاتر از توانایی ها نگه می دارند" و اگر نتوانند، "آهسته می شوند یا متوقف می شوند".

علیرغم تضمین ها، شخصیت های سیاسی نسبت به خودتنظیمی هشدار داده اند.

برنی سندرز، یک سناتور مستقل از ورمونت که با دموکرات‌ها رای می‌دهد، گفت: تصمیم‌گیری‌ها در مورد توسعه هوش مصنوعی توسط "تعدادی از ثروتمندترین افراد جهان" گرفته شده است که از جمله آنها، ایلان ماسک، مارک زاکربرگ رئیس متا و جف بزوس، بنیانگذار آمازون و دیگران را نام برد.

او در کنفرانسی که در واشنگتن برگزار شد، گفت: مردم این کشور باید در مورد هوش مصنوعی تصمیم بگیرند و نه فقط یک مشت الیگارشی.

بنن که در دوره اول ریاست جمهوری ترامپ به عنوان استراتژیست کاخ سفید فعالیت می کرد، همچنین در مورد توانایی صنعت فناوری برای خودتنظیمی تردید ایجاد کرد.

بنن در همان کنفرانس گفت: «ما هرگز نمی‌توانیم به آنچه یک الیگارشی می‌گوید اعتماد کنیم، زیرا... آنها ناصادق هستند و دروغ می‌گویند.

پس از اظهارات آلتمن، مارک زاکربرگ در X نوشت که هر آزمایشگاه هوش مصنوعی توانایی و انگیزه "اقدامات خود" را برای ساخت ابزارها و مدل های هوش مصنوعی دارد که برای ایمنی طراحی شده اند.

زاکربرگ نوشت: «هر آزمایشگاهی که روی هم‌ترازی تمرکز نکند، عقب می‌ماند». آزمایشگاه‌ها در صورت آسیب رساندن به مدل‌هایشان با مسئولیت قابل‌توجهی روبرو هستند، بنابراین انگیزه قوی برای جلوگیری از این امر نیز دارند.»

جنسن هوانگ، رئیس انویدیا نیز در کنفرانس روز سه‌شنبه گفت که شرکت‌های هوش مصنوعی باید تصمیم بگیرند که آیا نسخه‌های جدید این فناوری باید منتشر شود و توسط نیروهای خارجی مدیریت نشود.

هوانگ گفت: ما به قوانین یا مقررات جدید نیاز نداریم، و افزود که نباید بین سرعت نوآوری و ایمنی محصولات هوش مصنوعی یک "انتخاب نادرست" وجود داشته باشد.

انویدیا بزرگترین شرکت در جهان از نظر ارزش گذاری است که سود آن در نتیجه تقاضای بی رویه برای تراشه های محاسباتی هوش مصنوعی که تولید می کند، رونق یافته است.

هوانگ گفت: "ایمنی مهم است. با این حال، ایمنی یک مشکل مهندسی است."

او افزود که اگر در هر زمان یکی از رهبران یک شرکت هوش مصنوعی به محصول خود اعتماد نداشته باشد، باید تصمیم بگیرد که آن را منتشر نکند.

هوانگ گفت: «این کار بسیار بدیهی است. تا جایی که می توانید سریع بدوید، اما اگر هر زمانی احساس کردید که موسسه کنترلی ندارد، مکث کنید.

چرا هشدارهای روز قیامت تنها تهدیدی برای غارتگر هوش مصنوعی نیست؟

ترامپ می‌گوید ایمنی هوش مصنوعی از یک «تقلب» می‌ترسد زیرا او درخواست‌ها برای حفاظت بیشتر را رد می‌کند

برخی از چهره‌های صنعت استدلال کرده‌اند که ترس‌های احیاگر هوش مصنوعی بیش از حد افزایش یافته است و برای ایجاد تبلیغات برای صنعت مورد استفاده قرار می‌گیرد.

در طول کنفرانس، آلتمن در جمع صدها نفر از افراد تجاری سخنرانی کرد و به آنها گفت که باید از ابزارهای هوش مصنوعی برای کمک به کار خود استفاده کنند، اما همچنین برای محافظت از مشاغل خود در برابر حملات سایبری بالقوه مبتنی بر هوش مصنوعی به آنها نیاز دارند.

این ایده که مدیران هوش مصنوعی رها شوند تا به طور کامل خودشان را تنظیم کنند، به نظر برخی در صنعت ایده بدی است.

جک کلارک، مدیر اجرایی و یکی از بنیانگذاران آنتروپیک، روز دوشنبه به بی‌بی‌سی گفت که رها کردن هوش مصنوعی به یک «صنعت کاملا غیرقانونی»، «پرتاب تاس با خطرات بسیار زیاد» است.

پاتریک هیلمن، مدیر عامل هوش منطقی، که ریاست آن را یان لیکان، حکیم صنعت هوش مصنوعی بر عهده دارد، روز سه‌شنبه به این نکته اشاره کرد که مردم چقدر به شرکت‌های فناوری اعتماد ندارند تا هر کاری را واقعا در جهت منافع عمومی، خارجی انجام دهند.

هیلمن گفت: «تنها مؤسسه‌ای که این روزها ممکن است آمریکایی‌ها کمتر از واشنگتن به آن اعتماد کنند، سیلیکون ولی است. من در هر دو کار و زندگی کرده‌ام و اطمینان می‌دهم که هر دوی شما این بدبینی را به دست آورده‌اید».

او افزود: «اگر فکر می‌کنید چیزی که می‌سازید خطرناک است، به ما نشان دهید که چه کاری را آماده توقف انجام می‌دهید».

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

مقررات هوش مصنوعی با افزایش درخواست‌ها برای اقدام کنگره با بن بست سیاسی مواجه است

رهبران OpenAI و Anthropic گفته اند که اخیرا شروع به کار برای نوعی توافق نامه در صنعت در مورد ایمنی کرده اند.

آمودی، طی سخنانی در کنفرانس روز سه‌شنبه، گفت که آنتروپیک اکنون در حال «گفتگو با بقیه صنعت» در مورد تعهد به استانداردهای ایمنی بهتر و بررسی ابزارهای هوش مصنوعی و توسعه است.

او همچنین گفت که یکی از بزرگ‌ترین شگفتی‌های رونق هوش مصنوعی این نیست که چگونه خود فناوری پیشرفت کرده است، بلکه تأثیر گسترده‌تر آن است.

آمودی گفت: «ما قدردان این نبودیم که این امر منجر به رشد شرکت‌ها به این سرعت می‌شود، و با چه سرعتی آنها در مرکز امور قرار می‌گیرند.

کریس لیهان، مدیر اجرایی OpenAI هفته گذشته گفت که این شرکت همچنین با سایر آزمایشگاه‌های هوش مصنوعی، خارجی، "برای پیشبرد استانداردهای هوش مصنوعی مرزی کار می‌کند، و اکنون یک تلاش داوطلبانه با یا بدون حمایت دولت ایجاد می‌کند." این آزمایشگاه ها عبارتند از Anthropic و Google Deepmind.

لیهان می‌نویسد: «با این ریسک‌ها، نمی‌توانیم اجازه دهیم انسان کامل دشمن خوبی‌ها شود.

آیا نظر یا سوالی در مورد این داستان دارید؟