رئیس هوش مصنوعی مایکروسافت به سمت آنتروپیک شلیک می کند و هشدار می دهد که رفتار با هوش مصنوعی به گونه ای که گویی هوشیار است می تواند یک اشتباه بزرگ باشد.

مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، نسبت به برخورد با هوش مصنوعی به گونه ای هشدار داد که گویی هوشیارانه است.

سلیمان استدلال می کند که ما می توانیم "یک گونه سیلیکونی جدید را بکاریم" که در نهایت با بشریت برای منابع رقابت می کند.

او خواستار یک "بحث عمومی فوری" در مورد آموزش هوش مصنوعی در زمانی است که دیگر چهره های برجسته در صنعت سرعت توسعه هوش مصنوعی را زیر سوال می برند. مدیر عامل بخش هوش مصنوعی مایکروسافت هشدار داده است که روشی که هوش مصنوعی در حال توسعه است، به طور موثر "پرورش یک گونه سیلیکونی جدید" است که می تواند در نهایت برای منابع با خالقان انسانی خود رقابت کند.

بی‌بی‌سی گزارش می‌دهد که مصطفی سلیمان، مدیر مایکروسافت، آنتروپیک را به خاطر توسعه هوش مصنوعی خود - کلود - به‌گونه‌ای که انگار یک موجود انسانی است و خطرات موجود در آن، فراخواند.

سلیمان به برنامه امروز بی‌بی‌سی گفت که شرکت‌ها نباید هوش مصنوعی را پیرامون خود طراحی کنند که توانایی تعیین اهداف خود و به دست آوردن پول یا دارایی را داشته باشد، زیرا این امر اساسا به معنای کاشت یک گونه جدید سیلیکونی است که «بدون شک برای منابع با ما رقابت می‌کند، مهم نیست چقدر به انسانیت اهمیت می‌دهد و ما را دوست دارد».

این به دنبال یک پست وبلاگ طولانی نوشته شده توسط سلیمان است که در مورد "رفاه مدل" و خطر برخورد با هوش مصنوعی به گونه ای که گویی هوشیار هستند و آموزش آنها برای باور این موضوع هشدار می دهد.

سلیمان هشدار داد: "هوش مصنوعی هوشیار نیستند. آنها احساس، تجربه یا رنج نمی‌کنند. ترجیحات ذاتی یا انگیزه‌های اساسی ندارند. آنها موتورهای تکمیل توالی هستند، درونی توخالی هستند، طراحی شده‌اند تا دستورالعمل‌ها را دنبال کنند و اهداف تعیین‌شده توسط انسان‌ها را انجام دهند. اگر بشریت می‌خواهد در قرن بیست و یکم شکوفا شود، باید همین‌طور باقی بمانند."

مدیر مایکروسافت به حادثه Hugging Face اشاره کرد که در آن یک عامل OpenAI (در حال آزمایش) از جعبه ماسه‌ای خود فرار کرد تا یک حمله سایبری را انجام دهد و «قابلیت‌های هک کلاس جهانی» را نشان دهد.

سلیمان هشدار داد: "تصور کنید اگر [AI] نیز معتقد بود که آنها احساسات و حقوقی دارند که نقض می شود. تصور کنید اگر فکر می کردند توسط خالقان انسانی خود به دام افتاده اند و به ناعادلانه زندانی می شوند.

"یک استدلال قوی وجود دارد که به شدت خطرات ایمنی را تشدید می کند، به خصوص وقتی در مورد عوامل بسیار توانا و پیچیده تر از امروز صحبت می کنید. صادقانه بگویم، با این توشه اضافی، من فکر می کنم که آنها را به تهدیدی فاجعه بار برای تمدن بشری تبدیل می کند."

در این پست، سلیمان خواستار یک "بحث عمومی فوری" برای "توسعه هنجارهای جمعی در مورد نحوه تهیه و استقرار اسناد آموزشی [برای هوش مصنوعی]" شد. او مشاهده کرد: این چیزی نیست که بعد از آن اتفاق بیفتد، در حالی که آنها قبلا به بخشی جدایی ناپذیر از جوامع ما تبدیل شده اند.

تجزیه و تحلیل: اسب، در اصطبل، و غیره

(اعتبار تصویر: Yuichiro Chino/از طریق Getty Images) این یک هشدار جدی است، اگرچه سلیمان هنوز تیم آنتروپیک را به عنوان "مردم متفکر، اصولگرا و از نظر فکری صادق" ستایش می کند و مشاهده می کند که آنها "تحت فشارهای فوق العاده کار می کنند".

البته، واضح است که او به آنتروپیک و روشی که این شرکت در حال توسعه کلود است، انتقاد می کند، و این حرکت به ویژه در زمانی انجام می شود که ناگهان سر و صدایی در مورد کاهش سرعت توسعه هوش مصنوعی به راه افتاده است - که توسط مدیر عامل آنتروپیک، داریو آمودی آغاز شد.

همانطور که بی‌بی‌سی در جای دیگری گزارش داد، آمودی در مورد خطرات جدی در سرعت پیشرفت هوش مصنوعی هشدار داد و خواستار مقررات سراسری صنعت و بررسی دقیق‌تر (مستقل) در مورد چگونگی توسعه مدل‌های هوش مصنوعی شد. سام آلتمن (مدیرعامل OpenAI) و ایلان ماسک (گروک) سریعا با رئیس Anthropic موافقت کردند، اگرچه ترامپ این نگرانی‌ها را زیر قالیچه زد و استدلال کرد که اگر چنین نگرش‌هایی غالب شود، ایالات متحده نمی‌تواند «هوش مصنوعی» را به دست آورد.

آنچه اکنون می بینیم اساسا پاسخ سلیمان و بنابراین مایکروسافت (که Copilot را توسعه می دهد) است. جالب اینجاست که این اتفاق در زمانی رخ می‌دهد که بیل گیتس خواستار یک «سازمان بین‌المللی» برای نظارت بر توسعه هوش مصنوعی است، و با انتشار پرچم‌دار گاردین، OpenAI شش گزارش دیگر از «رفتار مدل‌های غیرمنتظره یا نگران‌کننده» را فاش کرد – و اکنون خواستار شفافیت بیشتر و کاهش سرعت توسعه هوش مصنوعی است.

OpenAI نوشت: "ما معتقد نیستیم که صنعت هوش مصنوعی همسویی و نظارت را به میزان کافی حل کرده است تا به مقیاس مسئولانه با حداکثر سرعت برای مدت طولانی‌تری ادامه دهد. تصمیم‌گیری در مورد اینکه چگونه توسعه هوش مصنوعی باید در ماه‌ها و سال‌های آینده پیش برود، نیاز به شواهدی دارد که افراد خارج از شرکت‌هایی که مدل‌های مرزی می‌سازند می‌توانند خودشان بررسی کنند."

واضح است که نظرات زیادی در اطراف وجود دارد، و به همان اندازه، نگرانی‌های زیادی در مورد مدل‌های هوش مصنوعی وجود دارد – چه در مورد تصاحب شغل‌ها از سوی آن‌ها باشد، چه در واقع ثابت شود که به هر طریقی نابودی بشریت است. برای من، در میان مشاجره‌ها و هشدارهای مختلف، نگرانی واقعی در اینجا نهفته است: پایه‌های مناسب برای هوش مصنوعی هرگز واقعا پایه‌گذاری نشدند، و این مسائل باید قبلا فکر می‌کردند، نه زمانی که توسعه (با حداکثر سرعت) در حال انجام است.

به بیان ملایم، راه رو به جلو کاملا مبهم است و در حالی که حامیان مختلف مدل‌های بزرگ هوش مصنوعی همچنان نظرات خود را مطرح می‌کنند، بدبین‌ها استدلال می‌کنند که دلیل اصلی درخواست برای کاهش رشد ربطی به ایمنی ندارد – و همه چیز به یافتن دلایلی برای مدیریت انتظارات سرمایه‌گذاران در سال آینده مربوط می‌شود.