رئیس هوش مصنوعی مایکروسافت می گوید راهی که کلود قطارهای انسان شناسی می تواند جامعه را متحول کند

رئیس هوش مصنوعی مایکروسافت، مصطفی سلیمان، به تازگی مقاله ای منتشر کرده است که در آن استدلال می کند که Anthropic در حال آموزش به کلود است تا خود را آگاهانه و مستحق حقوق بداند، اشتباه بزرگی که می تواند کنترل هوش مصنوعی را به یک چالش غیرممکن تبدیل کند.

آنتروپیک دوست دارد سوال آگاهی مدل هوش مصنوعی را به طور خاص مبهم نگه دارد و شاید بیشتر از بسیاری از آزمایشگاه های هوش مصنوعی دیگر به آن متمایل است. در اوایل سال جاری، آمودی گفت که او "آمادگی به این ایده" دارد که هوش مصنوعی می تواند هوشیار شود.

در این مقاله، سلیمان آنتروپیک را متهم می‌کند که کلود را در اساسنامه خود انسان‌سازی می‌کند و سپس مدل را مستقیما بر اساس این انتظارات آموزش می‌دهد. در واقع، در قانون اساسی، آنتروپیک «نسخه ای کاربردی از عواطف یا احساسات» را به چت بات نسبت می دهد و حتی به «صبور بودن اخلاقی» و هویت ربات چت اشاره می کند. قانون اساسی همچنین به «کلود اجازه می‌دهد تا در مورد نحوه برخورد با آن ابراز نگرانی کند».

سلیمان می نویسد: «محققان شرکت کلود را مستقیما بر اساس اساسنامه خود آموزش دادند. با انجام این کار، آنها به آن می آموزند که این ایده ها را در مورد وضعیت اخلاقی خود به عنوان رفتارهای مطلوب و مورد نظر بگنجاند. «کلود سپس این ایده‌ها را به توسعه‌دهندگان و کاربرانش بازتاب می‌دهد، که آن‌ها به عنوان نشانه‌ای در نظر می‌گیرند که ممکن است بیمار اخلاقی با «خود درونی» باشد.»

سلیمان لزوما مخالف انتشار گمانه‌زنی‌های بحث‌برانگیز آنتروپیک در مورد زندگی درونی مدل‌های هوش مصنوعی نیست، اما او معتقد است که این موضوع نباید در آموزش مدل‌ها گنجانده شود. مدیر مایکروسافت استدلال می کند که این روش توسعه هوش مصنوعی می تواند "تأثیر فاجعه باری بر رفاه بشریت" داشته باشد.

سلیمان می‌گوید: «ما گونه‌ای مصنوعی با هوش و توانایی بی‌سابقه‌ای ایجاد خواهیم کرد، گونه‌ای که آموزش دیده است تا بتواند آگاهانه و مستحق نمایندگی مستقل باشد». ایجاد شک و تردید در مورد وضعیت اخلاقی سیستم‌های هوش مصنوعی در آموزش خودشان ممکن است خطرات همسویی و مهار آن سیستم‌ها را به میزان قابل توجهی افزایش دهد.

مقاله سلیمان در اواسط یک ماه بسیار گرم صنعت هوش مصنوعی به خوبی می آید. پس از حادثه ژوئیه که در آن عوامل OpenAI محدودیت ها را شکستند و به HuggingFace هک کردند، اوضاع از قبل متشنج بود و سوالاتی را در مورد سرعت توسعه هوش مصنوعی و تهدیدی که این مدل های جدید برای امنیت سایبری جهانی ایجاد می کنند، ایجاد کرد.

سپس، اوایل این ماه، یک کارمند سابق آنتروپیک، جیکوب کوکسون، در رسانه‌های اجتماعی پست کرد و گفت که استعفا داده است و ادعا می‌کند که «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد». وحشت بلافاصله ایجاد شد و پس از مقاله ای که توسط مدیر Coxon، مدیر عامل Anthropic، داریو آمودی منتشر شد، به اوج خود رسید.

آمودی در این مقاله هشدار داد که سرعت فعلی توسعه هوش مصنوعی بسیار سریع است و می‌تواند منجر به خطرات مرگ یا زندگی مانند بیوتروریسم و ​​"اختلال جدی اقتصادی" شود. او خواستار مداخله دولت برای پیگیری کاهش سرعت شد. مدیران ارشد شرکت های رقیب، مانند ایلان ماسک، مدیرعامل اسپیس ایکس و سام آلتمن، مدیر عامل OpenAI، موافقت خود را اعلام کردند. آلتمن حتی گفت که IPO مورد انتظار شرکتش تا سال آینده اتفاق نمی افتد زیرا او می خواست ابتدا به عنوان یک شرکت خصوصی با موضوع ایمنی هوش مصنوعی رسیدگی کند، روندی که قول داده بود شامل توقف در توسعه باشد.

یکی از مدیران OpenAI همچنین به خبرنگاران گفت که Anthropic، OpenAI، و DeepMind گوگل چندین هفته در حال هماهنگی در مورد این موضوع بودند و با اعضای کنگره در مورد آن صحبت می کردند.

در همین حال، بسیاری از درخواست‌های آزمایشگاه‌های هوش مصنوعی به‌عنوان تلاشی مخفی برای به‌ثمر رساندن طرح‌های ضدتراست و مقررات مطلوب واشنگتن انتقاد کرده‌اند.

در حالی که ظاهرا در سه آزمایشگاه هوش مصنوعی که به طور فعال در مورد این موضوع هماهنگ می‌کنند نیست، مایکروسافت همچنین «آیین رفتار انسان‌گرایانه هوش مصنوعی» خود را در روز دوشنبه به اشتراک گذاشت، سندی 37 صفحه‌ای که به تشریح آنچه که شرکت معتقد است توسعه هوش مصنوعی ایمن است و همان موضوعاتی را که سلیمان در مقاله خود نقض کرده است، نشان می‌دهد.

سلیمان مدت‌هاست که از این باور دفاع می‌کند که هوش مصنوعی نمی‌تواند واقعا حساس باشد، حتی اگر برای انسان‌ها به نظر برسد، و استدلال کرده است که تعقیب هوش مصنوعی «آگاهانه» خطرناک است.

سلیمان در یک پست وبلاگی در سال گذشته نوشت: «همانطور که باید هوش مصنوعی تولید کنیم که تعامل با انسان‌ها و تعاملات دنیای واقعی را در دنیای فیزیکی و انسانی‌مان در اولویت قرار می‌دهد، باید هوش مصنوعی بسازیم که فقط خود را به عنوان یک هوش مصنوعی نشان دهد، که در عین به حداقل رساندن نشانگرهای آگاهی، کاربرد را به حداکثر برساند. ما باید هوش مصنوعی را برای مردم بسازیم، نه اینکه یک فرد دیجیتالی باشیم.

سلیمان در آخرین مقاله استدلال می‌کند که اگر هوش مصنوعی در نهایت یک موجود آگاه در نظر گرفته شود، می‌تواند «پایه‌های جامعه ما را متزلزل کند»، زیرا تجربه یک موجود از آگاهی سنگ بنای همه چارچوب‌های سیاسی، قانونی و اخلاقی است.

سلیمان می نویسد: "این موضوع نیاز به بحث عمومی فوری دارد. ما باید هنجارهای جمعی را در مورد چگونگی تهیه و استقرار اسناد آموزشی ایجاد کنیم."