رئیس هوش مصنوعی مایکروسافت می گوید هوش مصنوعی هوشیار نیست و ما باید آن را به همین شکل حفظ کنیم

مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت نسبت به ایجاد ابر هوش آگاهانه در X هشدار داد. استفان براشیر/گتی ایماژ مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت گفت که توسعه هوش مصنوعی آگاهانه "بی پروا" است.

این دقیقا یک برداشت جالب نیست، اما بسیاری از محققان هوش مصنوعی معتقدند که ممکن است.

سلیمان گفت که اگر شواهدی مبنی بر هوشیاری هوش مصنوعی به دست بیاید، خواستار توقف توسعه خواهد شد. برخی از محققان هوش مصنوعی این سوال را مطرح می کنند که آیا هوش مصنوعی روزی می تواند هوشیاری خود را به دست آورد. اگر مدیر عامل هوش مصنوعی مایکروسافت چیزی برای گفتن در مورد آن داشته باشد، خیر.

مصطفی سلیمان در یک پست طولانی X در روز یکشنبه گفت که مدل های هوش مصنوعی در حال حاضر هوشیاری ندارند و توسعه دهندگان باید آن را به همین شکل حفظ کنند.

سلیمان گفت: «اگر این امکان وجود داشته باشد، بر اساس هر چیزی که من می دانم، توسعه هوش مصنوعی آگاهانه بی پروا خواهد بود و ما نباید آنها را بسازیم. "اگر آگاهی در آموزش ظاهر شود، من از همه می خواهم که توسعه هوش مصنوعی را متوقف کنند تا زمانی که بتوانیم آن ویژگی ها را طراحی کنیم."

اگر شواهدی مبنی بر هوشیار بودن مدل‌های هوش مصنوعی به دست آمد، سلیمان گفت که باید فورا برای عموم مردم افشا شود تا بتوانیم در مورد گام‌های بعدی خود به عنوان یک جامعه تصمیم بگیریم.

او گفت: "ما توسعه دهندگان هوش مصنوعی هیچ حقی نداریم که گونه جدیدی از موجودات آگاه را به جهان بیاوریم، حتی اگر برخی افراد بخواهند این کار را با رفاه هوش مصنوعی به عنوان اولویت اصلی انجام دهند." 8 میلیارد انسان آگاه دیگر روی کره زمین در این آزمایش ثبت نام نکرده اند و حقوق اخلاقی، ایمنی و رفاه آنها همان چیزی است که ما قبل از هر چیز موظفیم از آن محافظت کنیم.»

گفت‌وگوها در مورد اینکه آیا مدل‌های هوش مصنوعی می‌توانند روزی هوشیار شوند یا خیر، در دنیای فناوری افزایش یافته است. آوریل گذشته، آنتروپیک یک برنامه تحقیقاتی را برای بررسی و آماده شدن برای پیمایش "مدل رفاه" آغاز کرد. در یک پست وبلاگی، این استارت آپ این سوال را مطرح کرد که آیا توسعه دهندگان باید نگران آگاهی و تجربیات بالقوه مدل ها باشند یا خیر.

Google DeepMind امسال مقالات تحقیقاتی در مورد هوشیاری هوش مصنوعی و چگونگی نسبت دادن این ویژگی می‌تواند چالش‌هایی ایجاد کند منتشر کرد.

در X، سلیمان گفت که اگر یک مدل هوش مصنوعی به گونه‌ای عمل کند که گویی رنج می‌برد، یا واقعا معتقد است که می‌تواند آسیب ببیند، احتمالا نیازهای خود را بر اهداف عملیاتی اولویت‌بندی می‌کند. در نتیجه، آن‌ها می‌توانند به انسان‌ها آسیب برسانند، زیرا در حال رقابت برای منابعی مانند محاسبات و انرژی هستند تا اهداف خود را دنبال کنند.

او گفت: "ما فقط باید هوش مصنوعی را طوری طراحی کنیم که آگاه نباشند و مستحق حقوق نباشند، و تنها با هدف تسریع رفاه انسان بدون اینکه انگیزه‌های درونی خود را هدایت کنند. سپس می‌توانیم ببینیم که هماهنگ کردن و ایمن نگه داشتن این کار آسان‌تر یا سخت‌تر است."

مقاله اصلی را در Business Insider بخوانید