رئیس مایکروسافت به بی‌بی‌سی می‌گوید که رفتار فناوری با هوش مصنوعی مانند انسان اشتباه و نادرست است

تماشا کنید: مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت می‌گوید: شرکت‌های فناوری «اساسا در حال کاشت یک گونه جدید سیلیکونی هستند».

رئیس هوش مصنوعی مایکروسافت گفته است که اگر محدودیت‌های کافی در توسعه هوش مصنوعی اعمال نشود، می‌تواند منجر به ظهور گونه سیلیکونی جدیدی شود که با انسان رقابت می‌کند.

او رویکرد شرکت فناوری رقیب را در برخورد با هوش مصنوعی به گونه ای که انسان است، «گمراه» توصیف کرد و در مورد ایجاد فناوری که بشریت قادر به کنترل آن نیست هشدار داد.

مصطفی سلیمان در گفتگو با برنامه امروز بی‌بی‌سی گفت: «درست است» که مردم نگران یا نگران باشند، اما «کارهای بسیار عملی وجود دارد که می‌توانیم برای اضافه کردن نرده‌ها و کنترل‌های اضافی به نحوه توسعه این مدل‌ها انجام دهیم».

این نظرات آخرین مورد از یک سری هشدارهای جدی از سوی صنعت هوش مصنوعی در مورد خطرات احتمالی این فناوری است.

واکنش شدید نسبت به مراکز داده تهدید دیگری برای غول‌افکن هوش مصنوعی است

رئیس OpenAI می‌گوید دنیا حق ترسیدن است، اما باید به شرکت‌های هوش مصنوعی اعتماد کند

او در گفت‌وگو با برنامه Today در روز پنج‌شنبه، گفت: اگر شرکت‌ها به ایجاد هوش مصنوعی ادامه دهند که اهداف خود را ایجاد می‌کنند، درآمد کسب می‌کنند و دارایی‌های خود را دارند، اساسا در حال کاشت گونه جدیدی از سیلیکون هستند که بدون شک برای منابع با ما رقابت خواهد کرد، مهم نیست چقدر به انسانیت اهمیت می‌دهد و ما را دوست دارد.

اظهارات رهبر هوش مصنوعی به بی بی سی به دنبال مقاله ای است که او در اوایل این هفته منتشر کرد، جایی که او در مورد رویکرد آنتروپیک برای آموزش مدل هوش مصنوعی کلود هشدار داد.

او به شدت از Anthropic انتقاد کرد که به هوش مصنوعی خود می‌آموزد ویژگی‌هایی شبیه انسان داشته باشد، عملی که به عنوان انسان‌سازی شناخته می‌شود، که به گفته او باعث می‌شود به نظر برسد که کلود خواسته‌ها، ارزش‌ها و احساس خود را دارد. بی بی سی برای اظهار نظر با آنتروپیک تماس گرفته است.

در این مقاله، او به شرکت‌های فناوری هشدار داد که با رفتار با فناوری مانند یک انسان، خطر ایجاد چیزی «غیرممکن» را برای کنترل آن ایجاد می‌کنند.

او نوشت: هوش مصنوعی ها هوشیار نیستند. "آنها احساس، تجربه یا رنج نمی کنند. ترجیحات ذاتی یا انگیزه های اساسی ندارند.

آنها موتورهای تکمیل توالی هستند که در داخل توخالی هستند و برای پیروی از دستورالعمل ها و انجام اهداف تعیین شده توسط انسان طراحی شده اند.

او در گفتگو با بی‌بی‌سی درباره نشست آتی هوش مصنوعی که قرار است با حضور رهبران جهانی و شرکت‌های فناوری برگزار شود، خواستار «همسویی» برای ایجاد فناوری‌ای شد که باید «تحت تبعیت» از بشریت باشد.

در یک مقاله طولانی، سلیمان، رئیس آنتروپیک، داریو آمودی و تیمش را به دلیل "مردم متفکر، اصولی و از نظر فکری صادق" تمجید کرد - اما با این وجود شرکت را زیر سوال برد.

در این مقاله، سلیمان همچنین استدلال کرد که "آگاهی بیولوژیکی است" و گفت "هیچ مدرکی وجود ندارد که نشان دهد هوش مصنوعی هوشیار است".

سلیمان علاوه بر درخواست برای بحث در مورد این موضوع، گفت: شفافیت بیشتر در مورد نحوه آموزش و ارزیابی سیستم های هوش مصنوعی مورد نیاز است.

او گفت که این شامل بررسی مستقل رفتار هوش مصنوعی و ابزارهای قوی تر برای نظارت و کنترل این فناوری است.

او می‌نویسد: «ما نباید در خواب راه برویم و تصمیمی بگیریم که بعدا به شدت پشیمان می‌شویم.

دیم وندی هال، استاد علوم کامپیوتر در دانشگاه ساوتهمپتون، این اظهارات را به‌عنوان «مکالمه‌ای که ما باید در سطح بین‌المللی داشته باشیم» توصیف کرد و آن را با «تاریخی‌های» برخی شرکت‌های هوش مصنوعی که به گفته او فقط برای ترساندن همه مفید بود، توصیف کرد.

مایکروسافت در اکتبر 2025 تیم ابراطلاعات خود را تأسیس کرد، نکته ای که سلیمان به آن اذعان کرد و این شرکت نیز مانند رقیب خود Anthropic، تلاش هایی را برای توسعه هوش مصنوعی پیشرفته دنبال می کند.

او گفت که در پیش‌نویس اولیه آیین‌نامه رفتاری هوش مصنوعی مایکروسافت، از خارج نشان داده است که چگونه این شرکت به سمت یک «مسیر جایگزین» برای ایجاد «یک هوش مصنوعی تابع و همسو که تنها هدف آن خدمت به بشریت است» کار می‌کند.

همسویی زمینه ای است که هدف آن ایجاد ایده ها و اصول اخلاقی انسانی در هوش مصنوعی است. به عبارت دیگر، هدف آن این است که آن را در مسیری با آنچه که انسان ها ارزش قائل هستند، حفظ کند.

سلیمان به حادثه اخیر مربوط به عوامل هوش مصنوعی OpenAI اشاره کرد که به طور مستقل در یک تمرین آموزشی برای هک مرکز فناوری Hugging Face عمل کردند و دلیلی بر این بود که چرا نباید با هوش مصنوعی به گونه ای رفتار کرد که گویی انسان است.

او گفت: "تصور کنید اگر آنها با این فرض که رفاه و حقوق آنها مورد حمله قرار گرفته است، کار می کنند چقدر خطرناک تر می شوند."

"این یک لایه کامل دیگر از ریسک را به بالا اضافه می کند."

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

داریو آمودی، رئیس Anthropic، خواستار کاهش سرعت توسعه هوش مصنوعی است