مایکروسافت هشدار داد که هوش مصنوعی کنترل نشده می تواند منجر به رقابت «گونه های سیلیکونی» با انسان شود

تماشا کنید: مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت می‌گوید: شرکت‌های فناوری «اساسا در حال کاشت یک گونه جدید سیلیکونی هستند».

رئیس هوش مصنوعی مایکروسافت هشدار داده است که بدون پادمان های کافی، توسعه هوش مصنوعی می تواند منجر به ظهور یک "گونه سیلیکونی" جدید شود که با انسان رقابت می کند.

مصطفی سلیمان گفت که شرکت رقیب آنتروپیک با هوش مصنوعی به گونه‌ای رفتار می‌کند که یک انسان است، رویکردی که او آن را «اشتباه» خواند که می‌تواند فناوری‌ای ایجاد کند که بشریت نمی‌تواند آن را کنترل کند.

مدیر اجرایی در گفتگو با برنامه امروز بی‌بی‌سی گفت که «درست» است که مردم نگران هوش مصنوعی باشند، اما «کارهای بسیار عملی‌ای وجود دارد که می‌توانیم» برای کنترل آن انجام دهیم.

این نظرات آخرین مورد از یک سری هشدارهای جدی از سوی صنعت هوش مصنوعی در مورد خطرات احتمالی این فناوری است. برای نظر دادن به آنتروپیک مراجعه شده است.

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

رئیس OpenAI می‌گوید دنیا حق ترسیدن است، اما باید به شرکت‌های هوش مصنوعی اعتماد کند

سلیمان در صحبت با برنامه Today در روز پنجشنبه، نسبت به ادامه ایجاد سیستم های هوش مصنوعی توسط شرکت ها که قادر به تعیین اهداف خود، کسب درآمد و مالکیت دارایی هستند، هشدار داد.

او گفت که این به معنای "در اصل کاشت یک گونه سیلیکونی جدید" است که "بدون شک می تواند برای منابع با ما رقابت کند، مهم نیست چقدر به انسانیت اهمیت می دهد و ما را دوست دارد".

اظهارات سلیمان به بی‌بی‌سی پس از مقاله‌ای است که اوایل این هفته منتشر کرد، که در آن رویکرد آنتروپیک برای آموزش مدل هوش مصنوعی کلود را زیر سوال برد، علی‌رغم ستایش رئیس داریو آمودی و تیمش به‌عنوان «مردم از نظر فکری صادق».

در آن، او از Anthropic انتقاد کرد که به هوش مصنوعی خود می‌آموزد ویژگی‌هایی شبیه انسان داشته باشد، عملی که به عنوان انسان‌سازی شناخته می‌شود، که به گفته او باعث می‌شود به نظر برسد که کلود خواسته‌ها، ارزش‌ها و احساس خود را دارد.

او همچنین هشدار داد که شرکت‌های فناوری در معرض خطر ایجاد چیزی «غیرممکن» هستند که با این فناوری مانند یک انسان رفتار کنند.

"آنها احساس، تجربه یا رنج نمی کنند. ترجیحات ذاتی یا انگیزه های اساسی ندارند.

آنها موتورهای تکمیل توالی هستند که در داخل توخالی هستند و برای پیروی از دستورالعمل ها و انجام اهداف تعیین شده توسط انسان طراحی شده اند.

داریو آمودی، رئیس شرکت هوش مصنوعی Anthropic است که سلیمان از آن انتقاد کرد که با هوش مصنوعی آن طوری رفتار می کند که گویی انسان است.

رئیس مایکروسافت گفت شفافیت بیشتری در مورد نحوه آموزش و ارزیابی سیستم های هوش مصنوعی مورد نیاز است.

او گفت که این شامل بررسی مستقل رفتار هوش مصنوعی و ابزارهای قوی تر برای نظارت و کنترل این فناوری است.

او نوشت: «ما نباید در خواب راه برویم و تصمیمی بگیریم که بعدا به شدت پشیمان می شویم.

دیم وندی هال، استاد علوم کامپیوتر در دانشگاه ساوتهمپتون، این اظهارات را به‌عنوان «مکالمه‌ای که ما باید در سطح بین‌المللی داشته باشیم» توصیف کرد و آن را با «تاریخی‌های» برخی شرکت‌های هوش مصنوعی که به گفته او فقط برای ترساندن همه مفید بود، توصیف کرد.

این سوال که سیستم‌های هوش مصنوعی چقدر باید از استقلال برخوردار باشند، صنعت را به طور فزاینده‌ای تقسیم می‌کند.

سلیمان در صحبت با بی‌بی‌سی درباره نشست آتی هوش مصنوعی، خواستار «همسویی» برای ایجاد فناوری‌ای شد که باید «فرع» بشریت باشد.

همسویی زمینه ای است که هدف آن ایجاد ایده ها و اصول اخلاقی انسانی در هوش مصنوعی است. به عبارت دیگر، هدف آن حفظ آن در مسیری است که انسان ها برای آن ارزش قائل هستند.

او گفت: «من فکر می‌کنم خبر خوب در اینجا این است که هر کسی که انسان است علاقه بسیار زیادی به این دارد که مطمئن شود سیستم‌هایی که همه ما ایجاد می‌کنیم و... در سرتاسر جهان در هر ملتی مورد استفاده قرار می‌گیرند، ایمن و قابل کنترل هستند و تابع بشریت هستند.»

مایکروسافت تیم ابراطلاعات خود را در اکتبر 2025 تأسیس کرد و این شرکت، مانند رقیب خود Anthropic، تلاش‌هایی را برای توسعه هوش مصنوعی پیشرفته دنبال می‌کند.

نظرات سلیمان منعکس کننده پیش نویس اولیه مایکروسافت از کد رفتاری هوش مصنوعی انسانگرایانه خود است، یک "راهنمای آموزشی" که روز دوشنبه برای چگونگی توسعه هوش مصنوعی این شرکت منتشر شد، که ایده "فوق هوش انسانی" را بیان می کند.

کد بیان می‌کند که این هوش مصنوعی بسیار پیشرفته است که همیشه برای مردم کار می‌کند، در محدوده‌ها باقی می‌ماند و تحت کنترل انسان باقی می‌ماند.

چشم انداز این شرکت از یک هوش مصنوعی "انسانگرا" چالش اصلی پیش روی این فناوری را برجسته می کند - چگونه می توان آن را قدرتمندتر کرد، بدون اینکه ارزش هایی را که قرار است به آن خدمت کند، فراموش کنیم.

آیا شما تحت تاثیر مسائل این داستان قرار گرفته اید؟ تجربه خود را به اشتراک بگذارید

OpenAI شش موضوع ایمنی دیگر را فاش می کند و از طرحی برای افشای حوادث پرده برداری می کند

محقق سابق Anthropic به بی بی سی گفت که کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده اند.

واکنش شدید نسبت به مراکز داده تهدید دیگری برای غول‌افکن هوش مصنوعی است