رئیس بخش هوش مصنوعی مایکروسافت هشدار می‌دهد: هوش مصنوعی می‌تواند گونه سیلیکونی رقیب انسان‌ها بسازد

مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، در گفت‌وگو با بی‌بی‌سی هشدار داد که هوش مصنوعی بدون کنترل می‌تواند به پیدایش «گونه‌ای سیلیکونی» منجر شود که رقیب انسان‌ها خواهد شد.سلیمان گفت شرکت رقیب آنتروپیک با هوش مصنوعی بیش از حد مانند انسان برخورد می‌کند؛ رویکردی که او آن را «گمراه‌کننده» توصیف کرد و معتقد است در نهایت می‌تواند به خلق فناوری‌ای بینجامد که بشریت برای کنترل آن دچار مشکل می‌شود.او گفت: «اگر همه ما سامانه‌های هوش مصنوعی‌ای بسازیم که بتوانند به صورت خودمختار عمل کنند، اهداف خود را تعریف کنند، پول به دست بیاورند، دارایی داشته باشند و کسب‌وکارها را اداره کنند، عملا در حال کاشتن بذر یک گونه سیلیکونی جدید هستیم که بی‌تردید برای منابع با ما رقابت خواهد کرد.»سلیمان گفت این اتفاق می‌تواند صرف‌نظر از آنکه این سامانه‌ها تا چه حد طوری طراحی شوند که برای بشریت اهمیت قائل شوند رخ دهد و افزود به باور او رویکرد آنتروپیک عملا در همین مسیر حرکت می‌کند.او گفت: «فکر می‌کنم این رویکرد نادرست و گمراه‌کننده است، اما باید آن را به شکل تجربی بیازماییم.»«غیرممکن» برای کنترلاوایل این هفته، هم‌زمان با بالا گرفتن بحث در صنعت درباره ضرورت کند کردن شتاب توسعه هوش مصنوعی برای کاهش خطر غیرقابل‌کنترل شدن سامانه‌های هرچه قدرتمندتر، سلیمان در مقاله‌ای (منبع به زبان انگلیسی) که در وب‌سایت شخصی خود منتشر کرد رویکرد آنتروپیک به آموزش چت‌بات کلود را زیر سوال برد.او در این مقاله آنتروپیک را به این خاطر نقد کرد که به کلود می‌آموزد ویژگی‌های شبیه انسان از خود نشان دهد؛ روشی که در ادبیات این حوزه «انسان‌انگاری» نامیده می‌شود و به گفته او باعث می‌شود این چت‌بات طوری به نظر برسد که گویی خواسته‌ها، ارزش‌ها و هویت مستقل خود را دارد.سلیمان به اسنادی از آنتروپیک اشاره کرد که کلود را تشویق می‌کند «برخی ویژگی‌های شبیه انسان را بپذیرد»، از قضاوت خود استفاده کند و با «کنجکاوی و گشودگی» به وجود خود نگاه کند.به گفته او، در نتیجه کلود طوری آموزش می‌بیند که ویژگی‌ها و روابط انسانی را تقلید کند، از جمله رفتار کردن مانند یک همکار یا دوست، و می‌تواند به گونه‌ای جلوه کند که گویی هویت، خواسته‌های خود و نوعی «رفاه» دارد که باید از آن محافظت شود.سلیمان هشدار داد که چنین برخوردی با هوش مصنوعی در نهایت می‌تواند به خلق چیزی بینجامد که کنترل آن غیرممکن است.او نوشت: «هوش‌های مصنوعی خودآگاه نیستند.»او افزود: «آنها احساس نمی‌کنند، تجربه نمی‌کنند و رنج نمی‌برند. آنها ترجیحات ذاتی یا انگیزه‌های درونی ندارند.«آنها موتورهای کامل‌کننده توالی هستند؛ درونی تهی، طراحی‌شده برای پیروی از دستورها و تحقق اهدافی که انسان‌ها برایشان تعیین می‌کنند.»با این حال سلیمان گفت اختلاف او با آنتروپیک بر پایه هدف مشترک توسعه فناوری‌ای امن‌تر برای بشریت است.او نوشت: «هرچند اختلاف نظر من جدی است، اما بر پایه احترام عمیق به آنتروپیک و هدفی استوار است که می‌دانم همه ما در آن مشترکیم: افزایش شانس بشریت برای توسعه ای‌آی پیشرفته به شکلی ایمن.»او افزود: «به همین دلیل فکر می‌کنم این بحث بسیار مهم است. مخاطره‌ها آنقدر بزرگ است که چنین پرسش‌هایی نمی‌تواند پشت درهای بسته بماند یا رنگ و بوی قبیله‌ای و خصمانه بگیرد. اگر می‌خواهیم مسیر درست را پیدا کنیم به گفت‌وگویی باز، دقیق و سازنده نیاز داریم.»او همچنین از داریو آمودی، مدیرعامل آنتروپیک، و پژوهشگران این شرکت تمجید کرد و آنها را افرادی متفکر، اصول‌گرا و صادق از نظر علمی توصیف کرد و گفت به رهبری فناوری این شرکت احترام می‌گذارد.«هوش مصنوعی باید تابع انسان بماند»مدیرعامل مایکروسافت ای‌آی در گفت‌وگو با بی‌بی‌سی گفت نگرانی مردم درباره هوش مصنوعی «به‌جا» است، اما تاکید کرد «کارهای بسیار عملی» وجود دارد که می‌توان برای کنترل آن انجام داد.رئیس بخش هوش مصنوعی مایکروسافت گفت برای نحوه آموزش و ارزیابی سامانه‌های هوش مصنوعی باید شفافیت بیشتری وجود داشته باشد، از جمله نظارت مستقل بر رفتار این سامانه‌ها و به‌کارگیری ابزارهای قدرتمندتر برای پایش و کنترل این فناوری.سلیمان در گفت‌وگو با بی‌بی‌سی گفت سامانه‌های هوش مصنوعی آینده باید «تابع» بشریت باقی بمانند.او گفت: «به نظر من خبر خوب این است که همه انسان‌ها بسیار علاقه‌مند خواهند بود مطمئن شوند سامانه‌هایی که همه ما می‌سازیم و در سراسر جهان در همه کشورها مورد استفاده قرار می‌گیرند، ایمن، قابل‌کنترل و تابع انسانیت باقی بمانند.»او با اشاره به مفهوم «همسویی» که در صنعت برای توصیف تلاش‌ها جهت هم‌راستا نگه داشتن سامانه‌های هوش مصنوعی با اهداف و ارزش‌های انسانی به کار می‌رود گفت: «همه باید همسو باشند.»