مدیر عامل هوش مصنوعی مایکروسافت می گوید "کنترل" هوش مصنوعی "یک چالش واقعا بسیار بزرگ خواهد بود"

مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت بلومبرگ/گتی ایماژ مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت گفت که آزمایشگاه های هوش مصنوعی باید اطمینان حاصل کنند که می توانند آنچه را که ایجاد می کنند کنترل کنند.

سلیمان گفت: «ما نباید چیزی ایجاد کنیم که نتوانیم آن را کنترل کنیم.

سلیمان این سوال را مطرح کرد که چرا برخی در حوزه فناوری تا این حد با مقررات جدید مخالف هستند. مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت می‌گوید این «سوررئال» است که باید بگوید هوش مصنوعی باید با بشریت هماهنگ شود.

سلیمان جمعه در برنامه "Squawk Box" شبکه CNBC گفت: "ما نباید چیزی بسازیم که نتوانیم آن را کنترل کنیم." و اگر به نظر می رسد که ما در مسیری برای تولید چیزی هستیم که نه تنها از مجموع همه ما قدرتمندتر است، بلکه در نتیجه چیزی است که نمی توانیم آن را کنترل کنیم، در این صورت در هدف اساسی خود شکست خواهد خورد.

سلیمان گفت: موفقیت به راحتی به دست نمی آید.

او گفت: "کنترل این چیزها واقعا یک چالش بزرگ برای ما خواهد بود."

سلیمان گفت که "خوشحال است که افراد بسیار بیشتری را می بیند" که از این ایده حمایت می کنند که شرکت های فناوری و سازندگان مدل های مرزی باید کنترل سیستم های هوش مصنوعی خود را حفظ کنند. در صنعت، اطمینان از عملکرد هوش مصنوعی مطابق با نیات انسان، همسویی نامیده می شود.

او گفت: «اما گروه در حال رشدی از مردم هستند که فکر می‌کنند ما این کار را به خاطر خودش انجام می‌دهیم، و ما فقط می‌خواهیم کارت بعدی را برگردانیم، ببینیم چه چیزی در اطراف است و چیزی بسازیم که فقط افسار ما را از بین ببرد.»

اظهارات سلیمان زمانی بیان می شود که توجه بیشتر به ایمنی هوش مصنوعی، پس از آن که Jacob Coxon، محقق سابق Anthropic، هشدار داد که کارکنان هوش مصنوعی به طور خصوصی می ترسند که هوش مصنوعی بتواند بشریت را از بین ببرد.

در روزهای اخیر، داریو آمودی، مدیر عامل آنتروپیک، سام آلتمن، مدیر عامل OpenAI، و ایلان ماسک، مدیرعامل اسپیس ایکس، همگی توافق گسترده‌ای داشتند که آزمایشگاه‌های هوش مصنوعی مرزی باید سرعت پیشرفت‌های خود را بهتر انجام دهند تا اطمینان حاصل شود که اقدامات ایمنی می‌توانند ادامه داشته باشند.

قبل از پست ویروسی Coxon، پس از اینکه OpenAI فاش کرد که عوامل آن Hugging Face را نقض کرده‌اند، بسیاری در صنعت نگران ایمنی بودند، که نشان‌دهنده عواقب بالقوه از دست دادن کنترل بر سیستم‌های هوش مصنوعی است. سلیمان گستردگی رخنه Hugging Face و ناآگاهی اولیه OpenAI از کاری که عوامل هوش مصنوعی آن انجام می‌دهند «قابل توجه» خواند.

سلیمان گفت: «همه را از ایلان و زاک به من، سم، داریو و هر کس دیگری در این بین منتقل کرد تا بگویند وقت آن رسیده است که به این موضوع نگاهی بیندازیم.» "من فکر نمی کنم بیش از حد هشداردهنده باشد. من فکر نمی کنم که این کار منفعت طلبانه باشد. من در واقع فکر می کنم که مسئول است."

زاکربرگ، مدیر عامل متا، موضع متفاوتی نسبت به آمودی و دیگر رهبران هوش مصنوعی اتخاذ کرده است. در اوایل این هفته، زاکربرگ این سوال را مطرح کرد که چرا شرکت‌های هوش مصنوعی باید برای مدیریت سرعت توسعه با هم متحد شوند و پیشنهاد کرد که هر شرکتی باید تجارت خود را مدیریت کند.

زاکربرگ در X نوشت: "هر آزمایشگاهی مسئولیت و انگیزه دارد تا با سرعت مورد نیاز برای آموزش ایمن مدل های خود حرکت کند."

برخی از حوزه‌های فناوری، از جمله جنسن هوانگ، مدیرعامل انویدیا، این سوال را مطرح کرده‌اند که آیا مقررات جدید گسترده‌ای لازم است یا خیر. رئیس جمهور دونالد ترامپ و معاون رئیس جمهور جی دی ونس همچنین شرکت های هوش مصنوعی را که از دولت ها می خواهند تا اقدام کنند، عقب نشینی کرده اند.

آمودی و دیگران از کنگره و نهادهای بین المللی نیز درخواست کرده اند که در این امر مشارکت کنند. سلیمان از کسانی که ایده مقررات را مسخره می کنند، سؤال کرد.

او گفت: «قانون‌گذاری کلمه زشت و خطرناکی نیست. "هر چیزی که شما به آن اعتماد دارید و در حال حاضر دارای ارزش است، توسط نهادهای استاندارد که صنعت، مردم، حمایت از مصرف کننده، کنگره را درگیر می کنند، به دقت مورد بررسی قرار گرفته است. و ما فقط در حال گذراندن این فرآیند هستیم."

مقاله اصلی را در Business Insider بخوانید