مارک زاکربرگ تغییر برند هوش مصنوعی «فوق هوش» دونالد ترامپ را پذیرفت

مارک زاکربرگ، مدیر عامل متا، زبان مورد علاقه دونالد ترامپ، رئیس جمهور آمریکا برای هوش مصنوعی (AI) را در شرایطی که صنعت فناوری با هشدارهای فزاینده ای در مورد خطرات توسعه سیستم های قدرتمندتر مواجه است، اتخاذ می کند.

زاکربرگ در اعلام یک تجارت جدید متمرکز بر سازمان در روز دوشنبه، بارها از "فوق هوش" استفاده کرد و گفت که این فناوری "فرصت های جدید قابل توجهی را برای همه افراد و مشاغل" ایجاد می کند.

این عبارت پس از بیانیه ترامپ در سازمان ملل متحد در 22 سپتامبر است که دولت ایالات متحده در اسناد رسمی «هوش مصنوعی» را با «فوق هوش» جایگزین می‌کند.

ترامپ صبح جمعه پس از دیدار با شی جین پینگ، رئیس جمهور چین، در سایت Truth Social پست کرد: «اتفاقات فوق العاده ای رخ خواهد داد». او می‌گوید: «تقریبا مانند همه افراد دیگر، به نظر می‌رسید که او دوست داشت هوش مصنوعی را با نامی بسیار دقیق‌تر و مهم‌تر، SUPER INTELLIGENCE بخواند. این «SUPER» خواهد بود. دیشب همه موافق بودند."

تصاویر آسوشیتدپرس نشان می‌دهد که زاکربرگ پنج‌شنبه گذشته در یک شام دولتی با ترامپ و شی در اتاق شرقی کاخ سفید بوده است، اگرچه مشخص نیست که آیا او با هر یک از رهبران صحبت کرده است یا خیر.

انتخاب زبان زاکربرگ یکی از بزرگترین شرکت‌های فناوری جهان را با تلاش ترامپ برای ارائه هوش مصنوعی پیشرفته به‌عنوان منبع قدرت ملی و اقتصادی به جای یک خطر وجودی که نیازمند محدودیت‌های شدیدتر است، همسو می‌کند.

این تغییر در بحبوحه یک سری هشدارهای جدی از سوی محققان و رهبران صنعت صورت می گیرد.

کارمندان فعلی و سابق OpenAI و Anthropic با استناد به ترس از اینکه سیستم‌های خود-بهبود می‌توانند از کنترل انسان فرار کنند، حملات سایبری قدرتمندی را فعال کنند یا یک تهدید وجودی ایجاد کنند، از شرکت‌ها خواسته‌اند که توسعه را کند کنند.

محقق سابق آنتروپیک، جاکوب کوکسون، در ماه سپتامبر استعفا داد و آزمایشگاه‌های پیشرو را متهم کرد که «مستقیما به سمت سوپرهوش خودساز و قمار با زندگی‌مان مسابقه می‌دهند». داریو آمودی، مدیر عامل آنتروپیک متعاقبا خواستار کاهش هماهنگ شد، در حالی که سم آلتمن، ایلان ماسک و دمیس حسابیس علنا از کاهش سرعت حمایت کردند.

در مقابل، ترامپ با این استدلال که کند شدن توسعه آمریکا به نفع چین خواهد بود، درخواست‌ها برای محدود کردن صنعت را رد کرده است. او برخی از هشدارهای ایمنی را به عنوان یک "فریب" رد کرده و رهبری در هوش مصنوعی را رقابتی توصیف کرده است که ایالات متحده باید برنده شود.

نیوزویک روز دوشنبه برای اظهار نظر از طریق ایمیل با کاخ سفید تماس گرفت.

زاکربرگ ایجاد پلتفرم متا انترپرایز را اعلام کرد و آن را "ستون اصلی بعدی" تجارت شرکت توصیف کرد. این پلتفرم به دنبال کمک به کسب‌وکارها در استفاده از هوش مصنوعی برای جذب مشتری، توسعه محصولات و تغییر عملیات خود است.

زاکربرگ Chirantan "CJ" Desai، رئیس و مدیر عامل سابق MongoDB را به عنوان مدیر ارشد پلت فرم سازمانی معرفی کرد. دسایی که مستقیما به زاکربرگ گزارش می‌دهد، قبلا نقش‌های ارشدی در Cloudflare و ServiceNow داشته است.

این اعلامیه شامل قیمت گذاری، تعهدات مشتری یا جدول زمانی برای انتشار پلت فرم به عنوان یک پیشنهاد تجاری یکپارچه نمی شد.

به گفته کارشناسان، استفاده زاکربرگ از اصطلاح "ابر هوش" ممکن است به پذیرش گسترده تر صنعت کمک کند.

ژان پیر دوبه، پروفسور بازاریابی دانشگاه شیکاگو هفته گذشته به نیوزویک گفت: «به نظر نمی‌رسد که نام تجاری مجدد آغاز شود مگر اینکه رهبران فناوری این اصطلاح را بپذیرند». مشکل اینجاست که اصطلاح "فوق هوش" در دنیای فناوری معنای بسیار خاصی دارد: "هر عقلی که عملا در همه حوزه های مورد علاقه از عملکرد شناختی انسان بسیار فراتر رود."

در حالی که بسیاری بحث می کنند که چقدر زود هوش مصنوعی از هوش انسانی پیشی می گیرد، به نظر می رسد استفاده از اصطلاح جدید «فوق هوش» زودرس باشد.

ترامپ ابتدا چندین جایگزین برای «هوش مصنوعی» از جمله «هوش برتر»، «هوش افراطی» و «هوش عالی» ارائه کرد. او بعدا به "فوق اطلاعاتی" پرداخت و طی سخنرانی خود در سازمان ملل اعلام کرد که این اصطلاح باید در اسناد دولت ایالات متحده استفاده شود.

این عبارت قبلا در تحقیقات هوش مصنوعی معنای مشخصی دارد. این به طور کلی یک سیستم فرضی را توصیف می کند که توانایی های آن در بیشتر زمینه ها بسیار فراتر از هوش انسانی است، نه اینکه به عنوان جایگزینی برای تمام فناوری های هوش مصنوعی موجود عمل کند.

ترامپ همچنین برنامه‌هایی را برای یک "نیروی هوش مصنوعی" با الگوبرداری از نیروی فضایی اعلام کرده و گفته است که یک پادشاه هوش مصنوعی را منصوب خواهد کرد، اگرچه ساختار، عضویت یا اختیارات بدن پیشنهادی را مشخص نکرده است. نیوزویک برای اطلاعات بیشتر از طریق ایمیل با کاخ سفید تماس گرفت.

استقبال زاکربرگ از مسیری سریع‌تر به سوی هوش مصنوعی پیشرفته پس از سال‌ها دفاع از رویکرد متا در مورد ایمنی پلتفرم در مقابل کنگره صورت می‌گیرد.

مدیر عامل متا بارها با قانونگذاران به دلیل مدیریت فیس بوک با حریم خصوصی کاربران، اطلاعات نادرست انتخاباتی، محتوای مضر و تأثیر این پلت فرم بر کاربران جوان مواجه شده است.

در طول یک سری از جلسات استماع کنگره، زاکربرگ تحت فشار قرار گرفت که آیا متا با فناوری‌های جدید خیلی سریع حرکت می‌کند و در عین حال نتوانسته آسیب‌های احتمالی را به اندازه کافی برطرف کند.

در ژانویه 2024، زاکربرگ در کنار رهبران TikTok، X، Snap و Discord در جلسه استماع سنا با تمرکز بر ایمنی آنلاین کودکان شهادت داد. در طول جلسه، سناتورها این سوال را مطرح کردند که آیا شرکت های رسانه های اجتماعی به اندازه کافی برای محافظت از کودکان در برابر استثمار، سوء استفاده و محتوای مضر انجام داده اند یا خیر.

منتقدان گسترش سریع صنعت هوش مصنوعی شباهت هایی را بین رسانه های اجتماعی و هوش مصنوعی ترسیم کرده اند و استدلال می کنند که شرکت های فناوری قبل از درک کامل خطرات اجتماعی دوباره رشد و نوآوری را در اولویت قرار می دهند.

با این حال، حامیان معتقدند که درس‌های آموخته‌شده از رسانه‌های اجتماعی می‌تواند به شرکت‌ها کمک کند تا با قدرتمندتر شدن سیستم‌های هوش مصنوعی، پادمان‌هایی را توسعه دهند.

این تاریخ بعد دیگری به آخرین تلاش زاکربرگ می‌افزاید. از آنجایی که متا «ابر هوش» را ترویج می‌کند و جاه‌طلبی‌های هوش مصنوعی سازمانی خود را گسترش می‌دهد، این شرکت احتمالا با سؤالات جدیدی از سوی قانون‌گذاران و قانون‌گذاران در مورد چگونگی برنامه‌ریزی برای متعادل کردن نوآوری با ایمنی، شفافیت و پاسخگویی عمومی مواجه خواهد شد.

جان والش، مدیر ارشد فناوری IGEL، گفت که تاکید زاکربرگ بر «فوق هوش» نشان می‌دهد که هوش مصنوعی با چه سرعتی از سیستم‌هایی که اطلاعات تولید می‌کنند به عواملی که می‌توانند به‌طور مستقل اقداماتی را در داخل کسب‌وکار انجام دهند، تکامل می‌یابد.

والش روز دوشنبه در بیانیه ای ایمیلی به نیوزویک گفت: «چه صنعت آن را هوش مصنوعی یا ابرهوشی بنامد، افزایش قابلیت نیاز به کنترل را افزایش می دهد، نه برعکس.

والش استدلال کرد که بحث باید فراتر از این باشد که آیا شرکت‌ها باید توسعه هوش مصنوعی را تسریع یا کند کنند.

او گفت: «هرچه این سیستم‌ها توانمندتر شوند، توانایی ما برای ایمن سازی، مشاهده و کنترل آن‌ها با همان سرعت پیشرفت می‌کند.»

به گفته والش، عوامل هوش مصنوعی که به طور فزاینده‌ای مستقل هستند، باید به عنوان «بازیگران غیرانسانی قدرتمند» در نظر گرفته شوند زیرا به برنامه‌های کاربردی شرکت، APIها، داده‌های مشتری و سیستم‌های حیاتی دسترسی پیدا می‌کنند. این امر مستلزم تدابیری مانند "هویت قوی، کمترین امتیاز، اجرای قابل اعتماد، قابلیت مشاهده مداوم و مرزهای قابل اجرا در اطراف کاری است که آنها مجاز به انجام آن هستند."

او گفت که سازمان‌ها همچنین باید توانایی «حفظ یک عامل یا نیاز به مداخله و تأیید انسانی در صورت لزوم» را حفظ کنند و هشدار داد که همسویی مدل به تنهایی کافی نیست.

والش گفت: "ایمنی و همسویی مدل همچنان مهم است، اما آنها نمی توانند تنها خط دفاعی باشند." ما کاملا باید کنترل‌هایی در جایی که هوش مصنوعی عمل می‌کند داشته باشیم.»

والش گفت به جای قرار دادن نوآوری در برابر مقررات، تمرکز باید بر روی ایجاد قابلیت استقرار هوش مصنوعی پیشرفته به روشی ایمن و قابل اعتماد باشد. وی خواستار همکاری بیشتر بین صنعت و دولت در زمینه استانداردها، تست ها و چارچوب های نظارتی شد و گفت که این بخش باید رویکردهایی مشابه آنچه در سایر صنایع پرخطر استفاده می شود اتخاذ کند.

والش گفت: «واقعا زمان آن فرا رسیده است که حرف زدن را متوقف کنیم و شروع به انجام کار کنیم. رهبران باید شروع به صحبت درباره محصول و برند کنند و برای حل این چالش مشترک با هم کار کنند تا شرکت‌ها بتوانند هوش مصنوعی خود را با خیال راحت به کار گیرند.»

متا اکنون باید نشان دهد که عوامل، مدل‌ها و ابزارهای توسعه‌دهنده موجود می‌توانند به یک کسب‌وکار سازمانی منسجم تبدیل شوند که قادر به رقابت با ارائه‌دهندگان ابر و هوش مصنوعی است.

این شرکت همچنین در مورد چگونگی برنامه ریزی برای مقابله با خطرات امنیتی، حریم خصوصی و ایمنی در حالی که به دنبال فناوری است که زاکربرگ آن را به عنوان ابراطلاعات توصیف می کند، با سوالاتی روبرو خواهد شد. دسای گفت که امنیت و حریم خصوصی از همان ابتدا در محصولات سازمانی متا گنجانده می‌شود، اما این اطلاعیه به جزئیات حفاظتی خاصی اشاره نکرد.

این عرضه متا را در مرکز شکاف بزرگ قرار می دهد: ترامپ و زاکربرگ بر وعده تجاری "ابر هوش" تاکید می کنند، در حالی که محققان برجسته و مدیران فناوری هشدار می دهند که رقابت برای ساخت آن ممکن است سریعتر از توانایی صنعت برای کنترل آن در حال حرکت باشد.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: هالی سیلورمن و دیو سیمینوف.