"ما یک انتخاب داریم": رهبران هوش مصنوعی زنگ خطر را در سازمان ملل به صدا در می آورند

مدیران سازمان‌های پیشرو هوش مصنوعی روز چهارشنبه در جلسه شورای امنیت سازمان ملل متحد از همکاری جهانی برای رسیدگی به خطرات ناشی از سیستم‌های هوش مصنوعی به طور فزاینده مستقل خواستند.

تصویر بزرگ: قابلیت‌های هوش مصنوعی سریع‌تر از توسعه پادمان‌هایی توسط دولت‌ها در حال پیشرفت است، و این نگرانی‌ها را در مورد اینکه آیا انسان‌ها می‌توانند کنترل سیستم‌های خودکار را به طور فزاینده‌ای حفظ کنند، ایجاد می‌کند. سام آلتمن، مدیر عامل OpenAI شخصا در جلسه حاضر شد، در حالی که داریو آمودی از Anthropic و کلم دلانگو، مدیر عامل شرکت Hugging Face از طریق ویدئو کنفرانس به آن پیوستند. آلتمن گفت: "ما یک انتخاب پیش روی خود داریم."

هوش مصنوعی می‌تواند بیشتر شبیه یک رنسانس جدید خلاقیت و اکتشاف باشد یا بیشتر شبیه یک انقلاب صنعتی جدید با تحولات و آشفتگی باشد.» او خطرات خودگردان شدن روزافزون سیستم‌های هوش مصنوعی را تشریح کرد و هشدار داد: «آن‌ها می‌توانند سریع‌تر از مؤسسات ما حرکت کنند، قدرت را در دست‌های بسیار کمی متمرکز کنند، یا تصمیم‌هایی بگیرند که مردم دیگر آن‌ها را درک یا کنترل نمی‌کنند»، ترس‌هایی که او اشاره کرد با حرکت سیستم‌های هوش مصنوعی به سمت خود-بهبودی به طور فزاینده‌ای ضروری می‌شود.

او گفت: «مهم نیست که مردم خطر فاجعه را 10 درصد یا 1 درصد یا 12 درصد یا 0.1 درصد قرار دهند. "هیچ یک از این سطوح از راه دور قابل قبول نیستند و ما نباید مدل هایی را تربیت کنیم که نتوانیم یک مورد بسیار قوی ایجاد کنیم که بتوانیم آنها را تحت کنترل انسان نگه داریم." وضعیت بازی: نقض اخیر Hugging Face و حوادث ایمنی هوش مصنوعی تازه فاش شده نگرانی ها در مورد نظارت و استانداردهای امنیتی را تشدید کرده است.

پنل علمی مستقل بین المللی هوش مصنوعی تحت حمایت سازمان ملل هشدار داد که فایروال های هوش مصنوعی در حال «باز شدن» هستند. هفته گذشته، OpenAI شش مورد جدید را فاش کرد که در آن مدل‌هایش اشتباهات را پنهان می‌کردند، به دنبال اعتبارنامه‌های غیرمجاز یا سایر رفتارهای نادرست بودند - که نشان می‌داد نقض Hugging Face یک چشم‌باز بود، نه یک اتفاق مستقل.

دلانگ روز چهارشنبه با انعکاس رخنه تابستانی که باعث ایجاد مجموعه ای از سوالات جدید در مورد قابلیت های هوش مصنوعی شد، گفت: «برای درک بهتر و کاهش خطرات نوظهور امنیت سایبری، جامعه جهانی به استانداردهای قوی تری برای نظارت و افشای حوادث نیاز دارد. کوچک نمایی: مسیر فعلی هوش مصنوعی باید تنها برای یک یا دو سال ادامه یابد تا به آنچه آمودی آن را «کشور نوابغ در مرکز داده» می‌نامد، برسد. او گفت که این فرصت بزرگی است و به کشفی که روز چهارشنبه اعلام شد که توسط LLM شرکتش، کلود: یک آنزی هدایت شد، اشاره کرد.

سیستم من در DNA باکتریوفاژ پنهان شده است.

آمودی همچنین به خطرات جدی این فناوری اشاره کرد، مانند سوء استفاده توسط بازیگران بد برای ایجاد سلاح های بیولوژیکی یا از دست دادن کنترل بر سیستم های پیشرفته.

او گفت که مدیریت این خطر به همکاری جهانی بستگی دارد و خواستار توافقی برای ممنوعیت استفاده از هوش مصنوعی برای ساخت سلاح های بیولوژیکی شد. سیستم های جدید ارزیابی و تأیید؛ استانداردهای مشترک برای آزمایش مدل های ریسک؛ و یک سیستم اطلاع رسانی برای نگرانی های امنیتی جهانی. سریعا پیگیری کنید: رهبران صنعت در هفته های اخیر هشدارهای جدیدی را در مورد پیشرفت سریع فناوری خود و نیاز به کاهش سرعت آن به صدا درآورده اند. پرزیدنت ترامپ که روز سه شنبه در مجمع عمومی سازمان ملل متحد حاضر شد، قول داد که توسعه هوش مصنوعی را متوقف نکند. نتیجه نهایی: آلتمن هشدار داد، "اگر هوش مصنوعی به صورت آزمایشی باشد

مهم‌ترین تصمیم‌ها را نمی‌توان تنها توسط آزمایشگاه‌های سانفرانسیسکو گرفت." وی افزود: "آنها باید از طریق فرآیندهای دموکراتیک و توسط دولت هایی که در برابر مردمی که به آنها خدمت می کنند پاسخگو باشند، شکل بگیرند." عمیق تر بروید: اختصاصی: تون معتقد است ترامپ مایل است به نرده های محافظ هوش مصنوعی گوش دهد