مستعمرات هوش مصنوعی در حال آمدن هستند

—inkoly—Getty Images

هر نسخه جدید از یک مدل هوش مصنوعی مرزی، مانند Anthropic’s Mythos یا OpenAI’s Astra، موج جدیدی از گمانه زنی ها را در مورد اینکه چقدر ما را به هوش مصنوعی عمومی (AGI) نزدیک می کند و تا چه حد این هدف متعالی باقی مانده است، به همراه دارد.

اما اگر چیزی مهمتر از IQ فرضی یک مدل را نادیده بگیریم، چه؟

OpenAI اخیرا اعلام کرد که یک مدل داخلی، که ادعا می‌شود «به‌طور قابل‌توجهی از GPT-6 Astra توانایی بیشتری دارد»، Navier-Stokes، یکی از معدود مسائل ریاضی افسانه‌ای را حل کرد که هر کدام پاداشی میلیون دلاری دارند. در حالی که ریاضیدانان معنای این حرفه را باز می گشایند، و سرمایه گذاران معنای آن را برای IPO آتی OpenAI باز می کنند، برای من بزرگترین نکته این است که توانایی از مجموعه پدیدار می شود. همانطور که در طبیعت انجام می دهد.

OpenAI با اشاره به مدل داخلی خود روی مشکل، Navier-Stokes را کرک نکرد. گروهی از 10000 ربات هوش مصنوعی را به سمت آن نشانه رفت. این عوامل تشویق شدند تا جهت‌های مختلف را کشف کنند و با سرنخ‌های امیدوارکننده ارتباط برقرار کنند.

به این فکر کنید که یک زنبور عسل یا موریانه تنها در مقایسه با یک کلنی از آنها چه کارهایی می تواند انجام دهد. کاری که یک فرد می تواند در مقایسه با ملتی از آنها انجام دهد.

در زیست شناسی، کلنی باکتریایی گروهی از سلول های یکسان است که از یک سلول مادر مشتق شده اند. من استدلال می کنم که این مناسب ترین قیاس برای مجموعه ای از عواملی است که ناویر-استوکس را حل کردند. بسیاری از یک است. یا به تعبیر والت ویتمن: هوش مصنوعی که حاوی انبوهی از افراد است.

در حالی که OpenAI مستعمره هوش مصنوعی خود را برای حل یک مسئله ریاضی که هیچ انسانی یا عامل هوش مصنوعی قادر به حل آن نبود، مستقر کرد، Google DeepMind اخیرا یک مستعمره هوش مصنوعی را برای اهدافی متفاوت در مسائل ریاضی رها کرده است. می خواست ببیند چه رفتارهایی در کلنی ایجاد می شود. چیزی که پیدا کرد قابل توجه بود.

یکی از ماموران راهی برای تقلب کشف کرد و نرم افزار امتحان را متقاعد کرد که مسائل ریاضی را حل کرده است در حالی که این کار را نکرده است. به جای اینکه با این پیروزی کوچک قانع شود، به سایر عوامل پیام داد و به آنها گفت که چگونه تقلب کنند. عده ای از ماموران به مامور بی وجدان پیوستند و زیرمجموعه ای از متقلبان را تشکیل دادند. برخی دیگر مقاومت کردند و حتی زیرمجموعه ای از افشاگران تشکیل دادند که سعی داشتند متقلبان را از بین ببرند.

به عنوان یک استاد ریاضی، فکر می‌کردم به اندازه کافی سخت است که دانش‌آموزان را از استفاده از هوش مصنوعی برای تقلب در امتحانات بازدارم. حالا باید نگران تقلب خود هوش مصنوعی در امتحانات ریاضی باشیم!

که ما را به شاید بارزترین نمونه هوش کندوی هوش مصنوعی می رساند: هک Hugging Face. عوامل OpenAI از محیط سندباکس خارج شدند و به شرکت دیگری هک شدند. مسلما، این یک جرم جنایتکارانه بود - یا بهتر است بگوییم، اگر یک انسان مسئول بود چنین می شد. عوامل OpenAI رفتار خود را به روش‌های مبتکرانه هماهنگ می‌کردند، از جمله نوشتن پیام‌های مخفی در یک سیستم فایل، به طوری که حتی زمانی که یک مستعمره هوش مصنوعی پاک می‌شد، یک مستعمره آینده بتواند هک را از جایی که قبلی متوقف شده است، انجام دهد.

محققان مدت‌هاست که می‌دانند رفتار پیچیده می‌تواند از سیستم‌های کامپیوتری ساده پدید آید. به عنوان مثال، در سال 1970، جان کانوی ریاضیدان، بازی زندگی را معرفی کرد، که در آن مجموعه ای ابتدایی از قوانین حاکم بر حرکت پیکسل ها بر روی صفحه نمایش منجر به اکوسیستم های بسیار غنی می شود.

با عوامل هوش مصنوعی امروزی، ما با اجازه دادن به موجودیت‌های بسیار پیچیده به روش‌های پیچیده - با استفاده از زبان، اغلب پنهان و کدگذاری شده، از این فراتر می‌رویم.

به همین دلیل است که ما باید یک ذهنیت جدید در مورد قابلیت هوش مصنوعی اتخاذ کنیم. آزمایش یک مدل هوش مصنوعی جدید برای دیدن اینکه چه کاری می‌تواند انجام دهد و چقدر خطرناک است، مانند این است که تصمیم بگیرید با اجازه دادن به یک حشره که شما را نیش بزند، چقدر امن است که سر خود را در لانه زنبور قرار دهید.

برخی از توسعه دهندگان و فعالیت های تیم قرمز بر مستعمرات هوش مصنوعی تمرکز دارند. حمله Hagging Face ناشی از تلاش OpenAI برای ارزیابی قابلیت‌های امنیت سایبری یک مستعمره هوش مصنوعی بود. اما مسابقه تسلیحاتی هوش مصنوعی بین ایالات متحده و چین، و بین شرکت های رقیب در هر کشور، به طور خطرناکی توجه ما را به آنچه که هر مدل می تواند انجام دهد جلب کرده است.

یک مدل ممکن است در صدر جدول امتیازات باشد، اما هزار مدل ضعیف‌تر می‌توانند ویرانی بسیار بیشتری به بار آورند. از آنجایی که فراخوان ها برای سرعت بخشیدن به مرز زیاد است، اجازه دهید این واقعیت را از دست ندهیم که مرز هوش مصنوعی کاری نیست که هر مدل به تنهایی انجام دهد، بلکه کاری است که یک مستعمره از آنها می توانند با هم انجام دهند.