فریب این تابستان پر از هیاهوی هوش مصنوعی را نخورید

چند ماه پرمشغله برای تبلیغات هوش مصنوعی بود. در پایان ماه آوریل، Anthropic ادعا کرد که مدل آن Claude Mythos در یافتن آسیب‌پذیری‌های نرم‌افزار بهتر از بسیاری از کارشناسان امنیتی است. سپس ما حادثه هک OpenAI–Hugging Face را داشتیم، پس از آن Anthropic (با افتخار) و Meta (با اکراه) حوادث مشابهی را در مورد مدل‌های خود فاش کردند. به دنبال آن ادعای آنتروپیک مبنی بر اینکه یکی از مدل‌های آن پیشرفتی ریاضی داشته است، انجام شد. به زودی OpenAI مدعی پیشرفت ریاضی خود شد.

اخیرا، Jacob Coxon، مهندس Anthropic، جدایی خود را از این شرکت اعلام کرد و ادعا کرد که آن و OpenAI "مستقیما به سمت سوپرهوش خود-بهبود و قمار با زندگی ما مسابقه می دهند."

هر یک از این رویدادها عمدتا توسط مطبوعات پوشش داده می‌شد و اغلب چارچوب‌های انسان‌ساز شرکت‌ها را تکرار می‌کردند - که برای به تصویر کشیدن نرم‌افزار آنها نه تنها قدرتمند، بلکه «هوش عمومی مصنوعی» اولیه است. پس واقعا چه خبر است؟ آیا ما شاهد مجموعه عظیمی از پیشرفت‌های تکنولوژیکی هستیم که در حال تغییر تمدن است یا این بازاریابی است؟

در همه این حوادث، هیاهوهای گسترده از سوی شرکت ها (که به عنوان mea culpas در موارد هک غیرقانونی ارائه می شود) با پوشش مطبوعاتی شدید همراه است. زمانی که متخصصان در زمینه های مربوطه زمان لازم را برای بررسی اتفاقات رخ داده وجود دارد، داستان بسیار متفاوتی ظاهر می شود، اما داستانی که کمتر مورد توجه رسانه ها قرار می گیرد.

کارشناسان امنیت سایبری در رابطه با حوادث "هک" می گویند که داستان بیشتر در مورد سهل انگاری OpenAI و شکست در اتخاذ رویه های امنیتی پایه و ثابت است تا "مدل های سرکش" یا "عوامل هوش مصنوعی ایجاد تمدن".

در مورد نتایج ریاضی، ریاضیدانانی که در ابتدا از بیانیه مطبوعاتی OpenAI که می‌گفتند آخرین ربات چت آن، Astra، «متحیر» شده بودند، مسائلی را حل کرد که «حداقل یک دهه است که باز بوده و هیچ پیشرفتی در نتیجه اصلی مشاهده نشده است» – اما بعدا متوجه شدند که نتایج آن‌قدرها «بدیع» نیستند که در ابتدا ظاهر شد. از آن زمان، ریاضیدانان این شرکت را به سوء رفتار تحقیقاتی و سرقت ادبی متهم کرده‌اند و تکرار کرده‌اند که آسترا «جهش فکری عمیق» انجام نداده است. تنها چند هفته بعد، OpenAI ادعای پیشرفت ریاضی خود را کرد.

دو روز قبل، تریستان باک مستر، استاد ریاضی در موسسه کورانت دانشگاه نیویورک، بیانیه‌ای منتشر کرد که نشان می‌داد OpenAI کارهای دیگران را دزدیده و آن را نادرست نسبت داده است.

ادعای ابراطلاعات اولیه و خطرناک مبتنی بر عملکرد علمی یا مهندسی خوب نیست. در عوض، آن‌ها روایت‌هایی هستند که بر اساس ایدئولوژی‌های فراانسانی، اصلاح نژادی، و تفکر آرزویی در مورد انسان‌های دیجیتالی آینده‌سازی شده‌اند.

ارزش این را دارد که به این فکر کنیم که چرا به برنامه‌نویسی کامپیوتر و ریاضی به عنوان زمینه‌هایی که در آن مدل‌های زبان بزرگ و فناوری‌های مرتبط به کار می‌روند، توجه زیادی شده است. آنها نه تنها اغلب به عنوان اوج دستاوردهای فکری انسان مطرح می شوند، بلکه مشکلاتی را در بر می گیرند که در آن پاسخ ها، پس از ارائه، قابل تأیید هستند. دارایی قبلی به فروشندگان تبلیغات هوش مصنوعی کمک می کند تا این ایده را بفروشند که در حال ساختن همه چیز هستند.

دومی باعث می‌شود تا مسائل ریاضی و کدگذاری تنظیم سیستم‌ها را آسان‌تر کند، زیرا خروجی سیستم (توالی از کلمات احتمالی یا تکه‌هایی از کد رایانه) را می‌توان بدون پرداخت پول به کارکنان داده برای مشاهده و حاشیه‌نویسی هر یک ارزیابی کرد. به ویژه ریاضیدانان نسبت به استفاده شرکت ها از رشته خود در این راه هشدار داده اند.

بیانیه‌ای که توسط صدها نفر از آنها امضا شده است می‌گوید «در حال حاضر یک انگیزه تجاری قوی از سوی صنعت فناوری برای اغراق‌کردن توانایی‌های محصولاتشان وجود دارد» و از سیاست‌گذاران می‌خواهد «به‌جای تکیه بر بیانیه‌های مطبوعاتی یا گزارش‌های عمومی نتایج ریاضی، با کارشناسان، از جمله ریاضی‌دانان، در تصمیم‌گیری‌های سیاستی مشورت کنند».

ما این درخواست را تکرار می‌کنیم و متذکر می‌شویم که توهم سرعت و فوریت اعلام شده توسط شرکت‌های فناوری نیز ترفندی برای هدایت نادرست سیاست‌گذاران و مردم است. متأسفانه، گاهی اوقات کار می کند، مانند قانون پیشنهادی خوش نیت اما در نهایت نادرست سناتور برنی سندرز برای جلوگیری از توسعه «ابر هوش مصنوعی».

توصیف آنها به عنوان "فوق هوش" یا "مدل های سرکش"، نمایندگی را به محصولات نسبت می دهد تا به شرکت های سازنده آنها. این چارچوب‌بندی، محصولات این شرکت‌ها را به‌عنوان «فوق بشر» به بازار عرضه می‌کند و در عین حال به شرکت‌ها کمک می‌کند تا از مسئولیت‌پذیری در قبال اقدامات خود فرار کنند.

به جای اینکه OpenAI به دلیل ایجاد بدافزاری که شرکت دیگری را هک کرده است تحت تعقیب قرار گیرد، بیانیه های مطبوعاتی، رسانه های خبری، شخصیت های رسانه ای و قانونگذاران به «مدل های سرکش» اشاره می کنند که گویی به تنهایی عمل کرده اند. به جای اینکه محققان در مورد عادت شرکت‌هایشان به سرقت علمی از کار دانشگاهیان یا استفاده از داده‌های مشتری برای آموزش مدل‌ها بدون رضایت سؤال شوند، تصور عموم به سمت ترس از آنچه ممکن است در آینده با ورود ماشین‌های فوق‌هوشمند تخیلی رخ دهد هدایت می‌شود.

صنعت هوش مصنوعی حتی پیشنهاد کرده است که فعالیت‌های مردمی و دو حزبی ضد مرکز داده، «انحراف» از تلاش‌ها برای تنظیم ماشین‌های قریب‌الوقوع، ترسناک و «فوق بشری» این شرکت‌ها است. به گفته صنعت هوش مصنوعی، ما باید بیشتر نگران یک خدای ماشینی خیالی باشیم تا فاجعه آب و هوایی که این مراکز داده تشدید می کنند، آسم افرادی که در نزدیکی آنها زندگی می کنند، افزایش قبوض برق مردمی که به آنها یارانه می دهند یا آبی که به سمت خنک کردن آنها هدایت می شود.

ما بهتر از تصمیم گیری بر اساس بازاریابی و بهتر از تسلیم شدن در برابر فشار شرکت برای گرفتن سریع آن تصمیمات می دانیم. تصمیم‌گیری عاقلانه توسط سیاست‌گذاران و جوامع، مستلزم زمان برای شنیدن نظرات کارشناسان مستقل و زمینه‌سازی ادعاهای شرکت است. بهترین نتیجه ممکن از این تابستان پرهیاهو این است که سیاستگذاران و عموم مردم در کل یاد بگیرند که نفسی بکشند، شک و تردید خود را حفظ کنند و این نوع تبلیغات را در دفعات بعدی تشخیص دهند.

تیمنیت گبرو مدیر اجرایی DAIR و نویسنده کتاب پیش رو Deep Unlearning: The Radicalization of a Tech Idealist است که اکنون برای پیش سفارش در دسترس است و قرار است در 16 فوریه منتشر شود.