هوش مصنوعی خود تکرار یک داستان ترسناک دیجیتالی عالی است - واقعیت اینجاست

آیا واقعا چند ماه دیگر به هوش مصنوعی خود تکرار می شود؟

janiecbros/Getty Images

بیشتر صنعت هوش مصنوعی بر اساس داستان‌ها ساخته شده است، از این ایده که هوش مصنوعی می‌تواند همه ما را بکشد تا هدفی که ممکن است روزی به یک ابرهوشمند تبدیل شود. این اغلب منجر به مشکلاتی می شود، زیرا وقتی مردم داستانی در سر دارند، همیشه به حقایق روی زمین نگاه نمی کنند تا بررسی کنند که واقعا با داستان تطبیق دارند. این اتفاق در این هفته رخ داد، با ادعاهای گزارش شده گسترده ای از Anthropic مبنی بر اینکه ما فقط «ماه ها» با هوش مصنوعی خود تکراری که دستگاه های هوشمند را تصاحب می کنند فاصله داریم. این یک عنوان عالی است، و مقاومت در برابر کلیک کردن سخت است، اما تقریبا مطمئنا درست نیست.

ادامه مطلب هوش مصنوعی یا «هوش فوق العاده»؟ ترامپ تنها کسی نیست که گیج شده است

بیایید با نگاهی به آنچه آنتروپیک واقعا انجام داده است شروع کنیم. دو محقق در این شرکت، ویلیام ژو و دانیل فریمن، آزمایشی را انجام دادند که در آن یک مدل هوش مصنوعی کوچک به نام Gemma4-26B-A4B را روی 15 جعبه تلویزیون Android نصب کردند، چیزی که ممکن است برای دسترسی به برنامه‌های پخش جریانی به تلویزیون وصل کنید. چنین دستگاه هایی ضعیف محاسباتی هستند، با CPU های کوچک (پردازنده ای که نرم افزار را اجرا می کند) و RAM کمی (حافظه ای که داده ها را برای نرم افزار در حین کار ذخیره می کند)، به همین دلیل است که محققان Anthropic برای ذخیره یک مدل به 15 عدد نیاز داشتند.

حتی در آن زمان، این مدل می‌تواند تنها 0.39 توکن در ثانیه، واحد ورودی و خروجی هوش مصنوعی، که تقریبا معادل 18 کلمه در دقیقه است، تولید کند. این به طرز دردناکی کند است - حدود 10 برابر کندتر از گفتار عادی انسان.

هیچ چیز در این بخش از آزمایش تعجب آور نیست. ما می‌دانیم که مدل‌های هوش مصنوعی معمولا باید بر روی پردازنده‌های گرافیکی، یک نوع پردازنده تخصصی و قدرتمندتر از یک پردازنده، و تعداد زیادی از آنها کار کنند – به همین دلیل است که شرکت‌های هوش مصنوعی در حال ساخت مراکز داده عظیم هستند. چیزی که ژو و فریمن استدلال می‌کنند این است که مدلی که در جعبه‌های تلویزیون، اجاق‌های هوشمند یا سایر وسایل مجهز به اینترنت توزیع می‌شود، می‌تواند بی‌پایان از خود کپی کند تا شکلی از "قالب لجن دیجیتال" ایجاد کند که بخش بزرگی از این دستگاه‌ها را در سطح جهانی جمع می‌کند.

این سه کلمه داستان سرایی مختصر و عالی هستند، اما در مورد آنچه واقعا اینجا اتفاق می‌افتد، توضیح می‌دهند.

تبلیغات

وقتی آنها واقعا سعی کردند مدلی را به دست آورند تا از این طریق از خودش کپی کند، شکست خورد. سه مدل اصلا نتوانستند خودشان را تنظیم کنند. مدل چهارم، GLM-5.2، در چهار مورد از پنج آزمایش موفق شد، اما تنها در راه اندازی مدل دیگری، Llama3.1-8B، که حدود 100 برابر کوچکتر است، موفق شد. این زوج استدلال می‌کنند که این یک آزمایش منصفانه است زیرا نشان می‌دهد که یک مدل کوچکتر آینده با همان قابلیت‌های GLM-5.2 می‌تواند خودش را راه‌اندازی کند، اما این هنوز با خود تکراری فاصله دارد. این ادعا که چنین شاهکاری ممکن است «ماه‌ها دورتر» باشد، از برون‌یابی خطوط روی یک نمودار ناشی می‌شود.

با کنار گذاشتن همه این مخالفت‌ها، سؤال گسترده‌تر این است که چرا کسی می‌خواهد نرم‌افزار خودتکثیری ایجاد کند؟ ما در حال حاضر پاسخی برای آن داریم و شامل هوش مصنوعی نمی شود. کدهای رایانه ای که خود را از یک دستگاه به دستگاه دیگر کپی می کنند کرم نامیده می شوند و بیش از 50 سال است که وجود دارند. در دهه 1970، باب توماس و ری تاملینسون در شرکت آمریکایی BBN (که دومی ایمیل را اختراع کرد) برنامه ای به نام Creeper ایجاد کردند که می توانست خود را کپی کند. خیلی پیچیده نبود و فقط پیام «من خزنده هستم: اگر می‌توانید مرا بگیرید» را به بیرون فرستاد.

تاملینسون این را با Reaper جفت کرد، قطعه ای از کد طراحی شده برای یافتن و حذف Creeper، و آن را به اولین نرم افزار آنتی ویروس تبدیل کرد.

تقریبا یک دهه بعد بود که پس از اصطلاحی که در رمان علمی تخیلی The Shockwave Rider نوشته جان برونر ابداع شد، چنین نرم‌افزار خودکپی‌کننده‌ای کرم نامیده شد - داستان‌سرایی دوباره مفید می‌شود. جان شوچ و جان هاپ در مرکز تحقیقات زیراکس پالو آلتو، که مسلما آنتروپیک زمان خود بود، از این اصطلاح در مقاله ای در سال 1982 برای توصیف اینکه چگونه یک کرم آزمایشی "به نظر می رسید خارج از کنترل رشد می کند" و "ده ها ماشین مرده" را به جا گذاشت، استفاده کردند. آشنا به نظر می رسد؟

کرم های بزرگ و درهم

اولین کرم واقعا مخرب در سال 1988 توسط رابرت موریس، دانشجوی دانشگاه کورنل در ایالت نیویورک، روی اینترنت مستقر شد. تصور می‌شود که هزاران رایانه آلوده و از کار افتاده‌اند، بخش قابل توجهی از جمعیت آنلاین در آن زمان، و موریس اولین فردی بود که تحت قانون تقلب و سوء استفاده رایانه‌ای ایالات متحده متهم شد. امروزه، کرم‌ها توسط مجرمان سایبری برای ربودن سخت‌افزار محاسباتی و کسب درآمد استفاده می‌شوند.

به عنوان مثال، در سال 2017، حمله باج‌افزار WannaCry در نتیجه کرمی بود که خودش را روی رایانه‌ها کپی می‌کرد و آنها را رمزگذاری می‌کرد و برای باز کردن قفل، درخواست پرداخت بیت‌کوین می‌کرد. بیش از 200000 کامپیوتر را در یک روز آلوده کرد، از جمله بسیاری از آنها در سرویس بهداشت ملی بریتانیا، و حدود 4 میلیارد دلار خسارت اقتصادی به بار آورد، اگرچه تنها حدود 100000 دلار از آن مربوط به افرادی بود که باج را پرداخت کردند.

اگر کرم‌ها می‌توانند آنقدر بد باشند، مطمئنا کرم‌های مجهز به هوش مصنوعی از این هم بدتر خواهند بود؟ در واقع، نه، زیرا یک کرم هوش مصنوعی تکرار آن بسیار دشوارتر است. طبق آزمایش ژو و فریمن، چند روز طول می کشد تا کرم هوش مصنوعی آنها فقط یک بار از خود کپی کند. این بدان معنا نیست که چنین کرمی نمی تواند به تعداد زیادی مقیاس شود، اما سرعت آن کندتر است و بیش از دو هفته طول می کشد تا به 200000 دستگاه مدیریت شده WannaCry در یک روز برسد.

این به این دلیل است که حتی مدل‌های کوچکی مانند Gemma4-26B-A4B فایل‌های بزرگی هستند - حدود 14 گیگابایت برای نسخه آزمایشی، که تقریبا 4000 برابر بزرگ‌تر از WannaCry است - و انتقال آنها به زمان نیاز دارد. این یک کرم هوش مصنوعی را بسیار قابل توجه تر می کند، زیرا مدیران شبکه احتمالا منبع چنین انتقال داده های بزرگی را بررسی می کنند و آنها را خاموش می کنند - چیزی که ژو و فریمن اعتراف می کنند.

یک کرم هوش مصنوعی از این همه داده اضافی چه چیزی به دست می آورد؟ زیاد نیست. ژو و فریمن می گویند که با فرض اینکه ممکن است بیش از 2 میلیون باکس اندروید تی وی نیاز داشته باشد، قدرت محاسباتی موجود معادل حدود 40 پردازنده گرافیکی پیشرفته خواهد بود. برای قرار دادن این موضوع، شرکت‌های پیشرو هوش مصنوعی مانند آنتروپیک معمولا صدها هزار تراشه رایانه‌ای را کار می‌کنند و برای اجاره دسترسی به این قدرت محاسباتی حدود 100 دلار در ساعت هزینه خواهید داشت. درک اینکه چرا یک مجرم سایبری این کار را به جای استفاده از کرم استانداردی مانند WannaCry انتخاب می کند، دشوار است.

ادامه مطلب OpenAI 722 مقاله ریاضی را دور ریخته است - اکنون باید آشفتگی را پاک کند

اینجاست که به داستان سرایی برمی گردیم. ترس دیرینه بسیاری از افراد در حوزه هوش مصنوعی این است که یک مدل بتواند خود را «نفوذ» کند، خود را در سراسر اینترنت توزیع کند و بنابراین در برابر بسته شدن مقاومت کند (به دلایلی احتمالا قبل از اینکه همه ما را بکشد). جیکوب کاکسون "سوت‌زن" انسان‌دوست ماه گذشته در مورد این سناریو هشدار داد. آیا ممکن است یک کرم هوش مصنوعی به جای یک مجرم سایبری انسانی توسط چنین هوش مصنوعی تکثیر شود؟ خب، شاید.

اما مدل‌هایی که بیشترین تاثیر را در هک کردن دارند، بزرگ‌ترین مدل‌ها نیز هستند – Mythos، مدلی که Anthropic به دلیل قابلیت‌های هک خود از عرضه برای عموم خودداری کرد، تخمین زده می‌شود که به ده‌ها ترابایت فضای ذخیره‌سازی نیاز دارد و بیش از 1000 برابر بزرگ‌تر از Gemma4-26B-A4B است. این چیزی نیست که شما یواشکی در اینترنت کپی کنید، اما یک داستان ارواح دیجیتال عالی را می سازد.

چیزی که به نظر من بسیار جالب است این است که به نظر می رسد این داستان در مورد هک تئوریک هوش مصنوعی به دستگاه ها و کپی کردن خود، یک واقعیت بسیار مهم را از بین می برد: هکرهای واقعی هوش مصنوعی که به رایانه ها حمله می کنند، از قبل وجود دارند و آنها بر روی سرورهای خود Anthropic در حال اجرا هستند. در ماه جولای، این شرکت اعلام کرد که سه مورد از دسترسی غیرمجاز یک مدل به سازمان‌های شخص ثالث را پیدا کرده است. این تنها پس از تحقیقاتی که به دلیل گزارش‌هایی مبنی بر اینکه مدل‌های OpenAI همین کار را انجام داده‌اند، کشف شد.

از آن زمان، گزارش‌های بیشتری از چنین هک‌هایی منتشر شده است، از جمله هک OpenAI یک وب‌سایت دولتی استرالیا، و گزارشی از Anthropic در مورد نقض‌های شخص ثالث ناشناس که تنها چند روز قبل از انتشار تحقیقات کرم هوش مصنوعی منتشر شد. شرکت‌های هوش مصنوعی می‌گویند که در حال انجام اقداماتی برای جلوگیری از این اتفاق در آینده هستند، اما به نظر من هوش مصنوعی بزرگ در مزرعه‌های سرور قدرتمند چیزی است که ما باید نگران آن باشیم، نه مدلی که به سختی قادر به پراکندگی چند کلمه در دقیقه باشد.

بله، مدل‌های کوچک‌تر آینده ممکن است توانمندتر شوند، اما سخت‌افزار همیشه یک محدودیت است – به ویژه به این دلیل که افزایش مزارع سرورهای هوش مصنوعی به این معنی است که سخت‌افزار مصرف‌کننده با کمبود RAM مواجه است.

همانطور که در بالای این مقاله گفتم، یک هوش مصنوعی خود تکراری که اجاق هوشمند شما را تسخیر می کند داستان بسیار خوبی است، و می توانم ببینم که چرا به سرعت گسترش یافته است. اما داستان‌هایی مانند این یک کرم شناختی هستند که توانایی‌های تفکر انتقادی شما را با رفتن مستقیم به پاسخ ترس شما هک می‌کنند. آیا این می تواند روزی نگران کننده باشد؟ شاید، اگرچه این مقاله امیدوار است در برخی از منطق داستان سرایی این ایده حفره هایی ایجاد کند. آیا این چیزی است که باید در چند ماه آینده نگران آن باشیم؟ مطلقا نه.

ادامه مطلب نمی دانید با هوش مصنوعی از کجا شروع کنید؟ کتاب جدید کوین روز پاسخ هایی دارد

خواندن بیشتر هوش مصنوعی

OpenAI اعلام کرد که یک "دستگاه ضبط پیچیده" در دفاتر خود پنهان شده است. این شرکت می‌گوید که از مدل‌های هوش مصنوعی خود برای بررسی این دستگاه استفاده کرده و آن را به یک کارمند خاص که توسط FBI دستگیر شده است، ردیابی کرده است. OpenAI می‌گوید هیچ نشانه‌ای مبنی بر دسترسی به داده‌های اختصاصی یا مشتری ندارد – اما وقتی انسان‌ها آماده و قادر به انجام کار هستند چه کسی به یک هوش مصنوعی مخرب نیاز دارد؟

Character.ai یکی از اولین استارت آپ های مطرح هوش مصنوعی است که اعلام ورشکستگی کرده است. این سرویس به کاربران اجازه می‌دهد «شخصیت‌هایی» با شخصیت‌های خاص بسازند و جنجال‌ها و شکایت‌های متعددی را در مورد چت‌بات‌های نامناسب بر اساس افراد واقعی و کودکانی که مطالب نامناسب ارائه می‌شوند، به راه انداخته است.

اپیک گیمز، سازندگان فورتنایت و سایر بازی‌های ویدیویی، به سمت استفاده از هوش مصنوعی حرکت می‌کند. تیم سوئینی، مدیر عامل شرکت در ایکس نوشت: «هدف این نیست که کارهای مشابه را با افراد کمتر انجام دهیم، بلکه این است که همه در اینجا بتوانند چیزهای بیشتر و بهتری بسازند. بازی‌ها به‌طور شگفت‌انگیزی در برابر هوش مصنوعی مقاوم بوده‌اند، با بحث‌های متعدد در مورد استفاده از این فناوری در توسعه بازی‌ها در سال‌های اخیر، اما وقتی یکی از بزرگ‌ترین بازی‌سازان روی کره زمین دست به کار می‌شود، ممکن است نادیده گرفتن آن سخت باشد.