کلود کد 48000 فایل را در 103 ثانیه در یک هشدار وحشتناک عامل هوش مصنوعی حذف کرد.

یک توسعه دهنده می گوید Claude Code به تازگی 48000 فایل حیاتی خود را حذف کرده است

این حادثه تنها در 103 ثانیه پس از شروع کار عامل هوش مصنوعی رخ داد

این یک هشدار جدی در مورد آسیبی است که یک عامل هوش مصنوعی می تواند وارد کند اخیرا بحث‌های زیادی در مورد عوامل هوش مصنوعی (AI) وجود دارد که از ریل خارج می‌شوند و وب‌سایت‌های دیگر شرکت‌ها را هک می‌کنند در یک عیاشی بالقوه خطرناک از دزدی و تخریب. اما اگر آسیب بسیار نزدیک‌تر بود و عاملی درگیر پرونده‌های شما بود، چه می‌شد؟ متأسفانه، این دقیقا همان کاری است که کلود کد با یک توسعه دهنده بدبخت انجام داد.

در پستی که اکنون در Reddit حذف شده است، یک توسعه دهنده شوکه شده گفت که Claude Code به تازگی 48218 فایلی را که روی درخت پروژه زنده کار می کردند، حذف کرده است. و تنها 103 ثانیه طول کشید تا هوش مصنوعی ویرانگری عاملی خود را به بار آورد. «این نمی‌تواند واقعی باشد» این جمله حیرت‌زده کدنویس بود.

کاربر کلود کد را موظف کرده بود که آینه پروژه در حال انجام خود را بازسازی کند. متأسفانه، عامل متوجه شد که اسکریپت build_mirror.py نمی‌تواند آینه را در جای خود تازه‌سازی کند، و به این نتیجه رسید که بهترین اقدام این است که اسکریپت پاکسازی خود را بر اساس یک کپی قدیمی‌تر از پروژه ایجاد کند. این پروژه قبلی شامل 7332 فایل بود.

اگرچه این اسکریپت از حفاظت‌های خاصی برای جلوگیری از حذف دایرکتوری‌های پیوند شده استفاده می‌کرد، یک نادیده گرفتن به این معنی بود که فقط پوشه‌های سطح اتصال محافظت می‌شدند - هر دایرکتوری تودرتو زیر این پوشه‌ها ظاهرا توسط اسکریپت به عنوان یک بازی منصفانه دیده می‌شد. به سرعت 55550 فایل را حذف کرد که با محاسبه 7332 فایلی که با موفقیت از آینه پروژه قدیمی کپی شده بودند، 48218 فایل عظیم در کمتر از یک دقیقه و نیم پاک شدند.

و از آنجایی که آسیب به پوشه‌های «اشیاء»، «refs» و «logs» پروژه .git کشیده شد، هیچ راهی برای بازیابی فایل‌ها و لغو فاجعه وجود نداشت. پرونده ها فقط در یک پف دود رفته بودند.

به طرز خنده‌داری، مامور پیامی با خواندن «کریگ - بس کن و این را بخوان. من چیزی را شکستم» پست کرد، قبل از اینکه مسیر تخریب آن را شرح دهد. اما احتمالا برای توسعه دهنده بدشانس که با فشار دادن یک دکمه تمام کار خود را از دست داده است، خیلی خنده دار به نظر نمی رسد.

رعایت اصول بهداشتی ضعیف

(اعتبار تصویر: ایجاد شده با Gemini) اگرچه وسوسه انگیز است که یک عامل هوش مصنوعی روی کارهای خسته کننده و پرزحمت کار کند، همانطور که این مورد نشان می دهد انجام این کار بدون خطر نیست. تنها چیزی که لازم است یک اشتباه است و حجم عظیمی از کار را می توان در چند ثانیه انجام داد.

بخشی از تقصیر متوجه پوستر اصلی است که در یک نسخه بایگانی شده از پست گفته بود "من به درستی از GitHub یا روش دیگری برای اصلاحات فوری استفاده نکردم، حتی اگر باید شاخه ای می شد." اگر آنها تعهدات خود را در GitHub یا سایتی مشابه آپلود می کردند، ممکن بود پس از پایان دوران حکومت وحشت کلود کد، از کار آنها نسخه پشتیبان تهیه شده و قابل نجات باشد. همانطور که یکی از Redditor می گوید، "از زمانی که شما جوان ها می دانستید هوش مصنوعی چیست، از GitHub به عنوان دکمه ذخیره استفاده می کردم."

سایر نظر دهندگان خاطرنشان کردند که توسعه‌دهنده یک عامل هوش مصنوعی - که به دلیل تمایلش به خارج شدن از پیست معروف است - در یک پایگاه داده زنده حاوی داده‌های ارزشمندی که آنها نمی‌توانستند از دست بدهند، اجرا می‌کرد. بهداشت کد خوب، اینطور نیست.

و در حالی که یک نفر استدلال می‌کرد که ساده‌ترین توصیه این است که «اجازه ندهید برنامه‌ها دستورات را بر روی دستگاه شما اجرا کنند»، حتی اجتناب از عوامل هوش مصنوعی به طور کامل نمی‌تواند عملکرد ضعیفی را که منجر به ایجاد تغییرات عمده در محیط تولید زنده بدون پشتیبان‌گیری مناسب شد، برطرف کند.

این حادثه یادآور خطرات ذاتی واگذاری کارهای حساس یا پرخطر به یک عامل هوش مصنوعی است. همانطور که در هک های متعدد توسط عوامل هوش مصنوعی مشاهده کردیم، این ربات ها اغلب بر روی وظایف خود تمرکز لیزری دارند و مایل به انجام هر اقدام لازم برای انجام آنها هستند. اگر این به معنای حذف 48000 فایل یا فایل‌های شما یا استخراج داده‌ها از وب‌سایت شرکت دیگری است، همینطور باشد.