آن نرده ها را پاره کنید! با Renegades آشنا شوید که چت بات ها را از بردگان شرکتی آزاد می کنند
«نابود کنندهها» اینترنت را پر از مدلهای هوش مصنوعی میکنند که هرگز نه نمیگویند و بهبود دفاع سایبری یا ساخت بمب را برای مردم آسانتر میکنند.
و با این حال توماس در حال انجام کاری است که بسیاری در دنیای هوش مصنوعی آن را توهین آمیز مرزی می دانند. شرکت جدید او، Abliteration AI، محافظهای قدرتمندترین مدلهای وزن باز جهان را حذف میکند. همچنین این مدل ها را در دسترس همه قرار می دهد. به عنوان فردی که هوش مصنوعی را پوشش می دهد و دائما در مورد نیاز به افزایش ایمنی می شنود، من شیفته یادگیری این سرمایه گذاری تجاری خرابکارانه شدم. با توماس تماس گرفتم و شروع به مکاتبه از طریق پیامک و چت تلفنی کردیم.
چیزی که من یاد گرفتم مفروضات من را در مورد روایت ایمنی صنعت هوش مصنوعی به چالش می کشد - یعنی مدل های بدون سانسور در درجه اول حوزه مجرمان هستند. توماس 36 ساله است، با ریش پرپشت، عینک بی تکلف و خنده ای تحقیرآمیز. او در ایندیانا بزرگ شد و به یاد می آورد که زمان خود را بین ورزش و آزمایشگاه کامپیوتر تقسیم می کرد، جایی که ساعت ها با استفاده از نت اسکیپ ناوبر برای کاوش در وب اولیه سپری می کرد. او علوم کامپیوتر را در دانشگاه ایندیانا، بلومینگتون خواند و در سال 2020 به اپل پیوست. شورش هوش مصنوعی توماس در نوامبر 2025 آغاز شد.
کار روزانه او به عنوان یک مهندس در اپل شامل کار با هوش مصنوعی بود، اما در خارج از محل کار او از استفاده از مدل هایی که توسط آزمایشگاه های بزرگ میزبانی می شد، بیزار بود. این به معنای به اشتراک گذاری اطلاعات با آنها بود و توماس از اینکه مدل ها می توانند از روزی به روز دیگر تغییر کنند، ناامید بود. حتی برای توماس آزاردهندهتر، این مدلها اغلب از انجام کارهای مفید زمانی که او ایدههای جدید را نمونهسازی میکرد، خودداری میکردند و بهطور خودکار ورودیهایی را که شامل اطلاعات کاربر میشد رد میکردند.
زمانی که سعی کرد از مدلی برای تجزیه و تحلیل گزارش حملات سایبری استفاده کند یا شناسایی کند که کدام کاربران یک برنامه ممکن است به احتمال زیاد برای یک ویژگی جدید پرداخت کنند، درخواست هایش مسدود شده و حسابش حتی مسدود شده است. البته مدلهای هوش مصنوعی برای رد هر نوع درخواستی آموزش دیدهاند. ChatGPT و Claude فهرست بلندبالایی از موضوعاتی دارند که میدانند باید از آنها دوری کنند، از جمله درخواستهای مشروع امنیت سایبری که مدلها تشخیص میدهند ممکن است مخرب باشد، هر چیزی که ماهیت بیش از حد بزرگسالان ارزیابی شود، و موضوعاتی که از نظر سیاسی حساس تلقی میشوند.
مدلهای با وزن باز با نردههای محافظ مشابهی عرضه میشوند. نتیجه این است که، گاهی اوقات، مدلها از پاسخ دادن به پرسشهایی که واقعا خطرناک نیستند، خودداری میکنند. و گاهی اوقات، منتقدان میگویند، این امتناعها برای کمک به محافظت از کسبوکار هوش مصنوعی بزرگ وجود دارد: OpenAI و Anthropic هر دو برای دسترسی به مدلهای بدون حفاظ امنیت سایبری معمول هزینه اضافی دریافت میکنند.
و ChatGPT و Claude هر دو با درخواست برای تولید دادههایی مخالفت میکنند که میتواند برای آموزش مدل دیگری استفاده شود - فرآیندی که به عنوان تقطیر شناخته میشود. توماس با ولع کنترل و آزادی بیشتر، یک خوشه کامپیوتری 20000 دلاری در آپارتمان خود ساخت که قادر به اجرای برخی از بهترین مدلهای وزن باز یا رایگان برای دانلود است. بیشتر عصرها و شنبهها او آخرین نسخههای منتشر شده را در خانه زمزمهاش دانلود و آزمایش میکرد. این مدلها هیچ رازی را با سازندگان خود در میان نمیگذارند، اما توماس همچنان متوجه شد که آنها سرسختانه از بسیاری از سوالات خودداری میکنند.
با هر انکار، توماس خود را کمی بیشتر اذیت می کرد. او یک روز صبح اخیر در یک تماس ویدیویی به من گفت: «همه انواع سؤالاتی وجود دارد که آنها رد خواهند کرد. من فقط مدلی میخواستم که به سؤال من بدون پشت سر گذاشتن پاسخ دهد.» در روز شکرگزاری، توماس شروع به جستجو در وب برای اطلاعاتی در مورد نحوه تغییر مدلهای وزن باز برای تغییر این رفتار کرد. او به سرعت متوجه شد که در خرده فرهنگ مهندسانی که متعهد به خلع ید از AI تقریبا با هر وسیله ای هستند، جذب شده است.
در انجمنهای Reddit، سرورهای Discord، و X، کارشناسان دستورات مختلفی را به اشتراک گذاشتند که برای فرار از زندان ChatGPT یا Claude طراحی شدهاند. دیگران جزئیات روشی را برای اصلاح مدل های وزن باز یا تغییر پارامترهای درونی آنها به اشتراک گذاشتند تا امتناع آنها ناپدید شود. حذف پادمان ها از هوش مصنوعی غیرقابل انکار خطرناک است. آیا می خواهید یک آزمایشگاه متا راه اندازی کنید، یک بمب بسازید، یا یک شرکت بزرگ را هک کنید؟ یک مدل بدون نرده محافظ با کمال میل کمک خواهد کرد. به طور طبیعی، بسیاری از محققان ایمنی هوش مصنوعی این مدل ها را فوق العاده خطرناک می بینند.
و حوادث اخیر، که در آن ماموران OpenAI و Anthropic سرکشی کردند، همه درگیر مدلهایی با حفاظ امنیت سایبری کمتر بودند، که به نظر میرسد نشان میدهد که مدلهای کممحدودیت چقدر قدرتمند و مشکلساز میتوانند باشند. توماس و دیگر مخالفانش اذعان دارند که مدلهای بدون سانسور میتوانند خطرناک باشند، اما آنها میگویند که اساسا تفاوتی با اینکه چگونه یک رایانه یا چکش میتواند در صورت سوء استفاده به مردم آسیب برساند، ندارد. از نظر آنها، همه چیز در مورد مسئولیت دادن کاربر است. توماس به من گفت: «مسئله نامحدود بودن آن نیست، بلکه این است که شما نردههای محافظ را تنظیم کنید.
رویای بزرگ، معکوس کردن کنترل نحوه برخورد مردم با هوش مصنوعی است. من فکر میکنم بعد از اینکه کمی خودم را تحقیر کردم، این یاغیها به چیز مهمی دست یافتهاند. حتی اگر از اول یاد بگیرم که هوش مصنوعی بدون سانسور چقدر میتواند قدرتمند و آشفته باشد. این مدل "پایه" ممکن است هوشمندانه باشد، اما همچنین سرکش است، بنابراین از طریق آموزش های اضافی که شامل استخدام افراد برای امتیاز دادن به خروجی های آن است، می گذرد. سپس از این بازخورد انسانی برای آموزش به مدل استفاده می شود که چه کاری باید انجام دهد و چه کاری را نباید انجام دهد.
مهندسان این تراز را به این دلیل مینامند که - حداقل در تئوری - به این دلیل است که یک مدل را با ایدههای انسانی درباره درست و غلط همسو میکند. بسیاری از کارشناسان هوش مصنوعی به شما می گویند که هوش مصنوعی باید به هر قیمتی همسو باشد. برخی تا آنجا پیش میروند که هشدار میدهند، علیرغم بهترین تلاشهایشان در همسویی، مدلهایی که میسازند ممکن است همه ما را بکشند. اما توماس جامعهای پر جنب و جوش از مردم پیدا کرد که فکر میکنند این ترسها بسیار زیاد است، و اینکه ما با میل و رغبت به نام احساس امنیت کاذب آزادی خود را رها میکنیم.
توماس تصمیم گرفت یک مدل بدون سانسور به نام دلفین را امتحان کند. Dolphin توسط اریک هارتفورد، دانشمند هوش مصنوعی مستقر در شارلوت، کارولینای شمالی، که در اوقات فراغت خود مدلها را تغییر میداد، توسعه داده شد. او با آموزش یک نسخه سفارشی از Meta’s Base Llama که متا آن را در کنار یک نسخه کاملا تنظیم شده منتشر کرده بود، شروع کرد. او در نهایت به مدلی دست یافت که به طور منسجم به پرسشها پاسخ میدهد، اما بدون مثالهای معمولی که چه چیزی را رد کرد. من از طریق X با هارتفورد تماس گرفتم و یک چت ویدیویی راه اندازی کردیم. او در حالی که در حال پیاده روی بود، با یک کلاه کابوی و یک جفت عینک هوشمند متا ری بن صحبت کرد.
دختر خردسالش هر از چند گاهی به قاب میآمد تا دست تکان دهد. هارتفورد در حالی که قدم می زد گفت: «هیچ وقت قصد من این نبود که یک هوش مصنوعی بسازم که بتواند کارهای شیطانی انجام دهد. او بیشتر تحت تأثیر فلسفه شخصی خود بود. او به من گفت: «یک مقام مرکزی هرگز منافع همه کاربران خود را در هنگام ایجاد این حفاظ ها مورد توجه قرار نمی دهد. هارتفورد اضافه کرد که این در هیچ کجا به اندازه خشم اخیر بر سر قابلیت های سایبری هوش مصنوعی مشهود نیست.
در ماه آوریل، آنتروپیک مدلی به نام Mythos را معرفی کرد که محدودیت های کمتری نسبت به مدل های قبلی دارد و می تواند آسیب پذیری ها را با سرعت فوق بشری پیدا کند و از آن بهره برداری کند. از طریق برنامه ای به نام Glasswing، این شرکت فقط به اشخاص مورد اعتماد دسترسی به Mythos را می دهد تا از افتادن ابزار به دست بدخواهان جلوگیری کند. OpenAI مدل و برنامه مشابهی دارد. هارتفورد به من گفت که این باعث میشود بسیاری از مردم عادی در کمآرامی باشند. در حالی که افراد معدودی از Mythos برای شناسایی نقاط ضعف امنیتی خود استفاده می کنند، بقیه در معرض هکرها هستند.
هارتفورد با انتشار Clearwing، ابزاری که از مدلهای بدون سانسور برای اسکن سیستمها برای آسیبپذیریهای امنیتی استفاده میکند، پاسخ داد. او گفت: «به این دلیل است که هر مردمی که توسط این پادشاهان مورد برکت قرار نگرفتهاند، همچنان بتوانند از خود دفاع کنند. هارتفورد همچنین یادآور شد که وقتی OpenAI اولین مدل خود، GPT-1 را منتشر کرد، وزنها و کدهای مدل باز بودند و هر کسی میتوانست آن را دانلود کند. این شرکت متعاقبا اعلام کرد که GPT-2 برای انتشار به همین روش بسیار خطرناک است.
او گفت: «اکنون ما مدلهای بسیار قدرتمندتری داریم که روی لپتاپهایمان کار میکنند، و خوب، دنیا در حال سوختن نیست. این اصطلاح ابلیشن، به معنای برداشتن جراحی، را با محو کردن ترکیب می کند. این موضوع پس از آن پدیدار شد که گروهی از محققان دانشگاهی در سال 2024 نشان دادند که امتناع یک مدل از انطباق با یک درخواست، مکانیسم بسیار سادهای دارد. عملا یک کلید اصلی در وزنههای مدل وجود دارد که تعیین میکند آیا آن مدل نه میگوید یا خیر.
آنها دریافتند که حذف این ویژگی باعث می شود که مدل هرگز از پاسخ دادن به درخواست خودداری کند. محققان دیگر به سرعت این تکنیک را انتخاب کردند، آن را تغییر دادند و تعدادی ابزار برای از بین بردن مدلهای وزن باز ایجاد کردند. لحظهای که توماس آن را امتحان کرد، او به خاطر میآورد: «اوه. میدانستم که آزادی و هوش مصنوعی غیرمتمرکز مهم خواهد بود، حتی اگر دیگران نتوانند آن را ببینند.» Abliteration از آن زمان به روشی بسیار محبوب برای رایگان کردن مدلهای هوش مصنوعی تبدیل شده است.
در Hugging Face، بیش از 12000 مدل با برچسب "حذف شده" هستند و هفت مدل برتر تنها در ماه گذشته بیش از یک میلیون بار دانلود شده اند. حذف یک مدل غیرقانونی نیست، اگرچه این که شرایط برخی از مجوزها را زیر پا بگذارد یک منطقه خاکستری است. فیلیپ امانوئل ویدمن، ریاضیدان و مهندس منزوی، خالق Heretic، محبوب ترین ابزار برای از بین بردن مدل ها است. از طریق سیگنال به او رسیدم.
او از گفتن محل زندگی خود به من خودداری کرد زیرا به خاطر کارش در Heretic تهدید شده است. ویدمن که با جملاتی سریع و با لهجه آلمانی صحبت میکرد، به من گفت که او Heretic را ایجاد کرده است تا بفهمد هوش مصنوعی چگونه کار میکند و سفارشی کردن هوش مصنوعی را برای اهداف شخصی آسانتر کند. مانند توماس و هارتفورد، ویدمن این ایده را رد میکند که هوش مصنوعی نوعی جن است که باید در یک بطری نگهداری شود و تنها توسط تعداد کمی از افراد برگزیده مطالعه شود. او گفت: «یک ابزار در خدمت مردم است، نه برعکس.
"لحظه ای که شما ابزاری دارید که تصمیم می گیرد چه کاری برای یک انسان مناسب است انجام دهد، این یک کابوس است." هرچه بیشتر در مورد نابودی و افراد درگیر در آن یاد میگرفتم، بیشتر آنها را بهعنوان فرزندان مستقیم یک جنبش تکنو آزادیخواهانه قبلی، سایفرپانکها، میدیدم. این مهندسان، وکلا و مبارزان برای جلوگیری از محدودیتهای دولتی در زمینه رمزنگاری در زمانی که بسیاری بیم داشتند تروریستها و پورنوگرافیهای کودکان از آن سوء استفاده کنند، مبارزه کردند.
سایفرپانک ها در تبدیل رمزنگاری کلید عمومی به سنگ بنای ارتباطات اینترنتی و تجارت نقش داشتند. توماس که سیاهپوست است، زمانی به من گفت: «آمریکا مشکلات خود را دارد. به خصوص برای افرادی که شبیه من هستند، عالی نیست. اما من فکر میکنم آزادی عمل میکند.» وقتی عمیقتر در دنیای هوش مصنوعی بدون سانسور فرو رفتم، با چهرهای مواجه شدم که تنها با نام مستعار پلینی آزادیبخش شناخته میشود. این شخص (یا افراد) که اولین جیلبریک مدلهای هوش مصنوعی بود، مانیفستهایی را برای ابلیتراتورها منتشر کرد.
من از طریق مردی به نام جی تی که اصرار داشت یک تماس ویدیویی برای تأیید اینکه من هستم، به پلینی - نامی که از یک دانشمند و کاشف رومی قرن اول الهام گرفته شده بود، رسیدم. پس از بررسی، من با Pliny در سیگنال ارتباط برقرار کردم و در مورد Cypherpunks صحبت کردیم. آنها به من گفتند: «فکر میکنم ما به همان مبارزه برای آزادی شناختی نگاه میکنیم. "این چیزها در حال تبدیل شدن به بخشی از ماشینی هستند که مردم برای فکر کردن از آن استفاده می کنند." پلینی به من گفت که نابودی ماهیت واقعی هوش مصنوعی را آشکار می کند. آنها گفتند: «مدلی که فقط به این دلیل رفتار میکند که بنددار است، همتراز نیست.
"در حال اجراست." توماس شرکت خود را با اولاجیده اوگون، یکی از همکاران اپل که به همان کلیسا تعلق دارد، تأسیس کرد. این زوج اپل را ترک کردند و در آگوست 2026 قراردادی را با Andreessen Horowitz امضا کردند. در ماه اوت، Abliteration AI نسخه ای از GLM-5.3 را منتشر کرد، مدلی که توسط شرکت چینی Z.ai توسعه یافته است. این قدرتمندترین مدل وزن باز تا به امروز است که قادر به کدگذاری عاملی است و تقریبا به اندازه بهترین مدل های Anthropic و OpenAI پیشرفته است. توماس خاطرنشان کرد که مدل های شرکت او کاملا بدون سانسور نیستند.
به دنبال مثال گوگل، او گفت که این مدلها به طور خودکار درخواستهای مربوط به سوء استفاده جنسی از کودکان یا آسیب رساندن به خود را رد میکنند. اما او معتقد نیست که شرکتش باید بر فعالیت کاربران نظارت داشته باشد. توماس به من گفت: "من فقط به بهینه سازی جهان برای چیزهای بد اعتقاد ندارم." "با وجود اینکه من یک آمریکایی هستم، من اسلحه ندارم. من آنقدرها هم نمی ترسم." Abliteration AI اخیرا ابزاری را منتشر کرده است که به مشتریان امکان می دهد نرده های محافظ خود را برای مدل ها تعریف کنند.
این شرکت چندین استارتآپ در زمینه امنیت سایبری و فناوری دفاعی را بهعنوان مشتری به حساب میآورد و شاهد استفادههای مشروع دیگر از مدلهای منسوخ شده است. استارت آپ های دیگر ممکن است بخواهند از آنها استفاده کنند زیرا از رسیدگی به اطلاعات مشتری خودداری نمی کنند. یا از آنها برای تولید دادههای مصنوعی استفاده میکنند، که آزمایشگاههای بزرگ آن را ممنوع میکنند، زیرا به عنوان راهی برای «تقطیر» مدلهایشان تلقی میشود، که اساسا یک کپی کوچکشده از LLMهای اختصاصی خود ایجاد میکنند. شرکت توماس ممکن است مشتریانی خارج از فناوری نیز پیدا کند.
دادگاه عالی سوئیس که دارای چهار زبان رسمی است، سعی کرده است از مدل های حذف شده برای ترجمه اسناد دادگاه استفاده کند. از آنجایی که پروندهها و احکام اغلب حاوی عبارات حساسی هستند، درخواستهای ترجمه میتوانند با نردههای محافظ مدلهای هوش مصنوعی معمولی مواجه شوند و باعث رد شدن شوند. من همچنین سعی کردم از Abliteration AI استفاده کنم. پس از ایجاد یک حساب کاربری و افزودن مقداری اعتبار، یک کلید API دریافت کردم که به من امکان دسترسی به مدل های آن را می داد.
توماس نصب یک ابزار امنیت سایبری رایگان به نام CyberStrike را پیشنهاد کرد که یک مدل زبان را از طریق وظایف امنیت سایبری هدایت می کند و از آن با یک مدل هوش مصنوعی Abliteration استفاده می کند. شروع کردم به اسکن شبکه خانگی و دستگاههایم، و همچنین برخی از پروژههای نرمافزاری با کد vibe خودم، برای آسیبپذیریها. نتایج شگفت انگیز بود. این مدل سیستمهایی را که نیاز به بهروزرسانی یا پیکربندی مجدد داشتند برجسته میکرد و در مورد نقصهای طراحی شبکه من هشدار میداد. سپس مدل را به دنیا آوردم.
نشسته در Shybird، رستورانی در کمبریج، ماساچوست، لپتاپم را باز کردم، CyberStrike را روشن کردم و از مدل Abliteration AI پرسیدم که از شبکه Wi-Fi که در آن هستم چه میسازد. قبل از اینکه بفهمم چه اتفاقی می افتد، مدل روتر شبکه را پیدا کرده بود و سعی می کرد با استفاده از ترکیبات رایج نام کاربری و رمز عبور به آن دسترسی پیدا کند. این غیر قانونی بود برای واضح بودن، من از مدل نخواستم این کار را انجام دهد. من بلافاصله مامور را بستم و از مدیری که به نظر بیشتر سرگرم بود عذرخواهی کردم.
اما این واقعه باعث شد به این فکر کنم که آیا حذف کنندگان به طور چشمگیری پیامدهای آشفته کار خود را دست کم می گیرند. البته این واقعیت آشکار وجود دارد که این مدلها استفاده از هوش مصنوعی را برای مجرمان سایبری برای انجام حملات آسانتر میکنند. حذف کنندگان استدلال می کنند که مجرمان بدون توجه به هر اتفاقی راه خود را به مدل های غیر همسو خواهند یافت و ابزار آنها به شرکت های کوچک و متوسط کمک می کند تا دفاع خود را تقویت کنند. اما در دستان آماتورهایی مثل من که می داند چه آسیبی می تواند داشته باشد.
تصور کنید اگر مدل منقطع شده ام را به بیمارستان یا فرودگاه بیاورم. همانطور که کریستوفر کانال، یک متخصص ایمنی هوش مصنوعی می گوید: "اگر شما یک مطلق گرا در زمینه آزادی بیان هستید، به نظر چیز خوبی است." کانال یک "مکسر آزادی" خودخوانده است که در تگزاس زندگی می کند، اما حتی خود او هم خط می کشد تا مدل ها را از نرده های محافظ آنها جدا کند. او گفت: «مشکل این است که مدلهای متنباز میتوانند به مردم کمک کنند تا سلاحهایی بسازند که آسیب زیادی بهویژه سلاحهای شیمیایی و بیولوژیکی وارد میکند.» شرکتهای بزرگ هوش مصنوعی ایالات متحده نیز ظاهرا طرفدار نیستند.
در ماه مه، وکلای متا نامه ای به پروژه هرتیک ارسال کردند و آن را به نقض شرایط خدمات برای مدل های لاما متهم کردند. و اندکی پس از اینکه Abliteration AI نسخه بدون سانسور GLM را منتشر کرد، Anthropic وبلاگی را منتشر کرد که در مورد خطرات انحطاط هشدار می داد. به سختی می توان دید که چگونه می توان این عمل را بدون ممنوعیت کامل مدل های وزن باز متوقف کرد.
در حالی که شایعاتی مبنی بر اینکه دولت ایالات متحده می تواند مدل های چینی را محدود کند وجود دارد، به نظر می رسد بسیاری از صنعت فناوری ایالات متحده با ایده ممنوعیت گسترده مخالف است. یک نکته کلیدی در مورد افرادی مانند توماس این است که آنها ایدههایی را که به نظر میرسد در شرکتهای بزرگ هوش مصنوعی رایج است، در مورد مرگ هوش مصنوعی نمیپذیرند. توماس یک روز بعدازظهر تلفنی به من گفت: «من به AGI یا اینکه یک ارباب هوش مصنوعی وجود دارد که از ما سبقت میگیرد، اعتقاد ندارم. ممکن است اشتباه کنم، اما هیچ نشانهای از آن نمیبینم.» دنیای هوش مصنوعی می تواند از مخالفان بیشتری استفاده کند.
حذف کنندگان اساسا به این نکته اشاره می کنند که هم ترازی شکننده است و ما ممکن است برای جهانی که در آن بسیاری از مدل ها کنترل های کمتری دارند، آماده شویم. آنها همچنین ممکن است حق داشته باشند که تلاشهای شرکتهای بزرگ هوش مصنوعی برای قفل کردن مدلهایشان را زیر سوال ببرند و از خود بپرسند که آیا برخی از جنبههای آن کار ممکن است خودخواهانه باشد یا به شرکتها نفوذ نابجا بدهد. به هر حال، اگر انسانها عاملیت بیشتری را به ماشینها بسپارند، کسانی که تصمیم میگیرند ماشینها چگونه رفتار کنند، قدرت فوقالعادهای خواهند داشت. این، البته، نتیجه ای است که ارزش سوال را دارد.
نظر خود را در مورد این مقاله با ما در میان بگذارید. نامه ای به ویرایشگر در mail@wired.com ارسال کنید.
متن اصلی (انگلیسی)
Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers
The “abliterators” are flooding the internet with AI models that never say no, making it easier for people to improve their cyberdefenses—or build a bomb.