اسرار هوش مصنوعی آمریکا درز می کند - و نه فقط به دلیل رسوایی جاسوسی Nvidia

جنسن هوانگ در یک شام دولتی برای شی جین پینگ، رئیس جمهور چین و پنگ لیوان، بانوی اول، در اتاق شرقی کاخ سفید در 24 سپتامبر 2026 در واشنگتن دی سی. | کوین دیچ/گتی ایماژ

تورنتو - وقتی یک شرکت در حال ساخت فناوری است که می تواند جهان را کاملا متحول کند - فناوری آنقدر مخفیانه و مخفیانه که ممکن است زیربنای آینده ژئوپلیتیک باشد - ممکن است انتظار داشته باشید که رهبران آن به اصول اولیه امنیت دست داشته باشند.

اصولی مانند، مثلا نداشتن رابطه خارج از ازدواج با یک جاسوس چینی. اصول اولیه مانند عدم فروش فناوری به کسی که ممکن است به قاچاق آن به یک دشمن خارجی بزرگ کمک کند.

در عوض، آمریکا جنسن هوانگ، مدیر عامل شرکت تراشه‌ساز هوش مصنوعی انویدیا را دریافت کرد، که روز پنجشنبه پس از اعتراف به اینکه چنین رابطه‌ای داشته است، استعفا داد. زن مورد بحث، آلیس هوانگ، برای شرکتی به نام Megaspeed کار می کرد که میلیاردها دلار تراشه از انویدیا می خرید. Megaspeed به اتهام قاچاق تراشه به چین تحت تحقیق است.

رسوایی جاسوسی سوالات جدی در مورد امنیت در دنیای شرکت های هوش مصنوعی ایجاد می کند. چگونه ممکن است که یک جاسوس چینی به این راحتی در انویدیا، یکی از با ارزش ترین شرکت های جهان و یک دارایی استراتژیک عظیم برای آمریکا در رقابت جهانی هوش مصنوعی، جاسازی شود؟

با این حال، آنچه حتی نگران‌کننده‌تر است این است که Nvidia فقط نوک کوه یخ است.

در واقع، درست زمانی که داستان هوانگ در حال شکستن بود، برخی از برترین محققان هوش مصنوعی جهان برای سخنرانی‌های هینتون در تورنتو گرد هم آمدند، جایی که «پدرخوانده هوش مصنوعی» جفری هینتون میزبان پل کریستیانو، پیشگام هم‌ترازی هوش مصنوعی، برای یک سری گفتگو بود. من در آن جلسه بودم و به طرز شگفت انگیزی، یک بار هم به رسوایی هوانگ اشاره نکردم. تمرکز بر این بود که چگونه شرکت‌های مرزی هوش مصنوعی در حال پیشرفت در ساخت این فناوری فوق‌العاده قدرتمند هستند، حتی اگر نمی‌توانند آن را ایمن یا ایمن نگه دارند.

ماه‌هاست که OpenAI و Anthropic مشکلات امنیتی شرم‌آور خود را از جمله جاسوسی شرکت‌ها و نقض‌های سایبری دارند.

کریستیانو که اخیرا به هیئت غیرانتفاعی OpenAI پیوسته است، در این رویداد به صراحت اذعان کرد: «ما نمی‌توانیم به‌اندازه کافی پیشرفت‌های هوش مصنوعی را ایمن کنیم». ما باید بتوانیم از مدل‌ها و الگوریتم‌ها در برابر سرقت دفاع کنیم.»

از قضا، امنیت ملی بخش بزرگی از منطق شرکت های بزرگ هوش مصنوعی برای نحوه عملکرد آنها در وهله اول است. OpenAI و Anthropic، با حمایت سیاست کاخ سفید، هر دو سرعت تند خود را در رقابت هوش مصنوعی با بیان اینکه ایالات متحده نمی تواند اجازه دهد چین برنده شود، توجیه می کنند. و آنتروپیک اخیرا با این ادعا که نمی‌تواند به چین اجازه دهد اسرار آن را کشف کند، به شدت ویرایش یک گزارش مستقل کلیدی در مورد پیشرفت هوش مصنوعی خود را توجیه کرد.

اما این ممکن است معادل نگرانی از این باشد که وقتی درب ورودی شما به شدت باز می شود، پنجره را باز گذاشته اید.

دانیل کوکوتاجلو، محقق سابق OpenAI که به یک افشاگر برجسته تبدیل شد، به من گفت: «من از بسیاری از شرکت‌ها ناامید هستم، زیرا آنها به طور همزمان از امنیت به عنوان ابزاری همه منظوره برای پنهان کردن اطلاعات استفاده می‌کنند - حتی اطلاعاتی که دانستن آنها بسیار به نفع عموم است - و با این حال آنها امنیت وحشتناکی دارند. (افشای: Vox Media یکی از چندین ناشر است که قراردادهای مشارکتی را با OpenAI امضا کرده است. گزارش ما از نظر سردبیری مستقل است.)

در حالی که داستان رابطه هوانگ تخیل را برانگیخته است، درسی واقعی که از سقوط تماشایی او می‌توان گرفت این نیست که او در زمینه امنیت به‌طور منحصربه‌فردی ضعیف بود، بلکه این بود که او به‌طور قابل‌توجهی شبیه سایر بازیکنان بزرگ هوش مصنوعی بود. آن‌ها از دنیا می‌خواهند که به آن‌ها اعتماد کند، زیرا ادعا می‌کنند در حال ساختن یک خدای ماشینی هستند - و در مورد آنتروپیک، بر این اساس یک IPO 1.4 تریلیون دلاری را تعقیب می‌کنند - اما آنها امنیت اولیه را به دست نیاورده‌اند.

آیا OpenAI و Anthropic عملا اسرار خود را به دلیل امنیت بد فاش می کنند؟

OpenAI ماه گذشته فاش کرد که یک دستگاه ضبط را در یک اتاق کنفرانس پیدا کرده است که در آن بحث های حساس انجام می شود. عبدالرحمن الفوزان، یک شهروند سعودی که به عنوان مهندس در OpenAI کار می کند، گفته می شود که ضبط کننده را به پورت USB تلویزیون وصل کرده و آن را به سادگی در دستمال توالت پیچیده است. یک دستگاه ضبط دیگر در کیفی در اتاق دیگری پیدا شد. سؤالاتی در مورد نحوه ساخت دستگاهی که به طور مداوم ضبط می کند و داده ها را رمزگذاری می کند نیز در حساب چت بات همسرش نشان داده شد.

OpenAI ماه گذشته گفت: "در حال حاضر، ما هیچ نشانه ای از دسترسی یا نفوذ نامناسب این فرد به وزن مدل، کد منبع یا داده های مشتری نداریم."

اما این حادثه نگران کننده بود. آلفوزان از ژوئن 2025 در OpenAI کار می کرد. دستگاه ضبط چند روز قبل از اینکه OpenAI آن را کشف کند در آن اتاق کنفرانس نشسته بود. شاید آلفوزان به اندازه کافی پیچیده نبود که وزن مدل‌ها را بدزدد - میلیاردها عددی که نحوه تبدیل یک سیستم هوش مصنوعی ورودی را به خروجی شکل می‌دهند - اما اگر او فقط کمی مراقب یا باهوش‌تر بود چه می‌شد؟

OpenAI همچنین دارای نقاط ضعف امنیتی از نوع دیگری بوده است — و نه، این فقط حادثه بدنام Hugging Face در تابستان امسال نیست. از جمله مواردی که ما درباره آنها می دانیم (گاهی اوقات این موارد فقط بعدا فاش می شود)، یک نمونه اخیر برجسته است: گروهی از هکرهای "کلاه سفید"، که هدفشان یافتن آسیب پذیری ها است، اما آسیب رساندن به شرکت، راهی را برای دسترسی به حساب های ChatGPT کارکنان OpenAI کشف کردند، جایی که تحقیقات حساس بالقوه در حال انجام است. کل عملیات فقط 72 ساعت طول کشید.

در Anthropic، گروهی از کارکنان سابق DOGE که یک استارت‌آپ هوش مصنوعی به نام Cathedral را تأسیس کردند، توانستند در کمتر از 12 ساعت به سیستم‌های داخلی آنتروپیک نفوذ کنند. طبق گزارش‌ها، آنها به Slack شرکت دسترسی پیدا کردند، جایی که کارکنان پیام‌هایی را مبادله می‌کردند که در مورد مدل‌های پیشرفته شرکت و همچنین رونوشت‌های جلسات بحث می‌کردند.

کوکوتاجلو به من گفت: «حدس من این است که Slack حاوی اطلاعات کافی باشد تا درک خوبی از کاری که شرکت انجام می‌دهد و نحوه آموزش هوش مصنوعی خود را به دست بیاورد – اساسا، اسرار آبدار وجود دارد.» و من می‌توانم بگویم دریافت اسرار الگوریتمی 80 درصد به خوبی به دست آوردن همه چیز، از جمله وزن‌های مدل است.»

جاسوسان ادعا شده (مانند آلیس هوانگ یا عبدالرحمن آلفوزان) و نفوذهای سایبری (مانند مواردی که OpenAI و Anthropic را هدف قرار می دهند) بدیهی است که انواع مختلفی از مسائل امنیتی هستند که انواع مختلفی از کنترل های داخلی را می طلبند. اما برای کوکوتاجلو و دیگران، منطقی است که همه آنها را زیر یک چتر فکر کنیم - امنیت ضعیف. و همه اینها به روندی اشاره دارد که در میان قدرتمندترین شرکت‌های هوش مصنوعی رایج به نظر می‌رسد: آنها پیشرفت سریع فناوری را بر فرآیند شاید خسته‌کننده‌تر و کندتر تضمین امنیت کارشان اولویت می‌دهند.

کوکوتاجلو گفت: «آنها نشان می‌دهند که شرکت‌ها از داشتن امنیت کافی برای محافظت از خود در برابر یک بازیگر دولتی با منابع بسیار دور هستند.

همه اینها در برابر پس‌زمینه تقطیر تهاجمی چین از مدل‌های ایالات متحده اتفاق می‌افتد، که شامل آموزش یک مدل جدید بر روی خروجی مدل پیشرفته‌تر است. این راهی است برای به دست آوردن قابلیت های قدرتمند بدون نیاز به متحمل شدن هزینه واقعی - کمی شبیه تقلب در آزمون با کپی کردن از دانش آموز بهتر. برای مثال، Anthropic دریافت که آزمایشگاه چینی DeepSeek از Claude برای بهبود مدل‌های خود استفاده می‌کند، که به خودی خود یک نقض نیست، اما نشان می‌دهد که چین با چه شدتی از تحقیقات شرکت‌های آمریکایی بهره می‌برد.

کوکوتاجلو همچنین تاکید کرد که یک سطل دیگر از حوادث امنیتی وجود دارد که باید نگران آن باشیم: هک هایی که توسط مدل های هوش مصنوعی ناهماهنگ خود علیه شرکت ها انجام می شود. بسیاری از مردم فراموش می‌کنند که در حادثه Hugging Face، عوامل OpenAI نه تنها Hugging Face را هک کردند، بلکه سیستم‌های OpenAI نیز نقض شدند. جعبه شنی که قرار بود حاوی عوامل باشد، به دور از هوا بود، و آنها شکستند.

کوکوتاجلو گفت: «شما باید هوش مصنوعی را به عنوان یک تهدید داخلی در نظر بگیرید. و به نظر نمی‌رسد که این شرکت‌ها به خوبی کار خود را مسدود کرده‌اند.»

شرکت‌های برتر هوش مصنوعی نمی‌توانند به استفاده از شیوه‌های امنیتی یک استارت‌آپ ادامه دهند

به گفته دیوید رابینسون، که کار شفافیت را برای تیم ایمنی OpenAI تا زمانی که در سپتامبر ترک کرد، سه دلیل اصلی وجود دارد که چرا امنیت در شرکت‌های هوش مصنوعی مرزی بالا نبوده است.

یکی این واقعیت است که این شرکت‌ها در حال ساخت عوامل هوش مصنوعی هستند که به قدری توانمند هستند که جلوگیری از آسیب رساندن به آنها - حتی برای سازندگان آنها - واقعا سخت باشد. رابینسون به من گفت: «ما سیستم‌هایی را آموزش می‌دهیم که در انجام حملاتی خوب عمل کنند که آزمایشگاه‌ها در داخل اکنون سعی در دفاع از آن دارند. "این یک وضعیت چالش برانگیز است."

مشکل فرهنگی هم هست «اگر با نگاهی 20/20 به گذشته به رویداد Hugging Face نگاه کنید، واضح است که در آن زمان OpenAI روی کنترل‌های امنیت سایبری سرمایه‌گذاری کمتری انجام داده بود، و من فکر می‌کنم بخشی از دلیل این امر این بود که سطح [بالاتر] حافظه مرتبط با کار بر روی هم‌ترازی وجود دارد،» یا مشکل چگونگی وادار کردن هوش مصنوعی انسان‌ها به آن‌ها.

"برخی از سوالات عملی روزمره در مورد وضعیت امنیت سایبری ما - حتی اگر افرادی که روی آن سوالات کار می کنند بسیار خوب هستند - فکر می کنم این همان اولویت سازمانی مورد نیاز نبود."

در نهایت، این واقعیت وجود دارد که انگیزه‌های بازار، شرکت‌های هوش مصنوعی را وادار می‌کند تا در توسعه فناوری با بیشترین سرعت ممکن پیشروی کنند.

رابینسون گفت: «فشار زمان بر شرکت، مراقبت کافی را بسیار دشوار کرد.» و اگرچه محققان هنوز در OpenAI اکنون می گویند که این شرکت به طرز چشمگیری در زمینه امنیت بهتر شده است، رابینسون خاطرنشان کرد که این فشارهای رقابتی "به وجود خود ادامه می دهند."

این یک روند کاملا مستند در شرکت است. جاشوا ساکس، مدیر ارشد فناوری شرکت امنیت هوش مصنوعی Abundant Security، پس از حادثه Hugging Face به نیویورک تایمز گفت: «به نظر می‌رسد امنیت OpenAI همان چیزی است که از یک آزمایشگاه تحقیقاتی انتظار می‌رود که با سرعتی چشمگیر در طی چهار سال پیشرفت کرد و بیشتر بر روی غلبه بر رقبای خود تمرکز کرد تا امنیت زیرساخت‌های خود.

همانطور که در یک یادداشت عمومی پس از این حادثه نوشت، خود OpenAI به طور ضمنی اذعان کرده است که بهبود اقدامات امنیتی گاهی «به بهای سرعت تحقیق» تمام می‌شود.

اما اگر یک شرکت از امنیت خود بکاهد، در نهایت نمی تواند از برتری خود نسبت به دیگران محافظت کند. در هر صورت، فقط به دشمنانش کمک می کند تا حتی سریعتر با آن رقابت کنند.

همانطور که کوکوتاجلو و همکارانش در پروژه آینده هوش مصنوعی اخیرا هنگام نوشتن در مورد تلاش این شرکت‌ها برای ساخت یک محقق هوش مصنوعی (SAR) هشدار دادند، هوش مصنوعی که به خوبی بهترین محقق انسانی است: «اگر SAR را در آینده نزدیک آموزش دهیم، احتمالا الگوریتم‌ها به چین نشت می‌کنند و شاید شرکت‌های هوش مصنوعی در مسیر امنیتی SAR هم وزن‌های مناسبی داشته باشند. به چین نشت می کند.»

و این فقط این نیست که امنیت ضعیف می تواند باعث شود شرکت های آمریکایی به رقابت رو به جلو ادامه دهند. ضعف امنیتی آنها می تواند حتی اگر خودشان بخواهند، کند کردن سرعت را برای آنها دشوارتر کند.

کریستیانو در سخنرانی این هفته خود در تورنتو از همه ما در حضار خواست تا سناریویی را تصور کنیم که به گفته او در حال حاضر محتمل به نظر می رسد: به نقطه ای می رسیم که پیشرفت بیشتر در زمینه هوش مصنوعی خطرناک به نظر می رسد. در ایالات متحده تقاضا برای کاهش سرعت وجود دارد. اما همچنین احتمال زیادی وجود دارد که مدل‌ها یا الگوریتم‌های هوش مصنوعی قبلا به دشمنی مانند چین درز کرده باشند.

در حالی که صدها نفری که اطراف من نشسته بودند به نظر می‌رسید که به نظر می‌رسید که صدها نفری که اطراف من نشسته‌اند، به‌نظر می‌رسید که به‌نظر می‌رسید به‌طور مشهودی دچار تنش شده‌اند، اکنون ما با یک دوراهی بین یا ادامه دادن با فناوری‌ای که معتقدیم ناامن است روبرو هستیم – یا خطر رقابت از جانب دشمنی که منابع مشابهی دارد، الگوریتم‌ها را اتخاذ کرده و احتمالا مایل به تحمل ریسک بالاتر است. من فکر می‌کنم این یکی از محتمل‌ترین راه‌هایی است که ما در وضعیت بسیار بدی قرار می‌گیریم.»