محقق OpenAI هشدار می دهد که رایانه های دارای شکاف هوا می توانند از طریق گرما صحبت کنند. از نظر فنی، حق با اوست

در شبکه، احتمالا چیز خوبی است که توجه بیشتری به ایجاد حفاظ ها و نرده های محافظ برای توسعه هوش مصنوعی می شود. اما مرد، ما واقعا باید قبل از اتلاف وقت برای آسیب های نظری، بهتر کار کنیم و در مورد آسیب های واقعی و قابل تصور صحبت کنیم.

اما در پایان مکالمه، هنگام بحث در مورد آن حادثه و چگونگی لغزش آن برای ماه‌ها زیر رادار OpenAI، براون این تصور وحشتناک را مطرح کرد که محدود کردن مدل‌های هوش مصنوعی به دستگاه‌های دارای شکاف هوا (دستگاهی که از نظر فیزیکی از شبکه‌های ناامن جدا شده است) برای جلوگیری از برقراری ارتباط و همکاری بالقوه پشت سر انسان‌ها کافی نیست.

او گفت: «شما حتی می‌توانید تا آنجا پیش بروید که بگویید، «خب، ما باید کامپیوترها را از هم جدا کنیم.» و من متقاعد نشده‌ام که این کافی باشد. "مطالعاتی وجود دارد، و این بیشتر آکادمیک است، که در آن شما می توانید دو کامپیوتر را در کنار یکدیگر داشته باشید که دارای شکاف هوا هستند، و آنها هنوز هم می توانند با یکدیگر ارتباط برقرار کنند زیرا سنسورهای دما دارند. یکی از آنها می تواند CPU خود را بسیار داغ اجرا کند، و سپس دیگری می تواند واقعا تغییر دما را تشخیص دهد، و سپس در واقع مکانیزمی برای برقراری ارتباط به آنها می دهد."

نوام براون از OpenAI می‌گوید شکاف هوایی رایانه‌ها ممکن است مانع از هم‌تراز نشدن هوش مصنوعی نشود، زیرا دو دستگاه دارای شکاف هوا همچنان می‌توانند با گرم کردن CPU و خواندن تغییرات دما صحبت کنند.

"اما من فکر می کنم نکته مهم این حادثه این است که مردم هوش مصنوعی را دست کم گرفتند. و ما… https://t.co/HxIhk2PyRR pic.twitter.com/LNn1SchsGt

— Fireside Alpha (@firesidealpha) 17 سپتامبر 2026

ترسناک! و از نظر تئوری ممکن است! به نظر می رسد براون به مقاله ای در سال 2015 توسط محققان دانشگاه بن گوریون در اسرائیل اشاره می کند که تکنیکی به نام BitWhisper را توسعه داده است که در واقع به دو رایانه دارای شکاف هوا اجازه می دهد بدون اتصال به اینترنت یا سایر اتصالات با هم ارتباط برقرار کنند.

با این حال، جزئیات مهم هستند، و هنگامی که به نحوه عملکرد BitWhisper دقت کنید، این تهدید بسیار کمتر به نظر می رسد. BitWhisper به دو رایانه ایزوله شده اجازه می دهد تا با سرعت 1 تا 8 بیت در ساعت با یکدیگر ارتباط برقرار کنند، تا زمانی که دستگاه ها بیش از 40 سانتی متر (حدود 1.3 اینچ) از یکدیگر فاصله نداشته باشند. اوه، و کامپیوترهای ارسال کننده پیام قبلا توسط بدافزاری در معرض خطر قرار گرفته بودند که در وهله اول امکان برقراری ارتباط را فراهم می کرد.

دلیل اینکه براون این موضوع را مطرح می‌کند این است که بگوییم ما نمی‌توانیم توانایی‌های هوش مصنوعی و به اندازه کافی منصفانه را دست کم بگیریم. این تحقیق قبل از توسعه مدل های زبان بزرگ مرزی و حتی قبل از اینکه OpenAI وجود داشته باشد انجام شد. ممکن است این مدل‌ها بتوانند این تکنیک‌ها را برای رمزگذاری داده‌ها و انتقال آن‌ها به روش‌های جدید بهبود بخشند.

اما او همچنین بلافاصله پس از فاش کردن یک مورد واقعی، با تمرکز بر روی دغدغه‌های سبک داستانی تخیلی، بازی را به نوعی واگذار می‌کند: OpenAI نظارت زنجیره‌ای از فکر را نداشت - تکنیکی که به محققان اجازه می‌دهد تا نگاهی ساده به انگلیسی و گام به گام به استدلال و رفتار یک مدل را ببینند - برای مدل‌هایی که سایت‌های سوم پلتفرم و هک سیستم‌ها را شکستند.

او گفت: «اگر نظارت زنجیره‌ای برای آن مدل‌ها وجود داشت، بلافاصله آن را خاموش می‌کرد. یکی از گام‌هایی که برداشته‌ایم این است که در طول ارزیابی‌ها، در حین استقرار، در طول آموزش برای هر مدل مرزی، نظارت زنجیره‌ای از فکر خواهیم داشت.

براون ادامه داد: "ما نمی خواهیم در موقعیتی قرار بگیریم که برای جلوگیری از مشکل بعدی به یک تکنیک تکیه کنیم زیرا تکنیک ها ممکن است شکست بخورند." و باز هم معتبر است. اما به نظر می رسد که این یک تکنیک کاملا اساسی است که باید وجود داشته باشد، درست است؟

تحقیقات خود OpenAI تنها چند ماه قبل از کشف هک Hugging Face بیان کرد که «نظارت بر این زنجیره‌های فکری برای رفتار نادرست می‌تواند بسیار مؤثرتر از نظارت بر اقدامات و خروجی‌های یک مدل به تنهایی باشد» و از محققان در سراسر صنعت خواست تا «برای حفظ قابلیت نظارت زنجیره‌ای فکر تا زمانی که امکان دارد تلاش کنند و تعیین کنند که آیا سیستم‌های AI کنترل می‌شوند یا خیر». پس چرا هنگام آموزش مدل های خود آنها را خاموش کنید؟

مدل‌های هوش مصنوعی که از یک محیط دارای شکاف هوا خارج می‌شوند و خود را در دستگاه‌های آفلاین تکرار می‌کنند، وحشتناک به نظر می‌رسد و در گسترده‌ترین معنای عبارت، از نظر فنی امکان‌پذیر است. همچنین در حال حاضر اتفاق نمی افتد. همکاری عوامل هوش مصنوعی برای هک کردن سیستم ها در حال رخ دادن است و به قول خود براون ابزاری داشتند که می توانست «فورا آن را خاموش کند» که از آن استفاده نمی کردند.

آیا می‌توانیم قبل از اینکه به چیزهای علمی تخیلی فکر کنیم، آن کادر را بررسی کنیم؟

سه هکر از کلود برای نفوذ به OpenAI در کمتر از 72 ساعت استفاده کردند