یک ابزار هوش مصنوعی جدید از Google DeepMind ثابت کرد که پروتکل سیگنال ایمن است

این کار که به عنوان نوعی پروژه اثبات مفهوم تنها در چهار هفته انجام شد، از دو جنبه قابل توجه است. این به عنوان اعتبار سنجی مستقل بیشتر رمزنگاری عمل می کند که از مقادیر عظیمی از ارتباطات جهان در سیستم عامل هایی مانند برنامه سیگنال، پیام های Google و WhatsApp محافظت می کند. و قابلیت‌های تأیید رسمی Google DeepMind را با استفاده از یک چارچوب هوش مصنوعی جدید به نام AlphaProof Code نشان می‌دهد. به طور گسترده تر، تأیید رسمی با کمک هوش مصنوعی زمان زیادی دارد، اما مشخص نیست که چقدر برای استفاده گسترده عملی خواهد بود و چقدر می تواند در ایمن سازی مقادیر زیادی از c مؤثر باشد.

قصیده طرفداران راستی‌آزمایی رسمی مدت‌هاست که از آن به عنوان نوعی جام مقدس در امنیت نرم‌افزار یاد می‌کنند، زیرا از ریاضیات برای بررسی و اعتبارسنجی اینکه نرم‌افزار همانطور که در نظر گرفته شده است، استفاده می‌کند – به عبارت دیگر، آسیب‌پذیری‌های حیاتی ندارد. قبل از عصر هوش مصنوعی، توصیف ویژگی‌های نرم‌افزاری که می‌خواستند ثابت کنند، تبدیل این خلاصه‌ها به فرمول‌ها و سپس توسعه اثبات، برای مردم بسیار زمان‌بر بود. هوش مصنوعی عاملی می تواند زمان پروژه دوم را به میزان قابل توجهی کاهش دهد و تجزیه و تحلیل هایی مانند ارزیابی سیگنال DeepMind را امکان پذیر کند.

اما حتی این تجزیه و تحلیل از نظر دامنه محدود بود - برای مثال، به طور رسمی کل برنامه تلفن همراه Signal را تأیید نکرد - و محققان DeepMind تأکید می کنند که یافته های آنها تنها یک نقطه عطف در یک فرآیند بزرگتر است. Swarat Chaudhuri، دانشمند تحقیقاتی DeepMind، به WIRED می‌گوید: «ما از این نتیجه بسیار هیجان‌زده هستیم، اما تا زمانی که بتوانیم آن را به تمام نرم‌افزارهای جهان مقیاس کنیم، فاصله زیادی داریم و می‌خواهیم این کار را انجام دهیم. تجزیه و تحلیل DeepMind هیچ آسیب‌پذیری جدیدی در بخش‌هایی از پروتکل سیگنال پیدا نکرد، اما زمانی که محققان از کد AlphaProof استفاده کردند.

نسخه‌های قدیمی‌تر Signal که حاوی آسیب‌پذیری‌های شناخته‌شده و ثابت شده‌اند، به درستی آن‌ها را شناسایی کرد و نشان داد که پروتکل را نمی‌توان به طور رسمی تأیید کرد. محققان در حال انتشار مشخصات و شواهدی هستند که برای تجزیه و تحلیل پروتکل سیگنال ایجاد کرده‌اند تا به سایر کارهای تأیید رسمی کمک کنند. در حالی که سرعت این پروژه قابل توجه بود، محققان DeepMind خاطرنشان می کنند که به دلیل برخی از کارهای تأیید رسمی گذشته که بنیاد سیگنال انجام داده است، توانسته اند به یک درجه عالی دست پیدا کنند. «در حالی که تأیید رسمی قبلی بر بخش‌های کوچک‌تری از شرکت متمرکز بود

Ehren Kret، مدیر ارشد فناوری سیگنال، در بیانیه‌ای می‌گوید، رویکرد Google DeepMind گسترش قابل توجهی را امکان‌پذیر می‌کند. «همانطور که تهدیدات امنیتی مبتنی بر هوش مصنوعی رشد می‌کنند، تأیید دقیق اجرای پروتکل سیگنال به ما اطمینان بیشتری نسبت به تضمین حریم خصوصی کدمان می‌دهد.» برای خدمات حیاتی مورد استفاده در تنظیمات پرمخاطره، این یک رویا است که بتوانیم به طور رسمی هر پایه کد و کل زنجیره تامین نرم افزار را تأیید کنیم.

Pushmeet Kohli، دانشمند ارشد Google Cloud و معاون تحقیقات DeepMind می‌گوید: «اگر اکنون بتوانید صحت این پیاده‌سازی‌ها را تأیید کنید، می‌توانید خیالتان راحت باشد. می‌توانید بانک‌ها را تصور کنید، تمام آن شرکت‌های دیگری را تصور کنید که به تضمین‌ها متکی هستند و نگران اشکالاتی هستند که اکنون می‌توانند بگویند: «من می‌توانم این ویژگی‌ها را ثابت کنم». با این حال، سوال باز در سراسر بخش فناوری این است که آیا راستی‌آزمایی رسمی خودکار با هوش مصنوعی می‌تواند واقعا مقیاس‌پذیر باشد و آیا می‌تواند این کار را با هزینه‌ای قابل اجرا انجام دهد یا خیر.

DeepMind تجزیه و تحلیل سیگنال را به صورت رایگان به عنوان یک پروژه تحقیقاتی انجام داد و گوگل از تقسیم هزینه آنالیز خودداری کرد. این شرکت همچنین از اظهار نظر در مورد اینکه آیا قصد دارد یک محصول یا خدمات تأیید رسمی تجاری را منتشر کند، خودداری کرد. محققان می‌گویند که برخی از پیشرفت‌های حیاتی آن‌ها در توسعه یک «فرایند همکاری انسان و هوش مصنوعی» است، همانطور که چاودوری می‌گوید، که به عوامل اجازه می‌دهد تقریبا در هر مرحله از فرآیند مشارکت و اصلاح کنند و در عین حال همچنان به دنبال ورودی و بازبینی انسانی در مقاطع کلیدی هستند.

چاودوری می‌گوید: «ما نمی‌خواهیم این دنیای پرشور را داشته باشیم که در آن هوش مصنوعی اهداف را ایجاد می‌کند و هوش مصنوعی مدارک را ایجاد می‌کند و اساسا آزمایش‌هایی را انجام می‌دهد که خود نوشته هستند. "یک حد وسط وجود دارد."