Google DeepMind انسان ها و عوامل هوش مصنوعی را با هم ترکیب می کند تا تکنیک های پیام رسانی ایمن سیگنال را بررسی کنند.

محققان Google DeepMind یک راستی‌آزمایی رسمی از امنیت پیام‌رسانی سیگنال را تکمیل کرده‌اند، و نشان می‌دهند که این اولین باری است که هوش مصنوعی به ابداع مدرکی کمک می‌کند که تضمین‌های امنیتی در سطح پروتکل را به یک پیاده‌سازی رمزنگاری پرکاربرد پیوند می‌دهد.

آنها این کار را با استفاده از AlphaProof Code، یک چارچوب چند عاملی برای مشخصات نرم افزار رسمی و تأیید انجام دادند. کد AlphaProof بر یک عامل هدایت‌شده توسط انسان متکی است که یک مشخصات ناب را می‌نویسد، معنای کد ماشین را ارزیابی می‌کند، و یک مدرک تایید شده توسط عامل ایجاد می‌کند که هسته ناب آن مشخصات را بررسی می‌کند.

در این مثال، کد AlphaProof، دست دادن سیگنال پس از کوانتومی PQXDH و سه ضلعی را تأیید کرد و بدین ترتیب طراحی محرمانه بودن، احراز هویت، امنیت پس از سازش و رازداری دست دادن را تأیید کرد.

با انجام این کار، تیم Google/DeepMind - Swarat Chaudhuri، Andrew Ferraiuolo، Anton Kovsharov، Tej Chajed، Sam Schlesinger، Karn Seth، Jonathan Katz، Charles Sutton و Pushmeet Kohli - گامی به سوی چالشی برداشته اند که بنیاد هوش مصنوعی سودمند در ماه آوریل پروتکل S Leignal را صادر کرد.

فرآیند AlphaProof Code شامل کار با مدل‌های مختلف برای تبدیل اهداف امنیتی سیگنال به یک مشخصات ریاضی بازبینی شده توسط انسان است. بر اساس این مشخصات، محققان عوامل Gemini Carbon را برای تولید کد ناب که صحت اجرای لیسبیگنال را اثبات می کند، اختصاص دادند. پس از اینکه ماموران 6.5 میلیون خط کد ناب را تولید کردند، یک پاس حسابرسی انجام دادند و بیت هایی را که نیاز به بررسی انسانی داشتند، علامت گذاری کردند.

نتیجه نظری است زیرا رمزنگاری کامل را فرض می‌کند و محرمانه بودن محاسباتی بایت‌ها را تضمین نمی‌کند. اما همچنان یک ادعای معنادار درستی است.

Swarat Chaudhuri، دانشمند محقق در Google DeepMind و استاد دانشگاه تگزاس در آستین، در مصاحبه با The Register گفت: "این سیستمی است که اساسا برای همکاری هوش مصنوعی انسان ساخته شده است."

Chaudhuri گفت: به طور سنتی، شما شروع به اثبات قضایا با مسائل کاملا تعریف شده توسط یک ریاضیدان می کنید که برای اثبات به یک عامل هوش مصنوعی ارائه می شود. در این مورد، محققان باید آنچه را باید ثابت کنند، کشف می کردند.

او گفت: «در روش‌های رسمی، ما همیشه این باور را داشتیم که راستی‌آزمایی کار سختی است. "سی یا چهل سال کار در مورد چگونگی افزایش مقیاس تأیید وجود دارد. اکنون ما قادر به انجام آن هستیم. بنابراین اکنون سؤال این است که ما چه چیزی را تأیید می کنیم؟ ... این فرآیند اساسا انسان در حلقه است، اما ما فرآیندی ابداع کردیم که سعی کنیم آن را تا حد ممکن با هوش مصنوعی افزایش دهیم."

همانطور که چاودوری و همکارانش در مقاله تحقیقاتی خود با عنوان «کد اثبات آلفا: تأیید امنیت سیگنال در سطح کد ماشین» اشاره می‌کنند، تأیید رسمی نیاز به تلاش‌های قهرمانانه داشت. تأیید رسمی میکروکرنل seL4 20 سال طول کشید، در حالی که توسعه کامپایلر تأیید شده CompCert C شش سال طول کشید.

آنها معتقدند AlphaProof Code می تواند هزینه تأیید رسمی را به شدت کاهش دهد، اگرچه کار سیگنال آنها هنوز چهار هفته برای یک تیم پنج نفره و "چند توکن" طول کشید.

چاودوری گفت: «رویا قطعا این است که این را افزایش دهیم. "پس می‌دانید که این افزایش در قابلیت‌های هوش مصنوعی تهاجمی وجود داشته است، درست است؟ سیستم‌های ناامن زیادی در سراسر جهان وجود دارند و قرار است از آنها سوء استفاده شود.

"بنابراین آنچه ما واقعا باید انجام دهیم این است که از این نوع فناوری برای کدنویسی در سراسر جهان استفاده کنیم و بفهمیم که می‌خواهید در برابر چه چیزی محافظت کنید؟ چگونه آن ویژگی ها را می نویسید، چگونه آن ویژگی ها را مشخص می کنیم؟ این بسیار مهم خواهد بود، اما ما باید آن را بفهمیم."

Chaudhuri با اشاره به پروژه DeepMind مرتبط، AlphaProof Nexus، که بر ریاضیات متمرکز است، گفت: قدم بعدی استفاده از این فناوری در طول فرآیند طراحی نرم‌افزار است – نه فقط برای پروتکل‌های رمزنگاری، بلکه به طور کلی کد.

او گفت: "ما واقعا معتقدیم که مرز بعدی اثبات نیست، بلکه مشخص کردن در این نوع تحقیقات است." و به همین دلیل است که ما این حوزه را انتخاب کردیم، جایی که در واقع یک مشکل سخت بود. و من فکر می‌کنم که اکنون بینش بسیار خوبی در مورد نحوه انجام این کار داریم، اگرچه به هیچ وجه آخرین کلمه نیست. ®