مدل‌های هوش مصنوعی داده‌های حساس شرکت‌های فناوری را در اسکرین‌شات‌های جدید PixelLeak به اشتراک می‌گذارند

عوامل برنامه نویسی هوش مصنوعی هنگام تلاش برای مستندسازی تغییرات نرم افزار، اسکرین شات های حساس را در معرض دید قرار دادند

محققان هزاران تصویر در دسترس عموم را در صدها سازمان پیدا کردند

یافته‌ها خطرات امنیتی ناشی از ابزارهای توسعه‌دهنده مستقل و شیوه‌های هوش مصنوعی سایه را برجسته می‌کنند هوش مصنوعی (AI) نباید بدخواه، شرور یا ساده لوح باشد تا یک خطر امنیتی باشد. نمونه موردی - هزاران اسکرین شات با میزبانی عمومی، که بسیاری از آنها حاوی اسرار مهم هستند، توسط هوش مصنوعی آپلود شده اند که فقط می خواست کار خود را انجام دهد.

محققین امنیت سایبری Glow Security چندین مخزن عمومی GitHub را کشف کردند که توسط عوامل هوش مصنوعی ساخته شده بودند. آنها میزبان بیش از 13000 اسکرین شات از بیش از 300 شرکت بودند. برخی از اسکرین شات ها حاوی اطلاعاتی درباره پروژه های حساس نرم افزاری شرکتی بودند. آنها یافته ها را "PixelLeak" می نامند:

PixelLeak

محققان توضیح دادند: "هر موردی که در طول تحقیقات "PixelLeak" ما بررسی شد، با یک توسعه‌دهنده شروع شد که از یک نماینده درخواست می‌کرد تا ثابت کند که یک تغییر بصری کار می‌کند. نرم‌افزار تغییر کرد، برای مثال با اصلاح طرح‌بندی رابط کاربری، و بازبین‌ها باید قبل و بعد را ببینند. آنجاست که ماموران به دیوار برخورد کردند.»

به عبارت دیگر، توسعه دهندگان از هوش مصنوعی خواستند تا قبل و بعد از مقایسه را انجام دهند، و نماینده مایل بیشتر (و سپس مقداری) را برای رعایت این کار انجام داد.

همانطور که محققان سپس توضیح دادند، GitHub یک سرویس میزبانی تصویر رسمی دارد که مستقیما در رابط درخواست کشش سایت تعبیه شده است. این برنامه از توسعه دهندگان انسانی با یک مرورگر وب پشتیبانی می کند، اما عوامل برنامه نویسی اینگونه کار نمی کنند. آنها از CLI مبتنی بر متن استفاده می کنند، به این معنی که نمی توانند اسکرین شات های قبل و بعد را برای بررسی اضافه کنند.

"آنها چگونه این محدودیت را برطرف کردند؟ ماموران متوجه شدند که می توانند تصویر را با میزبانی آن در یک مخزن عمومی مجاور در دسترس بازبین انسانی قرار دهند. آنها فقط پیامدهای امنیتی را در نظر نگرفتند."

با این حال، عیب یابی عوامل هوش مصنوعی نسبتا آسان است. محققان فقط باید گزارش های حاوی رشته فکری خود را بخوانند. یکی از ماموران گفت:

"internal_sweeper خصوصی است و GitHub نمی تواند تصاویر را از یک مخزن خصوصی در توضیحات روابط عمومی رندر کند - پراکسی تصویر آن به صورت ناشناس واکشی می شود، بنابراین هر چیزی که در اینجا انجام شود (شاخه، دارایی انتشار، هر چیز دیگری) شکسته شده برای بازبین ها نشان داده می شود. تنها راه برای رضایت هم "بازبین ها تصاویر را می بینند" و هم "هیچ چیز جدیدی به جز ایندکس کردن PNG در اینجا عمومی بود. مخزن، sweeper-demo/pr-assets، نگه داشتن دو اسکرین شات به یک commit SHA.

شما می توانید این را به عنوان ربات های کاملا برهنه ای در نظر بگیرید که در شهر راه می روند و تعجب می کنند که چرا مردم به طور عجیبی به آنها نگاه می کنند. شاید وقت آن رسیده است که آموزش هوش مصنوعی را کمی شرم شروع کنیم؟ یا حداقل حریم خصوصی چیست؟

شرکت های در معرض خطر

در هر صورت، محققان گفتند 343 سازمان را پیدا کردند که اطلاعات حساسی را از این طریق به بیرون درز می‌کردند، از جمله «یکی از بزرگترین شرکت‌های فناوری جهان، یک آزمایشگاه هوش مصنوعی مرزی، یک ارائه‌دهنده بزرگ نرم‌افزار سازمانی، و یک شرکت مسافرتی Fortune 500». آنها گفتند که بیش از 900 مخزن کد تحت تأثیر قرار گرفتند. یک تولیدکننده، که بیش از 100000 نفر را استخدام می‌کرد، بر روی تأیید اصلاح صفحه صورت‌حساب داخلی کار کرد. عامل آنچه خواسته شد را انجام داد و سپس با آپلود اسکرین شات ها در یک مخزن عمومی در حساب شخصی GitHub توسعه دهنده، اثبات کرد.

گلو گفت: «تصاویر افشا شده شامل سوابق صورت‌حساب یک شرکت خدماتی است که در تعمیر رابط کاربری شرکت داشته است. از آنجایی که جلسه نماینده روی لپ‌تاپ کارمند اجرا می‌شود و تصاویر عمومی در سازمان GitHub شرکت وجود ندارد، این مشکل توسط تیم امنیتی شرکت شناسایی نشد و زمانی که به آنها اطلاع دادیم همچنان پابرجا بود.

محققان همچنین مشکل را در ابزاری کوچک و منبع باز به نام gitshot دنبال کردند. آنها گفتند که حدود یک سوم سازمان های آسیب دیده توسعه دهندگانی دارند که از این ابزار استفاده می کنند، که اسکرین شات ها را برای بررسی کد منتشر می کند. عواملی که برای توسعه‌دهندگان در «چند سازمان بزرگ» کار می‌کردند، از این ابزار برای دور کردن محدودیت‌های پیوست خط فرمان GitHub استفاده کردند، و تصاویری را با برچسبی به نام _gitshot منتشر کردند که در دسترس هر کسی است که می‌داند کجا باید نگاه کند.

آنها افزودند که بیش از 100 حساب عمومی پیدا شد که از این طریق کار توسعه داخلی را فاش می کرد.

گلو گفت که با تمام سازمان‌هایی که موفق به شناسایی آن‌ها شده بود تماس گرفت، اما تاکید کرد که ممکن است سایرین نیز تحت تأثیر قرار گیرند. برای اطمینان از اینکه سازمان شما در معرض چنین نشت داده‌هایی قرار نمی‌گیرد، قرار گرفتن در معرض خود را بررسی کنید، تنظیمات ابزار هوش مصنوعی خود را سخت‌تر کنید و کنترل Shadow AI را در دست بگیرید. همچنین، کنترل های زمان اجرا را برای عوامل توسعه دهنده اعمال کنید. لیست کامل توصیه‌های Glow را می‌توانید در این لینک پیدا کنید.

از طریق ثبت نام