نقص در برنامه مک ChatGPT می تواند به هکرها اجازه دهد داده های حساس را بگیرند

این باگ می‌توانست برای کنترل ChatGPT در رایانه قربانی مورد سوء استفاده قرار گیرد و به مهاجم امکان دسترسی به تمام گزارش‌های چت و سایر داده‌های ذخیره شده توسط برنامه و همچنین اتصالات متقابل مانند جلسات مرورگر را می‌دهد. این آسیب‌پذیری که توسط محققان بنیاد Objective-See کشف شد، دسترسی عمیق به سیستم و اعتمادی را که پلت‌فرم‌های هوش مصنوعی برای کارکردن در اختیار دارند و هدفی که این امر بر روی پشت آنها قرار می‌دهد را نشان می‌دهد. پاتریک واردل، تحلیلگر نرم افزار بنیاد Objective-See و محقق قدیمی macOS، می گوید: «نمایندگان برای انجام کار خود به دسترسی زیادی نیاز دارند.

"آنها مانند مدیر ساختمان هستند که به کلیدهای همه اتاق ها دسترسی دارد. بنابراین اگر ممکن است خراب یا خراب شوند، بسیار مشکل ساز است. می تواند به این معنی باشد که کد غیرمجاز می تواند به طور بالقوه به همه چیزها دسترسی داشته باشد." OpenAI در تاریخ 25 سپتامبر به طور عمومی به نقص امنیتی و رفع آن در گزارش تغییرات سیستم خود اذعان کرد.

شین بائر، سخنگوی OpenAI در بیانیه ای به WIRED گفت: «ما همچنان به توسعه شیوه های امنیتی خود ادامه می دهیم، اما نیاز به حرکت سریعتر را تشخیص می دهیم. برنامه MacOS ChatGPT شامل چندین مؤلفه است که با بررسی امضای دیجیتال به طور ایمن با یکدیگر ارتباط برقرار می کنند. ایده این است که با این بررسی‌های اعتبار تأیید کنیم که هر دو فرآیند جزء OpenAI هستند و خارج از نرم‌افزار مخرب بالقوه درخواست می‌کنند.

و طراحی سیستم تا آنجا پیش می‌رود که این بررسی‌های امضا را در سه لایه حذف از درخواست الزامی می‌کند تا اطمینان حاصل شود که نرم‌افزار مخرب به نحوی مؤلفه OpenAI را به سمت پروکسی هدایت نمی‌کند و درخواستی به ظاهر قابل اعتماد ارائه نمی‌کند. با این حال، محققان بنیاد Objective-See دریافتند که یک مؤلفه قابل اعتماد وجود دارد، یک مفسر اسکریپت، که یک اسکریپت نامعتبر (یا لیستی از دستورات برای اجرا) را می‌پذیرد و سپس می‌تواند برای ارائه این اسکریپت به فرآیند اصلی ChatGPT دستکاری شود.

واردل می‌گوید: «آنها والدین و پدربزرگ و مادربزرگ آن فرآیند را نیز بررسی می‌کنند، اما اسکریپت مخرب فقط سه بار مفسر اسکریپت را ایجاد می‌کند و سپس درخواست را می‌دهد تا شرایط مورد نیاز را برآورده کند. او می‌افزاید که این آسیب‌پذیری «به‌طور دیوانه‌کننده‌ای بی‌اهمیت» برای بهره‌برداری بود، و اثبات مفهوم او فقط به ده‌ها خط کد نیاز داشت.

علاوه بر دسترسی به گزارش‌های چت ChatGPT، این آسیب‌پذیری همچنین می‌تواند برای اجرای دستورات ChatGPT برای مهاجم، مانند دسترسی به مرورگر یا سایر برنامه‌های حساس، با درخواست‌ها به عنوان دستورالعمل‌های قانونی صادر شده توسط نرم‌افزار OpenAI مورد استفاده قرار گیرد. واردل در کنفرانس امنیتی Objective by the Sea که در نوامبر برگزار می شود، تجزیه و تحلیل تعدادی از باگ های اپلیکیشن macOS هوش مصنوعی را ارائه خواهد کرد. او اخیرا نقصی را در ویژگی دیکته دستیار جدید Muse AI متا پیدا کرده است که می‌توانست توسط یک مهاجم محلی برای گرفتن یک اعتبار اشتباه مورد سوء استفاده قرار گیرد.

توکن و دسترسی به داده های کاربر. و او می‌گوید که قبلا یک یافته آسیب‌پذیری جدید به OpenAI مربوط به ادغام بین ChatGPT و دستیار جدید همیشه روشن Dots AI شرکت ارائه کرده است. OpenAI در حال حاضر در حال بررسی گزارش خود است. واردل می‌گوید: «شرکت‌های هوش مصنوعی در حال حاضر روی افزودن ویژگی‌ها متمرکز هستند. اما مثل همیشه، هر چه ویژگی‌های بیشتر، سطح حمله گسترده‌تر می‌شود. بنابراین همه این شرکت‌ها باید به طور کامل روی امنیت متمرکز شوند، و از آن‌چه من می‌بینم، هنوز اغلب به نظر می‌رسد که یک فکر بعدی است.»