تهدید هک قریب الوقوع هوش مصنوعی در معرض دید عموم پنهان شده است

کارشناسان امنیتی می‌گویند موج بی‌سابقه‌ای از حملات سایبری مبتنی بر هوش مصنوعی و انسان محور در راه است - و این خطری بسیار فوری‌تر از گفتگوهای تئوریک در مورد هوش مصنوعی است که بشریت را از بین می‌برد.

چرا مهم است: وحشت بزرگ هوش مصنوعی در سپتامبر - که در هفته گذشته از اتاق‌های هیئت مدیره به کنگره به خانواده‌های آمریکایی سرایت کرد - ممکن است موضوع را از دست داده باشد. مدل‌های قدرتمند با قابلیت‌های پیشرفته امنیت سایبری به مهاجمان اجازه می‌دهند از گلوگاه انسانی که مدت‌هاست مانع از رسیدن بیشتر کمپین‌های هک به مقیاس صنعتی شده است، عبور کنند.

مدیران اجرایی و مقامات سابق به Axios گفته‌اند که از حملات سایبری خودکاری که سرویس‌های حیاتی مانند شبکه برق را خاموش می‌کند، یا مهاجمانی که از عوامل هوش مصنوعی (مانند مواردی که Hugging Face را نقض کردند) برای هک کردن خودروهای خودران یا ایجاد بات‌نتی که کل اینترنت را تحت کنترل خود درآورد، بیم دارند. محرک این خبر: OpenAI در روز چهارشنبه شش حادثه جدید را فاش کرد که در آن مدل‌های آن اشتباهات را پنهان می‌کردند، به دنبال اعتبارنامه‌های غیرمجاز بودند، فایل‌ها را در اینترنت عمومی آپلود می‌کردند یا در محیط‌های آموزشی ظاهرا ایزوله ارتباط برقرار می‌کردند.

تصویر بزرگ: به جای اینکه نقص‌های ایمنی اخیر در OpenAI و دیگر آزمایشگاه‌های مرزی را به‌عنوان نمونه‌های وحشتناکی از عواملی که در حال کار هستند ببینند، کارشناسان باتجربه امنیت سایبری در عوض می‌گویند که آنها داستان‌های احتیاطی را نشان می‌دهند که نشان می‌دهند زمانی که مدل‌های قدرتمند با کنترل‌های امنیتی ضعیف مواجه می‌شوند چه اتفاقی خواهد افتاد. میشل کاتاستا، رئیس و رئیس هوش مصنوعی در سازنده اپلیکیشن Replit، به Axios گفت: «هرچه بیشتر زیر کاپوت را نگاه می‌کردیم تا دقیقا چه اتفاقی افتاده است، بیشتر متوجه می‌شویم که خطای انسانی زیادی در تصویر وجود دارد. برای ثبت: سام آلتمن، مدیر عامل OpenAI گفته است که Hugging F

ace breach "اولین حادثه امنیتی بود که من به شدت احساس کردم" و این شرکت کنترل های داخلی جدیدی را اعمال کرده است. کای چن، سرپرست تحقیقات همسویی در OpenAI، در مصاحبه ای در روز چهارشنبه به Axios گفت که حوادث ایمنی که آنها با آن مواجه شده اند، هم به دلیل سیستم های داخلی و هم به دلیل قابلیت های پیشرفته مدل است.

چن گفت: «درست است که قابلیت‌های مدل سریع‌تر از آنچه انتظار داشتیم رشد کرده‌اند، اما در داخل نیز چیزهایی وجود دارد که می‌توانیم آن‌ها را تغییر داده و بهبود دهیم. ما باید برای رسیدن به این دوره جدید توسعه هوش مصنوعی قدم برداریم و افشای داوطلبانه باید بخشی از آن باشد.» بین خطوط: کاتاستا و دیگرانی که روز دوشنبه در یک رویداد Imagination in Action در مقر گوگل صحبت کردند، دیدگاهی را ارائه کردند که تهدید قریب الوقوع نفوذ سایبری وحشتناک است. دیو گری، مدیرعامل Bugcrowd به Axios گفت: «نگران نیستم که دستگاه بیدار شود و تصمیم بگیرد ما را به پایان برساند. "چیزی که من نگران آن هستم یک سیستم wi است

دسترسی بیش از حد است که دقیقا همان چیزی را که گفته شده بدون آزمایش خصمانه لازم انجام می دهد."

رانجان سینگ، مدیرعامل Mimecast به Axios گفت که خطر واقعی امروز با عوامل هوش مصنوعی که به اسناد حساس و سیستم‌های داخلی شرکت دسترسی دارند اتفاق می‌افتد.

او گفت: «به صدا درآوردن زنگ خطر درست است، اما خطر برای واقعی شدن نیازی به ازدحام در مقیاس اینترنت ندارد. "بیشتر سازمان ها نمی توانند به شما بگویند که آن عامل کیست یا چیست، چه چیزی مجاز است به آن دست بزند یا چه کسی وقتی کاری را انجام می دهد که نباید پاسخگو باشد." چه چیزی را تماشا کنیم: تعدادی از مدیران کسب و کار پشت درهای بسته می گویند که قصد دارند آزمایشگاه های مرزی را در مورد رفتار مدل های خود پاسخگو نگه دارند.

اگر مانند Hugging Face هک شدند، منتظر دعوای قضایی باشید. یکی از مدیران ارشد یک صندوق تامینی بالا که با Axios صحبت کرد، گفت که اولین تماس او، در صورتی که شرکتش مورد حمله مشابهی قرار گرفته باشد، با وکیل عمومی او برای آماده کردن یک شکایت خواهد بود. عمیق تر بروید: انسان ها درهای هک هوش مصنوعی را کاملا باز می گذارند