OpenAI مدل جدیدی از امنیت سایبری را منتشر کرد. آیا این کافی است؟

Max Justicz، مدیر ارشد فناوری و یکی از بنیانگذاران استارتاپ Charge Robotics، از یک مدل OpenAI برای یافتن آسیب‌پذیری شدیدی استفاده کرد که - در صورت سوء استفاده - به هکرها اجازه می‌دهد تا کنترل سرورهایی را که اوبونتو، یک سیستم عامل متن‌باز مبتنی بر لینوکس پرکاربرد است، در دست بگیرند.

جاستیز که علاقه‌مند به امنیت سایبری است و قبلا آسیب‌پذیری در همان پایگاه کد پیدا کرده بود، به TechCrunch گفت که این مشکل را با استفاده از GPT 5.6 Sol که در ماه جولای منتشر شد، از طریق Daybreak Blue سازنده هوش مصنوعی، برنامه‌ای که به مدافعان امنیت سایبری امکان دسترسی به مدل‌های مرزی قدرتمند را می‌دهد، پیدا کرد.

جاستیز گفت: «من به معنای واقعی کلمه ChatGPT را به همان متن کد هدف قرار دادم و گفتم: «این باگ را قبلا پیدا کردم که چندین سال پیش برطرف شده بود، لطفا اشکالات را بد یا بدتر پیدا کنید» و با این کار در عرض 2 ساعت برگشت. "پیدا کردن آن برای انسان بسیار پیچیده و سخت است، اما کار می کند!"

او این مشکل را به پروژه دبیان گزارش داد که نرم‌افزار مورد نظر را نگهداری می‌کند و یک وصله برای رفع این آسیب‌پذیری صادر کرد. هیچ مدرک شناخته شده ای از بهره برداری وجود ندارد. با این حال، سهولتی که او آن را پیدا کرد نشان می دهد که ما فقط نوک کوه یخ را در مورد سوء استفاده های بالقوه ای که حتی هکرهای تازه کار می توانند با کمک مدل های هوش مصنوعی استفاده کنند، دیده ایم.

جاستیز در یک تاپیک در شبکه های اجتماعی در مورد یافته های خود نوشت: "من فقط می توانم تصور کنم که با زمان بیشتر و دسترسی به مدل های کمتر خنثی شده چه کاری می توان انجام داد. ما باید انتظار داشته باشیم که برخی از اشکالات بسیار دیوانه کننده در چند ماه آینده پیدا و مورد سوء استفاده قرار گیرند." این ممکن است برای اکثر مردم اینجا واضح باشد، اما در حال حاضر آلفای بزرگی در گرفتن کد یا باینری وجود دارد که کسی هنوز ممیزی نکرده است و فقط یک مدل هوش مصنوعی قدرتمند را هدف قرار داده است.

به نظر می رسد OpenAI متوجه شده است. امروز، غول هوش مصنوعی اعلام کرد که مدل جدیدی با تمرکز بر امنیت سایبری، ChatGPT Cyber، در دسترس بالاترین رده کاربران برنامه امنیت سایبری، Daybreak Red قرار خواهد گرفت که به محققان امنیت سایبری ابزارهای تهاجمی برای شکار و توسعه آسیب‌پذیری‌ها اجازه می‌دهد. دیروز، OpenAI گفت که از همین مدل برای اسکن و آماده سازی وصله های آسیب پذیری در هسته لینوکس استفاده شده است و 948 مشکل بالقوه را پیدا کرده است. OpenAI همچنین ۸۱ آسیب‌پذیری جدید را در مرورگر وب فایرفاکس پیدا کرد.

آزمایشگاه مرزی در بیانیه ای گفت: "هدف ما گسترش چشمگیر Daybreak، ارائه تحقیقات امنیتی پیشرفته برای سازمان ها در هر اندازه، محققان مستقل و نگهبانان منبع باز است."

برنامه سپیده دم نقدهای خاص خودش را دارد. جاستیز اشاره می کند که به نظر می رسد آزمایشگاه مرزی اخیرا Daybreak Blue را "عصب کشی" کرده است تا در یافتن آسیب پذیری ها کمتر مفید باشد. از یک طرف، ممکن است خوب باشد که دسترسی بازیگران بد بالقوه را محدود کنیم - جاستیز گفت که او فقط یک عکس از گواهینامه رانندگی خود را برای پیوستن به برنامه آپلود کرده است. از سوی دیگر، متخصصان امنیت سایبری می‌گویند که اگر نتوانند از فناوری مرزی استفاده کنند، یک دستشان بسته است در حالی که بازیگران بد می‌توانند مدل‌های وزن باز با نرده‌های محافظ فرسوده را به کار گیرند.

با این حال، OpenAI می‌گوید که فقط «هزاران» متخصص امنیت سایبری در برنامه Daybreak شرکت می‌کنند، در مقابل تعداد بسیار بیشتری از هکرهای بالقوه.

مشخص نیست که آیا آزمایشگاه های مرزی به اندازه کافی از منابع خود را به این موضوع اختصاص می دهند یا خیر. اریک والاس، محقق کارکنان فنی OpenAI، گفت: «ما اکنون مقدار قابل توجهی از محاسبات مرزی خود را به کشف و اصلاح آسیب‌پذیری‌ها در پایگاه‌های کد منبع باز اختصاص می‌دهیم.

اگر بازه زمانی باریکی برای اصلاح زیرساخت دیجیتالی که جهان به آن وابسته است وجود داشته باشد، ممکن است فوریت بیشتری مورد نیاز باشد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

با افزایش انتظار برای قدرت، مراکز داده به موتورهای جت قدیمی روی آورده اند

ممدانی شهر نیویورک از مالک مدیسون اسکوئر گاردن به خاطر فناوری نظارتی زک ویتاکر انتقاد کرد.

Anthropic هشدار می دهد که بسیار نزدیک به قابلیت RSI است، با نام مستعار AI خودساز جولی بورت

نیویورک تایمز و سایر رسانه ها از مرورگر وب Brave به دلیل ادعای حذف محتوای ربکا بلان شکایت کردند.

اولین مایکروویو نینجا به‌تازگی جایگزین دو تا از لوازم آشپزخانه من شد، لورن فوریستال

لوکاس روپک در گزارش FT می‌گوید انتظار می‌رود Anthropic پس از عرضه اولیه سهام از سوی آژانس‌های اعتباری رتبه «ناخواسته» بالایی دریافت کند.

اولین ماهواره مرکز داده گوگل آنلاین است و تیم فرنهولز شعر می نویسد