آیا باید وحشت کنیم و اینترنت را خاموش کنیم؟

استفانی کوهن، مدیر ارشد استراتژی کلودفلر. زد جیمسون/ بلومبرگ از طریق گتی ایماژ دزدی سایبری این هفته توضیح داد: هوش مصنوعی یافتن و بهره برداری از نقاط ضعف نرم افزار را آسان تر می کند.

پیام استفانی کوهن از Cloudflare و Tom Occhino از Vercel: نترسید!!!

آیا ما به همه چیز متصل به اینترنت نیاز داریم؟ صورت‌حساب‌های بانکی کاغذی به خوبی کار می‌کنند. چند هفته پیش، داستان عجیبی درباره دوستی شنیدم که در یکی از شرکت های بزرگ فناوری در سیلیکون ولی کار می کند.

او اخیرا دستگاه‌های متصل را در خانه‌اش پاره کرده بود، صورت‌حساب‌های بانکی کاغذی سفارش داده بود، و اجناس کنسرو شده را در زیرزمین خود ذخیره کرده بود.

اکنون، او فردی بسیار عاقل، با تجربه و کاملا ارشد در یکی از بزرگترین شرکت های اینترنتی روی زمین است. چرا اینقدر ارتباطش را قطع می کرد؟ فقط برای اطمینان، خانواده من نیز صورتحساب های بانکی کاغذی سفارش دادند. با این حال، هنوز هم یک سر خاراندن بود.

به سرعت به این هفته بروید، و اقدامات او کمی کمتر دیوانه کننده به نظر می رسد.

مدل‌های هوش مصنوعی ضعف‌های امنیتی جدی را در نرم‌افزارهای مورد استفاده تقریبا ۷۰ درصد از وب‌سایت‌ها آشکار کرده‌اند. اکسیوس گزارش داد، در همین حال، بانک‌های ایالات متحده در حال یافتن عوامل هوش مصنوعی در حساب‌های مشتریان هستند، از جمله برخی که به نظر می‌رسد بدون دستور صاحبان خود عمل می‌کنند.

"اکتبر سیاه"

Digerati اکنون وارد حالت freakout کامل شده است. همکار من آلیس تکوتزکی خاطرنشان کرد که بسیاری از خرابی اینترنت در اینترنت اتفاق می افتد.

در ایکس و ردیت، هشدارهای مربوط به "اکتبر سیاه" در حال پیشروی به چشم‌اندازهایی مبنی بر توقف تمدنی که هوش مصنوعی در حال نابودی است، تبدیل شد. یکی از پست‌های طولانی در X درباره احتمال یک «انبوه حمله سایبری/هوش مصنوعی جهانی» هشدار داد و یک چک لیست برای بقا ارائه کرد: پول نقد را در صورت‌حساب‌های کوچک ذخیره کنید، شماره تلفن همسایگان خود را چاپ کنید، نقشه‌ها را دانلود کنید، یک رادیو دستی بخرید، و روزانه یک گالن آب برای هر نفر ذخیره کنید.

آه، و دفترچه راهنمای قوطی بازکن را فراموش نکنید. شما نمی خواهید از آخرالزمان هوش مصنوعی جان سالم به در ببرید تا تنها توسط یک قوطی لوبیا شکست بخورید.

نیکیتا بیر، یک توسعه‌دهنده برنامه‌های کاربردی و رئیس سابق محصولات X، به بهترین وجه این حال و هوا را به تصویر کشید.

او چهارشنبه شب پست کرد: «وقت آن است که اینترنت را خاموش کنیم.

یکی از مدیران Cloudflare می گوید این "کمی ترسناک" است

اگر در حال خواندن این مطلب هستید، هنوز آن را انجام نداده اید. اما آیا واقعا باید نگران باشیم؟

من این سوال را از استفانی کوهن، افسر ارشد استراتژی در Cloudflare پرسیدم، که به محافظت از حدود 20٪ اینترنت کمک می کند.

او در کنار کنفرانس سالانه Cloudflare در سانفرانسیسکو این هفته به من گفت: "جهان در حال حاضر کمی ترسناک است."

مشکل اینجاست اینترنت بر پایه چندین دهه نرم افزار ساخته شده است که بسیاری از آن با حفره های امنیتی پر شده است.

برخی از این نقاط ضعف سال هاست که شناخته شده اند. با این حال، رفع آن‌ها زمان و هزینه می‌برد و هکرها اغلب فاقد مهارت‌های لازم برای بهره‌برداری از آنها هستند. بنابراین آنها تنها ماندند.

هوش مصنوعی این محاسبه را به طرز چشمگیری تغییر می دهد. کسی که قبلا برای نفوذ به سیستم کامپیوتری به سالها آموزش نیاز داشت، اکنون می تواند از یک مدل هوش مصنوعی کمک بگیرد. و این ابزارها می توانند نقاط ضعف را با سرعتی جستجو کنند که انسان به سادگی نمی تواند با آن مطابقت کند.

نتیجه: تعداد آسیب‌پذیری‌های نرم‌افزاری جدید منتشر شده (آسیب‌پذیری‌های رایج و قرار گرفتن در معرض در زبان صنعتی) منفجر شده است.

اکنون، یک مسابقه دیوانه‌وار بین افرادی که سعی در نفوذ به سیستم‌ها دارند و کسانی که سعی در محافظت از آنها دارند، در جریان است.

در مورد هوش مصنوعی وحشت نکنید

با این حال، پیام کوهن به طرز شگفت انگیزی اطمینان بخش بود.

هوش مصنوعی به افراد خوب کمک می کند تا این مشکلات را پیدا کرده و برطرف کنند. به عنوان مثال، Cloudflare برای آخرین آسیب پذیری مشتریان، از جمله کسانی که از سرویس رایگان آن استفاده می کنند، محافظت هایی را منتشر کرد.

و تلاش بزرگتری در حال انجام است.

OpenAI ابتکاری به نام Patch the Planet را راه اندازی کرده است و با Cloudflare و دیگر متخصصان امنیتی همکاری می کند تا از هوش مصنوعی برای یافتن نقاط ضعف در نرم افزارهای پرکاربرد و کمک به تعمیر آنها استفاده کنند.

تام اوچینو، مدیر ارشد محصولات ورسل، اخیرا به من گفت که شرکت او با شرکای خود در مورد راه‌اندازی یک سازمان غیرانتفاعی صحبت می‌کند که مجموعه‌ای از عوامل هوش مصنوعی خوب را که در اینترنت برای یافتن و رفع نقص‌های نرم‌افزاری می‌روند، تامین مالی می‌کند.

آمازون نیز به این مبارزه می پیوندد. سرویس جدید Continuum آن که روز پنجشنبه در دسترس است، از عوامل هوش مصنوعی برای یافتن حفره‌های امنیتی و پیشنهاد اصلاحات استفاده می‌کند. آمازون گفت که افرادی که نرم‌افزار رایگان در دسترس را نگهداری می‌کنند، می‌توانند از آن برای محافظت از اینترنت گسترده‌تر استفاده کنند.

شاید انسان ها هنوز مجبور باشند این تعمیرات را بررسی و تایید کنند، اما چشم انداز هوش مصنوعی به پاکسازی چندین دهه نرم افزار نادیده گرفته شده دلگرم کننده است.

طنز این موضوع برای برخی در صنعت از بین نمی رود.

بن کافمن، مهندس نرم‌افزار روز پنج‌شنبه در X نوشت: «نکته خنده‌دار این است که همه می‌گفتند کد slop هوش مصنوعی باعث ایجاد یک بحران سایبری می‌شود، اما در واقع همه شیطنت‌های قدیمی انسان باعث آن می‌شود و هوش مصنوعی فقط آن را تمیز می‌کند».

در هر صورت، کوهن از Cloudflare فکر می‌کند که این فریب‌آوت‌های الهام‌گرفته از هوش مصنوعی، صنعت را به سمت بهتر شدن سوق می‌دهند - با افشای مشکلات و اضافه کردن فوریت‌ها برای رفع آنها.

او گفت: «ممکن است در نهایت به دنیایی برسیم که در آن در نهایت به طور قابل توجهی ایمن تر شده ایم.

مشکل رسیدن به آنجاست.

یک سوال اساسی در مورد اینترنت تام اوچینو (سمت چپ)، مدیر ارشد محصول Vercel، با پراشانت راتانچاندانی، مدیر اجرایی متا در کنفرانس کشتی SF Vercel صحبت می‌کند. آلیستر بار/Business Insider وقتی اخیرا در کنفرانس Vercel در سانفرانسیسکو با Occhino برخورد کردم، او دنیایی را توصیف کرد که در آن نرم‌افزاری که همه تصور می‌کردند ایمن است، ناگهان آسیب‌پذیر به نظر می‌رسد، زیرا مدل‌های هوش مصنوعی با قابلیت فزاینده‌ای در حال بررسی سیستم‌های اساسی هستند که زیربنای اینترنت را تشکیل می‌دهند.

این منجر به بحث اساسی‌تری بین ما شد: چرا در وهله اول این همه چیز را به اینترنت وصل کردیم؟

برای سال‌ها، صنعت فناوری رقابت کرده است تا همه چیز را آنلاین کند. ترموستات ها یخچال و فریزر. زنگ های در. ماشین ها حساب های بانکی

ما فرض کردیم که اتصال چیزی به اینترنت به طور خودکار آن را بهتر می کند.

شاید باید تجدید نظر کنیم.

قبل از اینترنت

من دنیای قبل از اینترنت را به یاد دارم. خیلی خوب کار کرد ما موفق شدیم مواد غذایی بخریم، قبض ها را بپردازیم، خانه هایمان را گرم کنیم و به طور کلی بدون اینکه هر وسیله ای در جایی با کامپیوتر صحبت کند، روز را سپری کنیم.

این به معنای رها کردن بانکداری آنلاین یا انداختن گوشی هوشمند خود به دریا نیست.

به عنوان مثال، اوچینو به خصوص نگران پاک کردن حساب بانکی او توسط هکرها نیست. بانک‌های مدرن دارای حفاظت‌های پیچیده‌ای هستند و او به همه توصیه می‌کند که امنیت ورود اضافی را فعال کنند.

شاید جمعیت امنیت سایبری که عمر خود را غرق در تهدیدات آنلاین می گذراند، چیزی واضح را از دست داده باشد.

همه چیز نیازی به اتصال ندارد.

Occhino آن را به خوبی بیان کرد: "چیزهای خاصی وجود دارد که در وهله اول وجود آنها در اینترنت منطقی نیست."

شاید این درسی از وحشت این هفته باشد. نیازی نیست اینترنت را خاموش کنیم.

فقط باید به یاد داشته باشیم که کلید خاموش کجاست.

برای خبرنامه AI Insider در اینجا ثبت نام کنید. از طریق ایمیل به آدرس abarr@businessinsider.com با من تماس بگیرید

مقاله اصلی را در Business Insider بخوانید