آیا هوش مصنوعی زیرساخت ناهموار اینترنت را آشکار خواهد کرد؟

یک اطلاعیه شگفت‌انگیز در اوایل این هفته منتشر شد: به دلیل آسیب‌پذیری‌هایی که اخیرا در زبان برنامه‌نویسی متن باز PHP کشف شده است، صاحبان وب‌سایت‌ها مجبور بودند فورا سایت‌های خود را اصلاح کنند – یا اگر نمی‌توانستند فورا به‌روزرسانی شوند، باید سایت‌ها را حذف کنند تا ایمن باشند.

شان این را "لحظه حسابرسی واقعی" نامید که نشان می دهد چگونه "وقتی به سطح استخوانی اینترنت می رسید" به نظر می رسد همه چیز "با چسب و رویاها کنار هم جمع شده است". و با دسترسی گسترده به مدل‌های زبان بزرگ و عوامل هوش مصنوعی، یافتن این آسیب‌پذیری‌ها آسان‌تر می‌شود. (گفته شد، این آسیب‌پذیری‌های خاص توسط محققان انسانی، نه مدل‌های هوش مصنوعی پیدا شده است.)

در همین حال، کرستن به این فکر کرد که آیا ما در شرف دیدن «سطح بعدی پیش‌پرداخت […]» هستیم، زیرا می‌توانید ببینید که چگونه بانک‌ها می‌توانند مورد سوء استفاده قرار گیرند، و [با] نگرانی‌های مربوط به داده‌ها و حریم خصوصی، خیلی بزرگ‌تر از آن چیزی است که می‌توانیم در حال حاضر اصلاح کنیم.

برای پیش نمایش مکالمه ما که برای طولانی و وضوح ویرایش شده است، به خواندن ادامه دهید.

شان اوکین: به نظر می‌رسد این هفته اینترنت به طرق مختلف در حال شکستن است.

من فکر می‌کنم بهترین راه برای فکر کردن در مورد این است، اگر مردم به این نوع سرما می‌رسند: در طول 10 سال گذشته چند بار این لحظات را داشته‌ایم که چیزی می‌شکند یا چیزی تقریبا می‌شکند، جایی که یک نفر یک مخزن کوچک مخزن را به عنوان سرگرمی نگه می‌دارد یا هر اتفاقی که می‌افتد متوجه می‌شود که اتفاق بدی در حال وقوع است و ما را از زیرساخت‌های ضعیف اینترنت نجات می‌دهد؟

حالا آن را در یک میلیارد ضرب کنید، زمانی که مردم نه تنها به نرم افزارهای بسیار پیشرفته در قالب این LLM هایی که همه از آن استفاده می کنند، دسترسی دارند، بلکه می توانند با ایجاد عوامل هوش مصنوعی که در انجام آن چیزها تنها فکر می کنند، آنها را مجبور به بیرون رفتن و انجام این کار کنند.

ما شاهد تعادل دو چیز هستیم که در این هفته اتفاق می افتد. یکی از آن‌ها مجموعه‌ای از آزمایشگاه‌ها و شرکت‌هایی مانند گوگل و OpenAI است که در واقع از مردم بیرون می‌رفتند و دسته‌ای از آسیب‌پذیری‌ها را پیدا می‌کردند، از جمله آسیب‌پذیری با PHP. و پس از آن، ما همچنین گروهی از مردم را داریم که ظاهرا عجله دارند تا از این آسیب‌پذیری‌ها برای هک کردن وب‌سایت‌ها استفاده کنند. بنابراین، دولت‌هایی داریم که وب‌سایت‌ها را حذف می‌کنند، ما وب‌سایت‌های واقعا محبوبی داریم که برای مدت کوتاهی از کار می‌افتند تا بتوانیم این آسیب‌پذیری را برطرف کنیم.

این یک لحظه حسابرسی واقعی است، جایی که ما می‌خواهیم خطرات منفی ساخت بسیاری از اینترنت بر روی فناوری منبع باز مانند PHP را دریابیم. وقتی واقعا به سطح استخوانی اینترنت رسیدید، آن را با چسب و رویاها نگه دارید.

آنتونی ها: چیزهای زیادی در این مورد قابل توجه بود. یکی از آنها این واقعیت است که - حداقل آنطور که من می فهمم - این یک آسیب پذیری جدید نیست. این یک آسیب پذیری است که برای چندین دهه در PHP وجود دارد.

و PHP به عنوان یک زبان برنامه نویسی برای ساخت بخش زیادی از وب استفاده شده است، بنابراین این آسیب پذیری برای چندین دهه وجود داشته است، اما هیچ کس از آن اطلاعی نداشت. آنچه اتفاق افتاد، اساسا این بود که این شرکت‌های بزرگ هوش مصنوعی - از جمله Wiz که اکنون متعلق به گوگل است - توانستند این آسیب‌پذیری‌ها را با استفاده از LLM پیدا کنند. [همانطور که در بالا ذکر شد، این اشتباه را متوجه شدم: محققان انسانی شرکت‌کننده در ابتکار OpenAI و Wiz's Hack the Planet، آسیب‌پذیری‌ها را پیدا کردند، اگرچه از هوش مصنوعی برای سوء استفاده از این اشکال استفاده کردند.]

من حدس می‌زنم بخشی از محاسبات این است که ما باید این را اصلاح کنیم، زیرا اگر بتوانیم این آسیب‌پذیری را با استفاده از LLM پیدا کنیم، افراد دیگر نیز می‌توانند این آسیب‌پذیری را پیدا کنیم. اما تنها راهی که می‌توانیم این وصله را بیرون بیاوریم، اعلام آسیب‌پذیری است. و بنابراین این وضعیت بسیار وحشتناک را ایجاد می کند که [آنها می گویند]: "خوب، این آسیب پذیری برای چندین دهه وجود داشت. شما باید فورا آن را وصله کنید، و اگر نمی توانید فورا آن را وصله کنید، فقط وب سایت خود را حذف کنید. این یک آسیب پذیری شدید است."

کرستن کوروسک: من فکر می‌کنم نکته مهم این است که بسیاری از مردم حتی متوجه نمی‌شوند که وب‌سایت‌هایشان PHP دارند – همان‌طور که شما اشاره کردید، این زبان برنامه‌نویسی منبع باز ده‌ها ساله است.

برای کسانی که نمی دانند، Hypertext Preprocessor اصطلاح رسمی است، [این] واقعا عنصر اصلی پشت سیستم های مدیریت محتوا است که در سراسر وردپرس، دروپال، چیزی در حدود 70 درصد از وب سایت ها استفاده می شود. ما در مورد ده ها میلیون وب سایت صحبت می کنیم. بنابراین برای من، این مقیاس است. همچنین باعث شد بلافاصله به دو چیز فکر کنم: یکی، این تازه شروع کار است. چه نرم افزار بد ده ساله دیگری وجود دارد که قرار است مورد سوء استفاده قرار گیرد؟

و دیگری چیزی بود که 404 Media که یک خرابی واقعا عالی داشت به آن اشاره کرد که پوسیدگی لینک است. زیرا بسیاری از مردم، شرکت‌ها، دولت‌ها، شاید آن وب‌سایت محله کوچک، این [وب‌سایت‌ها] را تعطیل می‌کنند. و بنابراین، ما آنقدر پوسیدگی پیوندها و همچنین وب‌سایت‌هایی خواهیم داشت که شاید بخش کوچکی از تاریخ را در آنجا داشته باشند که دیگر در دسترس نباشند، برخلاف اصلاح آن.

سین: آنتونی، فکر می‌کنم به نکته بسیار خوبی اشاره کردی. من افراد زیادی را دیده ام که از انتشار افشا در اینجا ناراضی هستند، کمی از ضربات سینه ای که به نظر می رسد OpenAI در پست خود در مورد آن انجام داده است.

همچنین، به نظر می رسد که یک زن و شوهر از تحریم این نسخه جلوتر افتاده اند، که باعث رقابت بین مجموعه هکرها شده است. فکر می‌کنم متیو پرنس، مدیر عامل کلودفلر [که] قبلا پستی درباره افزایش میلیون‌ها تلاش برای هک PHP2Shell منتشر کرده بود.

چیزی که در مورد این آسیب‌پذیری‌ها وجود دارد، روشی که معمولا در امنیت سایبری کار می‌کند، این است، اگر نرم‌افزار شرکتی را آزمایش می‌کنید، حتی اگر یک نرم‌افزار اساسی باشد که به اجرای بسیاری از رایانه‌ها یا بخش‌های مختلف اینترنت یا هر چیز دیگری کمک می‌کند، می‌توانید به آن شرکت بروید و آن را افشا کنید و به نوعی در آن حباب باقی می‌ماند. اما وقتی در مورد چیزی به این عمق و اساسی صحبت می‌کنیم، نمی‌توانید به اطراف بروید و با احتیاط به همه بگویید.

منظورم این است که اگر هوش مصنوعی به اندازه کافی پیشرفته بود و می‌توانستید یک میلیارد عامل را مأمور کنید تا برای هر فردی که کنترل بخشی از یک وب‌سایت را دارد، ایمیل بفرستید، شاید بتوانید. اکنون در غم روزهایی هستیم که وب مسترهایی داشتیم که به راحتی قابل شناسایی بودند و شاید این مشکل تا حدودی حل می شد. اما هیچ راه آسانی برای انجام این کار وجود ندارد. من فکر می‌کنم این آغاز چیزی است که قرار است جلو و عقب زیادی داشته باشد و به وضوح مرز جدیدی در امنیت سایبری خواهد بود.

کرستن: پست متیو پرینس در رسانه های اجتماعی برای من واقعا گویا و بسیار ترسناک بود. همچنین، من نمی‌دانم که آیا هر یک از شما این را دیده‌اید یا خیر، اما آمازون یک پست وبلاگی نیز منتشر کرده است. این یک شرکت با سرمایه بسیار خوب است، بنابراین آنها ابزار و تیمی برای به‌شکل گرفتن آنچه در حال وقوع است دارند. آنها اساسا یک شبکه Honeypot یا یک فریب کار می کنند و در واقع دیدند که تلاش هایی برای سوء استفاده از این آسیب پذیری قبل از اعلام عمومی صورت گرفته است.

برای من، دوباره به این برمی گردد: آمازون ابزار، سرمایه و دانش لازم برای مبارزه با این چیزها را دارد. وب‌سایت‌های زیادی و حتی وب‌سایت‌های دولتی بالقوه وجود دارند که آن سطح توجه را ندارند. و بنابراین برای من، این واقعا قسمت ترسناک است.

و برخی از کارمندان هوش مصنوعی در آنجا وجود دارند که احتمالا این را به سطح بعدی مانند prepper doom می‌برند، زیرا می‌توانید ببینید که چگونه بانک‌ها می‌توانند مورد سوء استفاده قرار گیرند، و [با] نگرانی‌های مربوط به داده‌ها و حفظ حریم خصوصی، خیلی بزرگ‌تر از آن چیزی است که ما می‌توانیم در حال حاضر اصلاح کنیم. بنابراین من علاقه مند به دیدن دو چیز هستم. اول، رفتار افراد تا چه حد افراطی می‌شود – اما همچنین من نمی‌دانم که آیا برخی از استارت‌آپ‌های جدید در نتیجه این اتفاق ظاهر می‌شوند یا اینکه قرار است برای ایجاد این لایه‌های امنیتی به برخی از ابزارهای منبع باز [ارائه شده توسط شرکت‌هایی مانند Nvidia] روی بیاوریم.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آنتونی ها ویرایشگر آخر هفته TechCrunch است. او پیش از این به عنوان گزارشگر فناوری در Adweek، سردبیر ارشد در VentureBeat، گزارشگر دولت محلی در Hollister Free Lance و معاون محتوا در یک شرکت VC کار می کرد. او در شهر نیویورک زندگی می کند.

می‌توانید با ارسال ایمیل به [email protected] با آنتونی تماس بگیرید یا آن را تأیید کنید.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

اوبر تمام 30000 کارمند خود را در ChatGPT Work Lucas Ropek قرار می دهد

Airbnb کارهای خانه را برای مهمانان محدود می‌کند و با واکنش‌های منفی میزبان لورن فوریستال مواجه می‌شود

تسلا تولید ربات Optimus را در کالیفرنیا با کاهش 43 درصدی سود Kirsten Korosec شان اوکین آغاز کرد.

اینترنت روز بسیار بدی را در زمینه امنیت سایبری سپری می کند سارا پرز

مردم از هوش مصنوعی استفاده می کنند تا تلویزیون های هوشمند خود را دوباره احمق کنند سارا پرز