اینترنت یک مشکل شیب انسانی دارد و هوش مصنوعی در حال افشای آن است

تام اوچینو از Vercel، سمت چپ، همراه با Tiago Sada از Tools for Humanity در رویدادی در سانفرانسیسکو در ماه آوریل. Kimberly White/Getty Images for Tools for Humanity همه از آشغال های تولید شده توسط هوش مصنوعی شکایت دارند.

اما دهه‌ها نرم‌افزار درهم‌تنیده نوشته شده توسط انسان ممکن است مشکل بسیار بزرگ‌تری باشد.

این هفته "اکتبر سیاه" ناشی از شیب انسان بود، نه هوش مصنوعی. اینترنت مشکلی دارد. و برای یک بار هم که شده، نمی‌توانیم هوش مصنوعی را سرزنش کنیم.

بسیاری از ما هر روز ساعت‌ها را به صورت آنلاین سپری می‌کنیم بدون اینکه به نرم‌افزاری فکر کنیم که همه چیز را کنار هم نگه می‌دارد. ما فرض می کنیم که کسی در جایی مطمئن شده است که همه چیز به درستی کار می کند.

بنابراین احتمالا در این هفته کشف اینکه برخی از این نرم افزارها چقدر آسیب پذیر هستند، شوکه کننده بود.

حمله سایبری به نام اکتبر سیاه الهام بخش هشدارهایی در مورد هکرهای مجهز به هوش مصنوعی، فاجعه دیجیتال و حتی توصیه هایی برای ذخیره پول نقد و مواد غذایی کنسرو شده است.

در نگاه اول، هوش مصنوعی شبیه یک شرور به نظر می رسد. اما این تا حد زیادی یک آشفتگی ساخته دست بشر است.

مشکل اینجاست

اینترنت بر روی چندین دهه نرم‌افزار اجرا می‌شود، برخی از آن‌ها حاوی ضعف‌های امنیتی است که نادیده گرفته شده، تحمل شده یا به سادگی رفع نشده است.

برای سال ها، این یک قمار قابل کنترل بود. تعمیر نرم افزار نیاز به زمان و هزینه دارد. استفاده از ضعف های مبهم اغلب به تخصص قابل توجهی نیاز دارد. شرکت‌ها می‌توانستند خود را متقاعد کنند که این ریسک ارزش نگرانی ندارد.

هوش مصنوعی این محاسبه را تغییر می دهد. کسی که زمانی برای شکار نقاط ضعف به سال ها آموزش نیاز داشت، اکنون می تواند از یک مدل هوش مصنوعی کمک بگیرد. این ابزارها همچنین می‌توانند نرم‌افزار را با سرعت‌هایی که انسان‌ها نمی‌توانند با آن مطابقت کنند، بررسی کنند.

ناگهان، همه آن مشکلاتی که ما نادیده گرفته ایم، فوری تر به نظر می رسند.

جوئل دلا گارزا و زین لاکی، شرکای a16z روز جمعه نوشتند: «در 10 سال گذشته، فرآیند پذیرش ریسک از راهی برای پذیرش ریسک برای توانمندسازی کسب‌وکار، به راهی برای توجیه عدم رفع مشکلات امنیتی تبدیل شده است.

این کاملا یک کیفرخواست است. نتیجه افزایش اخیر آسیب پذیری های منتشر شده است.

به نظر می رسد هوش مصنوعی مشکلات امنیتی جدیدی ایجاد می کند. اما در واقع هوش مصنوعی نقاط ضعفی را که انسان‌ها از خود به جای گذاشته‌اند را آشکار می‌کند.

کنایه ی خفن

کنایه خوشمزه است. ما چند سال گذشته را صرف شکایت از "شیب هوش مصنوعی" کرده ایم. به نظر می رسد شیب انسان نیز می تواند بسیار تأثیرگذار باشد.

بن کافمن، مهندس نرم‌افزار روز پنج‌شنبه در X نوشت: «نکته خنده‌دار این است که همه می‌گفتند کد slop هوش مصنوعی باعث ایجاد یک بحران سایبری می‌شود، اما در واقع همه شیطنت‌های قدیمی انسان باعث آن می‌شود و هوش مصنوعی فقط آن را تمیز می‌کند».

بنیانگذار فناوری، آنانت جین در X می‌نویسد: «انسان‌ها برای دهه‌ها هستند که کدهای یکدیگر را می‌نویسند و مرور می‌کنند. اگر از نظر فکری صادق باشیم و خودمان را در همان نواری نگه داریم که هوش مصنوعی را به آن نگه می‌داریم، باید بپذیریم که در این کار هم آنقدرها خوب نبوده‌ایم.»

انسان ها شلخته اند

هر کسی که برای یک یا دو دهه با انسان های دیگر کار کرده باشد، دقیقا می داند که چگونه این اتفاق می افتد.

بعدازظهر جمعه است شما تقریبا یک پروژه را تمام کرده اید. می‌توانید چند ساعت دیگر را صرف کامل کردن آن کنید، یا اعلام کنید که 90 درصد آن را انجام داده‌اید و به آن مهمانی شام بروید. همه ما آنجا بوده ایم.

ماموران هوش مصنوعی مهمانی شام ندارند. بعدازظهرهای جمعه خسته نمی شوند. آنها می توانند به جستجو، آزمایش و تلاش مجدد ادامه دهند. این تداوم اکنون با اینترنت ساخته شده توسط انسان های پرمشغله و ناقصی که اغلب به «به اندازه کافی خوب در حال حاضر» رضایت می دهند، برخورد می کند.

تراژدی عوام

با این حال، یک چین و چروک دیگر در اینجا وجود دارد، و آن چروک مهمی است.

بسیاری از نرم افزارهای زیربنای اینترنت به صورت رایگان در دسترس همه هستند تا از آن استفاده کنند. برخی از آن توسط داوطلبان یا گروه های کوچکی از متخصصان نگهداری می شود، حتی اگر شرکت های فناوری عظیمی به آن وابسته باشند.

در سال 2020، راندال مونرو، کاریکاتوریست، این پوچ را در یک کمیک xkcd به تصویر کشید. زیرساخت‌های دیجیتال مدرن هنوز به طور متزلزلی بر پایه‌های کوچک استوار است.

من نمی توانم باور کنم که پس از این همه سال، این کمیک XKCD هنوز اینقدر واقعی است. مخصوصا در امنیت! @xkcd https://t.co/9AvpRw0E0c pic.twitter.com/g0B07TStNe — برونو مدینه (@brusMX) 6 آوریل 2024

خنده دار است زیرا به طرز ناراحت کننده ای به واقعیت نزدیک است. مشکلات خاص PHP را از این هفته در نظر بگیرید. این نقص‌ها سال‌هاست که وجود داشته‌اند، و بنیاد PHP اذعان می‌کند که منابع محدود و اختلاف نظر بر سر اصلاح‌ها باعث تأخیر در رفع آنها شده است.

تام اوچینو، مدیر تولید ورسل، کارتون مونرو را در مصاحبه اخیر من با او مطرح کرد.

او توضیح داد که هوش مصنوعی حتی در نرم‌افزارهایی که صنعت برای دهه‌ها آن را قابل اعتماد می‌دانست، نقاط ضعفی پیدا می‌کند.

این تا حدی نسخه‌ای از تراژدی عوام است: همه از یک منبع مشترک سود می‌برند، اما هیچکس انگیزه کافی برای بر عهده گرفتن مسئولیت حفظ آن را ندارد.

و بگذارید واضح بگوییم: داوطلبانی که نرم‌افزار ضروری را در حال اجرا نگه می‌دارند، در اینجا شرور نیستند. شرکت هایی که از کار آنها سود می برند مسئولیت بسیار بیشتری دارند.

Occhino فکر می کند که هوش مصنوعی می تواند به حل مشکلی که در حال افشای آن است کمک کند.

او ایده ای را که در ورسل مورد بحث قرار می گیرد، توضیح داد: یک بنیاد یا ائتلافی ایجاد کنید که تلاش ها برای شناسایی نرم افزارهای آسیب پذیر و جایگزینی آن با جایگزین های امن تر را تامین مالی کند.

او به من گفت: "ما به یک کنسرسیوم نیاز داریم. ما به یک ائتلاف نیاز داریم."

او پیشنهاد کرد که شرکت‌ها می‌توانند منابع محاسباتی و ابزارهای هوش مصنوعی را به این تلاش کمک کنند. هیچ چیزی به طور رسمی اعلام نشده است، اما این ایده قانع کننده است.

در واقع، تلاش OpenAI's Patch the Planet نمونه ای از آنچه ممکن است است.

به جای استفاده ساده از هوش مصنوعی برای ایجاد نرم افزار بیشتر، صنعت می تواند از آن برای تعمیر آنچه در حال حاضر وجود دارد استفاده کند.

Occhino آن را به خوبی بیان می کند: شرکت ها باید زمان کمتری را برای تعقیب ایده های جدید صرف کنند و زمان بیشتری را برای پرسیدن اینکه چگونه سیستم های موجود را "درست، واقعا خوب" بسازند، صرف کنند.

این پاسخی بهتر از وحشت در مورد فروپاشی قریب الوقوع اینترنت است.

هوش مصنوعی چندین دهه نرم افزار نادیده گرفته را ایجاد نکرد. ما انجام دادیم. شاید وقت آن رسیده است که خودمان را تمیز کنیم.

برای خبرنامه AI Insider در اینجا ثبت نام کنید. از طریق ایمیل به آدرس abarr@businessinsider.com با من تماس بگیرید

مقاله اصلی را در Business Insider بخوانید