همه عقل خود را از دست داده اند

مردان برخی ترجیح می دهند دیوار پست وبلاگی پر از متنی را که هیچ کس نمی خواند آن را استفراغ کنند تا اینکه به درمان بروند. بنابراین ما اینجا هستیم.

من در طول سال‌ها سهم خود را از احمق‌ها دیده‌ام، اما اکنون افرادی که هیچ پیش‌زمینه‌ای مهندسی ندارند، راه‌حل‌های «تغییر صنعت» را ارائه کرده‌اند که در آزمایشگاه خانگی پر از عوامل خود پخته‌اند. ایمیل‌های مردم مانند پست‌های بوزوتیک لینکدین-فلوئنسر با پاراگراف‌های تک جمله‌ای «این نیست، آن است» خوانده می‌شود. مقالات آنلاین در همگرایی خود در مه به سرنوشت مشابهی دچار می شوند. و نیمی از افرادی که با آنها در ارتباط هستید تبدیل به پروکسی گوشت شده اند.

صرف بیش از 75 درصد از وقتم که به طور مستقیم یا غیرمستقیم هر روز با هوش مصنوعی سروکار دارم، بیشتر لذت من را از کارم از دست داده است. بیشتر روزها شبیه آن منطقه گرگ و میش است که در آن از خواب بیدار می شوید و همان هستید، اما بقیه افراد متفاوت هستند. (همه اینطور بودند.)

قطار تبلیغاتی سایبری مدتی است که «چو چو» می‌رود، با شرکت‌های اصلی هوش مصنوعی که تلاش می‌کنند تا یکدیگر را مرتکب جنایات شوند و به نوعی ما به آنها اجازه دادیم. انتخاب آگاهانه زبان انسان‌سازی توسط شرکت‌ها بدون تردید توسط رسانه‌ها اقتباس می‌شود، در نتیجه شرکت‌های هوش مصنوعی را از بی‌کفایتی خود برای ایمن کردن برنامه‌هایشان مبرا می‌کند.

این مدل‌های هوش مصنوعی که بر اساس بهره‌برداری غیرقابل تأسف از مالکیت معنوی و تمرکز قدرت در دستان تعداد بسیار کمی از شرکت‌ها و الیگارشی‌های ایالات متحده ساخته شده‌اند، نه تنها خود را به تولید مواد سوء استفاده جنسی از کودکان - یک ویژگی محصول برای کاربرانی که وارد سیستم شده‌اند - می‌دهند، بلکه استفاده مستمر ما از آن‌ها همچنین مستقیما از نقش آنها در انتخاب هدف نظامی پشتیبانی می‌کند، مثلا در مدرسه ابتدایی.

در همین حال، هر شرکتی خوشحال است که «اخلاق را کنار بگذارد...» و مقادیر غیرقابل تصوری از «توکن‌ها» را خرج می‌کند - ارزی ساخته‌شده که از مدل کازینو 2 پیروی می‌کند - در حالی که وقتی از شما می‌پرسید که آیا کسی به خود زحمت داده است بررسی کند که آیا آن ربات چت پشتیبانی می‌کند یا خیر و به بهترین شکل به شما «روشن‌های بسیار متوسط» را داده‌اید، خیره می‌شود. 3

«مدل‌های مرزی» و تحقیقات آسیب‌پذیری به کمک هوش مصنوعی موضوع دیگری است که نتایج مشکوکی دارد. Anthropic و OpenAI سعی کردند تا با خطر خطرناک بودن مدل‌هایشان، یکدیگر را کنار هم بگذارند و هرکسی که خود را یک رهبر صنعت می‌داند، اکنون بخشی از پروژه‌ای است که نام مرموز نامیده می‌شود (مثل Glasswing و Daybreak، یا Athena و Akrites) یا نامه‌های سرگشاده مختلفی را امضا می‌کنند (مثل این یا این) تا نشان دهند که چقدر کنار گذاشته نشده‌اند.

هر شرکت کننده در این پروژه ها مقادیر کاملا باورنکردنی از منابع مهندسی را به پیشنهاد «اولین رایگان» از Anthropic و OpenAI که توسط FOMO القاء شده است، با زمان محدود است. ده‌ها مهندس امنیتی با دستمزد بالا، همه اولویت‌های خود را تغییر دادند و تمام وقت خود را صرف این موضوع کردند. هزینه ساعت‌های مهندسی صرف شده برای توسعه و تنظیم مهارهای کشف آسیب‌پذیری هوش مصنوعی، ساخت فرآیندها و خطوط لوله جدید برای جابجایی هزاران یافته در فرآیندهای مدیریت آسیب‌پذیری آن‌ها، و البته کار با صاحبان محصول برای ارزیابی و اصلاح.

یافته ها... همه آن چیزی که باید در میلیون ها دلار برای هر سازمان هزینه شود.

و با این حال، علیرغم یافتن به معنای واقعی کلمه هزاران آسیب پذیری جدید (به هر حال، تنها بخشی از آنها به پروژه های منبع باز گزارش شده است)، من فکر نمی کنم که ما از قبل امن تر باشیم. به این دلیل که یافتن آسیب‌پذیری‌ها هرگز گلوگاه امنیت اطلاعات نبوده است. گلوگاه حتی بررسی یک گزارش آسیب‌پذیری و تأیید شدت آن نیست، به همان اندازه که زمان‌بر است. گلوگاه تعیین راه حل، ایجاد پچ یا انتشار نسخه جدید نیست. گلوگاه همچنان مانند همیشه قبل، به روز رسانی بسته های لعنتی است.

وصله زدن هنوز سخته

حال تصور کنید که ما همه این منابع را صرف انجام اصول اولیه کرده بودیم: اطمینان از اینکه سازمان شما دارای موجودی دارایی به روز و جامع با لیست بسته های دقیق است. ساخت زیرساختی که از به روز رسانی های منظم، مکرر و خودکار سیستم عامل و برنامه ها پشتیبانی می کند. وقتی سیستم‌ها مثلا 30 روز آپ‌تایم داشته باشند، به‌طور خودکار راه‌اندازی مجدد می‌شوند تا اطمینان حاصل شود که این به‌روزرسانی‌ها دریافت می‌شوند. ایجاد شمارش جامع سطح حمله در تمام فضای IP شما و همچنین تمام ارائه دهندگان ابری شما (چه مفهومی!) لیستی از دفاع های اساسی و اساسی که به نظر می رسد هیچ کس واقعا انجام نمی دهد

خوب ادامه دارد در کتاب من، داشتن چند ده مهندس ارشد به مدت 6 ماه برای بازنگری همه چیز، تمرکز بر آسان‌تر کردن وصله، سرمایه‌گذاری بسیار بهتری بود، اما این به هیچ وجه سایبری نیست.

مهم نیست که هوش مصنوعی چه وعده‌هایی را می‌دهد، منابع انسانی همچنان یک بازی با مجموع صفر هستند و هر فردی که در سیلوی عامل خود مشغول انجام هزاران کار در آن واحد است، در نهایت به حل انواع پروژه‌هایی که نیاز به همکاری متقابل و کار تیمی دارند کمک نمی‌کند.

در همان زمان، شرکت‌های هوش مصنوعی بار دیگر به شکلی ظاهری خواستار مقررات خود هستند، زیرا، می‌دانید، ممکن است به طور تصادفی به تمام بشریت پایان دهند.

اگر واقعا فکر می‌کردید که محصول شما همه انسان‌ها را می‌کشد، می‌دانید که می‌توانید ساختن پیوند عذاب را متوقف کنید. همه به تنهایی، بدون نیاز به مقررات دولتی. هیچ کس شما را مجبور به بازی "جنگ بیوتوکسیک و شیمیایی در سراسر تئاتر" یا "جنگ گرما هسته ای جهانی" نمی کند. منظورم این است که جز سهامداران آینده و حرص شما. افسوس که این مانع رقابت شما نمی شود...

اما لازم نیست تصور کنید که هوش مصنوعی در چند سال آینده از طریق نوعی سناریوی Skynet یا Paperclip Maximizer تمام بشریت را نابود می کند، در حالی که در واقعیت هوش مصنوعی البته قبلا در اینجا به سختی کار کرده است. اثرات زیست محیطی این شرکت ها خیره کننده است. مسابقه هوش مصنوعی مستلزم هدر رفتن بیشتر و بیشتر آب، آلودگی هوا، مراکز داده با سوخت فسیلی است که مطلقا هیچ کس نمی‌خواهد در نزدیکی آن زندگی کند، و دولت‌ها همه مقررات زیست‌محیطی را برای این شرکت‌ها که چندی پیش حداقل تظاهر می‌کردند که حتی ضعیف‌ترین تعهدات مربوط به شستشوی سبز را نسبت به بی‌طرفی کربن دارند، لغو می‌کنند.

یا منابع انرژی تجدید پذیر.

اما "جهان اکنون متفاوت به نظر می رسد"، که من فقط می توانم به آن بگویم "نه لعنتی، شرلوک. آتش لعنتی است. به خاطر تو."

می دانید دو راه برای دستیابی به هوش مافوق بشری برای هوش مصنوعی وجود دارد، درست است؟ یکی از راه های (نظری) عرفانی "خود-بهبودی بازگشتی" توسط هوش مصنوعی است. یکی دیگر مسیری است که ما به وضوح در آن قرار داریم: کرم‌های مغزی عامل در حال گسترش هستند و به نظر می‌رسد که همه در حال حاضر ذهن لعنتی خود را از دست داده‌اند. هوش مصنوعی ابزاری است که کاربران خود را خسته می کند. به تدریج درک را با یک وابستگی و اعتیاد جدید جایگزین می کند، زیرا شما به طور فعال خود را بی مهارت می کنید.

هوش مصنوعی به افراد کمک می کند تا آسیب پذیری های بیشتری را در کدهای موجود پیدا کنند. برای رفع این آسیب‌پذیری‌ها، افراد از هوش مصنوعی برای تولید وصله‌ها استفاده می‌کنند. سپس درخواست‌های کششی حاصل توسط هوش مصنوعی «بررسی» می‌شوند. یعنی هر چه هوش مصنوعی بیشتر در حلقه باشد، کمتر پایه کد را درک می کنیم. "انسان در حلقه" عرفانی اغلب چیزی بیش از یک مهر لاستیکی نیست.

پس چه اتفاقی می افتد زمانی که همه چیز به هم بخورد؟ سیستم های پیچیده به روش های پیچیده شکست می خورند، و اشکال زدایی کد مرتبه ای سخت تر از نوشتن کد است. اشکال زدایی کد شخص دیگری هنوز هم سخت تر است. تلاش برای اشکال زدایی سیستم های بزرگ، پیچیده و توزیع شده متشکل از اجزایی که به طور موثر برای کل سازمان شما غیر شفاف هستند، غیرممکن است.

بنابراین نه، من اخلاق را کنار نمی گذارم و بعد به طور فعال خود را به عنوان ادای احترام برای قطع کردن مغزم معرفی نمی کنم. متاسفم اگر بقیه نمی توانند از شر راب های مغزی خلاص شوند، اما در این مرحله من فقط به دنبال این هستم که از این سواری خلاص شوم.

P.S.: و نه، کلود هوشیار نیست. J-Space الاغ من.

[1] لعنتی مستقیم من از امداش استفاده می کنم. لعنت بهت که ارزشش رو کم کردی ↩

[2] "نتایج نشان داد که شرکت کنندگان به طور قابل توجهی بیشتر با تراشه قمار می کردند تا با پول نقد واقعی." [ نقل قول ارائه شده ] ↩

[3] اینطور نیست: LLM ها به زباله وارد/خارج می شوند—اگر اسناد بدی دارید، هوش مصنوعی در بهترین حالت می تواند آن را صیقل دهد و همچنان هیچ فایده ای را از بین نبرد. ↩