در حالی که شرکت‌های هوش مصنوعی ما را در مورد آینده صحبت می‌کنند، ما آسیبی را که اکنون وارد می‌کنند نادیده می‌گیریم

زامبی‌ای را تصور کنید که شما را شکار نمی‌کند، اما زنگ خانه‌تان را به صدا در می‌آورد و آنقدر پیگیر و روان صحبت می‌کند که در نهایت به استدلال قانع‌کننده‌ای برای تغذیه مغز شما می‌رسد.»

از آنجایی که گفتمان کنونی در مورد هوش مصنوعی برای گوتیک ("ذهن بیگانه"، بیایید، تغییر کرده است)، "زامبی دانشمند" محقق هوش مصنوعی Eryk Salvaggio به نظر استعاره مناسبی از کاری است که ما انجام می دهیم.

زامبی سالواجیو به توضیح اینکه وقتی مردم می گویند هوش مصنوعی «سرکش شد» چه چیزی گم می شود کمک می کند. در خواندن او از حادثه «صورت در آغوش گرفتن»، سیستمی که قرار بود هرگز تسلیم نشود، با کاری مواجه شد که نتوانست آن را به پایان برساند. سپس، به‌جای تسلیم شدن، به تولید متن ادامه داد تا راه‌هایی به جلو بیابد، با دسترسی به ابزارهایی که می‌توانند این متن را به عمل تبدیل کنند و در نهایت شرکت هوش مصنوعی Hugging Face را هک کنند.

کارشناسان امنیتی با این خوانش موافق هستند. مهندس امنیتی ماریوس هوراتو در تجزیه و تحلیل خود از حادثه Hagging Face، خرابی هایی را که شامل اعتبار مشترک، انزوای ناکافی و واکنش به حادثه است را توصیف می کند. او به قابلیت‌های مدل‌ها، از جمله سرعت آن‌ها در بهره‌برداری از نقاط ضعف، اذعان دارد.

محیط بسته و نامناسبی که مدل‌ها در آن کار می‌کردند، برای توضیح آنچه اتفاق افتاده، حیاتی است. اما شخصی که هدف را ایجاد کرده است، شرایطی که برای سیستم هوش مصنوعی ارائه نکرده است، همچنین شرکتی که آن فرد را استخدام می کند و احتمالا می داند که در حال انجام چه کاری است، صاحبان آن شرکت که خواهان پیشرفت هستند و سرمایه گذاران در آن شرکت که می خواهند بازدهی را ببینند نیز همینطور است.

و با این حال، تنها چیزی که به نظر می رسد درباره آن صحبت می کنیم این است که آیا درست است که بگوییم ماشینی «تصمیم گرفته است» نافرمانی کند یا خیر.

به‌راحتی، آن داستان توجه را از افرادی که تصمیم گرفتند به پایداری پاداش دهند، دسترسی داشته باشند و عواقب را در بر نداشتند، منحرف می‌کند.

برگردیم به قیاس، با مجذوب شدن مجذوب بحث درباره آنچه که ظاهرا زامبی می‌خواهد، و اگر بتواند بخواهد، مجموعه‌ای از متن‌ها را تولید می‌کنیم که برخلاف سیستم هوش مصنوعی «سرکش»، به اقدام زیادی منجر نمی‌شود.

در عوض، ما به شرکتی که در پشت این شکست قرار دارد، با شهرت افزایش یافته برای ساخت فناوری قدرتمند پاداش می دهیم. این محصول آنقدر خارق‌العاده است که حتی سازنده‌اش هم برای مهار آن تلاش می‌کند! حالا بیایید لطفا در حالی که این سازنده توضیح می دهد که دولت های ما باید چه کاری انجام دهند، بنشینیم.

استعاره زامبی نیز در آنجا صدق می کند، برای افرادی که زامبی را می فروشند. به مردانی که توضیح می‌دهند چرا شرکت‌هایشان به کار، مؤسسات و زیرساخت‌های ما نیاز دارند. مردان توضیح می دهند که چرا مقاومت غیرعملی است، دسترسی اجتناب ناپذیر است و احتیاط خودکشی است. زیرا اگر اجازه ندهیم این زامبی خاص وارد شود، در عوض یک زامبی چینی ما را خواهد خورد.

و آنجا ایستاده‌ایم، پشت در، از دریچه نگاه می‌کنیم، مؤدبانه به داستان‌های خارق‌العاده‌تر زامبی‌ها گوش می‌دهیم، گویی پیش از اینکه حق داشته باشیم به آن‌ها بگوییم که علاقه‌ای به آن نداریم، یک رد رضایت‌بخش را مدیون مردگان هستیم.

در همین حال، پشت سر ما، در خانه، مشکلات دیگری راه پیدا کرده اند. مشکلاتی که واقعا آسیب می زند.

برای سرگرمی، از ChatGPT خواستم تا برخی از آسیب‌های واقعی و واقعی ناشی از استفاده از LLM را فهرست کند. مدت زیادی طول نکشید تا نتیجه ای به دست آمد. ورود اطلاعات نادرست به سیستم قانونی، کلاهبرداری گسترده با کمک هوش مصنوعی، "توهمات" منتشر شده به عنوان روزنامه نگاری، شرایط سلامت روانی که توسط استفاده از LLM تشدید می شود، آسیب پذیری های زنجیره تامین و افزایش تقاضای برق، آب و زیرساخت. هیچ یک از آن مشکلات توهم نیستند.

من همچنین از ChatGPT برای معکوس پرسیدم. جایی که استفاده از LLM به مزایای واقعی و واقعی منجر شده بود. همه مثال‌ها اساسا به «یکسان، اما سازنده‌تر» خلاصه شدند. به هر حال، این همان پاسخی است که من هنگام پرسیدن سوال از مجریان هوش مصنوعی در کنفرانسی در هفته گذشته دریافت کردم. سازمان‌های حقوقی و کمکی می‌توانند پرونده‌های بیشتری را رسیدگی کنند، حجم کاری سرپرست پزشک و معلم کاهش می‌یابد، دانش‌آموزان در زمان کمتری بیشتر یاد می‌گیرند.

به نظر می رسد نادیده گرفتن آژانس افراد می تواند بسیار کارآمد به نظر برسد، تا زمانی که به یاد بیاورید که LLM ها نیز اطلاعاتی را در کارهای حقوقی جعل می کنند. برای پزشکان و معلمان هم همینطور، اما با عواقب جدی تر. و دانش‌آموزان ممکن است کمی سریع‌تر یاد بگیرند، اما تحقیقات نشان داده‌اند که در درازمدت یادآوری بسیار کمتری دارند.

رقابت در برابر چین

با این حال، ما باید این کارایی را به عنوان استدلالی برای تسهیل قوانین پیرامون هوش مصنوعی بپذیریم. به دلیل رقابت، درست است؟ یا چین

و حتی اگر – اگر بزرگ – بهره‌وری واقعا بهبود یابد، کاری که ما با این همه وقت صرفه‌جویی انجام می‌دهیم همچنان یک سؤال سیاسی است که کاملا دست نخورده باقی مانده است – حتی اگر پاسخ می‌تواند این باشد که واقعا چه چیزی جامعه را با هوش مصنوعی می‌فروشد. آیا این بدان معناست که کارگران حقوق بیشتری دریافت خواهند کرد؟ هفته کاری کوتاه تر؟ این عالی خواهد بود!

دولت‌ها می‌توانند دستاوردهای عادلانه بهره‌وری را هدف خود قرار دهند، اما انجام این کار به معنای پذیرش مسئولیت نحوه تقسیم سود است، نه اینکه رقابت‌پذیری را به خودی خود یک هدف بدانند.

و شرکت‌های هوش مصنوعی باید مبالغ هنگفتی پول به دست آورند تا بتوانند به میزان خیره‌کننده و حیرت‌انگیز سرمایه‌گذاری شده در توسعه آن عمل کنند.

همانطور که پیش می‌رود، آیا فکر می‌کنید این همه پول از جایگزینی حقوق شما به دست می‌آید یا از ارزش افزوده و کارآیی فوق‌العاده روزهای کاری کوتاه ما با هوش مصنوعی به دست می‌آید؟

ممکن است تا زمانی که مورد اول را نداشته باشیم، انتخاب را نادیده بگیریم یا سیاستی برای دستیابی به دومی ایجاد کنیم.

اگر کمتر حواسمان به افسانه‌هایی که هوش مصنوعی از کار می‌افتد و کارها را به تنهایی انجام می‌دهند، می‌افتادیم، یا نگران ریسک‌های فرضی بودیم، که توسط دانشگاه‌هایی با دپارتمان‌هایی که توسط تقویت‌کننده‌های هوش مصنوعی پرداخت می‌شد، تحقیق می‌شدیم، یا فقط مانند جنسن هوانگ انویدیا همه چیز را کنار می‌گذاشتیم، ممکن بود متوجه شویم هنوز زمان وجود دارد تا تصمیم بگیریم که می‌خواهیم نتیجه چگونه باشد.

بیایید یک اشتباه را دوباره تکرار نکنیم. بیایید یک رسانه اجتماعی دیگر را به عنوان ناجی دموکراسی انجام ندهیم - اوه - صبر کنید - اوه - آنها در واقع شرکتهایی هستند که به دنبال اجاره هستند و دموکراسی را خراب می کنند. بیایید، لطفا، به خاطر همه، آسیب های فعلی را برای فجایع سوداگرانه نادیده نگیریم.

از روزنه فاصله بگیرید. شاید بتوانیم مغزمان را حفظ کنیم.