هوش مصنوعی به بدترین لحظه ممکن رسید

—inkoly—Getty Images

هوش مصنوعی به دنیایی نمی رسد که بتواند آن را دریافت کند. در عوض، در حال ورود به دنیایی است که در دو دهه گذشته به طور سیستماتیک پایه‌هایی را که به ما اجازه می‌دهد چنین فناوری قدرتمندی را به‌طور مسئولانه به کار ببریم، از بین برده است. اقتدار نهادی، حقیقت مشترک، و یکپارچگی اطلاعات ضربه خورده است. ما در حال ساختن پیچیده ترین فناوری شناختی در تاریخ بشر در بالای شکاف ترین چشم انداز اعتماد در حافظه مدرن هستیم.

اگر می‌خواهید بدترین لحظه ممکن را برای ظهور هوش مصنوعی طراحی کنید، ممکن است لحظه‌ای مانند این را ایجاد کنید.

از پسا حقیقت تا پسا اعتماد

یک دهه پیش، ما نگران زندگی در دنیای «پسا حقیقت» بودیم. فرهنگ لغت آکسفورد در سال 2016 «پس حقیقت» را به عنوان کلمه سال خود انتخاب کرد و آن را به عنوان شرایطی تعریف کرد که در آن حقایق عینی در شکل‌دهی افکار عمومی کمتر از توسل به احساسات و باورهای شخصی تأثیرگذار هستند. پسحقیقت جهانی را توصیف می کند که در آن حقایق هنوز وجود دارند اما اغلب تحت الشعاع روایت های احساسی قرار می گیرند.

آنچه اکنون تجربه می کنیم عمیق تر است. من این را «دوران پس از اعتماد» می نامم: دنیایی که در آن مکانیسم هایی که به ما امکان ایجاد اعتماد را می دهند از بین رفته اند. این فقط این نیست که گاهی اوقات احساسات بر واقعیت ها غلبه می کنند. این است که ما پایه های مشترک را برای تصمیم گیری در مورد آنچه در وهله اول به عنوان یک واقعیت به حساب می آید از دست داده ایم.

ببینید در دو دهه گذشته چه اتفاقی برای اکوسیستم اطلاعاتی ما افتاده است. ما از دنیایی که در آن حقیقت توسط ویراستاران تنظیم می‌شد، توسط مطبوعات چاپ می‌شد، و توسط تعداد کمی از واسطه‌های قابل تشخیص توزیع می‌شد، به دنیایی رفتیم که در آن هر کسی می‌تواند منتشر کند، تقویت کند، تحریف کند، یا جعل کند. داده ها منفجر شد و رسانه های اجتماعی مخاطبان را تکه تکه کردند. الگوریتم‌ها شروع به بهینه‌سازی برای کلیک‌ها، تعامل و هیجان‌انگیز کردند. انگیزه ها از دقت به توجه تغییر کردند: ویروسی بودن بر حقیقت، خشم بیش از جزئیات، سرعت بیش از موشکافی.

اعداد داستان خودشان را می گویند. تقریبا از هر 10 نفر 8 نفر عمدتا از طریق سیستم‌های الگوریتمی مانند فیدهای اجتماعی، موتورهای جستجو و جمع‌آوری‌کننده‌ها به اخبار خود هدایت می‌شوند و رژیم اطلاعاتی خود را به طور مؤثری به سیستم‌هایی برون سپاری می‌کنند که نه می‌فهمند و نه کاملا به آن اعتماد دارند. در ایالات متحده، اعتماد به دولت فدرال از بیش از 70 درصد در اواخر دهه 1950 به کمتر از 20 درصد امروز کاهش یافته است. اعتماد به رسانه های جمعی کاهش یافته است: کمتر از یک سوم آمریکایی ها حتی «مقدار مناسبی» اعتماد دارند.

نهادهای مذهبی، سیستم های مالی، سازمان های مراقبت های بهداشتی و حتی خود علم شاهد کاهش اعتماد بوده اند.

پس-حقیقت تحریف در نحوه سنجش حقایق و احساسات مردم را توصیف می کند. پس از اعتماد یک شکستگی عمیق تر را توصیف می کند: از دست دادن روش های مشترک برای تعیین واقعی بودن.

هنگامی که اولین عکس ها در دهه 1830 ظاهر شد، مردم از وفاداری آنها شگفت زده شدند. برای نزدیک به دو قرن، دیدن یک باور بود. یک عکس کامل نبود، اما مدرکی بود.

در اوایل سال 2023، تصویری از پاپ فرانسیس که توسط هوش مصنوعی تولید شده بود، با پوشیدن یک ژاکت پف دار سفید شیک در سراسر پلتفرم های رسانه های اجتماعی پخش شد. قانع کننده بود زیرا در یک نوار باریک بین آشنا و غیرمنتظره قرار داشت. سبک، حالت و نور عکس اعتباری را از دهه ها عکاسی واقعی به عاریت گرفته است. بسیاری قبل از اینکه فرصتی برای زیر سوال بردن آن داشته باشند، آن را به عنوان واقعی پذیرفتند.

در عرض دو سال، تصاویر، صداها و ویدیوهای تولید شده توسط هوش مصنوعی آنقدر فراگیر و قانع‌کننده شدند که دیگر این سوال مطرح نمی‌شد که «آیا می‌توانید جعلی را تشخیص دهید؟» اما "آیا می توانید به هر چیزی که می بینید اعتماد کنید؟"

توانایی ساخت «شواهد» قانع‌کننده در مقیاس، درست زمانی که اکوسیستم اطلاعاتی ما پراکنده‌ترین است، به دست آمده است. تحقیقات دوک و نیویورک نشان می‌دهد که قرار دادن مردم در معرض دیدگاه‌های سیاسی مخالف در رسانه‌های اجتماعی می‌تواند به جای کاهش آن، قطبیت را افزایش دهد. یک مطالعه برجسته در Science نشان داد که اخبار نادرست به طور قابل توجهی سریعتر و گسترده تر از اخبار قابل اعتماد آنلاین منتشر می شود.

تحقیقات تصویربرداری عصبی نشان می‌دهد که وقتی افراد با اطلاعاتی مواجه می‌شوند که باورهای سیاسی آنها را به چالش می‌کشد، مناطق مغز مرتبط با احساسات منفی روشن می‌شوند، در حالی که اطلاعات تاییدی مسیرهای پاداش را فعال می‌کنند. ما فقط در مورد حقایق اختلاف نظر نداریم. ما به طور کامل از طریق کانال های شناختی مختلف اطلاعات تأیید و رد کردن را پردازش می کنیم.

این زیرلایه‌ای است که هوش مصنوعی به آن می‌رسد: دنیایی که در آن اطلاعات فراوان است، اما اعتماد کمیاب است، که در آن واقعیت اجماع از هم پاشیده است، و مکانیسم‌های ایجاد حقیقت مشترک از بین رفته است.

یک نوع هوش متفاوت

به این بستر شکسته، چیزی واقعا جدید می رسد. نه فقط ابزار دیگری، بلکه اولین فناوری در تاریخ که شایستگی اصلی آن شناخت است.

فن‌آوری‌های گذشته توانایی‌های ما را گسترش دادند و در عین حال تابع تفکر بشر باقی ماندند. ماشین چاپ کلماتی را که ما برای چاپ انتخاب کردیم تقویت کرد. الکتریسیته انرژی ای را که ما تصمیم گرفتیم مهار کنیم تغییر داد. موتورهای احتراقی جایگزین قدرت عضلانی ما شدند و کامپیوترها محاسباتی را که ما برنامه ریزی کرده بودیم انجام دادند. اینترنت پیام هایی را که ما نوشتیم پخش کرد.

هوش مصنوعی این الگو را می شکند. دیگر صرفا وظایف را اجرا نمی کند. استدلال ایجاد می کند، اطلاعات را ترکیب می کند، توصیه می کند، و کار خلاقانه ای تولید می کند که در سطح انسانی مانند افکار دیگران باشد. یک مدل واحد می تواند یک مقاله بنویسد، یک متن قانونی را خلاصه کند، یک یادداشت پزشکی را ترجمه کند، پیش نویس کد، برنامه ریزی یک کمپین بازاریابی، و آهنگسازی را انجام دهد.

در قلب اکثر این سیستم‌ها، معماری وجود دارد که با پیش‌بینی آنچه بعد، یک کلمه، پیکسل یا نشانه، در یک دنباله می‌آید، یاد می‌گیرد. این مدل‌ها «حقیقت» را به شیوه‌ای که انسان‌ها آن را درک می‌کنند، نمی‌دانند. آنها در هر داده ای که به آنها داده می شود، الگوها، فرکانس ها و همبستگی ها را کشف می کنند.

و اینجاست که زمان‌بندی حیاتی می‌شود: داده‌هایی که به آنها داده می‌شود در دنیای پس از اعتماد تولید می‌شوند.

هوش مصنوعی بر اساس داستان‌های خبری، فیدهای رسانه‌های اجتماعی، کتاب‌های دیجیتالی، آرشیوهای مغرضانه ما، بحث‌های قطبی‌شده ما، تئوری‌های توطئه، پیشرفت‌های علمی ما و اطلاعات نادرست ما آموزش دیده است. نه تنها دانش ما بلکه تحریفات ما را جذب می کند. نه تنها حقایق ما را می آموزد، بلکه تضادهای ما را در مورد آن حقایق نیز می آموزد.

نتیجه یک آینه عجیب است. هوش مصنوعی ما را به خودمان منعکس می کند، که از طریق الگوهای آماری شکسته شده و با محاسبات مقیاس شده است. بر اساس داده‌های آموزشی که نمی‌توانیم به‌طور کامل بازرسی کنیم، پاسخ‌هایی را به ما می‌دهد که نمی‌توانیم به راحتی آن را بررسی کنیم، و برای اهدافی که همیشه کنترل نمی‌کنیم بهینه شده است.

نوع جدیدی از زیرساخت های شناختی در لحظه ای که زیرساخت های اجتماعی اعتماد ما تحت فشار است در حال ظهور است.

برگرفته از کد اعتماد با اجازه تیفانی زینگیو وانگ.