تسلیم شناختی: تهدید هوش مصنوعی برای دموکراسی

به عنوان یکی از اعضای هیئت علمی علوم کامپیوتر در دانشگاه Wesleyan، من در کنار همکارانم با تأثیر هوش مصنوعی بر یادگیری دانشجویان دست و پنجه نرم می کنم. در بخش من، ما در حال حاضر در حال تغییر ساختار رشته علوم کامپیوتر و تهیه پیش نویس دستورالعمل هایی برای هوش مصنوعی در برنامه درسی خود هستیم. یک گزارش اخیر از MIT اشاره کرد که در حالی که چت ربات‌های هوش مصنوعی می‌توانند به راحتی پاسخ دهند، اما اغلب باعث «تسلیم شناختی» می‌شوند. در واقع، در تعامل خودم با دانش‌آموزان، متوجه می‌شوم که موضوع دیگر فقط تخلیه تکالیف نیست. این تفکر را تخلیه می کند. این توسعه نگران کننده است.

تصمیم گیری عمدی و استقلال شخصی اساس شهروندی دموکراتیک است. دموکراسی ما به شهروندانی بستگی دارد که می توانند استدلال ها را ارزیابی کنند، مستقلا استدلال کنند و صاحبان قدرت را مسئول بدانند. وقتی به هوش مصنوعی اجازه می دهیم این کار را برای ما انجام دهد، خودگردانی خود را به خطر می اندازیم. مدل‌های فعلی هوش مصنوعی برای همسانی مهندسی شده‌اند. آنها تعصبات ما را تأیید می کنند در حالی که بی سر و صدا دیدگاه های ما را هدایت می کنند. آنها حقایق منتخب را برجسته می کنند و دیگران را سرکوب می کنند و دریچه ای خطرناک برای کنترل دولت ایجاد می کنند.

در سمپوزیوم فناوری‌های تقویت حریم خصوصی امسال، جان اسکات ریلتون، کارشناس امنیتی، توضیح داد که چگونه دولت‌های مستبد به طور فزاینده‌ای شرکت‌های فناوری را مجبور به اتخاذ چارچوب‌های «ایمنی» می‌کنند که به‌طور نامرئی پاسخ‌های مدل را هدایت می‌کنند. چنین دستکاری ابزاری قوی برای تضعیف مشارکت مدنی است. برخلاف سانسور سنتی، که صراحتا گفتار را ممنوع می کند و آشکارا محتوا را مسدود می کند، هدایت الگوریتمی به آرامی مخالفت را خنثی می کند و بحث های مدنی را حتی قبل از اینکه فرصتی برای بروز پیدا کند، آرام می کند. این شکل جدید سانسور ما را از حرف زدن منع نمی کند. ما را از فکر کردن باز می دارد.

مطمئنا، تبلیغ‌کنندگان و سیاستمداران برای قرن‌ها خواسته‌های انسان را دستکاری کرده‌اند. با این حال، هوش مصنوعی مولد یک تهدید جدید برای مشورت دموکراتیک است. از آنجایی که ما با این مدل‌ها به گونه‌ای تعامل می‌کنیم که گویی آن‌ها رازدارهای همدل و دانا هستند، متقاعد کردن آن‌ها در حد تشخیص آگاهانه ما عمل می‌کند. همانطور که مطالعات اخیر نشان داده است، هوش مصنوعی می تواند با ارائه بسیاری از ادعاهای واقعی که از طرف آنها حمایت می کند، نگرش مردم را نسبت به نامزدهای ریاست جمهوری و سیاست ها تغییر دهد. به نظر من، حفاظت از نمایندگی شخصی ما نیاز به یک واکنش داخلی و خارجی دارد.

از نظر درونی، ما می‌توانیم با حرکت از یک ذهنیت جایگزین به یک ذهنیت مشارکتی از عاملیت مدنی دفاع کنیم: هوش مصنوعی جایگزینی برای فعالیت‌هایی نیست که قضاوت انسانی ما را تعریف می‌کنند - استدلال اخلاقی، تأمل انتقادی، و ترکیب خلاق. در عوض، هوش مصنوعی باید مکمل ما در این تلاش ها باشد. خروجی یک چت بات کلمه پایانی نیست، بلکه نقطه شروعی برای بحث و بررسی انتقادی است. هنگامی که از این طریق استفاده می شود، هوش مصنوعی می تواند ابزار مفیدی برای تعامل بیشتر و بهتر مدنی باشد.

در خارج، جوامع دموکراتیک به یک چارچوب نظارتی قوی نیاز دارند که برای محافظت از گفتمان عمومی در برابر دستکاری پنهان طراحی شده باشد. در حالی که رژیم‌های خودکامه تلاش می‌کنند شرکت‌های هوش مصنوعی را وادار کنند تا خروجی‌ها را با ایدئولوژی خود هماهنگ کنند، دموکراسی‌ها باید به جای هدایت پدرانه، هدفشان این باشد که هوش مصنوعی انتخابی واقعی ارائه دهد. ما به تست های ایمنی دقیق و معیارهای مستقل برای خودروها، داروها و محصولات مالی نیاز داریم. هوش مصنوعی نیازمند نظارت برابر است. اهداف ما باید شفافیت و حفاظت از استقلال شناختی کاربران هوش مصنوعی باشد. هوش مصنوعی می تواند تاثیر مثبتی داشته باشد.

زمانی که هوش مصنوعی برای توانمندسازی به جای متقاعدسازی مهندسی شود، می تواند استقلال شخصی و مشارکت دموکراتیک را تقویت کند. به جای اینکه باورهایمان را در جهتی خاص سوق دهیم، سیستم های هوش مصنوعی می توانند به عنوان ابزاری برای یادگیری و اطلاع رسانی عمل کنند. آنها می توانند موضوعات پیچیده را به راحتی قابل درک تر کنند، یادگیری را به طور واقعی شخصی سازی کنند، و دانش، بهره وری و خلاقیت ما را به طور چشمگیری گسترش دهند. اما تحقق این پتانسیل مستلزم یک تلاش عمدی و جمعی در سراسر جامعه است.

مهندسان و طراحان رابط کاربری می‌توانند با ساختن مدل‌ها و رابط‌هایی که به جای تأیید اجرایی، گفتگو را تشویق می‌کنند، کمک کنند. قانون‌گذاران و تنظیم‌کننده‌ها می‌توانند شفافیت را ایجاد و اجرا کنند و هدایت دولتی یا شرکتی را غیرقانونی کنند. برای ما در آموزش عالی، این وظیفه ماست که سواد هوش مصنوعی را در اولویت قرار دهیم و تفکر مستقل را تحریک کنیم. چالش نهایی عصر هوش مصنوعی ممکن است ایجاد ماشین‌هایی نباشد که بتوانند «فکر کنند»، بلکه این باشد که از توقف فکر کردن خود جلوگیری کنیم.

سباستین زیمک دانشیار علوم کامپیوتر در دانشگاه Wesleyan است، جایی که او آزمایشگاه فناوری حریم خصوصی را هدایت می کند.