تمرکز بر بلایای ایمنی هوش مصنوعی آسیب های روزمره را نادیده می گیرد

در نظر بگیرید که چه چیزی برای موفقیت در سیاست فناوری اتفاق می افتد. یک شرکت هوش مصنوعی قول می دهد که چت بات آن خودکشی را تشویق نخواهد کرد. پلت فرم رسانه های اجتماعی خرید فنتانیل را برای کودکان دشوارتر می کند. اینها حمایت های مهمی هستند و باید همیشه وجود داشته باشند. اما شرکت‌ها می‌توانند این نوارهای پایین را پاک کنند و در عین حال به تولید محصولاتی ادامه دهند که جوانان را به دوستی‌های شبیه‌سازی‌شده وابسته می‌کند یا در فیدهایی که برای ادامه حرکت آن‌ها ساخته شده‌اند گرفتار می‌شوند.

ما از لحاظ تاریخی اجازه داده‌ایم که بحث در مورد فناوری با بدترین کاری که یک محصول ممکن است انجام دهد تعریف شود، با بحث بسیار کمی در مورد آسیب‌های موذیانه که هر روز می‌زند. همانطور که ما در حال گذار به عصری هستیم که توسط محصولات قدرتمند هوش مصنوعی تعریف شده است، باید از صنعت فناوری بخواهیم چیزی بیش از پرداختن به آسیب های فاجعه بار انجام دهد. ما باید تدابیری اتخاذ کنیم تا اطمینان حاصل کنیم که محصولات آن نحوه تفکر، یادگیری و تعامل ما با یکدیگر را از بین نبرد.

نوجوانی که وابستگی ناسالم به یکی از همراهان هوش مصنوعی پیدا می کند، ممکن است هرگز در یک دادخواست یا روزنامه ظاهر نشود، مگر در فاجعه بارترین موارد. دانش‌آموزی که شروع به تکیه بر یک ربات چت برای نوشتن هر مقاله می‌کند، یا جوانی که زندگی خود را با فید رسانه‌های اجتماعی که برای برانگیختن حسادت طراحی شده و آنها را تماشا می‌کند اندازه‌گیری نمی‌کند. یک محصول می‌تواند تمامی الزامات ایمنی محدود را برآورده کند و همچنان کل فرهنگ ما را بدتر کند به گونه‌ای که همیشه سرفصل اخبار نیست.

تعریف محدود موفقیت که حول ایمنی تعریف شده است، از نظر سیاسی برای صنعت فناوری مناسب است و شرکت‌ها فعالانه چنین تعاریفی را ترویج می‌کنند. برداشتن گام‌هایی برای جلوگیری از بلایای دیدنی برای تجارت خوب است: می‌تواند به معنای شکایت کمتر و فشار کمتر برای مقررات جدی باشد. رویارویی با پیامدهای روزمره وابستگی مستلزم چیزی است که به طور قابل ملاحظه‌ای تهدیدکننده‌تر برای آنهاست.

ممکن است به این معنا باشد که از شرکت‌ها بخواهید اصطکاک بیشتری به محصولات خود اضافه کنند یا فعالانه تعامل یا ویژگی‌هایی را که منجر به نتایج منفی می‌شوند، محدود کنند، مانند الگوریتم‌های هک توجه اعتیادآور.

غول های فناوری در عوض برای شکل دادن به قوانین پیرامون آسیب هایی که در حال حاضر تحت فشار مستقیم برای رسیدگی به آنها هستند، کار کرده اند. برای مثال، امسال گوگل از لایحه‌هایی برای تنظیم ربات‌های چت هوش مصنوعی در چندین ایالت حمایت کرد. این قانون، حمایت‌های اساسی در برابر محتوای جنسی و ترویج آسیب‌رسانی به خود را الزامی می‌کرد که شرکت‌های فناوری بدون توجه به آن باید ایجاد می‌کردند، اما با جداسازی‌های گسترده‌ای که می‌توانست برخی از محبوب‌ترین خدمات را معاف کند.

تصویب این لوایح به قانونگذاران اجازه داد تا ادعای یک پیروزی ایمنی را داشته باشند، در حالی که تلاش ها برای ترویج قوانین قوی تر - قوانینی که برای جلوگیری از وابستگی عاطفی کودکان به هوش مصنوعی طراحی شده بودند - با شکست مواجه شد. این کتاب بازی در ایالت هایی مانند نبراسکا کار می کرد و قوانینی را که به شدت تحت تأثیر صنعت بود و به قیمت صورتحساب هایی تولید می کرد که می توانست شرکت ها را مسئول نگه دارد.

ما نسخه ای از این را با رسانه های اجتماعی تجربه کرده ایم. در سطح جهانی، افرادی که از اینترنت استفاده می کنند اکنون به طور متوسط ​​بیش از دو ساعت در روز را در پلتفرم های رسانه های اجتماعی می گذرانند - زمانی که بی سر و صدا از زندگی عادی گرفته شده و به شرکت هایی سپرده شده است که سود آنها به نگه داشتن ما در آنجا بستگی دارد. هیچ کس، شاید به جز چند مدیر عامل فناوری، نمی‌خواست این الگوریتم‌ها بخش بزرگی از ساعات بیداری ما را اشغال کنند، و مهندسی فرهنگی آنها در واقع می‌تواند به خشونت در مقیاسی ویرانگر کمک کند.

پلتفرم‌های متا به دلیل مشارکت در نسل‌کشی روهینگیا در میانمار، شورش‌های ضد مسلمانان در سریلانکا و درخواست‌های ادعایی برای خشونت در طول جنگ تیگری اتیوپی مورد استناد قرار گرفته‌اند. همین مشوق‌ها در فیدهایی عمل می‌کنند که درک جوانان آمریکایی از سیاست، همسالانشان و جهان گسترده‌تر را شکل می‌دهند.

هوش مصنوعی این منطق را به بخش هایی از زندگی گسترش می دهد که رسانه های اجتماعی تنها از راه دور می توانند بر آنها تأثیر بگذارند. این پیشنهاد می کند که افکارمان را برای خودمان بنویسیم و در کنار افرادی باشیم که ممکن است در غیر این صورت به آنها مراجعه کنیم. یک سوم از نوجوانان اکنون تصمیم می گیرند به جای افراد دیگر، در مورد مسائل جدی با همراهان هوش مصنوعی صحبت کنند. محققان MIT دریافتند که جوانانی که از ChatGPT برای نوشتن مقاله استفاده می‌کنند، ارتباط مغزی ضعیف‌تری در طول انجام کار نشان می‌دهند و شواهد آنها نشان می‌دهد که «بدهی شناختی» حتی پس از تکمیل کار ادامه دارد. هنوز چیزهای زیادی وجود دارد که باید در مورد اثرات بلندمدت آن بیاموزیم.

ما در حال حاضر دلیلی داریم که بپرسیم آیا فناوری که به عنوان توانمندتر به بازار عرضه می شود، عادات و روابطی را که در وهله اول به ما کمک می کند تا توانایی ها را توسعه دهیم، از بین می برد یا خیر.

این طرز تفکر را تا نقطه پایان منطقی‌اش دنبال کنید و دنیایی از سرگرمی‌های کاملا بهداشتی را دریافت خواهید کرد، با چت‌بات‌هایی که آماده هستند تا ما را از مشکل فکر کردن یا برخورد با احساسات دیگران (یا حتی خودمان) در امان بدارند. اما هرکسی که برای نوشتن چیزی ارزش خواندن یا ترمیم یک دوستی آسیب دیده تلاش کرده است، می داند که چقدر در این معامله گم می شود. ما قضاوت را از طریق تلاش و اصطکاک می‌سازیم و یاد می‌گیریم که با دیگران با رویارویی با این واقعیت که نیازها و نظرات خودشان را دارند زندگی کنیم.

ما باید حداقل ایمنی را بخواهیم، ​​بله - و سپس به میزان قابل توجهی بیشتر تقاضا کنیم. شرکت های فناوری و مناطق مدرسه باید فراتر از یک شک منطقی نشان دهند که هوش مصنوعی یادگیری و تفکر انتقادی را قبل از تبدیل شدن به یک ابزار ثابت در کلاس های درس بهبود می بخشد. شرکت‌ها باید از طراحی همراهانی که تظاهر به آگاهانه بودن یا ابراز عشق به کاربران می‌کنند منع شوند، و باید با نظارت مستقلی در مورد اینکه چگونه سیستم‌هایشان بر روابط و توانایی افراد برای فکر کردن برای خودشان تأثیر می‌گذارد، منع شوند.

شرکت‌هایی که محصولات خود را تقریبا در هر بخش از زندگی مدرن وارد کرده‌اند، تعهداتی بسیار بیشتر از اجتناب از سرفصل وحشتناک بعدی به دست آورده‌اند.

سام هینر یکی از بنیانگذاران و مدیر اجرایی اتحادیه جوانان است، جایی که او ائتلافی از طرفداران را برای تصویب قوانین تنظیم کننده همراهان هوش مصنوعی در هشت ایالت در سال 2026 هماهنگ کرد - قوانینی مانند SB1119 کالیفرنیا. سام در سال 2025 از دانشگاه کارولینای شمالی در چاپل هیل فارغ التحصیل شد و در فهرست تأثیر اجتماعی 30 زیر 30 سال فوربس در سال 2026 قرار گرفت.

اما لیکن مدیر اجرایی صندوق نیروی جوان فناوری مسئول در Hopelab است که بیش از 9 میلیون دلار برای کار مسئولیت‌پذیری فناوری تحت رهبری جوانان جمع‌آوری کرده است و سیاست‌های فناوری را در دانشکده روابط بین‌الملل و عمومی کلمبیا تدریس می‌کند. او قبلا رئیس جهانی سیاست ایمنی و رفاه جوانان TikTok بود و روی فناوری مسئول در شبکه امیدیار کار می کرد.