رئیس سابق ایمنی گوگل هشدار داد که هوش مصنوعی می تواند بیشتر از رسانه های اجتماعی به کودکان آسیب برساند

تام سیگل، معاون سابق اعتماد و ایمنی در گوگل، اکنون مدیر اجرایی موسسه ایمنی هوش مصنوعی جوانان در Common Sense Media است.

سان فرانسیسکو - بنیانگذار تیم اعتماد و ایمنی در گوگل آلفابت این هفته خواستار کاهش سرعت توسعه هوش مصنوعی شد و هشدار داد که صنعت فناوری همان اشتباهات دوران رسانه های اجتماعی را تکرار می کند و به طور بالقوه باعث آسیب بیشتر به کودکان می شود.

شرکت‌های رسانه‌های اجتماعی مبالغ هنگفتی را پرداخت می‌کنند و با هزاران پرونده قضایی به دلیل ادعاهایی که به کاربران جوان آسیب رسانده‌اند، مواجه هستند، در حالی که دولت‌ها در سراسر جهان در تلاش هستند تا دسترسی خردسالان را به پلتفرم‌های خود محدود کنند.

رویترز در سال 2025 به طور انحصاری در مورد یک سند سیاست داخلی متا گزارش داد که بیان می کرد چت ربات های آن می توانند "کودک را در گفتگوهایی عاشقانه یا شهوانی شرکت دهند" که منجر به تحقیقات کنگره می شود. با این حال، مقررات هنوز با سرعت سرسام آور توسعه هوش مصنوعی مطابقت نکرده است.

تام سیگل، معاون سابق اعتماد و ایمنی در گوگل به رویترز گفت: «ما خود را در شرایط بسیار وحشتناکی از نظر آنچه هوش مصنوعی با بچه‌ها می‌کند، می‌بینیم. "این ایده که صنعت به تنهایی بدون کمک خارجی به آن پی خواهد برد، غیر واقعی است."

نگرانی‌های سیگل بازتاب ترس فزاینده‌ای در میان برخی از خودی‌های فناوری و محققان دانشگاهی است که هوش مصنوعی تهدیدی عمیق‌تر از رسانه‌های اجتماعی برای کودکان است، در زمانی که صنعت در حال رقابت برای افزودن ویژگی‌های پیشرفته‌تر به چت‌بات‌هایی است که میلیون‌ها جوان در حال حاضر روزانه از آن‌ها استفاده می‌کنند.

سیگل در 22 سپتامبر اعلام کرد که به Common Sense Media، یک گروه حمایت آنلاین از کودکان پیوسته است. این سازمان غیرانتفاعی که در سال 2003 تأسیس شد، تحقیقاتی را انجام می دهد و مناسب بودن رسانه های مختلف برای کودکان را بررسی می کند. در ماه می، مؤسسه ایمنی هوش مصنوعی جوانان را راه اندازی کرد، یک سازمان تحقیقاتی برای ارزیابی استفاده از هوش مصنوعی کودکان، که سیگل به عنوان اولین مدیر اجرایی برای آن خدمت خواهد کرد.

Anthropic و OpenAI Foundation، غیرانتفاعی که OpenAI را کنترل می کند، از حامیان این موسسه هستند.

سیگل گفت که قصد دارد استانداردهایی را ایجاد کند که براساس آن شرکت‌های هوش مصنوعی پاسخگو باشد و امیدوار است که این کار را با همکاری در کنار این شرکت‌ها و گروه‌های شخص ثالث انجام دهد.

او پیش از این از سال 2004 تا 2019 در گوگل کار می کرد، اما پس از این که به این نتیجه رسید که صنعت فناوری در توانایی خود برای ایجاد فضاهای آنلاین امن برای مصرف کنندگان «فلاته» است، آنجا را ترک کرد. او سپس TrustLab را تأسیس کرد، استارت‌آپی که ابزارهایی را برای کمک به شرکت‌ها در شناسایی تهدیدات ایمنی ایجاد می‌کرد، قبل از اینکه اوایل این ماه از سمت مدیرعاملی کناره‌گیری کند و سمت جدید خود را بر عهده بگیرد.

سیگل گفت، همانطور که وجود دارد، شرکت‌های بزرگ هوش مصنوعی بدون ایجاد نرده‌های محافظ کافی، ویژگی‌هایی را برای کودکان ارائه می‌کنند.

او گفت: «من فکر می‌کنم که ما در حال بررسی سناریوهای بسیار بسیار شدید آسیبی هستیم.

او پیشنهاد کرد که شرکت‌ها گام‌های فوری برای محافظت بهتر از جوانان بردارند، با ذکر خطراتی از خودکشی و روان‌پریشی تا تخلیه‌ی شناختی، اصطلاحی که برای توصیف کاهش تفکر انتقادی ناشی از تکیه بر هوش مصنوعی برای پاسخ دادن به سؤالات استفاده می‌شود.

او گفت که Anthropic و OpenAI می‌توانند تدابیر تأیید سن قوی‌تری را برای جلوگیری از دسترسی کودکان زیر سن قانونی به ربات‌های چت خود اعمال کنند. او افزود، کارفرمای سابق او، گوگل، به راحتی می‌تواند گزینه‌ای را برای غیرفعال کردن AI Overviews و AI Mode در موتور جستجوی خود پیاده‌سازی کند، به همان روشی که قبلا یک ضامن دارد که به کاربران اجازه می‌دهد محتوای غیراخلاقی جنسی را فیلتر کنند.

سیگل افزود، در حالی که این اقدامات می‌تواند در کوتاه‌مدت بر استفاده یا سود تأثیر بگذارد، شرکت‌های هوش مصنوعی که عمل نمی‌کنند در معرض خطر شکایت‌ها و مقرراتی قرار می‌گیرند که می‌تواند بر کسب‌وکار آنها تأثیر بیشتری بگذارد.

یکی از سخنگویان گوگل در پاسخ به اظهارات سیگل گفت والدین کنترل هایی دارند تا دسترسی کودک به موتور جستجو را به طور کامل قطع کنند. این سخنگو گفت: «ویژگی‌های جستجوی هوش مصنوعی ما روشی فوق‌العاده مفید برای کودکان و نوجوانان برای یادگیری، کاوش و درک اطلاعات و جهان است.

یکی از سخنگویان OpenAI گفت که این شرکت علاوه بر سن گزارش شده توسط خود، از "سیگنال های حساب و رفتار" برای شناسایی کاربران زیر سن قانونی استفاده می کند. "در حالی که هیچ روش تضمین سنی کاملی نیست، ما به طور مداوم این سیستم ها را آزمایش و بهبود می دهیم، از جمله در برابر تلاش ها برای دور زدن پادمان ها."

آنتروپیک بلافاصله به درخواست اظهار نظر پاسخ نداد.

در Common Sense Media، سیگل گفت که اولویت اصلی افزایش استانداردهای مستقل مشابه تست تصادف خودرو است که خطر ابزارهای هوش مصنوعی در دسترس عموم را اندازه گیری می کند. اثربخشی تا حدی به تمایل شرکت‌های هوش مصنوعی برای همکاری بستگی دارد، احتمال آن که سیگل گفت قطعی نیست، اما به اندازه‌ای زیاد است که او بتواند این کار را بپذیرد. رویترز