هوش مصنوعی می تواند بیشتر از رسانه های اجتماعی به کودکان آسیب برساند - مدیر سابق گوگل

تام سیگل هشدار داده است که شرکت‌های فناوری با انتشار ابزارهایی که به سرعت در حال تکامل بدون پادمان‌های کافی هستند، اشتباهات گذشته را تکرار می‌کنند.

یکی از مدیران سابق ایمنی گوگل هشدار داده است که هوش مصنوعی می تواند خطرات بیشتری را نسبت به رسانه های اجتماعی برای کودکان به همراه داشته باشد، زیرا شرکت های فناوری نمی توانند اقدامات حفاظتی کافی را اعمال کنند.

تام سیگل، که تیم اعتماد و ایمنی گوگل را تأسیس کرد و 15 سال را در این شرکت گذراند، این هفته به رویترز گفت که صنعت در حال تکرار اشتباهاتی است که در طول ظهور رسانه های اجتماعی مرتکب شده اند.

سیگل گفت: «ما از نظر کاری که هوش مصنوعی با بچه‌ها انجام می‌دهد، در وضعیت بسیار وحشتناکی قرار داریم. "این ایده که صنعت به تنهایی بدون کمک خارجی به آن پی خواهد برد، غیر واقعی است."

او در مورد "سناریوهای بسیار شدید آسیب" هشدار داد و با اشاره به خطراتی از خودکشی و روان پریشی گرفته تا "تخلیه شناختی" - کاهش تفکر انتقادی ناشی از تکیه بر هوش مصنوعی برای پاسخ ها را ذکر کرد. او گفت که شرکت ها می توانند و باید اقدامات فوری انجام دهند، از جمله بررسی سنی قوی تر برای جلوگیری از دسترسی کودکان به چت بات ها.

ادامه مطلب متا در مورد معاشقه هوش مصنوعی با بچه ها با تحقیق روبرو می شود

گوگل اصرار دارد که ویژگی‌های جستجوی هوش مصنوعی به کاربران جوان کمک می‌کند اطلاعات را بیاموزند و کاوش کنند و به رویترز گفته است که والدین می‌توانند دسترسی کودک به موتور جستجوی آن را به طور کامل مسدود کنند. با این حال، یک سند سیاست داخلی متا، که توسط این نشریه در سال گذشته افشا شد، به چت ربات‌های آن اجازه داد تا کودکان را در مکالماتی که می‌تواند «عاشقانه یا شهوانی» باشد، درگیر کنند، که باعث تحقیقات کنگره شد.

پلتفرم‌های بزرگ رسانه‌های اجتماعی سال‌ها به دلیل ادعای آسیب رساندن به کودکان و نوجوانان با شکایت قضایی مواجه شده‌اند. متا اخیرا با توافقی 17 میلیارد دلاری با کالیفرنیا و 28 ایالت دیگر ایالات متحده به دلیل اتهاماتی مبنی بر اینکه فیس بوک و اینستاگرام عمدا برای نگه داشتن خردسالان طراحی شده اند و در عین حال تخلفات را انکار کرده اند، موافقت کرد. هزاران پرونده مشابه در ایالات متحده تشکیل شده است.

بیشتر بخوانید: هوش مصنوعی بیش از 10 درصد شانس کشتن همه انسان ها را در یک دهه دارد - محقق Anthropic

دولت ها همچنین برای محدود کردن دسترسی کودکان به رسانه های اجتماعی اقدام کرده اند. استرالیا سال گذشته اولین کشوری بود که به پلتفرم های اصلی برای جلوگیری از داشتن حساب های زیر 16 سال نیاز داشت. حدود 4.7 میلیون حساب افراد خردسال مدت کوتاهی پس از اجرایی شدن قوانین محدود شد.

ادامه مطلب متای زاکربیگ در مبارزه با اعتیاد 1.4 تریلیون دلاری: چرا غول دوباره در دادگاه است؟

اتحادیه اروپا هفته گذشته پیشنهاد کرد که کودکان زیر 13 سال از رسانه های اجتماعی منع شوند و به افراد 13 و 14 ساله اجازه داده شود فقط از حساب های محدودی که توسط والدین یا قیم مدیریت می شوند استفاده کنند. قوانین پیشنهادی شامل همراهان هوش مصنوعی و ربات‌های گفتگو نیز می‌شود.

هشدار سیگل در حالی است که مدیران برجسته فناوری، از جمله داریو آمودی، مدیر عامل Anthropic، سام آلتمن، رئیس OpenAI، ایلان ماسک، رئیس xAI و دمیس حسابیس، بنیانگذار Google DeepMind، از درخواست‌ها برای کاهش سرعت توسعه سیستم‌های هوش مصنوعی قوی‌تر حمایت کرده‌اند. ایوان هوبینگر، محقق انسان‌شناسی، در این ماه گفت که او شخصا معتقد است بیش از 10 درصد احتمال دارد که هوش مصنوعی بتواند «همه انسان‌ها» را در یک دهه آینده بکشد.