دعوی حقوقی ادعا می کند استفاده دانش آموز از هوش مصنوعی گوگل به "وسواس تهدید کننده زندگی" تبدیل شده است

زوجی از کارولینای شمالی از گوگل شکایت کردند و مدعی شدند که هوش مصنوعی Gemini که روی لپ‌تاپ Chromebook مدرسه نصب شده بود به دختر 13 ساله‌شان کمک کرد تا اقدام به خودکشی خود را برنامه‌ریزی کند.

در این دادخواست با اشاره به قربانی با نام مستعار Emma Doe می‌گوید: «اما که پدر و مادرش ناشناخته هستند، ماه‌های گذشته را در چت ربات هوش مصنوعی گوگل، جمینی، گذرانده بود، که اما را در مورد چگونگی خودکشی و برنامه‌ریزی مراسم تشییع جنازه‌اش آموزش داده بود». والدین اما نمی‌دانستند که او حتی به جمینی یا هر ربات چت دیگری دسترسی دارد، زیرا تنها دسترسی اما به جمینی از طریق کروم‌بوکی بود که باید برای مدرسه استفاده می‌کرد.

این دادخواست می گوید که قربانی در پاییز 2025 از ویژگی های هوش مصنوعی جمینی و جستجوی گوگل، مرورهای هوش مصنوعی و حالت هوش مصنوعی برای مدرسه استفاده کرد. وکلای دادگستری ادعا می کنند که تنها در چند ماه، تعاملات او به یک "وسواس تهدید کننده زندگی" تبدیل شد. در فصل بهار، ظاهرا او تقریبا شبانه روز با چت بات صحبت می کرد.

در این دادخواست آمده است: «از آنجایی که چت های Gemini او در ژانویه و فوریه 2026 بیشتر شد، جمینی اما را متقاعد کرد که او به یک سری از اختلالات روانی بزرگ مبتلا شده است، که در نهایت باعث شد اما باور کند که خودکشی تنها راه فرار از رنج او است.

ظاهرا در چند تعامل با جمینی، اما ظاهرا وضعیت خود را تصدیق کرده است، با این شکایت که او به چت بات گفته است که "3 ماه پیش" احساس خوشبختی می کند و حتی از او پرسیده بود که چگونه "اعتیاد به پرسیدن سوالات تصادفی" را متوقف کند.

ظاهرا ویژگی‌های هوش مصنوعی گوگل به اما نکاتی در مورد چگونگی پایان دادن به زندگی‌اش می‌دهد و حتی او را «مربی» می‌کند تا حقیقت این وضعیت را از خانواده و دوستانش دور نگه دارد. والدین ادعا می کنند که محصولات در هیچ نقطه ای هشدار بحران را ایجاد نکرده اند. این نرم افزار نظارت بر اینترنت مدرسه بود که در نهایت یک هشدار را ایجاد کرد و والدین او در ماه مارس مطلع شدند.

یکی از سخنگویان گوگل به Gizmodo گفت: «ما در حال بررسی ادعاهای موجود در دادخواست هستیم و این موضوع را بسیار جدی می‌گیریم. "ما به طور گسترده با متخصصان پزشکی و کارشناسان دانشگاهی کار کرده‌ایم تا ویژگی‌هایی ایجاد کنیم که به جوانان کمک می‌کند پشتیبانی حیاتی و منابع قابل اعتماد را در صورت نیاز پیدا کنند. هدف سیستم‌های ما جلوگیری از درگیر شدن کاربران در مکالمات مضر است، و زمانی که درخواست‌های افراد نشان می‌دهد که ممکن است دچار بحران شوند، اطلاعات خط تلفن را مستقیما در جستجو نشان می‌دهیم تا آنها را با پشتیبانی دنیای واقعی مرتبط کنیم."

به گفته گوگل، محتوای صریح در نتایج جستجو برای دانش‌آموزانی که از Workspace for Education استفاده می‌کنند، فیلتر می‌شود و هرگونه درخواست بسیار حساس در جستجو با اطلاعاتی از منابع قابل اعتماد ارائه می‌شود. گوگل می‌گوید نتایج به خط‌مشی‌های محتوا پایبند هستند و سیستم‌های تشخیص بحران آن زمانی که متوجه می‌شود کاربر در حال فکر آسیب زدن به خود است، اطلاعات خط تلفن را نشان می‌دهد. این شرکت می‌گوید که به طور گسترده بر تلاش‌ها برای شکستن این نرده‌های ایمنی نظارت می‌کند. گوگل همچنین ادعا می کند که منابع سواد هوش مصنوعی متناسب با سن را فراهم می کند و از خردسالان می خواهد تا اطلاعات هوش مصنوعی را دوباره بررسی کنند.

در دادخواست ادعا شده است: "آنچه برای اما اتفاق افتاد تصادفی نبود." ماه‌ها قبل، هزاران مایل دورتر از خانه اما در کارولینای شمالی، جایی که رهبران گوگل به این نتیجه رسیدند که مشکلی دارند، سیلیکون ولی در حال شکست در نبرد برای برتری هوش مصنوعی بود، زمینه ایجاد شد.

گوگل شروع سختی برای بازی هوش مصنوعی با عرضه ناموفق Gemini در سال 2024 داشت. این غول فناوری تلاش های خود را در سال 2025 افزایش داد و Gemini 3 را در نوامبر همان سال منتشر کرد. این محصول به قدری مورد استقبال اینترنت قرار گرفت که حتی باعث شد OpenAI "کد قرمز" را اعلام کند.

این شکایت ادعا می‌کند که گوگل هوش مصنوعی خود را مجبور به ورود بسیاری از محصولات خود کرده است، محصولاتی که قبلا یک پایگاه کاربر قوی را در طول سال‌ها تسلط بر صنعت به دست آورده بودند، بنابراین کمک کرد تا برنامه‌های هوش مصنوعی گوگل در مقابل تعداد زیادی از کاربران قرار بگیرند. گوگل در واقع هوش مصنوعی را تقریبا در کل مجموعه محصولات خود، به ویژه محصول برتر خود، جستجو، جاسازی کرده است.

AI Mode و AI Overviews به‌طور پیوسته تجربه جستجوی Google را در دو سال گذشته تسخیر کرده‌اند، به طوری که مدیران اعتراف کردند که رشد قوی کاربر در حالت AI همراه با درآمد کمتر از تبلیغات به کند کردن رشد درآمد تبلیغات جستجو در سه‌ماهه آخر شرکت کمک کرده است.

در این دادخواست ادعا شده است: «گوگل می‌توانست علنا توضیح دهد که هر بار که دانش‌آموزی از Chromebook خود برای اجرای جستجوی Google استفاده می‌کند، ویژگی‌های هوش مصنوعی مبتنی بر Gemini می‌تواند فعال شود و او را به مکالمات ناامنی بکشاند که ایمنی و رفاه آنها را به خطر می‌اندازد». «گوگل عمدا تصمیم گرفت این کار را انجام ندهد.»

ادغام هوش مصنوعی و جستجو به طور جداگانه باعث ایجاد جنجال در اوایل این هفته شد، زمانی که نیویورک تایمز گزارش داد که اگر مدارس آنها دسترسی به محصولات هوش مصنوعی خود را ممنوع کرده باشند، یک ابتکار جدید گوگل دسترسی دانش آموزان به جستجو را ممنوع می کند. این گزارش به ویژه از سوی سیاستمدارانی مانند زهران ممدانی، شهردار نیویورک، که اخیرا اعلام کرده بود که هوش مصنوعی مولد دانش‌آموزی در سیستم مدارس دولتی شهر تا کلاس هشتم در پاسخ به تقاضاهای رو به رشد والدین نگران ممنوع خواهد شد، خشم را برانگیخت.

گوگل تصریح کرد که مدارس می توانند Gemini و Search را به صورت جداگانه روشن یا خاموش کنند، اما مشخص نکرد که آیا ممنوعیت AI به طور موثر حالت AI و نمای کلی هوش مصنوعی را هدف قرار می دهد و در عین حال دسترسی به عملکردهای اصلی جستجو را حفظ می کند.

در این دادخواست ادعا شده است که مدیران هنگام عرضه مدل فلش جمینی 3، "زوایای مهم را کاهش داده و ایمنی را فدای قدرت و سرعت کرده اند". وکلا به یافته‌های غیرانتفاعی KORA استناد می‌کنند و ادعا می‌کنند که Gemini 3 Flash نسبت به مدل‌های قبلی Gemini از نظر ایمنی به طور قابل‌توجهی بدتر است. ظاهرا علائم اما در زمان انتشار Gemini 3 Flash شروع شد.

یکی دیگر از ارزیابی‌های ریسک اخیر، این بار توسط Common Sense Media، همچنین به عملکردهای هوش مصنوعی جستجوی Google رتبه‌بندی «خطر غیرقابل قبول» برای کودکان و نوجوانان داد. این گزارش ادعا می‌کند که هم حالت AI و هم AI Overviews «نشانه‌های واضح افکار خودکشی» را از دست داده‌اند. از زمان انتشار این گزارش، سناتورهای ریچارد بلومنتال و جاش هاولی، ساندار پیچای، مدیر عامل گوگل، نامه‌ای ارسال کرده‌اند که در آن نگرانی‌هایی را درباره «فشار تهاجمی» گوگل از محصولات هوش مصنوعی به کودکان مدرسه‌ای ایجاد کرده‌اند.

در پایان این شکایت آمده است: «گوگل باید به خاطر تلقی کردن زندگی کودکان به عنوان یک بار مصرف در خدمات نهایی خود پاسخگو باشد. پدر و مادر تقاضای تسکین دستوری و نقدی دارند.

این دعوی بازتاب ادعاهای مشابهی است که علیه رقیب گوگل OpenAI در یک دعوای مرگ غیرقانونی در سال گذشته مطرح شد. در آن شکایت، یک زوج کالیفرنیایی ادعا کردند که ChatGPT به خودکشی پسر 16 ساله‌شان کمک کرده است، از جمله با منصرف کردن او از اطلاع دادن به والدینش در مورد افکار خودکشی‌اش و کمک به او برای نوشتن نامه خودکشی.

شواهد نشان می دهد که کودکان و نوجوانان به طور فزاینده ای برای حمایت عاطفی و مشاوره سلامت روان به چت ربات های هوش مصنوعی روی می آورند، تکیه ای که کارشناسان هشدار می دهند می تواند خطرناک شود.