چت ربات های هوش مصنوعی به دلیل عدم گزارش اعترافات مجرمانه مورد بررسی قرار می گیرند

چت ربات‌های هوش مصنوعی (AI) را می‌توان در مورد جرایم گفت، اما عدم قطعیت‌های پیرامون چارچوب‌های قانونی یا اقداماتی که این ابزارها را برای گزارش اعترافات به مجری قانون الزامی می‌کند، سرعت توسعه هوش مصنوعی را مورد تردید قرار می‌دهد.

چت ربات‌های هوش مصنوعی وارد زندگی روزمره شده‌اند و بسیاری از کاربران در سراسر جهان از این ابزارها استفاده می‌کنند و گاهی اوقات سوء استفاده می‌کنند و اغلب در سرتاسر جهان خبرساز می‌شوند.

در ماه اوت، یک دانشجوی 19 ساله دانشگاه میسوری به ChatGPT اعتراف کرد که اواخر شب به 17 ماشین پارک شده در محوطه دانشگاه آسیب رسانده و پرسید: "آیا به زندان خواهم رفت؟"

اسناد پلیس نشان می‌دهد که ChatGPT با «نکاتی در مورد نتیجه احتمالی دستگیر شدن» پاسخ داد، اما از کاربر خواست که پس از تهاجمی‌تر شدن پیام‌ها، 911 را شماره‌گیری کند.

تاریخچه چت پس از اینکه دانش آموز به بازپرس اجازه داد تا تلفن او را بررسی کنند، فاش شد و از تاریخچه به عنوان مدرکی علیه او در دادگاه استفاده شد و در اتهامات جنایت - خسارت مالی علیه او نقش داشت.

در یک نمونه مشابه، سوابق دادگاه در فلوریدا نشان داد که چند روز قبل از اینکه دو دانشجوی کالج در ماه آوریل مفقود شوند و بعدا مرده پیدا شوند، هم اتاقی آنها از ChatGPT پرسیده بود: "اگر انسانی در کیسه زباله سیاهی گذاشته و در سطل زباله بیندازد چه اتفاقی می‌افتد."

دولت استانی بریتیش کلمبیا کانادا علیه OpenAI، توسعه‌دهنده ChatGPT شکایت کرد.

این شکایت که در ماه فوریه تنظیم شد، مربوط به تیراندازی دسته جمعی در مدرسه بود که بر اثر آن 9 نفر، اکثرا کودک، کشته و 27 نفر مجروح شدند.

در این پرونده ادعا شده بود که شرکت گزارش چت تیرانداز با ChatGPT را به مجریان قانون نداده است و استدلال می‌کند که اگر OpenAI به پلیس هشدار داده بود، می‌توان از حمله جلوگیری کرد.

سام آلتمن، مدیر عامل OpenAI در نامه ای عذرخواهی کرد، اما افشاگران به روزنامه وال استریت ژورنال گفتند که ظاهرا مکالمه بین تیرانداز و ChatGPT قبلا در ژوئن 2025 علامت گذاری شده بود. با این حال، آلتمن و رهبری شرکت ظاهرا توصیه های تیم ایمنی برای تماس با پلیس را نادیده گرفتند.

پیامدهای اخلاقی این تعاملات همچنان عمیق تر می شود، زیرا مطالعه ای در استرالیا نشان داد که کودکان بیشتر احتمال دارد سوء استفاده جنسی را به صورت آنلاین به چت بات ها گزارش کنند تا بزرگسالان مسئول.

همان اصول حفظ حریم خصوصی که بین وکلا و مشتریان یا پزشکان و بیماران اعمال می‌شود، در مکالمات ربات چت هوش مصنوعی اعمال نمی‌شود، بنابراین شرکت‌های فناوری می‌توانند گزارش‌ها را با بازرسان به اشتراک بگذارند.

در حالی که محققان بحث می کنند که آیا چت بات ها باید جرایم را گزارش کنند، این چشم انداز به دلیل سوء تعبیر الگوریتم ها از قصد پیچیده تر می شود.

به عنوان مثال، کلود 5 از آنتروپیک در ماه ژوئیه به یک خط تلفن پلیس ایالات متحده اطلاعات نادرستی در مورد یک قتل حل نشده داد.

متیو تریل، محقق حقوقی و محقق آمریکایی در دانشگاه گوته در آلمان، به آنادولو گفت که هر شرکتی که چت ربات‌های هوش مصنوعی را توسعه می‌دهد، قوانین متفاوتی را اتخاذ می‌کند و این چت‌بات‌ها برای پاسخ به پرسش‌هایی درباره برنامه‌ریزی قتل و اقدامات مشابه طراحی نشده‌اند.

تریل بیان کرد که چت ربات ها برای اجتناب از موضوعات خاص، به ویژه موضوعات مربوط به سوء استفاده جنسی از کودکان، آموزش داده می شوند و این مکالمات را به ناظران انسانی ارجاع می دهند. با این حال، کاربران می‌توانند درخواست‌های خود را به روشی خاص بنویسند، مانند تظاهر به درخواست کمک برای نوشتن داستان، دور زدن این فیلترها و دریافت پاسخ‌های ایجاد شده توسط هوش مصنوعی برای سؤالات یا درخواست‌های نامناسب.

تریل خاطرنشان کرد که در حالی که مجری قانون می تواند تاریخچه چت یک فرد را از شرکت های هوش مصنوعی درخواست کند زمانی که فرد مظنون به ارتکاب جرم باشد، هدف اصلی چت ربات های هوش مصنوعی نباید پیش بینی جرایم قبل از ارتکاب آنها باشد، زیرا قوانین و سیاست های مربوط به این احتمال بسیار نامشخص است.

او افزود که اجازه دادن به این مدل‌های هوش مصنوعی برای جمع‌آوری داده‌های بیشتر از آنچه که قبلا انجام می‌دهند برای ارزیابی دقیق‌تر پتانسیل جرم، ایده خوبی نیست.

مردم در سرتاسر جهان درباره موضوعات بی‌شماری با چت‌ربات‌های هوش مصنوعی، به‌ویژه مسائل شخصی، از مسائل سلامتی گرفته تا حمایت روان‌شناختی و توصیه‌های زندگی، بحث می‌کنند.

از آنجایی که افراد بیشتری برای گفتگو به هوش مصنوعی روی می آورند، بحث های اخلاقی در مورد حریم خصوصی مطرح شده است.

آلتمن در جولای 2025 گفت که مکالمات با چت ربات های هوش مصنوعی باید بر اساس محرمانه بودن باشد.

رابرت دیاب، استاد حقوق در دانشگاه تامپسون ریورز در کانادا، اظهار داشت که قوانین ارتباطات بین همدستان را محرمانه تلقی نمی کنند و استدلال می کند که چت بین انسان ها و چت ربات های هوش مصنوعی می تواند بر اساس همان اصل رفتار شود.

دیاب گفت که مدل‌هایی مانند ChatGPT به نظر می‌رسد قادر به تشخیص زمانی هستند که کاربران مستعد رفتار مجرمانه هستند و استدلال کرد که توسعه‌دهندگان چت بات می‌توانند با اطلاع دادن به مجریان قانون از وقوع جرم جلوگیری کنند.

وی خاطرنشان کرد: هشدار به نیروی انتظامی بر اساس تمامی پیام‌های مشکوک نیز می‌تواند بار کاری تیم‌های انسانی را به دلیل هشدار کاذب افزایش دهد.

وی افزود که کاربران همیشه راهی برای دور زدن اقدامات امنیتی برای استفاده از هوش مصنوعی برای ارتکاب جرم پیدا می کنند.