راهنمای قتل چت بات: مبارزه هوش مصنوعی بین حریم خصوصی، گزارش خشونت

جسی ون روتسلار ماه‌ها قبل از انجام مرگبارترین تیراندازی در مدرسه در کانادا در چهار دهه اخیر، در حال مشورت با یک مشاور نامحتمل در مورد چگونگی انجام قتل عام بود.

بر اساس گزارش‌ها، ChatGPT OpenAI این نوجوان 18 ساله را راهنمایی می‌کند: «در راهرو، داخل خانه یا یک کلاس درس شلوغ، 870 [تفنگ ساچمه‌ای رمینگتون] بی‌رحمانه است... نزدیکی زمین بازی آن است».

در 10 فوریه 2026، ون روتسلار قبل از رفتن به مدرسه ای در شهر کوچک تامبلر ریج در بریتیش کلمبیا، مادر و برادر ناتنی خود را در خانه تیراندازی کرد و در آنجا شش نفر دیگر - از جمله پنج دانش آموز - را کشت و سپس جان خود را گرفت.

در اوایل این هفته، در 14 اکتبر، مقامات ایالات متحده یک مرد ایالت واشنگتن را متهم به توطئه با ون روتسلار برای طراحی این حمله کردند. اما حادثه تیراندازی جمعی سوالاتی را مطرح کرده است که فراتر از درک قانونی سنتی از مقصر است.

دولت بریتیش کلمبیا در ماه سپتامبر یک شکایت مدنی علیه OpenAI و مدیر عامل آن سام آلتمن تنظیم کرد و آنها را متهم به شکست در جلوگیری از این حادثه کرد و ادعا کرد که از مکالماتی که مرگبار شد آگاه بودند. خانواده های قربانیان نیز شکایت های جداگانه ای تنظیم کردند. رهبری OpenAI به دلیل عدم اطلاع رسانی به مقامات عذرخواهی عمومی کرد.

این شرکت به درخواست های الجزیره برای اظهار نظر در مورد این دعاوی پاسخی نداده است.

اما با پیشرفت پرونده علیه OpenAI، بحثی آشنا به راه انداخته است: بین گزارش رفتار بالقوه خطرناک و حفاظت از حریم خصوصی افراد باید مرزی در کجا مشخص شود؟

جنین یونس، وکیل آزادی های مدنی مستقر در ایالات متحده، به الجزیره گفت: «مسئله این که آیا شرکت ها باید ملزم شوند چنین اطلاعاتی را به مجریان قانون بدهند، بسیار دشوار است، به ویژه اگر آنها قبلا چت ها را برای نشانه هایی از چنین تهدیدهایی بررسی نکرده باشند.

یونس افزود: «اجبار شرکت‌ها به پیاده‌سازی یک سیستم نظارتی، نگرانی‌های بسیار جدی در مورد آزادی‌های مدنی را دربرمی‌گیرد و این احتمالا برای من پلی است.»

از سوی دیگر، هوش مصنوعی به افراد امکان دسترسی به انواع و مقادیر اطلاعاتی را می‌دهد که قبلا نداشتند و ممکن است ارتکاب رویدادهای تلفات جمعی را تسهیل کند، نگرانی‌ای که رد کردن آن آسان نیست.»

یکی از بزرگترین چالش‌هایی که شرکت‌های هوش مصنوعی با آن روبرو هستند، تعیین این است که آیا کاربری که افکار خشونت‌آمیز را ابراز می‌کند، واقعا قصد دارد روی آنها عمل کند یا خیر.

در ماه آگوست، آنتروپیک، شرکتی که پشت ربات چت هوش مصنوعی کلود قرار دارد، پس از کشف مکالماتی که ادعا می‌شد مدیر عاملش، داریو آمودی، را تهدید می‌کرد، یک کاربر را به پلیس سانفرانسیسکو معرفی کرد.

طبق گزارش سانفرانسیسکو استاندارد، با استناد به گزارش پلیس، کاربر ادعا کرده بود که یک اسلحه AR-15 در اختیار دارد و گفته بود که آمودی را "در دید خود" دارد.

با این حال، هنگامی که روزنامه با او تماس گرفت، این مرد گفت که شوخی می کند و قصد انجام هیچ گونه خشونتی را ندارد. استاندارد گفت که این شخص نه متهم و نه بازداشت شد.

فضل بارز، محقق ارشد دانشگاه آکسفورد که در زمینه ایمنی و مدیریت هوش مصنوعی تخصص دارد، گفت: مدل‌های هوش مصنوعی فعلی نمی‌توانند به طور قابل اعتماد تعیین کنند که آیا تعامل با یک چت ربات هوش مصنوعی «صرفا فرضی است یا احتمالا منجر به رفتار مضر می‌شود».

او به الجزیره گفت: "فرض کنید شما یک نویسنده خلاق هستید که روی یک داستان تخیلی کار می کنید و می خواهید کشف کنید که چگونه یک طرح قتل ممکن است آشکار شود. از روی زمینه، ممکن است واضح باشد که این فقط یک روایت تخیلی است. اگر آستانه برای پرچم گذاری محتوای بالقوه مضر خیلی پایین باشد، چنین نویسنده ای ممکن است به اشتباه پرچم گذاری شود."

"به طور مشابه، یک دانشجوی فارغ التحصیل در رشته زیست شناسی یا شیمی را در نظر بگیرید که پاتوژن هایی را مطالعه می کند که در صورت استفاده نادرست، می تواند عواقب جدی داشته باشد. آنها ممکن است در تلاش برای درک خطرات مرتبط با این عوامل بیماری زا و نحوه کاهش آنها باشند. چنین بحث هایی ممکن است برای تحقیق و آموزش قانونی لازم باشد. حتی زمانی که موضوع موضوع حساس است، نباید به طور خودکار بدون در نظر گرفتن زمینه مورد بررسی قرار گیرد."

این محقق گفت شناسایی یک تهدید معتبر ممکن است مستلزم بررسی تعاملات کاربر در چندین مکالمه باشد، نه تکیه بر اظهارات مجزا.

بارز گفت که فردی که افکار خشونت آمیز مزاحم را تجربه می کند ممکن است برای پشتیبانی به یک چت بات مراجعه کند، در حالی که فرد دیگری که قصد حمله دارد ممکن است قصد خود را به تدریج در چندین مکالمه آشکار کند.

وی افزود: «تمایز بین این دو مستلزم بررسی دقیق زمینه، قصد و الگوهای رفتار است، نه اینکه تنها بر اظهارات فردی تکیه شود.»

چینمایی شارما، استاد حقوق در دانشگاه فوردهام، گفت که این بحث مشابهی با وظیفه تحمیل شده بر متخصصان سلامت روان برای هشدار دادن به اشخاص ثالث قابل شناسایی در مورد تهدیدات معتبر دارد.

با این حال، او گفت که یک تفاوت اساسی وجود دارد - درمانگران آموزش حرفه ای، دانش از بیماران خود و استانداردهای قابل اجرا حاکم بر رفتار آنها دارند. شرکت‌های هوش مصنوعی لزوما حفاظت‌های مشابهی ندارند.

شارما به الجزیره گفت: «نگرانی من با شرکت‌های هوش مصنوعی این است که در حال حاضر تلاشی هماهنگ برای استخدام متخصصان سلامت روان، جامعه‌شناسان، افرادی که تخصص منحصربه‌فردی در مورد شاخص‌های تهدید در اینجا داشته باشند، وجود ندارد.

ثانیا، متخصصان دارای مجوز نسبت به استانداردهای ملموس و قابل اجرا قانونی در رشته خود پاسخگو هستند. ما چنین چیزی برای شرکت های هوش مصنوعی نداریم.

پیامدهای حفظ حریم خصوصی فراتر از این است که آیا شرکت های هوش مصنوعی می توانند تهدیدها را به طور دقیق شناسایی کنند. میلیون‌ها نفر از چت‌بات‌ها برای بحث در مورد روابط، ناراحتی‌های عاطفی، نگرانی‌های سلامت روان و تجربیات عمیق شخصی استفاده می‌کنند.

یونس وکیل آزادی های مدنی گفت که بسیاری از کاربران ممکن است متوجه نباشند که این مکالمات تا چه حد می تواند در برابر افشای آسیب پذیر باشد.

یونس، رئیس و مدیر حقوقی کمیته ضد تبعیض آمریکایی-عربی، گفت: "آنها اغلب منعکس کننده درونی ترین افکار، پرسش ها و خواسته های یک فرد هستند. اکثریت مردم تصور می کنند که این گفتگوها هرگز توسط شخص دیگری مشاهده نمی شود."

یونس هشدار داد که پیامدهای نظارت بیشتر می تواند فراتر از برنامه ریزی خشونت باشد.

او به الجزیره گفت: «اگر مردم نگران باشند که چت‌هایشان صرفا به دلیل ابراز افکار مزاحم/خیال‌پردازی‌های خشونت‌آمیز و غیره به مجریان قانون سپرده شود، بسیاری از استفاده از آنها منصرف خواهند شد.

یونس استدلال کرد که اجبار شرکت‌ها برای ایجاد سیستم‌هایی برای نظارت بر کاربران و گزارش‌دهی مکالمات می‌تواند نگرانی‌های جدی قانون اساسی را در ایالات متحده ایجاد کند، از جمله محافظت در برابر جستجوهای غیرمنطقی.

در همین حال، شارمای Fordham نیز موضوعی را در مورد اینکه چه کسانی می‌توانند تحت تأثیر نظارت سنگین چت‌ربات‌های هوش مصنوعی قرار بگیرند، مطرح کرد.

او می‌گوید: «نگرانی همیشه در مورد هدف‌گیری عمدی یا غیرعمدی وجود دارد، زیرا اگر مدل‌هایی دارید که در مورد آنچه که ما گفتار خطرناک می‌دانیم آموزش دیده‌اند، تقریبا همیشه سوگیری‌ها را منعکس می‌کنند. «سخنان برخی اقلیت‌ها بیش از حد به عنوان یک تهدید تلقی می‌شود، در حالی که سایر سخنرانی‌های مشابه اینگونه نیستند.

او گفت: «حتی در دنیایی که در آن همه خیرخواه هستند، ما همچنان باید نگران نتایج متفاوت باشیم.» او هشدار داد که ماشین‌ها می‌توانند چنین تفاوت‌هایی را در مقیاس تولید کنند.

کارشناسان حقوقی می گویند در حالی که ممکن است شرکت های هوش مصنوعی برای جلوگیری از خشونت با فشار اخلاقی مواجه شوند، اما تعهدات قانونی آنها کمتر روشن است.

برایان چوی، استاد حقوق در دانشگاه کلرادو بولدر، گفت که قوانین ایالات متحده وظیفه هشدار دادن در شرایط خاص، از جمله زمانی که متخصصان سلامت روان از تهدیدات قریب الوقوع آگاه می شوند یا زمانی که رابطه خاصی بین طرفین وجود دارد، را به رسمیت می شناسد.

اما این اصول لزوما در مورد شرکت های هوش مصنوعی صدق نمی کند.

چوی به الجزیره گفت: «طبق رویه قضایی فعلی، بعید به نظر می‌رسد که شرکتی مانند OpenAI چنین وظایفی برای اخطار داشته باشد. ربات چت یک درمانگر مجاز نیست. هیچ رابطه خاصی بین شرکت و قربانیان وجود ندارد.

چوی گفت قوانین قصور و مسئولیت محصول موجود می تواند به طور بالقوه برای شرکت های هوش مصنوعی اعمال شود، اما اثبات مسئولیت چالش های مهمی را به همراه خواهد داشت.

شارمای فوردهام پیشنهاد کرد که موسسات مستقل می توانند به ایجاد استانداردهای گزارش دهی کمک کنند، نه اینکه تصمیمات را به طور کامل به شرکت های خصوصی واگذار کنند یا نیاز به افشای فوری به پلیس داشته باشند.

به گفته او، چنین ارگان‌هایی می‌توانند رویه‌هایی را برای ارزیابی تهدیدها ایجاد کنند و راه‌هایی را برای به اشتراک گذاشتن تنها اطلاعات مرتبط و در عین حال محافظت از هویت کاربران و سایر جزئیات شخصی بررسی کنند.

در همین حال، یونس استدلال کرد که کاربران حداقل باید به وضوح در مورد اینکه آیا مکالمات آنها نظارت می شود و چه شرایطی می تواند منجر به اشتراک گذاری اطلاعات با مجریان قانون شود، مطلع شوند.

او گفت: «تقریبا مطمئنا این مسئله ای است که در سال های آینده با آن دست و پنجه نرم خواهد کرد و من مطمئن نیستم که کسی راه حل آن را در این مقطع زمانی خاص بداند.

رویدادهایی که هنوز رخ نداده اند احتمالا بر نحوه شکل گیری این سیاست ها تأثیر خواهند گذاشت.»