آیا شرکت های هوش مصنوعی می توانند مسئول تیراندازی های دسته جمعی باشند؟

مجموعه ای از شکایت های کانادا علیه OpenAI به دلیل عدم اطلاع مقامات در مورد تهدیدهای ایجاد شده در پلت فرم ChatGPT قبل از یکی از بدترین تیراندازی های دسته جمعی در تاریخ کانادا، بررسی دقیق حریم خصوصی و اقدامات امنیتی شرکت های هوش مصنوعی را مجددا بررسی کرده است.

این شکایت ها همچنین سوالاتی را در مورد پاسخگویی قانونی احتمالی در مورد نحوه استفاده از پلتفرم های شرکت های هوش مصنوعی ایجاد کرده است.

جدیدترین پرونده ای که تشکیل شده مربوط به استان بریتیش کلمبیا است، هفت ماه پس از آن که جسی ون روتسلار 18 ساله - که حساب ChatGPT او برای مکالماتی که گزارش شده شامل خشونت با اسلحه بود، پرچم گذاری شده بود - هشت نفر را در شهر کوچک کانادایی تامبلر ریج کشت. قربانیان شامل مادر و برادر ناتنی ون روتسلار، و همچنین پنج فرزند و یک مربی در یک مدرسه متوسطه بودند. ون روتسلار در اثر خودکشی درگذشت.

نیکی شارما، دادستان کل بریتیش کلمبیا گفت این شکایت "گامی مهم در جهت عدالت خواهی" است. این به دنبال حدود 30 پرونده قضایی است که قبلا توسط اعضای خانواده قربانیان تنظیم شده است.

در ماه آوریل، سام آلتمن، مدیر اجرایی OpenAI از خانواده قربانیان عذرخواهی کرد.

آلتمن در نامه ای سرگشاده نوشت: «از اینکه به مجریان قانون هشدار ندادیم عمیقا متاسفم.

در اینجا آنچه ما در مورد موارد می دانیم و معنای آنها برای مسئولیت پذیری در صنعت هوش مصنوعی در حال تغییر سریع است.

این هفته، استان بریتیش کلمبیا در کانادا پرونده خود را به دادگاه فدرال سانفرانسیسکو در کالیفرنیا، ایالات متحده ارائه کرد و ادعا کرد که OpenAI در اطلاع رسانی مقامات درباره تعاملات کاربران در ChatGPT قبل از تیراندازی دسته جمعی Tumbler Ridge کوتاهی کرده است.

شکایت بریتیش کلمبیا OpenAI را به "کمک به تیراندازی دسته جمعی" و مسئولیت نقص محصول متهم می کند. همچنین از مدیر عامل شرکت سام آلتمن به عنوان متهم نام برده می شود.

این سازمان از OpenAI برای پوشش هزینه‌های مربوط به واکنش اضطراری و تلاش‌های بازیابی جامعه، از جمله بازسازی مدرسه محل تیراندازی که قرار است تخریب شود، غرامت مالی می‌خواهد.

این شکایت همچنین از دادگاه می‌خواهد که OpenAI را مجبور کند سیاست‌های خود را برای شناسایی و رسیدگی به مکالمات کاربران که تهدید به خشونت هستند، اصلاح کند.

ژان کریستوف بلیزل-پیپون، استادیار اخلاق سلامت در دانشگاه سیمون فریزر، گفت که بریتیش کلمبیا احتمالا به جای دادگاهی در کانادا، این پرونده را در یک دادگاه ایالات متحده دنبال می کند، زیرا در آنجا شانس بیشتری برای بازیابی خسارات بالاتر دارد.

بلیزل-پیپون به الجزیره گفت: "این نشان می دهد که قوانین کانادا چقدر محدود کننده خسارت است. جوایز برای درد و رنج محدود شده است و خسارات تنبیهی نادر و متوسط ​​است." "بعید است که یک قضاوت کانادایی آنچه را که استان اکنون باید پوشش دهد، جبران کند."

قربانیان و خانواده‌هایشان همچنین 30 شکایت علیه OpenAI در ناحیه شمالی کالیفرنیا در بخش سانفرانسیسکو در آغاز ماه سپتامبر تنظیم کردند و ادعا کردند که "ChatGPT نقشی در تیراندازی جمعی داشته و OpenAI می‌توانست و باید از آن جلوگیری می‌کرد."

جسی ون روتسلار هجده ساله در فوریه امسال هشت نفر را در یک دبیرستان و محل سکونت در تامبلر ریج در بریتیش کلمبیا به ضرب گلوله کشت و کشت.

تامبلر ریج شهری دورافتاده با جمعیتی حدود 2400 نفر است. در دامنه کوه های راکی ​​در شمال بریتیش کلمبیا، تقریبا 1155 کیلومتر (718 مایل) شمال شرقی ونکوور واقع شده است.

مدرسه متوسطه Tumbler Ridge یک مدرسه کلاس 7-12 با 160 دانش آموز است.

ماموران مرد مظنون حمله را در مدرسه پیدا کردند. جسد دو قربانی در خانه ای در مجاورت پیدا شد که پلیس گفته است جسد مادر 39 ساله و برادر ناتنی 11 ساله مهاجم است.

قربانیان شامل یک معلم زن 39 ساله، سه دانش آموز دختر 12 ساله و دو دانش آموز پسر 12 و 13 ساله بودند.

پس از تیراندازی دسته جمعی، OpenAI فاش کرد که هشت ماه قبل یک حساب ChatGPT مرتبط با Van Rootselaar را برای سوءاستفاده علامت گذاری کرده و آن را غیرفعال کرده است.

این حساب کاربری به دلیل "سوء استفاده از مدل های ما در پیشبرد فعالیت های خشونت آمیز" ممنوع شده بود.

با این حال، OpenAI گفت که در آن زمان به پلیس هشدار نداده است زیرا محتوای کاربر «آستانه بالاتر مورد نیاز برای ارجاع را برآورده نمی‌کند» - به این معنی که شرکت باور نمی‌کند که نشان‌دهنده خطر قریب‌الوقوع و معتبر برنامه‌ای برای اعمال خشونت‌آمیز باشد.

وال استریت ژورنال به نقل از افراد آشنا گزارش داد که حدود دوازده کارمند OpenAI در مورد اینکه آیا به مقامات در مورد این مکالمات هشدار داده شود، صحبت کرده اند، که در آن ون روتسلار سناریوهای مربوط به خشونت با اسلحه را توصیف می کند. به گزارش ژورنال، برخی از کارمندان از شرکت خواستند موضوع را به مقامات ارجاع دهد، اما رهبری OpenAI تصمیم گرفت این کار را انجام ندهد.

نشریه آمریکایی مادر جونز گزارش داد که پس از مسدود شدن حساب ChatGPT ون روتسلار، او حساب دومی را در پلتفرم مورد استفاده در ماه‌های منتهی به تیراندازی باز کرد. در طی آن زمان، چت بات به ون روتسلار «نکاتی در مورد نحوه فرار از پادمان‌های خود» داد تا از ممنوعیت دیگری مانند ارائه محتوای خشونت‌آمیز به‌عنوان «تخیلی یا فرضی» جلوگیری کند، به نقل از منابع آگاه و مطالبی از تاریخچه چت ون روتسلار.

OpenAI می گوید که گزارش های چت را با پلیس سواره سلطنتی کانادا (RCMP) به اشتراک گذاشته است، اما بریتیش کلمبیا می گوید که آنها را دریافت نکرده است.

آنها می گویند که شرکت نتوانسته است اقدامی انجام دهد که بتواند از تیراندازی دسته جمعی جلوگیری کند و ChatGPT را به روشی ناامن پیکربندی کند.

شکایت بریتیش کلمبیا علیه OpenAI که در 21 سپتامبر در دادگاه فدرال سانفرانسیسکو ثبت شد، می‌گوید: «یک تماس تلفنی با RCMP می‌توانست از این تراژدی جلوگیری کند.

در این دادخواست همچنین اشاره شده است که OpenAI در اجرای یک ممنوعیت در سطح کاربر که مانع از افتتاح حساب دوم Van Rootselaar در این پلتفرم می‌شود، شکست خورده است. همچنین ادعا می‌کند که ویژگی‌های ایمنی ChatGPT برای اولویت‌بندی تعامل ضعیف شده است.

در دادخواست می‌گوید: این پلتفرم مجرای منفعل برای گفتار دیگران نیست، بلکه محصولی تولیدکننده محتوا است که سناریوهای خشونت با اسلحه را تولید می‌کند.

می‌افزاید: «جایگزین‌های طراحی امکان‌پذیر و ایمن‌تر وجود داشتند و مورد استفاده قرار نگرفتند یا به طور مؤثر اجرا نشدند».

تیفانی لی، دانشیار حقوق در دانشکده حقوق جنوب غربی، گفت که بی‌توجهی ادعایی OpenAI به نرده‌های ایمنی آن می‌تواند ادعاهای قانونی بریتیش کلمبیا را تقویت کند.

لی به الجزیره گفت: «این مورد را در تضاد با سایر موارد مرگ با هوش مصنوعی قرار می‌دهد که در آن شرکت‌ها جریان‌های کاری ایمنی پیچیده‌ای برای پرچم‌گذاری و گزارش‌دهی نداشتند». ادعاهای مربوط به سهل انگاری و عدم اخطار پرونده قوی تری وجود دارد.

در نامه ای سرگشاده در ماه آوریل، آلتمن از OpenAI از جامعه کانادایی در Tumbler Ridge به دلیل عدم اطلاع رسانی شرکتش به مقامات در مورد حساب پرچم گذاری شده عذرخواهی کرد.

آلتمن نوشت: «در حالی که می‌دانم کلمات هرگز کافی نیستند، معتقدم برای تشخیص آسیب و ضرر غیرقابل جبرانی که جامعه شما متحمل شده است، عذرخواهی لازم است.»

آلتمن همچنین گفت که برای «پیدا کردن راه‌هایی برای جلوگیری از تراژدی‌هایی مانند این در آینده» از جمله از طریق همکاری با دولت‌ها تلاش خواهد کرد.

پیش از این، OpenAI به دولت کانادا متعهد شده بود که یک سری اصلاحات ایمنی را انجام دهد. این اصلاحات شامل تقویت پروتکل‌ها برای ارجاع امور به مجری قانون، ایجاد ارتباط مستقیم با مجری قانون کانادا، گنجاندن «زمینه کشور و جامعه» در کار تنش‌زدایی و بهبود سیستم‌های آن برای شناسایی بهتر کاربرانی بود که مکررا سیاست‌های آن را نقض می‌کنند.

با این حال، شارما گفت که OpenAI هنوز «گام‌های معناداری برای رسیدگی به نگرانی‌های مطرح شده توسط بازماندگان، خانواده‌ها و جامعه تامبلر ریج برنداشته است».

OpenAI درخواست هایی را برای رد شکایت های مطرح شده علیه خود در کالیفرنیا در رابطه با تیراندازی Tumbler Ridge ارائه کرده است و استدلال می کند که این پرونده ها باید در بریتیش کلمبیا رسیدگی شود.

درخواست‌ها برای پلتفرم‌های دیجیتالی افزایش یافته است تا مسئولیت بیشتری در قبال تأثیر خود بر کاربران، به‌ویژه کودکان، که والدین و فعالان کمپین می‌گویند به‌ویژه در معرض اعتیاد و سایر آسیب‌ها هستند، بر عهده بگیرند.

در ماه مارس، هیئت منصفه لس آنجلس، گوگل و متای آلفابت را مسئول خسارت در یک محاکمه مدنی مهم در رابطه با اعتیاد جوانان به رسانه های اجتماعی دانستند و گفتند که این شرکت ها عمدا پلتفرم های اعتیادآوری ساخته اند که به سلامت روان آسیب می رساند.

کارشناسان می گویند شکایت بریتیش کلمبیا علیه OpenAI نیز می تواند آزمایش مهمی برای نحوه برخورد قانون با سیستم عامل های دیجیتال باشد. آن‌ها می‌گویند که این سؤالات عمدتا حل‌نشده‌ای را در مورد اینکه چه زمانی می‌توان یک شرکت هوش مصنوعی را مسئول خشونت انجام شده توسط کاربر دانست، از جمله اینکه تحت چه شرایطی وظیفه مراقبت دارد و زمانی که چنین وظیفه‌ای را نقض می‌کند، ایجاد می‌کند.

آنات لیور، دانشیار حقوق دانشگاه درکسل در پنسیلوانیا، ایالات متحده، گفت: این سوال که آیا OpenAI وظیفه دارد به مقامات در مورد تیراندازی هشدار دهد احتمالا به عواملی مانند توانایی شرکت در پیش بینی خطر و "تا حدی کنترل آسیب احتمالی" بستگی دارد.

لیور گفت: «اگر دادگاه‌ها چنین وظیفه‌ای را به رسمیت بشناسند، می‌تواند بر اساس قرار گرفتن در معرض اطلاعات کاربران، برای هشدار به مقامات یا اتخاذ سایر اقدامات حفاظتی از طرف قربانیان احتمالی، تعهدات مثبتی را بر شرکت‌های هوش مصنوعی تحمیل کند. ما هنوز در مراحل اولیه مسئولیت هوش مصنوعی از نقطه نظر عملی هستیم و هنوز کارهای زیادی باید انجام شود.

Belisle-Pipon گفت که محتوای گزارش شده ChatGPT که به Van Rootselaar در مورد نحوه فرار از اقدامات حفاظتی توصیه می کند نیز می تواند بر این پرونده تأثیر بگذارد.

Belisle-Pipon گفت: "عدم تماس با پلیس یک چیز است. آموزش به کاربر که چگونه از محافظ های خود عبور کند چیز دیگری است." "اگر این حقایق در دادگاه تایید شوند، این دیگر تنها یک عدم هشدار نیست، بلکه این سوال است که خود محصول چه کمکی داشته است، و من فکر می کنم که مدعیان پرونده بسیار محکمی خواهند داشت."

لی افزود: "این پرونده سوالات بی پاسخ بسیاری را در قوانین ایالات متحده ایجاد می کند. موارد زیادی در مورد مرگ و میر مربوط به استفاده از برنامه های کاربردی هوش مصنوعی وجود دارد، اما هنوز قانون روشنی در مورد این موضوع وجود ندارد.

لی گفت: «این می‌تواند فرصتی برای این شکایت باشد تا تأثیری قوی بر نحوه توسعه قانون هوش مصنوعی بگذارد.