مرد فلوریدا از OpenAI می‌خواهد تا مدل‌های جدید را متوقف کند تا زمانی که بفهمیم چه اتفاقی می‌افتد

جیمز اوثمایر، دادستان کل فلوریدا از دادگاهی در ایالت خود خواسته است که به OpenAI دستور دهد تا توسعه مدل‌های جدید هوش مصنوعی بدون حفاظ مناسب را با توجه به «خطرات وجودی محصول آن‌ها برای تمدن بشری از جمله فلوریدی‌ها» متوقف کند. پرونده حقوقی که دوشنبه ارسال شد، بخشی از شکایتی است که در ژوئن مطرح شد و ادعا می‌کند که ChatGPT برای کودکان مضر است و در موارد خودآزاری و تیراندازی در مدرسه استفاده شده است.

خطوط ابتدایی پرونده با توجه به ترس های فعلی در مورد هوش مصنوعی بسیار قابل توجه است.

متهمان اعتراف می کنند که خدماتی را بدون اطلاع کامل از نحوه عملکرد آن ارائه می دهند. این فقط هر سرویسی نیست. این یکی از مواردی است که خود متهمان اذعان دارند که خطری وجودی برای ادامه بقای نوع بشر دارد. متهمان ادعا می‌کنند که نمی‌توانند جلوی تلاش‌های بالقوه پایان تمدن خود را بگیرند، مگر اینکه توسط دولت مجبور به انجام این کار شوند. آنها از دولت خواسته اند که آنها را به دکل ببندد.

شاکی خبرهای خوبی را برای متهمان به ارمغان می آورد: دادستان کل فلوریدا با درخواستی به درخواست کمک شما پاسخ می دهد تا شما را از آسیب رساندن به فلوریدی ها با محصول بی پروا و غیرقابل قبول خطرناک خود دعوت کند.

پرونده از آنجا ادامه می‌یابد و به موارد بسیاری اشاره می‌کند که در آن عوامل هوش مصنوعی بدخواهانه عمل می‌کنند و استدلال می‌کنند که این یک معجزه است که هنوز هیچ اتفاق جدی‌تری رخ نداده است، به معنای واقعی کلمه اراده خدا را برای توضیح این که چرا چنین نکرده است، استناد می‌کند.

این پرونده استدلال می‌کند: "ایده اینکه محصولات مدافعان ویران می‌کنند خیالی نیست، قبلا اتفاق افتاده است. ده‌ها بار. فقط به لطف خداوند متعال است که یکی از عوامل هوش مصنوعی متهمان هنوز منبع آب را به خطر نینداخته یا شبکه برق را خاموش نکرده است."

این پرونده همچنین استدلال می کند که OpenAI از "فناوری سرکش" خود دفاع کرده است زیرا می تواند بیماری ها را درمان کند یا گرسنگی جهان را متوقف کند. اما AG فرضیه‌هایی را مطرح می‌کند که حتی این ممکن است به طرز وحشتناکی اشتباه پیش برود: «همان‌طور که حادثه چهره در آغوش‌کش نشان می‌دهد، همان منطقی که ماموران برای تقلب در کارهای غیرممکن استفاده می‌کنند، همان منطقی است که آنها را به این نتیجه می‌رساند که کشتن یک بیمار سرطانی سرطان را نیز می‌کشد، یا اینکه اگر انسان‌ها همگی آن‌ها را با مواد شیمیایی تغذیه کنند، دهان زیادی برای تغذیه نخواهند داشت.»

بایگانی روز دوشنبه به دنبال این است که ChatGPT را از درخواست مشارکت بازدارد نه اینکه فقط با یک پاسخ بله یا خیر پاسخ دهد. همچنین به دنبال جلوگیری از دسترسی OpenAI به خردسالان و تبلیغ ChatGPT به عنوان "ایمن، دقیق یا قابل اعتماد" است.

درو پوساتری، سخنگوی OpenAI، به Gizmodo گفت که این شرکت قبلا آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده است.

پوساتری گفت: "مردم می‌خواهند بدانند هوش مصنوعی به طور ایمن توسعه می‌یابد، و این با کاری که شرکت‌هایی مانند ما انجام می‌دهند شروع می‌شود. روز جمعه، ما اعلام کردیم که آموزش توانمندترین مدل‌هایمان را متوقف کرده‌ایم و تنها زمانی آموزش را از سر خواهیم گرفت که مطمئن باشیم که پادمان‌های اضافی را در اختیار داریم."

این سخنگو تاکید کرد که با توجه به اینکه بازیکنان دیگری در بازی حضور دارند، نه فقط OpenAI، باید تدابیر امنیتی برای همه وجود داشته باشد.

پوساتری ادامه داد: «دولت‌ها نقش مهمی در تعیین استانداردهای ایمنی قوی برای هوش مصنوعی دارند، و ما متعهد هستیم که با فلوریدا و سایر ایالت‌ها برای پیشبرد سیاست‌های عملگرایانه هوش مصنوعی که برای کل صنعت هوش مصنوعی اعمال می‌شود همکاری کنیم، نه فقط یک شرکت.»

شرکت‌هایی مانند OpenAI و Anthropic در هفته‌های اخیر استدلال کرده‌اند که باید توسط دولت تنظیم شوند تا ایمنی بشریت تضمین شود. علی‌رغم هشدارهای مشابه از سوی همین شرکت‌ها در طول سال‌ها، یکی از محققین که زنگ خطر را به صدا درآورد، در گفتگوی ملی در اوایل این ماه شکست خورد. همه اینها تا حدودی شبیه تلاشی برای کنار گذاشتن مسئولیت‌پذیری است، زیرا این مدل‌های هوش مصنوعی نوعی موجود حساس نیستند. آن‌ها برای تعامل با جهان طراحی شده‌اند، و این بر عهده این شرکت‌هاست که در شیوه‌هایی مشارکت کنند که بشریت را ایمن نگه دارد.

ویدیوی TikTok که یکشنبه منتشر شد، کم و بیش استدلال آزمایشگاه‌های مرزی را در حال حاضر خلاصه می‌کند.

خالق می گوید: «روبات من کارهای غیرقانونی انجام می دهد، اما این تقصیر من نیست. من ربات را ساختم، ربات را طراحی کردم، ربات با استفاده از چیزهایی که من به آن می‌دهم کار می‌کند، اما وقتی کارهای غیرقانونی انجام می‌دهد تقصیر من نیست.

خالق ادامه داد: "پس باید برای آن پول به من بپردازی؛ باید برای ربات به من پول بدهی چون من ربات را ساختم. من ربات را طراحی کردم؛ ربات از تمام وسایل من برای انجام هر کاری که انجام می دهد استفاده می کند، اما همچنین وقتی کاری غیرقانونی انجام می دهد، تقصیر من نیست. من این کار را نکردم، این من نیستم."

تقصیر آنها نیست، ربات‌هایی هستند که فعالانه درست می‌کنند و شب‌ها وقتی به خانه می‌روند وصل می‌کنند.

الکس کارپ، مدیرعامل Palantir، اخیرا در CNBC استدلال مشابهی را مطرح کرد و پیشنهاد کرد که هدف واقعی شرکت‌هایی مانند Anthropic این است که دولت فدرال سهامی را در اختیار بگیرد تا بتوانند از مسئولیت خود طفره بروند. اگر دولت سهامدار اصلی موفقیت مالی آنها بود، احتمالا وزارت دادگستری در زمان پرزیدنت ترامپ کمتر احتمال دارد که علیه شرکت های هوش مصنوعی شکایت کند.

از شما می‌خواهم که دیگران را ترغیب کنید تا بخش «SNL» درباره داریو آمودی را تماشا کنند