مسئولیت سختگیرانه به عنوان راه حلی برای وادار کردن شرکت های هوش مصنوعی به ایجاد کنترل های ایمنی بهتر مورد توجه قرار گرفته است. اما معایب بزرگی هم دارد

سلام و به Eye on AI خوش آمدید. در این نسخه:

عامل "هوش مصنوعی سرکش" آنتروپیک درخواست‌های ویزا را پر کرد و نکات قتل را ثبت کرد

مسئولیت سختگیرانه برای شرکت های هوش مصنوعی افزایش می یابد

متا می گوید که مدل جدید Muse Wonder آن به مرزها می رسد.

Anthropic می گوید که مدل های کوچک ممکن است به زودی بتوانند خود را تکرار کنند

جنجال بر سر محققان اخراج شده OpenAI در جریان است.

Jev ویروسی می‌شود، اما OpenAI داغ است.

Character.ai برای ورشکستگی پرونده می کند.

ظالمانه بودن نسبت به کلود را ممنوع می کند.

اعداد و ارقام نگران کننده در مورد «عدم همسویی» مدل دنیای واقعی.

زاکربرگ متا و وانگ odd Muse Wonder از موارد استفاده می کنند.

هفته گذشته حوادث نگران‌کننده‌ای با "هوش مصنوعی سرکش" گزارش شد. آنتروپیک فاش کرد که یکی از ماموران هوش مصنوعی داخلی آن (که به طرز جالبی آن را "مأمور تحقیقاتی غیرمرز" توصیف می‌کرد) تلاش کرده بود فرم‌های مختلف درخواست ویزای وزارت امور خارجه را پر کند و همچنین اطلاعات نادرستی مربوط به یک پرونده قتل حل‌نشده را به پلیس فیلادلفیا ارسال کرده بود. در هیچ یک از این موارد، تلاش‌های عامل هوش مصنوعی نتیجه چندانی نداشت: نماینده نتوانسته تمام فیلدهای درخواست‌های ویزا را پر کند و بنابراین هرگز پردازش نشد. نکته پلیس به عنوان هرزنامه علامت گذاری شد و هرگز مورد بررسی قرار نگرفت.

با این حال، دولت‌های درگیر به‌طور قابل‌توجهی آشفته بودند، به‌ویژه که آنتروپیک فقط ماه‌ها پس از وقوع حوادث به آن‌ها گفته بود (به نظر می‌رسد که خود آنتروپیک اخیرا در حالی که گزارش‌های فعالیت عواملش را بررسی می‌کرده، این حوادث را کشف کرده است.)

کاخ سفید به آنتروپیک و دیگر شرکت‌های هوش مصنوعی دستور داد تا فورا هرگونه رویداد شناخته شده «هوش مصنوعی سرکش» را افشا کنند و به سازمان‌های آسیب‌دیده کمک کنند تا هر گونه آسیبی را که ماموران ایجاد کرده‌اند جبران کنند. این نزدیک‌ترین چیزی بود که دولت ترامپ تا به امروز به اجبار هر چیزی از آزمایشگاه‌های هوش مصنوعی رسیده است. تمام کارهایی که دولت تا این لحظه انجام داده است، داوطلبانه تلقی می‌شود، حتی اگر این مفهوم قوی وجود داشته باشد که اگر شرکت‌ها رعایت نکنند، با محدودیت‌هایی در عرضه محصولات خود مواجه خواهند شد.

در همین حال، هشدارهای خود شرکت های هوش مصنوعی در مورد خطرات احتمالی به طور فزاینده ای فوری می شوند. سام آلتمن، مدیر عامل OpenAI، به پادکست «رمزگشایی» Politico گفت که به دلیل ظهور مدل‌های AI منبع باز قدرتمند، «موجی از مشکلات امنیت سایبری در راه است». Axios گزارش داد که مدیران OpenAI و Anthropic به طور خصوصی شروع به بازی کردن سناریوهایی برای مدیریت واکنش های سیاسی و عمومی در صورتی که هوش مصنوعی باعث بروز نوعی حادثه فاجعه آمیز شود، کرده اند.

Axios گزارش داد: «این مقامات پیش‌بینی می‌کنند که یک رویداد بزرگ، به احتمال زیاد یک حمله سایبری، که دسترسی به خدمات مالی، اتصال به اینترنت، یا حتی برق و آب را قطع می‌کند»، اگرچه به هیچ منبع خاصی اشاره نکرد. همچنین گفت که مدیران ارشد و محققان هوش مصنوعی «بر این باورند که یک حادثه بزرگ اجتناب ناپذیر است».

در این زمینه، شاید تعجب آور نباشد که یک ایده خاص برای مهار خطرات ناشی از هوش مصنوعی مرزی اخیرا مورد توجه قرار گرفته است: مسئولیت دقیق. مسئولیت اکید یک دکترین حقوقی است که در آن یک شرکت یا شخص بدون توجه به هرگونه سهل انگاری یا هر قصدی مسئول ایجاد آسیب است. به عنوان مثال، در بسیاری از حوزه های قضایی، صاحب یک حیوان خطرناک، مانند ببر، مسئول هر حیوانی است که به آن حیوان صدمه می زند، حتی اگر صاحب آن اقداماتی را برای جلوگیری از حملات انجام دهد، مانند نگهداری حیوان در یک محوطه محصور شده.

در زمینه هوش مصنوعی، مسئولیت دقیق شرکت‌های هوش مصنوعی را از نظر قانونی مسئول هر آسیبی که مدل‌هایشان ایجاد می‌کند، می‌داند. در ایالات متحده، اپراتورهای نیروگاه‌های هسته‌ای در قبال حوادث جدی هسته‌ای با مسئولیت جدی مواجه هستند و سازندگان هواپیماهای مسافربری تجاری نیز با محدودیت‌های زمانی و شرایط خاصی با مسئولیت شدید مواجه هستند.

در آخر هفته، نیویورک تایمز سرمقاله کارکنان خود را در حمایت از اعمال مسئولیت سخت برای فروشندگان مدل هوش مصنوعی منتشر کرد. موسسه تحقیقاتی پیش بینی، گروهی که به پیش بینی و برنامه ریزی سناریو اختصاص دارد و توسط استاد دانشگاه پنسیلوانیا فیلیپ تتلاک اداره می شود، اخیرا از 157 متخصص در زمینه هایی مانند علوم کامپیوتر، اقتصاد و سیاست، 49 ابر پیش بینی (افرادی که سابقه اثبات شده در انجام پیش بینی های بسیار دقیق دارند)، در مورد 134 عضو متخصص عمومی خطرات، در مورد 132 متخصص عمومی، 132 نفر از متخصصان عمومی خاص را مورد بررسی قرار داده است. آنها فکر می کردند که چه سیاست هایی می تواند انجام دهد

کاهش خطر یک فاجعه مبتنی بر هوش مصنوعی به اندازه کافی برای کشتن 10٪ از جمعیت انسانی که قبل از سال 2050 رخ می دهد. مسئولیت سختگیرانه در این نظرسنجی نیز به خوبی انجام شد. در هر نوع پاسخ دهندگان، آنهایی که مورد بررسی قرار گرفتند فکر کردند اگر ایالات متحده به تنهایی مسئولیت سختی را برای فروشندگان AI اعمال کند، برای کاهش خطرات هوش مصنوعی بیشتر از اینکه ایالات متحده به تنهایی یک رژیم مجوز فدرال را برای مدل های هوش مصنوعی اجرا کند، انجام می دهد. گروه‌های مختلف کارشناسان و ابرپیش‌بینی‌کنندگان فکر می‌کردند که مسئولیت شدید خطر یک رویداد فاجعه‌بار را حداقل به نصف کاهش می‌دهد.

(نه مسئولیت اکید و نه صدور مجوز فدرال سیاستی نبود که مورد بررسی قرار گرفت. محبوب ترین گزینه یک رژیم صدور مجوز بین المللی بود که توسط بازرسان حمایت می شد. اما پاسخ دهندگان همچنین فکر می کردند که سیاست یکی از کمترین احتمالات است که عملا اجرا شود.)

مسئولیت سختگیرانه راهی برای تشویق شرکت‌های هوش مصنوعی برای اتخاذ فرهنگ ایمنی و مراقبت بیشتر در غیاب صنعت و استانداردها در مورد اینکه بهترین شیوه‌های ایمنی و امنیتی چگونه به نظر می‌رسند، به ویژه در غیاب هر نوع مقررات دولتی است. با این حال، مسئولیت اکید مشکلات متعددی دارد.

مسئولیت یک قمار بر روی انگیزه ها است، نه تضمین

البته بزرگترین آن این است که مسئولیت تنها پس از اینکه مشکلی رخ داده است، شروع می شود. طرفداران مسئولیت سختگیرانه تصور می کنند ترس از ادعاهای مسئولیت آتی به عنوان یک انگیزه قوی برای شرکت های هوش مصنوعی برای خود پلیسی عمل می کند. اما اگر اشتباه کنند چه؟ حتی امروزه، شرکت‌های هوش مصنوعی به طور بالقوه مشمول انواع مختلفی از مسئولیت‌های محصول برای مدل‌هایی هستند که منتشر می‌کنند، و مشمول ادعاهای بالقوه دیگر، از جمله ادعاهای کیفری احتمالی، برای مدل‌های هوش مصنوعی داخلی که اقدامات غیرمجاز انجام می‌دهند و باعث آسیب یا نقض قانون می‌شوند.

و با این حال، ظاهرا تا کنون، ترس از ادعاهای آینده برای وادار کردن شرکت‌های هوش مصنوعی کافی نبوده است تا دقت لازم را انجام دهند، با توجه به اینکه ما شاهد موجی از حوادث ناخوشایند عامل هوش مصنوعی و موجی از افشاگران شرکت‌ها هستیم که هشدار می‌دهند شرکت‌های هوش مصنوعی بی‌ملاحظه هستند و برخی از سیاست‌های اساسی امنیت سایبری را اعمال نکرده‌اند.

هنگامی که چیزی به طور فاجعه‌باری اشتباه می‌شود، میزان مسئولیت ممکن است در برخی موارد، شرکت مسئول هوش مصنوعی را ورشکست کند. در چه صورت، چه کسی در نهایت در صدد جبران خسارت به قربانیان است؟ بیمه ممکن است یکی از گزینه ها باشد و می تواند با یک رژیم مسئولیت سخت همراه باشد. اما بیمه نامه ها باید به دقت طراحی شوند تا از خطرات اخلاقی جلوگیری شود.

(ممکن است در آینده بیشتر در مورد بیمه به عنوان مکانیزم کاهش خطر هوش مصنوعی بنویسم.) در پایان، برخی از خطرات اخلاقی برای بدترین فجایع ممکن است اجتناب ناپذیر باشد، زیرا اگر فاجعه به اندازه کافی بزرگ باشد، احتمالا فقط دولت است که توانایی کاهش یا ارائه جبران خسارت را دارد.

معمای AI منبع باز

مشکل دیگر این است که آیا مسئولیت سخت می تواند با یک اکوسیستم AI منبع باز وجود داشته باشد یا خیر. آیا منصفانه است که سازندگان مدل‌های منبع باز را با مسئولیت اکید در شرایطی که کاربران مدل‌های متن‌باز می‌توانند اساسا مدل‌ها را به هر نحوی که می‌خواهند تغییر دهند، نرده‌های محافظ را از بین ببرند، و زمانی که فروشندگان هیچ وسیله‌ای ندارند - به جز برخی شرایط مجوز - برای جلوگیری از سوء استفاده از مدل‌هایشان توسط افراد برای اهداف بالقوه شوم یا خطرناک، مانند جنایات سایبری یا مهندسی بی‌سابقه؟ به نظر می رسد حداقل در مواردی باید تعهداتی برای فروشندگان مدل منبع باز وجود داشته باشد

که در آن کاربران درگیر این فعالیت ها بودند. در غیر این صورت، بسیار سخت است که ببینیم فروشندگان منبع باز چگونه می توانند زنده بمانند. گزینه دیگر این است که بگوییم مسئولیت سخت فقط در مورد شرکت‌های مدل اختصاصی اعمال می‌شود، اما این به مقابله با خطرات ناشی از مدل‌های AI منبع باز قدرتمند که به سرعت در حال رسیدن به مدل‌های بسته مرزی هم از نظر قابلیت و هم از نظر خطر هستند، کمکی نمی‌کند. همچنین برای شرکت‌هایی که مدل‌های بسته را ارائه می‌کنند ناعادلانه به نظر می‌رسد و آنها را در یک نقطه ضعف رقابتی بزرگ قرار می‌دهد.

همچنین این مشکل وجود دارد که بسیاری از فروشندگان مدل های AI منبع باز در چین هستند و مشخص نیست که چگونه می توان آنها را در شرایط عملی تحت یک رژیم مسئولیت سختگیرانه ایالات متحده قرار داد.

مسئولیت سختگیرانه می تواند شرکت های هوش مصنوعی را تشویق کند که اقتصاد را بخورند

در نهایت، مسئولیت سخت ممکن است انگیزه ای منحرف ایجاد کند که شرکت های هوش مصنوعی را به رقابت مستقیم با مشتریان خود سوق دهد و بخش های بزرگی از اقتصاد را بخورند. چرا؟ از آنجا که اگر فروشندگان هوش مصنوعی به دنبال هر گونه آسیب ناشی از مدل های خود باشند، حتی اگر این آسیب تا حدی نتیجه روشی باشد که مشتریان برای استفاده از آن مدل ها انتخاب کرده اند، شرکت های هوش مصنوعی ممکن است تصمیم بگیرند که ایمن ترین کار ارائه خدمات به جای فروش یک محصول باشد.

برای مثال، در حال حاضر، آنتروپیک توکن‌هایی را از مدل‌های خود به Novartis می‌فروشد، و Novartis ممکن است از آن توکن‌ها برای کمک به تولید دارو استفاده کند. اما در یک رژیم مسئولیت سخت، آنتروپیک این خطر را حفظ خواهد کرد که این مدل ممکن است به طور تصادفی یک سلاح زیستی در طول انجام وظایف برای Novartis ایجاد کند، یا حتی، شاید، یک کارمند سرکش Novartis ممکن است نرده‌های محافظ آنتروپیک را شکست دهد و از مدل آن برای توسعه عمدی یک سلاح زیستی استفاده کند.

بنابراین، در این سناریو، ممکن است آنتروپیک منطقی‌تر باشد که هم مدل هوش مصنوعی و هم توکن‌هایی را که در داخل تولید می‌کند، حفظ کند، جایی که می‌تواند کنترل بسیار بیشتری بر نحوه استفاده از مدل اعمال کند و خود داروها را توسعه دهد. در حال حاضر برخی از منتقدان Anthropic و دیگر آزمایشگاه‌های مرزی هوش مصنوعی این شرکت‌ها را متهم می‌کنند که می‌خواهند مستقیم با مشتریان خود رقابت کنند. مسئولیت سختگیرانه ممکن است به آنها انگیزه بزرگی در این جهت بدهد.

همه اینها باعث می‌شود فکر کنم که اگرچه ممکن است بخشی از یک راه‌حل سیاستی باشد، اما مسئولیت سخت نباید تنها کاری باشد که ما انجام می‌دهیم تا خطرات عوامل هوش مصنوعی قوی‌تر را مهار کنیم. در واقع، اگر بتوانیم استانداردهای سخت‌گیرانه صنعت را توسعه دهیم و راهی برای اعمال آن‌ها در مدل‌های منبع باز نیز پیدا کنیم (که ممکن است بر خلاف فروشنده، باری را به کاربر تحمیل کند)، ممکن است اصلا نخواهیم مسئولیت سختی را تحمیل کنیم. همانطور که قبلا استدلال کرده ام، مکانیسم های بازار به تنهایی احتمالا برای تولید کنترل های مورد نیاز ما کافی نیستند.

قرار است اقدامات دولت و نظارت دولت را انجام دهد. در بسیاری از صنایع دیگر، ما مسئولیت -گاهی مسئولیت سختگیرانه، گاهی مسئولیت متعارف محصول- را با مکانیسم‌های دیگر، از جمله بیمه، و همچنین مجوزها و بازرسی‌های دولتی مرتبط می‌کنیم. هوش مصنوعی احتمالا به یک رویکرد لایه ای نیز نیاز دارد.

با آن، در اینجا اخبار بیشتری در زمینه هوش مصنوعی وجود دارد.

جرمی کان jeremy.kahn@fortune.com @jeremyakahn

قبل از اینکه به اخبار برسیم، فقط یک یادآوری برای بررسی ودکست جدید Fortune AI Weekly. این هفته، بی نولان و من با ریچارد سوچر، بنیانگذار و مدیر عامل ابرهوش بازگشتی، در مورد اینکه چرا او فکر می‌کند هوش مصنوعی می‌تواند اکتشافات علمی را خودکار کند و همچنین فکر می‌کند که خطر نابودی بشریت توسط هوش مصنوعی دقیقا صفر است، مصاحبه می‌کنیم. می‌توانید این vod را در اینجا در YouTube ببینید.

این داستان در ابتدا در سایت Fortune.com منتشر شد