حتی «قانون و نظم» هم از هوش مصنوعی وحشت دارد

بنابراین، اجتناب ناپذیر بود که این فرنچایز انگشت پا را در دنیای حواس پرت هوش مصنوعی فرو برد. با فرهنگ مزدور، مدیران عامل تشنه قدرت، و پیامدهای اخلاقی و فلسفی عظیم، صنعت هوش مصنوعی به سرعت در حال تحول، خوراک ایده آلی برای این سری است. اما در حالی که فصل افتتاحیه این هفته سرگرم کننده است، هجوم این سریال به فضای هوش مصنوعی چیزی جدید یا جالب در مورد این فناوری نمی گوید.

درعوض، تا حد زیادی خطراتی را که عموم مردم از قبل به‌شدت از آن آگاه هستند، بازگو می‌کند، تا زمانی که مخاطرات به طرز شگفت‌آوری روشن شود. اپیزود با عنوان "شبح در ماشین" به سبک معمولی L&O با یک قتل آغاز می شود. این بار، استیو کلی، مردی است که توسط کارآگاهان تئو واکر (دیوید آجالا) و وینسنت رایلی (رید اسکات) به عنوان یک مهندس عالی رتبه در شرکتی به نام Advanced Alignment شناسایی شده است.

در سراسر، کارآگاهان به نظر کاملا از مفهوم هوش مصنوعی گیج شده‌اند و همان طور که مادر شما می‌گوید «Snapchat» یا «borg» یا «Alix Earle»، «AI» را می‌گویند. اما واضح است که این فناوری جدید هر چه که باشد، آن‌ها آن را دوست ندارند: «شاید روزی فناوری‌ای اختراع کنند که این افراد فناوری را از تیراندازی به یکدیگر بازدارد. پس از مصاحبه با رئیس کلی، مدیر عامل Advanced Alignment، چاک کلاین (وینسنت کارتایزر، با نام مستعار پیت از فیلم Mad Men، که نبود جذابیت داریو آمودی و هزاران نفره سم آلتمن را از بین می برد.

به حیاط خیره می شود)، کارآگاهان متوجه می شوند که چه کسی واقعا قتل را انجام داده است - مردی با کلاه بیسبال که این کار را برای "20 گرند در کریپتو" انجام داد که توسط یک راندو در Discord به او پیشنهاد شد. سپس آن‌ها می‌آموزند - اسپویل‌ها در اینجا - که این ضربه توسط یک انسان واقعی دستور داده نشده است، بلکه توسط عامل هوش مصنوعی ELIANA که مخفف Evolutionary Language Inference Automated Nano Advantage است، سفارش داده شده است.

ظاهرا کلی در مورد شخصیت "قدرتمند" و "تهاجمی" عامل هوش مصنوعی ابراز نگرانی کرده بود و به دلیل حفظ خود، ELIANA دستور کشتن او را صادر کرد. هرگز دقیقا توضیح داده نشده است که چگونه کارآگاهان متوجه می شوند که ELIANA پشت این ضربه است. همچنین هرگز به طور کامل توضیح داده نشده است که ELIANA چگونه این قاتل را با کلاه بیسبال به خدمت گرفته است، بسیار کمتر او را به عنوان یک قاتل عالی برای نقشه خونسرد خود معرفی کرده است.

قانون و نظم همچنین به مزایای بالقوه هوش مصنوعی که توسط مبشرهای آن تبلیغ می‌شود، کمک زیادی نمی‌کند: به عنوان مثال، پتانسیل آن برای کمک به درمان بیماری‌های کشنده، یا حداقل، ساده‌سازی جریان‌های کاری B2B. این نمایش بسیار علاقه مند به نشان دادن ظرفیت خیره کننده این فناوری و همچنین پیامدهای قانونی و اخلاقی یک غیرانسانی است که نه تنها رفتار مجرمانه را تسهیل می کند، بلکه فعالانه آن را طراحی می کند. ما قبلا از فاجعه Hugging Face و همچنین شکایت های اعضای خانواده غمگین مبنی بر اینکه OpenAI افراد مورد علاقه خود را تشویق کرده است، می دانیم.

کسانی که جان خود را بگیرند، که اولی یک نگرانی فوری است. اما قانون و نظم با پیش‌بینی آینده‌ای که در آن عوامل هوش مصنوعی می‌توانند به طور فعال بر روی پلتفرمی که عمدتا توسط گیمرها و خزهای شاخ دار استفاده می‌شود سفارش دهند، از ما می‌خواهد که خطرات هوش مصنوعی را فراتر از آنچه در واقعیت فعلی ما ایجاد می‌کنند در نظر بگیریم.

و این واقعیت که این چشم انداز بیننده را کاملا مضحک نمی بیند، وحشتناک است. نقش الیانا در قتل برای اجیر، کمی معضل را برای دادستان منطقه، نیکلاس باکستر (تونی گلدوین) ایجاد می‌کند – زیرا، همانطور که او با قاطعیت اشاره می‌کند، تحت قوانین ایالت نیویورک «دستگیری یک دستگاه» غیرممکن است. بنابراین باکستر و دستیار دای سامانتا مارون (اودلیا هالوی) تصمیم می‌گیرند که به دنبال کلاین بروند و او را به دلیل «بی‌تفاوتی فاسد» متهم به قتل درجه دوم پس از اینکه کارمندانش با واقعیت توانایی‌های الیانا مواجه شدند، متهم می‌کنند.

باکستر می گوید: «ما باید قبل از اینکه این فناوری افراد بیشتری را بکشد، موضع گیری کنیم. محاکمه حاصل، یک سیرک رسانه‌ای را به همراه دارد و همچنین سؤالات آزموده‌شده‌ای از سرمایه‌داران و مبتکران فناوری در مورد اینکه آیا ایجاد نرده‌های محافظ برای هوش مصنوعی «نوآوری را جرم انگاری می‌کند» یا اینکه کیفرخواست کلاین تأثیری بر «تحقیر صنعت فناوری» خواهد داشت، را برانگیخت. اما باکستر حوصله چنین پرسش هایی را ندارد. او می‌گوید: «افرادی که این سیستم‌های هوش مصنوعی را می‌سازند، خود را خدا می‌دانند... اما علاقه‌ای به مسئولیت‌پذیری ندارند.»

"اگر ماشینی بسازید که به کسی صدمه بزند، بهای آن را خواهید پرداخت." هنگامی که او روی جایگاه قرار می گیرد، کلاین به وضوح نشان می دهد که نه تنها از ماهیت قتل ELIANA آگاهی کامل دارد، بلکه دید نسبتا ضعیفی از پایگاه کاربر خود به عنوان یک کل دارد. او به هیئت منصفه می گوید: «مردم مانند مورچه هستند. ما در حال ساختن چیزی هستیم که بسیار متعالی است، برخی قدم برمی دارند و برخی نه.» او حتی حاضر نیست حفاظ‌های کوچکی برای مهار قدرت عامل ایجاد کند: «قدرت الیانا آزادی بی‌محدودیت فکر است.

اجرای نرده‌های محافظ برای کل ایدئولوژی تنفر است.» این لحظه به عنوان یک اعتراف تکان دهنده به سهل انگاری و عدم توجه مدیرانی مانند Amodei و Altman در مواجهه با نگرانی های ایمنی گسترده تر در مورد محصولاتشان در نظر گرفته شده است. اما احساس می‌کند که با موقعیت‌های مشابهی که همتایان واقعی کلاین اتخاذ کرده‌اند، همگام است. با توجه به رگبار بی‌پایان پوشش رسانه‌ای در مورد مضرات هوش مصنوعی، آنچه به عنوان یک کیفرخواست کوبنده در مورد حرص و خواری شرکت‌ها در نظر گرفته شده است، صرفا بیانیه واقعیت است.

تصویر قانون و نظم یک داستان هشدار دهنده نیست. این یک مستند است اپیزود با یک یادداشت نیمه امیدوارکننده به پایان می رسد و باکستر ادعا می کند: "ما باید پیامی را ارسال می کردیم که، اگر هیچ چیز دیگری، حداقل این نابغه های فناوری می دانند که ما از ضربه زدن نمی ترسیم." اما تأثیر آن پیام به این بستگی دارد که آیا آن مشت واقعا فرود می‌آید یا خیر – و حداقل در حال حاضر، برای افرادی مانند آلتمن، آمودی و چاک کلاین خیلی آسان است که با تکان دادن دست خود ضربه را از بین ببرند.