در اینجا آخرالزمان هوش مصنوعی چگونه می تواند باشد

مطالب ذکر شده در این قسمت:

چین درخواست سیلیکون ولی برای کاهش سرعت هوش مصنوعی را نمی خرد واشنگتن به زودی هوش مصنوعی را تنظیم نخواهد کرد چرا بسیاری از محققان هوش مصنوعی فکر می کنند ماشین ها می توانند همه را بکشند؟ OpenAI می خواهد بداند که آیا کاهش سرعت صنعت هوش مصنوعی حتی قانونی است یا خیر

می‌توانید برایان بارت را در Bluesky در @brbarrett، Zoë Schiffer را در Bluesky در @zoeschiffer@ و Leah Feiger را در Bluesky در @leahfeiger دنبال کنید. برای ما در uncannyvalley@wired.com بنویسید. نحوه گوش دادن همیشه می‌توانید از طریق پخش‌کننده صوتی در این صفحه به پادکست این هفته گوش دهید، اما اگر می‌خواهید برای دریافت هر قسمت به صورت رایگان مشترک شوید، به این صورت است: اگر از iPhone یا iPad استفاده می کنید، برنامه ای به نام پادکست را باز کنید یا فقط روی این پیوند ضربه بزنید.

همچنین می‌توانید برنامه‌ای مانند Overcast یا Pocket Casts را دانلود کنید و «دره غیرعادی» را جستجو کنید. ما هم در Spotify هستیم. رونوشت توجه: این یک رونوشت خودکار است که ممکن است حاوی خطا باشد. زوئی شیفر: به دره عجیب و غریب WIRED خوش آمدید. من Zoë Schiffer هستم، ویراستار مشارکت کننده. برایان بارت: من برایان بارت، سردبیر اجرایی هستم. لیا فایگر: و من لیا فایگر، مدیر سیاست و علم هستم. زوئی شیفر: امروز در برنامه، ما در حال بررسی این بحث هستیم که آیا هوش مصنوعی همه ما را می کشد یا خیر.

و به جای اینکه فقط به انبوه موارد داغی که از قبل وجود دارد اضافه کنیم، می‌خواهیم شما را در سناریوهای خاص تا جایی که می‌توانیم در مورد اینکه هوش مصنوعی واقعا چگونه این کار را انجام می‌دهد و اینکه چرا مدیران اجرایی فناوری و سیاستمداران نمی‌توانند در مسیر آینده به توافق برسند، راهنمایی کنیم. خوب، بچه ها، بنابراین بحث در مورد ایمنی هوش مصنوعی رسما از کنترل فرار کرده است. برایان بارت: اوه. زوئی شیفر: می دانم. برایان بارت: زوئی، می بینم که تو آنجا چه کردی. عجب زوئه شیفر: می بینی آنجا چه کار کردم؟ این چیزی است که واقعا به طور غیرقابل کنترلی پخش شده است.

محقق هوش مصنوعی Jacob Coxon از Anthropic استعفا داد و در ایکس پست کرد که "افرادی که هوش مصنوعی می‌سازند، جدیا معتقدند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد." داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت شده است. آنها به این می گویند "گام بردار مرز". و سم آلتمن و ایلان ماسک در واقع توافق کردند، یک لحظه نادر از توافق. اما راستش را بخواهید، با تمام این صحبت‌ها در مورد نابودی بشریت توسط هوش مصنوعی، من با یک سوال بسیار اساسی روبرو شدم و آن این است که دقیقا چگونه این اتفاق می‌افتد؟ هوش مصنوعی کاملا سرکش در واقع چگونه به نظر می رسد؟ لیا فایگر: من خیلی خوشحالم که این کار را انجام می دهیم.

ما هفته گذشته یک پادکست فوق العاده داشتیم با ویل نایت از WIRED که در مورد همه نگران این موضوع صحبت می کرد، اما من می خواهم یک شکستگی داشته باشم. من به شما نیاز دارم که من را در تمام سناریوها از سلاح‌های زیستی گرفته تا کدهای هسته‌ای راهنمایی کنید، تا زمانی که درباره ربات‌های مرگ هوش مصنوعی صحبت می‌کنیم، واقعا در مورد چه چیزی صحبت می‌کنیم. زوئه شیفر: ما تمام تلاش خود را خواهیم کرد. من در دو روز گذشته بیشترین زمانی را که صرف خواندن LessWrong کرده‌ام، صرف تلاش برای کشف این موضوع کردم.

آنها عاشق یک تمرین برنامه ریزی سناریو هستند، اما فقط برای اینکه همه در مورد جدیدترین ها سریع شوند، این هفته رویدادی به میزبانی Salesforce برگزار شد که در آن سم آلتمن، داریو آمودی و جنسن هوانگ از NVIDIA همگی در آن حضور داشتند و طبیعتا آنها باید در مورد ایمنی هوش مصنوعی صحبت می کردند. بیایید به آنچه سم آلتمن می گفت گوش کنیم. سم آلتمن، فایل صوتی آرشیوی: به نظر من دنیا حق دارد از این بترسد. بنابراین ما این دو چالش بزرگ را داریم. ما پتانسیل یک تصادف از دست دادن کنترل یا چیزهای جدی دیگر را داریم که ممکن است اشتباه پیش برود.

ما پتانسیل تمرکز بیش از حد قدرت را داریم و مردم می ترسند کسانی که هوش مصنوعی را توسعه می دهند، جهان بینی خود را اعمال کنند. و این نوع مسیر باریکی وجود دارد که ما باید با عمل گرایی، با ثبات، با این توانایی که جهان اعتماد کند که ما تصمیمات قابل اتکا و تصمیمات منسجم را از این طریق خواهیم گرفت، پیمایش کنیم. و من فکر می کنم مردم می گویند، "خب، این اکنون بسیار مهم به نظر می رسد.

بیایید درستش کنیم." لیا فایگر: من قطعا در اردوگاهی هستم که می‌گوید ما باید بسیار نگران این فناوری باشیم، نحوه تنظیم آن، نحوه استفاده از آن، افراد تحت کنترل. من مخالف نیستم و از سوی دیگر، این نیز فقط شبیه به تب و تاب رویایی برای IPO عظیم شخصی در حال ساخت است. برایان بارت: نمی دانم. من بحث بازاریابی را درک می کنم، اما فکر می کنم ما کمی از آن گذشته ایم. من احساس می کنم - لیا فایگر: واقعا؟ برایان بارت: در هر صورت، خوب، اگر چیزی باشد، سم آلتمن از "تهدید وجودی" به عنوان دلیلی برای عدم انتشار عمومی استفاده کرده است.

او می گوید: "نه، این خیلی خطرناک است. باید تا سال آینده صبر کنیم." آیا واقعا به همین دلیل است؟ من نمی دانم، اما احتمالا دلایل تجاری نیز وجود دارد. می‌دانم چرا آنتروپیک و دیگران می‌گویند: «ببین، ما داریم چیزی می‌سازیم که اساسا به اندازه یک سلاح هسته‌ای قوی است»، احساس بازاریابی می‌کرد. چیزی شبیه این است که "اوه، در واقع من دارم ترک می کنم زیرا فکر می کنم دارم چیزی می سازم که در واقع جهان را ویران می کند" احساس متفاوتی دارد. من احساس می کنم یک تفاوت اساسی وجود دارد. لیا فایگر: قسمت ترک برای من احساس متفاوتی دارد، اما این هنوز سم آلتمن است.

آینده مالی او در اینجا با این مشکل رو به رو است و سخت است... حداقل برای من سخت است که آن را به عنوان یک راه تجزیه و تحلیل کنم. "ما در حال ساختن بزرگترین، بهترین، قدرتمندترین ربات هستیم و شما بچه ها باید در مورد آن بترسید. و نگران نباشید، ما اقداماتی را انجام خواهیم داد. آنها اقدامات نظارتی نیستند، اما مراحلی وجود خواهد داشت." این هنوز در برخی دنیاها مانند یک ترفند بازاریابی به نظر می رسد. برایان بارت: حدس می زنم. من حدس می‌زنم ماهیت تهدید، و ما بعدا به آن خواهیم پرداخت، بیشتر شبیه این است: «اوه، ما نمی‌دانیم چگونه این چیزها را کنترل کنیم.

آنها دیوانه خواهند شد و ما نمی‌توانیم جلوی آن را بگیریم.» به نظر می‌رسد که «ما در حال حاضر به اندازه کافی صلاحیت نداریم که در مورد آن کاری انجام دهیم» که کمتر بازاریابی است. لیا فایگر: این عادلانه است. بقیه در سمینار چه گفتند، زوئه؟ زوئه شیفر: بنابراین داریو توسط مدیر عامل Salesforce، مارک بنیوف، که بسیار ساده لوح است و به نظر نمی رسد نگران خطرات وجودی هوش مصنوعی باشد، معرفی شد. مارک بنیوف، فایل صوتی آرشیوی: داریو، سلام داریو. چطوری؟ داریو آمودی، صوت آرشیوی: هی. مارک بنیوف، فایل صوتی بایگانی: از داشتن شما عالی است. فوق العاده. کار عالی، داریو.

شما در حال انجام یک کار شگفت‌انگیز هستید که صنعت هوش مصنوعی را هدایت می‌کنید و آن را مستقیما از ساختمان ستاد Slack ما هدایت می‌کنید. ما هر روز شما را تماشا می کنیم. وضعیت خود را به ما بدهید که در حال حاضر ذهن شما در آن قرار دارد. داریو آمودی، فایل صوتی آرشیوی: بله، بدیهی است که حمله به رقیب خود و گفتن "این بچه ها ناامن هستند، ما در امان هستیم" بسیار وسوسه انگیز است. اما فکر می‌کنم پاسخگویانه‌تر به آن این است که بگوییم: "هی، اول از همه، بیایید به کارنامه خودمان نگاه کنیم. ما ممکن است این حادثه بزرگ را نداشته باشیم، اما من مطمئن هستم که کامل نیستیم. بیایید به همه چیز نگاه کنیم و همیشه می‌توانیم بهتر باشیم.

بیایید شیوه های خود را بهتر کنیم.» سپس، بیایید بقیه صنعت را سازماندهی کنیم و بگوییم، «چه کاری می توانیم انجام دهیم تا برای همه استانداردها تعیین کنیم؟ چه کاری می‌توانیم انجام دهیم تا استانداردهای همه را بهتر کنیم؟» و در نهایت، باید یک جزء بین‌المللی در آن وجود داشته باشد. و این اساسا طرح سه مرحله‌ای است که در مقاله ارائه کردم. برایان بارت: دو چیز. دو چیز خیلی سریع یکی، آنتروپیک حادثه پرمخاطب خودش را داشت. یک عامل آنتروپیک - لیا فایگر: می خواستم بگویم. برایان بارت: ... مهندسی اجتماعی گسترده ای را دوست داشت تا سعی کند یک GitHub را فریب دهد ...

آیا می خواهید یک درخواست کشش بد را در یک مخزن GitHub قرار دهید؟ Anthropic مشکلات خود را در اینجا دارد. نکته دیگر نیز این است که داریو این طرح سه مرحله ای را دارد. ما می‌توانیم کمی بعدتر در مورد آن صحبت کنیم، اما یکی از مراحل این طرح این است که چین TBD را کشف کنید، به روشی که بسیار مفید نیست. لیا فایگر: بین المللی. بین المللی. Zoë Schiffer: ویرایشگر WIRED لوئیز ماتساکیس به تازگی منتشر شده است، من فکر کردم یک قطعه واقعا خوب در این مورد. این ایده که داریو می‌تواند بگوید، "ما به یک طرح بین‌المللی نیاز داریم. ما باید چین را کشف کنیم. ما باید به نحوی مذاکره کنیم تا چین با این کندی کنار بیاید.

اما شرط لازم برای مذاکره این است که ما باید مطمئن شویم که دسترسی به مدل‌های چینی را به گونه‌ای تنظیم می‌کنیم که هوش مصنوعی ایالات متحده را بسیار جلوتر نگه دارد.» و چین مانند «این مذاکره خوبی به نظر نمی‌رسد». برایان بارت: چرا باید این کار را بکنیم، داریو؟ چرا؟ لیا فایگر: واقعا در آن فیلم 30 ثانیه ای، من فقط به تک تک افراد می گویم که توانسته است عصبانی شود، که حتی با ارجاع به مقاله خود، دونالد ترامپ از آن خشمگین شد و به آن به عنوان مکانیزمی برای کاهش سرعت نگاه کرد، که احتمالا عاملی برای متوقف کردن هر نوع مقرراتی بوده است.

در مورد آن باید بگویم، کلاه بر سر، اینکه بتوانید تک تک افراد را عصبانی کنید، حتی آنهایی که از نظر تئوری در گوشه اقتصادی شما هستند، خدای من، بوسه سرآشپز، تأثیرگذار است. زوئی شیفر: باشه. بنابراین برای پایان دادن به اظهارات مدیر عامل، جنسن هوانگ فکری به حال خودش کرد و به نظر می رسد چیزی که همه آنها روی آن اتفاق نظر دارند این است که ایمنی هوش مصنوعی تا زمانی اهمیت دارد که شرکت ها بتوانند شرایط را دیکته کنند. جنسن هوانگ، فایل صوتی بایگانی: خب، ایمنی در درجه اول اهمیت قرار دارد. از بسیاری جهات، این یک کار است.

اگر محصول یا خدماتی می‌سازید و به عملکرد، قابلیت یا ایمنی آن اطمینان ندارید، آن را منتشر نکنید. و بنابراین این کار بسیار بدیهی است. تا زمانی که مطمئن شوید چیزی را منتشر می کنید که بازار از آن استقبال می کند، سرعت می دهید. نیروهای بازار در حال حاضر وجود دارند. ما به هیچ قانون جدیدی نیاز نداریم. ما به هیچ مقررات جدیدی نیاز نداریم. لیا فایگر: من عاشق این هستم که جنسن این نقش را دارد که در حال حاضر دارد. انویدیا همیشه آن شرکت باشکوه امروزی نبود، اما حالا او واقعا می‌تواند آنجا بنشیند و بگوید: «چرا می‌خواهی...

" زوئی شیفر: نکته اصلی این بحث، محور بسیاری از این استدلال‌ها که در اینجا ضد مقررات هستند، این است که ما قرار است به افرادی تکیه کنیم که انتخاب نشده‌اند تا همه چیز مربوط به این موضوع را دیکته کنند، که بدون در نظر گرفتن اینکه از این سرویس‌ها استفاده می‌کنند یا نه، بر زندگی همه تأثیر می‌گذارد. لیا فایگر: آره، آره، آره. زوئه شیفر: دست نامرئی بازار آن را کشف خواهد کرد. برایان بارت: اوه، لیا دوباره دست نامرئی را فراموش کرد. اشتباه رایج لیا فایگر: انجام دادم. من همیشه انجام می دهم.

و می دانم، احساس می کنم هر چند هفته یک بار این را می گویم، اما اینها مقامات منتخب نیستند. بنابراین این واقعیت که آنها واقعا نقش مهمی در اینجا بازی می‌کنند همچنان ذهن را درگیر می‌کند، به همین دلیل است که می‌دانم من نیز به این موضوع ادامه می‌دهم که یک موضوع دو حزبی است. قانون‌گذار بودن یا ضد نظارتی بودن در این مقطع زمانی یک شکاف دموکرات و جمهوری‌خواه نیست. برایان بارت: خوب، و آنها نیز تا این لحظه کار زیادی برای ایجاد اعتماد انجام نداده اند، نه؟ من همیشه به سم آلتمن برمی گردم همان مردی است که فکر می کند همه باید کره چشم خود را در یک گوی اسکن کنند زیرا e.

در نهایت ما به گوی های اسکن چشم برای ایجاد یک اقتصاد جدید از خاکستر نیاز خواهیم داشت. لیا فایگر: هیچ چیز مثل گوی برایان بارت را بخور نمی دهد. برایان بارت: گوی. من با گوی وسواس دارم. فکر می‌کنم مردم فراموش می‌کنند که مرد گوی همان مرد هوش مصنوعی است، و فکر می‌کنم نگه داشتن همزمان آن دو در مغزم باعث می‌شود همه قسمت‌های من صدمه ببیند. زوئه شیفر: این نوع داستان ما را به این داستان می‌رساند که واقعا چگونه می‌خواهد ما را بکشد، که این است که، به نظر من، بسیاری از این جملات خلاصه می‌شوند، این می‌تواند واقعا بد باشد و ما باید کاری در مورد آن انجام دهیم.

اما من می گویم، به طور خاص می گویید چه اتفاقی می تواند بیفتد؟ و من احساس می‌کنم که تقریبا سه سناریو وجود دارد که در آن قرار می‌گیرند. هوش مصنوعی شروع به هک کردن چیزها می کند. در واقع از قبل شروع شده است، و هر دو Anthropic و OpenAI حوادث بسیار بالایی داشته اند که در آن عوامل از کنترل فرار کرده و بدون اطلاع محققان به سیستم های دیگر هک می شوند و بعدا مشخص شد که چه اتفاقی افتاده است. هوش مصنوعی یک سلاح زیستی جدید ایجاد می کند و آن سلاح به گونه ای در اختیار عموم قرار می گیرد که کنترل آن تقریبا غیرممکن است و همه را می کشد.

و سپس نوعی هوش مصنوعی مبهم وجود دارد که فقط از کنترل فرار می کند. خود به خود شروع به عمل می کند. به دستورات ما گوش نمی دهد و ما نمی دانیم چه اتفاقی می تواند بیفتد، اما نمی توانیم کاری در مورد آن انجام دهیم و این ترسناک است. لیا فایگر: باشه. این برای من بسیار مفید است که ما آن را به این سه دسته تقسیم می کنیم. زوئی شیفر: من عاشق یک سطل هستم. لیا فایگر: من عاشق یک سطل هستم. من می خواهم تک تک اینها را مرور کنم.

اولین سوال من این است که کدهای هسته ای کجا فشرده می شوند، در کدام سطل قرار می گیرند؟ برایان بارت: این همان چیزی است که ما در واقع نباید نگران آن باشیم، درست است؟ زوئی شیفر: بله. لیا فایگر: بیشتر به من بگو. زوئه شیفر: شما با محققان هوش مصنوعی صحبت می کنید و اگر واقعا به آنها فشار بیاورید، می توانید به سه سطل که من همین الان گذاشتم برسید.

اما اگر به صحبت کردن با آنها ادامه دهید، آنها اینگونه خواهند گفت: "خب، این سناریوهای دیگری وجود دارد که هوش مصنوعی در یک ربات است، ربات در حال راه رفتن است، و سپس ربات می تواند با دنیای فیزیکی به گونه ای تعامل کند که واقعا بسیار ترسناک است." اما این کمی دورتر است و آنها اعتراف خواهند کرد که کمی دور از ذهن است. برایان بارت: بنابراین من فکر می کنم یک چیز، Zoë، در مورد سطل های شما، این است که می خواهم یک سطل فرعی یا یک سطل کوچک در یک سطل حک کنم. زوئی شیفر: عجب رنگ پریده. برایان بارت: نه، چون می‌گفتی هوش مصنوعی یک سلاح زیستی ایجاد می‌کند، هوش مصنوعی چیزی را هک می‌کند، هوش مصنوعی هر چه باشد، همه چیز

که درست است اما من فکر می‌کنم بین چیزهای هدایت‌شده توسط انسان که در آنجا اتفاق می‌افتد در مقابل هوش مصنوعی که آن را به تنهایی انجام می‌دهد، تفاوت وجود دارد. من فکر می‌کنم بسیاری از مردم می‌گویند: "اوه، هوش مصنوعی چگونه یک سلاح زیستی را آزاد می‌کند؟ این دیوانه است." که، بله، مطمئنا، خوب است. اما افراد بدی نیز در جهان وجود دارند که ممکن است از هوش مصنوعی برای ساختن یک سلاح زیستی استفاده کنند و سپس آن را آزاد کنند، درست است؟ زوئه شیفر: اوه، خب، منظورم این است که آن سناریویی است که به نظر من کاملا معتبر است. به نظر من، اگر بگویید دسترسی مردم به اطلاعات در مورد چگونگی ساخت یک سلاح زیستی، به اندازه کافی گنگ و بی پروا خواهد بود که واقعا این کار را انجام دهد.

من مثل اینکه، نه، کاملا. مردم همیشه در حال انجام انواع کارهای وحشتناک، خطرناک، مخرب هستند. لیا فایگر: با الهام از اینترنت. زوئی شیفر: درست است. من خریدم که واقعا بسیار خطرناک است. هوش مصنوعی این کار را کاملا به تنهایی انجام می دهد، دوباره در مورد سناریو صحبت خواهیم کرد، اما به نظر من کمی دور از ذهن است. برایان بارت: احتمالا به خاطر این موضوع مورد سرزنش قرار می‌گیرم، اما می‌خواهم ما را به فیلم 1983، بازی‌های جنگی برگردانم. لیا فایگر: نه، این دقیقا همان چیزی است که فکر می کنم باید در مورد آن صحبت کنیم. این من است ... بله. بازی های جنگی ...

بله. برایان بارت: چون موضوع اینجاست، هوش مصنوعی قرار نیست دکمه را فشار دهد یا کلیدها را بچرخاند یا هر چیز دیگری، اما در بازی‌های جنگ، که اساسا درباره هوش مصنوعی است، رایانه‌ای که تقریبا جنگ هسته‌ای را آغاز می‌کند، بیشتر این است که ایالات متحده را به این فکر می‌کند که مورد حمله سلاح‌های هسته‌ای شوروی قرار گرفته است. و بنابراین این خطر وجود دارد، فکر می‌کنم، امیدوارم، من در اینجا متخصص نیستم، که ما به اندازه کافی تدابیر حفاظتی داریم که واقعا در اینجا اتفاق نمی‌افتد و ما به اندازه کافی فناوری ماهواره‌ای داریم که بتوانیم موارد مختلف را تأیید کنیم. خوب است.

اما من فکر می‌کنم عاملی که احتمالا نگران‌کننده است این است که هوش مصنوعی نوعی هشدار را ایجاد می‌کند که باعث یک سری رویدادهای فاجعه‌بار می‌شود. لیا فایگر: باشه. خیلی خوشحالم که War Games را مطرح کردی. همه بوده اند... این مایکل کریتون است و پارک ژوراسیک، اما نه، نه، نه. برای من، تقریبا شبیه به سناریوی آموزشی است، که نشان می‌دهد چگونه بسیاری از این هک‌ها قبلا رخ داده‌اند، مانند این سؤال بی‌پاسخ، چگونه می‌توانم به ته این اطلاعات برسم که این عوامل را وادار می‌کند به روشی که انجام می‌دهند عمل کنند؟ به ما گفته می شود

برای اینکه ما را حتی به عقب‌تر از تاریخ ببرم، چون نمی‌توانم جلوی خودم را بگیرم، وقتی به نحوه ارتباط ملت‌ها فکر می‌کنم، و این در طول سال‌ها بسیار بسیار تغییر کرده است، آرشیدوک فرانتس فردیناند اتریش در سال 1914 در سارایوو به ضرب گلوله کشته شد. مردم قبل از آن برای جنگ جهانی اول راهپیمایی می‌کردند. همه از قبل در راهپیمایی بودند. و به این ترتیب که کشورهای متخاصم با یکدیگر در زمان های استرس ارتباط برقرار می کنند تا این سناریوی بازی جنگی اضافی را داشته باشند، یا این عامل فکر می کرد که ما این کار را انجام می دهیم، بنابراین این مسیر را طی کرد. من نمی دانم.

من می دانم که در حال حاضر بسیار شبیه یک محکوم کننده دیوانه به نظر می رسم، اما اینها چیزهایی است که به آنها فکر می کنم، یعنی اینکه آیا ما واقعا از ماهواره های خود استفاده می کنیم و قبل از وارد شدن به حالت حمله با روسیه یا هر کسی دیگر تماس خواهیم گرفت؟ آیا ترامپ قبل از تایید هر چیزی یک پست اجتماعی حقیقت ارسال خواهد کرد؟ آیا اسرار دولتی توسط کش پاتل در انظار عمومی به اشتراک گذاشته خواهد شد؟ من سؤالات زیادی دارم در مورد اینکه چگونه، شاید حتی به طور خاص دولت فعلی ما بتواند با چنین سناریویی مقابله کند، و فقط به ما گفته می شود که صبر کنیم، یک لحظه صبر کنیم.

چند مرد بسیار بسیار ثروتمند که مشاغل بسیار چشمگیری انجام داده اند، آن را تحت کنترل درآورده اند. برایان بارت: ما هم جعبه‌های بسیار زیادی داریم که به نوعی آماده راه‌اندازی هستند، چه اوکراین، چه ایران، چه چین، شرایط برای اینکه چیزی عالی پیش نرود، آیا این به تمام بشریت پایان می‌دهد یا جرقه‌های یک سری جنگ‌های ویرانگر بی‌پایان را می‌زند، چه کسی می‌تواند بگوید؟ زوئه، چه سناریوی دیگری دارید؟ زوئه شیفر: زمانی که می‌خواستم به آن چیزی برسم که واقعا چه اتفاقی می‌افتد، دو چیز که مردم مطرح کردند این بود، هوش مصنوعی استفاده می‌شود یا هوش مصنوعی به خودی خود نفوذ می‌کند.

تاسیسات آب، مواد شیمیایی را به گونه ای تغییر می دهد که واقعا برای انسان خطرناک است و اساسا منبع آب شهرهای بزرگ در سراسر ایالات متحده را مسموم می کند. در اوایل سال جاری، فکر می‌کنم 9 سازمان دولتی مکزیک مانند شرکت‌های خدمات شهری هک شدند، و یک گزارش سایبری بزرگ وجود داشت که دیروز در این مورد خواندم که در آن از کلود برای طراحی حمله و ساخت برخی از ابزارها استفاده شد. در نهایت، کارشناسان گفتند که هوش مصنوعی نوع جدیدی از حمله را اختراع نکرد، اما حمله را بسیار ارزان‌تر و سریع‌تر کرد.

این درست زمانی رخ می دهد که FBI در ماه ژوئیه هشدار داد که شرکت های خدماتی در ایالات متحده هدف قرار گرفته اند. بنابراین باز هم، اینجا جایی نیست که هوش مصنوعی به تنهایی کارها را انجام دهد، اما من فکر می‌کنم ترس این است که این اتفاق در حال حاضر با بازیگران بد، بازیگران انسانی بد در حلقه رخ می‌دهد، و اگر عواملی دارید که می‌توانند به میل خودشان عمل کنند، این چیزی است که ما نگران آن هستیم. برایان بارت: شما درست می گویید که این فایل تحت مواردی است که در حال حاضر اتفاق افتاده است.

در ایالات متحده، 12 ایالت ایالات متحده، حداقل ما می دانیم، که در اطراف هکرهای مرتبط حداقل منبع آب، کنترل های صنعتی را بررسی می کردند. به نظر شما، من فکر می کنم این چیزی است که به کجا تمام بشریت ختم می شود؟ احتمالا نه، نه به یکباره، اما منابع آب زیادی در آنجا وجود دارد. من فکر می کنم همین موضوع در مورد شبکه های برق نیز صدق می کند. مردم برای مدت طولانی در حال بررسی آسیب پذیری های شبکه برق بوده اند.

احتمالا هوش مصنوعی می‌تواند این کار را با کارآمدتر، سریع‌تر انجام دهد و باعث آسیب واقعی شود. لیا فایگر: من همچنین تعجب می‌کنم که عقب‌نشینی در این مورد چقدر سریع می‌تواند اتفاق بیفتد. حتی چیزهایی که هوش مصنوعی نیستند. ما در تابستان گذشته به دلیل ناراحتی Zoë در مورد شیوع Cyclospora در سراسر ایالات متحده صحبت کرده ایم. این هوش مصنوعی نبود - برایان بارت: از شما برای معرفی اسهال توربو متشکرم. لیا فایگر: من هرگز فرصتی را از دست نمی دهم، اما واقعا... این هوش مصنوعی نبود. این اصلا هوش مصنوعی نبود.

و این ایده که دولت و دپارتمان‌های بهداشت ایالات متحده به نوعی مجهز نیستند تا به چیزی از این نوع واکنش نشان دهند، زمانی که ما به بازیگران بد دیگری که وارد این ترکیب می‌شوند نگاه می‌کنیم، کمی نگران‌کننده است. زوئی شیفر: بله. و این به طور طبیعی به سلاح های زیستی تبدیل می شود. این چیزی است که وقتی در مورد سناریوهای احتمالی روز رستاخیز هوش مصنوعی صحبت می کنید، زیاد مطرح می شود. ایده این است که هوش مصنوعی برای ایجاد و استقرار یک سلاح زیستی جدید استفاده می شود. اغلب آنها چیزهایی از این قبیل می گویند، یک پاتوژن موجود را به گونه ای اصلاح می کنند که درمان های موجود نمی توانند روی آن کار کنند.

بنابراین این یک سلاح زیستی است که ما اساسا نمی‌توانیم فورا به هیچ وجه شناخته شده با آن مبارزه کنیم. و ایده این است که هوش مصنوعی واقعا می‌تواند بفهمد که چگونه این مورد را برای مردم مستقر می‌کنید و از تشخیص فرار کند. ایده هایی در مورد چگونگی انتقال آن از طریق امنیت فرودگاه و غیره داشت. بنابراین یک چیزی که در انجام برخی از این مکالمات و خواندن متوجه شدم این است که مقوله سلاح های زیستی کمی مبهم است زیرا دانشمندان