نابغه مغز تایلر وینکلووس فکر می کند که آیزاک آسیموف قبلا آخرالزمان هوش مصنوعی را حل کرده است

این تمام چیزی است که به نظر می رسد هر کسی در حال حاضر درباره آن صحبت می کند. آیا هوش مصنوعی بشریت را نابود خواهد کرد؟ برخی از افرادی که برای شرکت های برتر هوش مصنوعی مانند Anthropic و OpenAI کار می کنند، واقعا چنین فکر می کنند. اما نگران نباشید، زیرا تایلر وینکلووس، سرمایه‌گذار فناوری معتقد است که پاسخ را یافته است.

وینکلووس روز سه شنبه در توییتی نوشت: «نیازی ندارید که دولت به شما بگوید چگونه هوش مصنوعی را ایمن کنید. "این سوالات توسط ایزاک آسیموف در دهه 1940 پرسیده شد و به آنها پاسخ داده شد. آزمایشگاه های مرزی می توانند قوانین روباتیک آسیموف را در مدل های خود کدگذاری کنند. آنها منتظر چه هستند؟"

وینکلوس، که شاید بیشتر به دلیل شکایت از فیس بوک در دهه 2000 مشهور بود، کاملا درست می گوید که آسیموف قوانین روباتیک خود را ابداع کرد. اما اگر متوقف شوید و به معنای اعمال آنها در هوش مصنوعی فکر کنید، همه مشکلات احتمالی ما را حل نمی‌کند.

اگر با قوانین روباتیک آشنا نیستید، آسیموف در سال 1942 داستان کوتاهی به نام "Runaround" نوشت که اولین بار شامل آنها می شد:

قانون چهارمی بعدا اضافه شد که به قانون صفر معروف است: «روبات ممکن است به بشریت آسیب نرساند یا با بی‌عملی به بشریت اجازه آسیب برساند».

همه اینها در دنیای علمی تخیلی منطقی است، و هیچ اشکالی ندارد که دنیایی را تصور کنید که در آن فقط می توانید به روبات ها بگویید که به انسان ها آسیب نزنند. اما وقتی در مورد آخرالزمان هوش مصنوعی صحبت می کنیم، لزوما در مورد ربات های انسان نما صحبت نمی کنیم که همه را در این هفته بحث می کند. ما در مورد عوامل هوش مصنوعی بدون شکل انسانی صحبت می کنیم. و راه های بی شماری برای تعریف «آسیب» وجود دارد که مشکل را حتی بیشتر پیچیده می کند.

بسیاری از افرادی که ادعا می‌کنند هوش مصنوعی می‌تواند پایان بشریت را به همراه داشته باشد، هنگامی که از آنها در مورد معنای آن سوال می‌پرسند، غافلگیر می‌شوند. اما می‌توانیم چندین سناریو الهام‌گرفته از علم تخیلی را تصور کنیم که در آن عوامل سرکش هوش مصنوعی می‌توانند به طور بالقوه سیستم‌های امن را برای ایجاد هرج و مرج نقض کنند. واضح ترین آنها شامل سلاح های هسته ای یا کنترل سایر سیستم های نظامی است.

سناریوی دیگر ممکن است شامل از بین بردن کل اینترنت یا شاید سیستم مالی باشد. اگر عوامل هوش مصنوعی راهی برای هک کردن هر حساب بانکی در آمریکا و تخلیه وجوه بیابند، به راحتی می‌توان تصور کرد که چگونه می‌تواند باعث فروپاشی جامعه از راه‌های اساسی شود. آیا پول نقد کافی برای گذراندن این ماه در دست دارید؟ یا یک سال؟ یا شاید دهه ها؟

در هر سناریو، می‌توانیم سعی کنیم قوانین رباتیک آسیموف را اعمال کنیم و با مشکلاتی مواجه می‌شویم که قوانین آن را برطرف نمی‌کنند. سیستم مالی را در نظر بگیرید. اگر به هوش مصنوعی بگویید به انسان آسیب نرساند، عامل هوش مصنوعی می‌تواند «آسیب زدن» را صرفا به معنای آسیب فیزیکی تفسیر کند. اگر هوش مصنوعی بانک آمریکا را هک کند و میلیاردها دلار به سرقت ببرد، به هیچ‌کس آسیب فیزیکی وارد نمی‌کند. حداقل نه بلافاصله.

اگر پول نداشته باشید، نمی توانید غذا، سرپناه یا وسایل حمل و نقل بخرید، اما اینها در پایین دست هستند. و اگر گرفتن آن دلارها به شخص دیگری کمک کند چه؟ شاید هوش مصنوعی بتواند هرگونه آسیب احتمالی را در یک سیستم سرمایه داری منطقی کند. به هر حال، ما هر روز شاهد استخراج ثروت از فقرا به ثروتمندان در قالب نرخ های بهره بالا و رانت های بالونی هستیم. آیا وضع قوانین رباتیک با گسترده‌ترین تفسیر ممکن به هر هوش مصنوعی اجازه می‌دهد تا در هر نوع رفتار سرمایه‌داری شرکت کند، زیرا معمولا با ثروت کمتر به انسان آسیب می‌رساند؟

کسب و کار اصلی Winklevoss در حوزه رمزنگاری است، فناوری که موارد استفاده اصلی آن گمانه زنی و کمک به افراد برای ارتکاب جرم است. آیا دست زدن به هر چیزی که مربوط به کریپتو باشد برای هوش مصنوعی ممنوع است؟

همچنین مشکل سیاست MAGA وجود دارد که Winklevoss به آن نمی پردازد. پنتاگون به شرکت‌های هوش مصنوعی اجازه نمی‌دهد مدل‌هایی بسازند که مانع از کشتن مردم شوند. آنتروپیک به طور معروف سعی کرد دو نوع محدودیت را برای هوش مصنوعی که به ارتش می فروخت، ایجاد کند: 1) بدون نظارت داخلی و 2) بدون سلاح های خودمختار. وزیر دفاع پیت هگزث از آنتروپیک خواست که نرده های محافظ خود را کنار بگذارد و شرکت را در لیست سیاه قرار داد در حالی که این کار را نکرد.

و هیچ یک از این توجه به قوانین آسیموف حتی نحوه انجام همه اینها را در "Runaround" تایید نمی کند. داستان در مورد رباتی است که در منطقه ای که برای ربات مضر است در حال استخراج معادن است و در مورد رعایت قانون دوم (پیروی از دستورات انسان) یا قانون سوم (حفاظت از وجود خود) سردرگم می شود. نکته اصلی داستان این است که پیروی از قوانینی که به نظر می رسد بسیار ساده هستند، آسان نیست.

داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی، حداقل به طور موقت شده است. سم آلتمن از OpenAI و ایلان ماسک از SpaceXAI همین کار را حداقل به صورت عمومی انجام داده اند. اما تعداد کمی از مردم به انگیزه‌های این الیگارشی‌ها با پیوندهای عمیق با دولت ایالات متحده و انگیزه‌های دروغگویی به همه ما اعتماد دارند. بسیاری از مردم بر این باورند که این تثبیت ناگهانی تهدیدهای وجودی ناشی از هوش مصنوعی به گونه ای ساخته شده است که به این افراد اجازه می دهد تا قدرت بیشتری را جمع آوری کنند. این ایده مسخره ای نیست.

اگر واقعا به همین سادگی بود که به همه مدل‌های اصلی هوش مصنوعی بگوییم که به قوانین روباتیک آسیموف پایبند باشند، ما با آن موافق بودیم. اما این به نظر مشکوک است که به ربات چت هوش مصنوعی خود بگویید "اشتباه نکنید". احتمالا آن‌طور که فکر می‌کنید کار نخواهد کرد، زیرا این سیستم‌ها اشتباه می‌کنند، مهم نیست که چقدر به آنها بگویید این کار را نکنید. و همه آنها جعبه های سیاهی هستند که تشخیص نحوه تغییر آنها را به گونه ای که آنها را قابل پیش بینی تر می کند دشوار می کند.

بدیهی است که نرده‌های محافظ برای هوش مصنوعی ضروری هستند. اما وقتی بزرگ‌ترین شرکت‌های هوش مصنوعی مدام خواستار قانون‌گذاری هستند (و ترامپ به آن‌ها می‌گوید لعنت بر آن‌ها بپرهیزید زیرا نیازی به مقررات ندارند)، سخت است که بدانیم چه چیزی را باید باور کنیم.