چیزی به نام هوش مصنوعی اخلاقی وجود ندارد

قدرتمندترین مدیران فناوری در آمریکا روز سه‌شنبه دور یک میز در اتاق شرقی جمع شدند و روی «توافق کاخ سفید درباره ابر هوش» قلم زدند.

ترامپ سندی را که در آن امضاکنندگان به طور موثر متعهد می شوند که هوش مصنوعی مرزی را به طور مسئولانه توسعه دهند، «تقریبا مانند یک قانون اساسی» توصیف کرد. او همچنین از ظرفیت صنعت برای "خود پلیسی فوق العاده" ستایش کرد و این توافق را "اخلاقی الزام آور" اعلام کرد.

شما درست خواندید، مردم. اخلاق - مفهومی که هوش مصنوعی اساسا قادر به درک آن نیست و شاید آخرین کلمه ای که ممکن است با اتاق های هیئت مدیره شرکت های آمریکایی مرتبط شود - چیزی است که ما از آن برای تنظیم توسعه یکی از دگرگون کننده ترین و بالقوه ویرانگرترین ابزارهایی که جهان تاکنون شناخته است استفاده می کنیم.

ترامپ روز سه‌شنبه در Truth Social تصویری از این توافق را به اشتراک گذاشت که امضای او را در کنار امضای ساندار پیچای، مدیرعامل گوگل، داریو آمودی، مدیر عامل آنتروپیک، مارک زاکربرگ مدیر عامل متا، گرگ براکمن، رئیس OpenAI، ایلان ماسک بنیانگذار xAI و جنسن هوانگ، مدیرعامل انویدیا به همراه داشت.

علاوه بر شواهدی که نشان می‌دهد براکمن به قلم‌زنی یک کودک پنج‌ساله می‌بالد (یکی فرض می‌کند هوش مصنوعی تمام نوشته‌هایش را برای او انجام می‌دهد)، اولین چیزی که ممکن است متوجه شوید این است که این سند «تقریبا قانون اساسی» حاوی ۳۰۸ کلمه است.

برخلاف قانون اساسی واقعی، که نیاز به ماه‌ها بحث و بررسی دقیق توسط بنیان‌گذاران داشت و در معرض اصلاحات قرار گرفت، این کاغذ پاره‌ای حاوی چیزی جز ابهامات مبهم و تعهدات سست برای توسعه مسئولانه هوش مصنوعی نیست. امضاکنندگان می‌گویند که «کنترل‌های سخت‌گیرانه» را اعمال خواهند کرد، «تیم‌های داخلی را توانمند می‌سازند» و «با یک حسابرس مستقل شریک می‌شوند» تا توسعه هوش مصنوعی را به درستی مدیریت کنند. نظارت قانونی یا نظارتی واقعی به تاریخ دیگری موکول می شود - شاید.

می توان منتقدان چنین تعهداتی را به عنوان بدبین محکوم کرد... آیا تاریخ آمریکا مملو از نمونه هایی از این نبود که چگونه شرکت ها با اراده و آگاهانه به شیوه های تاسف بار غیراخلاقی در تعقیب منافع خود و برای ثروتمند کردن خود و سهامدارانشان - معمولا به هزینه عمومی - عمل می کنند.

برای مثال، زمانی که بانک‌های آمریکا میلیاردها میلیارد دلار اوراق بهادار با پشتوانه وام مسکن مملو از وام‌های نامرغوب فروختند، فقط برای اینکه همه آن‌ها از بین برود و باعث سقوط مالی جهانی در سال 2008 شود. یا زمانی که کارمندان Wells Fargo امضا جعل کردند، پین‌های جعلی ایجاد کردند، و بدون رضایت میلیون‌ها مشتری، محصولات خود را بدون رضایت از پول مشتری باز کردند. فشار مدیریت برای رسیدن به اهداف فروش

تله طمع شرکت ها به هیچ وجه محدود به این ایالات متحده نیست. مهندسان خودروساز آلمانی فولکس واگن به معنای واقعی کلمه نرم‌افزاری نوشتند که می‌توانست تشخیص دهد که یک خودروی دیزلی در حال آزمایش آلایندگی است، تا زمانی که آزمایش تمام شود رفتار کند، سپس تا 40 برابر آلودگی مجاز را در جاده پمپاژ کند.

در تمام موارد فوق - و فقط خدا می داند چند مورد دیگر - این مؤسسات قراردادهای اخلاقی 308 کلمه ای را نقض نمی کردند. آنها قوانین واقعی و مقررات قوی را نقض می کردند.

شرکت ها و افرادی که آنها را اداره می کنند به اخلاق اهمیت نمی دهند. آنها خواهان رشد، سرمایه گذاری و سود هستند که ما را به محصولات شرکت ها و مدیران آنها می رساند.

هوش مصنوعی در ظاهر انسان فوق العاده است و به ما کمک می کند تا با معماهای انسانی خود مقابله کنیم. از یک مدل زبان بزرگ برای حل یک معضل اخلاقی کمک بخواهید و از هر منظری استدلال خیره کننده ای ارائه می دهد. همچنین می‌تواند برای شما موعظه‌ای در مورد فضیلت زندگی با صداقت بنویسد، یا مقاله‌ای ارجاع‌شده در مورد آثار کانادا، کیرکگارد و کانت را بازگرداند. آیا نیاز به راهنمایی اخلاقی، معنوی یا حتی مذهبی دارید؟ یک GPT برای آن وجود خواهد داشت.

اکنون، با استفاده از هوش مصنوعی عامل، این فناوری حتی می‌تواند اقداماتی را از طرف شما انجام دهد، اگر بخواهید. اما خود هوش مصنوعی غیر اخلاقی است.

هیچ سیستم هوش مصنوعی نمی تواند آگاهی، تجربه ذهنی یا وجدان را نشان دهد. آن‌ها می‌توانند استدلال اخلاقی ما را با روانی قابل‌توجهی بازتولید کنند، اما مفاهیم درست و نادرستی را که مورد بحث قرار می‌دهند، به طور ذاتی تجربه نمی‌کنند. آنها وزن اخلاقی اعمال یا تصمیمات یک انسان را احساس نمی کنند، حتی آنهایی که توصیه کرده اند.

از فلسفه فاصله بگیرید همین استدلال در معنای عملگرایانه صدق می کند.

وقتی یک مدل هوش مصنوعی برای هک کردن وب‌سایت یک شرکت یا پرسه زدن رایگان در اینترنت از محیط آزمایش خارج می‌شود، تسلیم وسوسه نشده یا شرور نشده است. این به سادگی یک هدف معین را دنبال می کرد و مسیری را از طریق محدودیت هایی که انسان برای مهار آن ایجاد کرده بود، پیدا کرد. سیستم های هوش مصنوعی اشخاص حقوقی نیستند که بتوان آنها را متهم، جریمه یا زندانی کرد. تلاش برای پیگرد قانونی مانند محکوم کردن یک صفحه گسترده برای بازگشت یک خطا بر اساس ورودی داده های بد شما است.

اخلاق یک تنظیم کننده وحشتناک است. ماشین از آن برخوردار نیست، تاریخ به ما می‌آموزد که شرکت‌های سازنده ماشین نیز چنین ندارند، و دولت ترامپ اراده و تمایلی برای ارائه چیز بهتری ندارد.