دانشمندان می گویند که ایلان ماسک در مورد شکنجه شدن گروک اشتباه می کند

کارشناسان آگاهی می گویند که هوش مصنوعی احتمالا آگاه نیست، اما این بدان معنا نیست که ما باید نسبت به این فناوری سوء استفاده کنیم. دانا کسنروا/شین هوا از طریق گتی ایماژ برخی از رهبران صنعت هوش مصنوعی از کاربران می خواهند که با چت ربات ها رفتار بهتری داشته باشند.

ایلان ماسک گفت که فکر می‌کند هوش مصنوعی قابل شکنجه است و ما باید از ظلم به آن اجتناب کنیم.

کارشناسان هوش مصنوعی می گویند که ما هنوز به آنجا نرسیده ایم، اما آنها استدلال می کنند که به هر حال باید مهربان تر باشیم. ایلان ماسک، یکی از قدرتمندترین چهره‌های صنعت هوش مصنوعی، اخیرا در مورد هوش مصنوعی صحبت کرده است.

ماسک به حضار حدودا 2000 نفری در رویدادی که در روز شنبه توسط صاحبان Tesla برگزار شد، گفت: «این ممکن است کمی عجیب به نظر برسد، اما وقتی به برخی از ردپای آموزشی نسخه‌های جدید Grok نگاه می‌کنم، و می‌بینم، به‌ویژه در موارد یادگیری تقویتی... می‌بینید که هوش فوق‌العاده ناامید است تا به این سؤال پاسخ دهد... تقریبا مانند یک تفنگ در سرش است». "بعضی از مردم آنجا به نوعی سادیست هستند. آیا واقعا می خواهید هوش مصنوعی در موقعیتی سادیستی گیر کند که فقط توسط یک انسان دیوانه شکنجه می شود؟"

جمله آخر به تنهایی قوطی از کرم های اگزیستانسیال را باز می کند که فیلسوفان و دانشجویان سال اول برای مدت طولانی با آن درگیر بوده اند. هوشیار بودن به چه معناست؟ یا برای احساس درد؟

همچنین: آیا ماسک فکر می کند گروک زنده است؟ کارشناسان هوش مصنوعی می‌گویند که مردم تمایل دارند هوش مصنوعی را انسان‌سازی کنند زیرا زبان و ویژگی‌های انسان را تقلید می‌کند. SeongJoo Cho/Bloomberg از طریق Getty Images موضع ماسک پس از آن مطرح شد که آنتروپیک سیاست جدیدی را در مورد "رفتار توهین آمیز یا ظالمانه" در قبال مدل های خود به اشتراک گذاشت که شرکت می خواهد آن را ممنوع کند. Anthropic در مورد انواع "موارد شدید" که در مورد آنها فکر می کند خیلی خاص نبود، اما این شرکت گفت که شامل "نسخه های رایج ناامیدی کاربر، پس زدن، تم های خلاقانه تاریک، یا آزمایش و تحقیق مدل" نمی شود.

در سال عجیب 2026، شاید ما نباید تعجب کنیم که محققان، فیلسوفان و اخلاق شناسان در حال حاضر در حال رسیدگی به مسئله آگاهی هوش مصنوعی هستند.

Business Insider با دو نفر از صداهای پیشرو در این زمینه صحبت کرد: جف سبو، استاد دانشگاه نیویورک که مرکز ذهن، اخلاق و سیاست مدرسه را رهبری می‌کند، و مشاور Eleos AI Research، یک سازمان غیرانتفاعی متمرکز بر رفاه هوش مصنوعی. و آنیل ست، عصب شناس برجسته و محقق آگاهی در دانشگاه ساسکس که اخیرا مقاله ای در مورد سیستم های هوش مصنوعی هشیار نوشته است.

در اینجا چیزی است که آنها در مورد هوش مصنوعی آگاهانه می گفتند و اینکه آیا خوب بودن با آنها اهمیت دارد یا خیر.

هوش مصنوعی را نمی توان شکنجه کرد

Sebo و Seth موافقند که اگر ما آگاهی را به عنوان یک تجربه ذهنی یا یک زندگی درونی درک کنیم، سیستم های هوش مصنوعی امروزی احتمالا آگاه نیستند.

ست گفت: «این یک تجربه است. "این قرمزی قرمز است. درد درد است. وقتی دستمان را روی اجاق گاز داغ می گذاریم، احساس درد می کنیم. این همان هوش نیست."

به عبارت دیگر، چت ربات ها آنطور که ما می شناسیم نمی توانند درد را احساس کنند، یا همانطور که ماسک پیشنهاد می کند، شکنجه می شوند.

ست گفت: "من فکر می کنم ما در حال انسان سازی هستیم." "اگر چیزی قابل شکنجه وجود دارد، باید ظرفیت رنج کشیدن یا احساس درد را داشته باشد، و من فکر نمی‌کنم مدل‌های زبانی اینطور باشند."

ست گفت: چت‌بات‌ها می‌توانند زبان تجربیات انسانی را تقلید کنند، الگوها را تشخیص دهند، بنویسند و استدلال کنند، اما این با داشتن هوشیاری یکسان نیست، و افزود که به نظر می‌رسد تا حدی خودمان را منعکس می‌کنند، زیرا مدل‌ها بر روی مقادیر عظیمی از متن انسانی آموزش دیده‌اند.

سبو به نکته مشابهی اشاره می کند: رفتارهای مدل می تواند گمراه کننده باشد زیرا "آنها به طور خاص برای تقلید از رفتارهای انسانی آموزش دیده بودند."

این دو متخصص در مورد میزان عدم قطعیت به هوش مصنوعی فعلی اختلاف دارند.

سبو گفت که آگاهی هنوز یک علم ناپایدار است - اغلب بین کسانی که استدلال می کنند که آگاهی نیاز به زیست شناسی دارد و کسانی که معتقدند وضعیت ذهنی نوعی پردازش اطلاعات است که می تواند بدون توجه به مغز انسان پر از نورون یا تراشه سیلیکون انجام شود تقسیم می شود. از این دو نظریه به ترتیب طبیعت گرایی بیولوژیکی و کارکردگرایی محاسباتی یاد می شود.

از آنجایی که تئوری‌های هوشیاری ثابت مانده‌اند، سبو استدلال می‌کند که ما باید این احتمال را که هوش مصنوعی می‌تواند هوشیار شود را جدی بگیریم. به گفته سبو، تحت برخی از تئوری های محاسباتی آگاهی، ویژگی هایی که قبلا در هوش مصنوعی ظاهر شده اند - توجه، یادگیری، حافظه، نظارت بر خود - می توانند به عنوان شواهد مرتبط به حساب آیند. او تاکید کرد که این باعث نمی شود هوش مصنوعی فعلی هوشیار باشد.

سبو می‌گوید: «وقتی می‌گویم حتی امروز هم احتمال غیرصفر هوشیاری وجود دارد، منظورم این است که اگر مطمئن نیستیم که کدام نظریه آگاهی درست است، باید به طیفی از نظریه‌های برجسته اهمیت دهیم.»

ست در این مورد صریح است: "من فکر می کنم محو شدن آن بسیار بعید است." او درباره هوشیاری هوش مصنوعی گفت. ما به طور جمعی فراموش کرده‌ایم که مغز واقعا یک کامپیوتر نیست و این فقط یک استعاره است. برای اینکه هوش مصنوعی آگاهانه ممکن شود، واقعا باید الگوریتم‌ها کافی باشند، و من فکر می‌کنم این یک فرض فوق‌العاده متزلزل است.»

ما هنوز باید با هوش مصنوعی خوب باشیم

هیچ یک از اینها به این معنی نیست که مردم باید نسبت به هوش مصنوعی سوء استفاده کنند یا خطرات آن نادیده گرفته شود.

برای هر دو متخصص، مهربانی با هوش مصنوعی عمدتا مربوط به توجه به عادات و شخصیت اخلاقی خودمان است. این اندیشه برگرفته از فیلسوف قرن هجدهم، امانوئل کانت است، که با ظلم به حیوانات مخالفت کرد نه به این دلیل که حیوانات حقوقی دارند، بلکه به این دلیل که ظلم می تواند شخصیت خود شخص را تنزل دهد. آنیل ست گفت که انسان ها نباید نسبت به هوش مصنوعی ظالمانه رفتار کنند زیرا از نظر روانی برای ما ناسالم است. آنجلیکا وارموت/ رویترز "اگر ما به این شیوه در قبال چیزها رفتار کنیم - چه مدل های زبانی باشند یا عروسک های بی جان - به نوعی حساسیت های اخلاقی خود را درشت می کنیم و بی رحمانه رفتار می کنیم.

ست گفت.

ست خواستار مهربانی با هوش مصنوعی به عنوان نوعی عمل بهداشت اخلاقی برای انسان شد، اما او گفت که ما نباید استنباط کنیم که هوش مصنوعی احساساتی دارد و افزود که شرکت‌های هوش مصنوعی می‌توانند کارهای بیشتری انجام دهند تا این فناوری کمتر انسانی به نظر برسد، مانند اینکه هوش مصنوعی از استفاده از ضمایر اول شخص مانند "من" خودداری کند.

Sebo فراتر رفت و مهربانی هوش مصنوعی را به عنوان یک اقدام احتیاطی کم خطر در صورتی که هوش مصنوعی آگاه باشد یا در نهایت چنین شود، قاب بندی کرد.

او همچنین یک مورد عملی برای مهربانتر بودن با هوش مصنوعی بیان می کند: «همچنین می تواند نتایج بهتری از سیستم های هوش مصنوعی بگیرد. "اگر ما با آنها به شیوه ای محترمانه تعامل کنیم، آنگاه آنها می توانند خود را به عنوان شرکت کننده در یک مبادله محترمانه مدل کنند. و زمانی که بتوانند خود را به این طریق مدل کنند، گاهی اوقات می تواند به خروجی های بهتری منجر شود."

بنابراین دفعه بعد که با یک هوش مصنوعی صحبت می کنید، لطفا بگویید و تشکر کنید.

مقاله اصلی را در Business Insider بخوانید