1000 ریاضیدان انسانی متعهد شدند که در تحقیقات خود از هوش مصنوعی اجتناب کنند

برخی از ریاضیدانان به هوش مصنوعی نه می گویند

بیش از 1000 ریاضیدان متعهد شده‌اند که برای شرکت‌های هوش مصنوعی کار نکنند و از استفاده از مدل‌های آن‌ها - به میزان‌های مختلف - در تحقیقات خود اجتناب کنند. این اقدام در بحبوحه واکنش‌های فزاینده نسبت به روشی که شرکت‌های هوش مصنوعی از مدل‌های خود برای حل مسائل ریاضی خاردار استفاده کرده‌اند، صورت می‌گیرد، که بسیاری از آنها برای دهه‌ها انسان را سرگردان کرده بودند.

انجمن ریاضیدانان انسانی (AHM) در پی اکتشافات بحث برانگیز شرکت های هوش مصنوعی، مانند انتشار 722 مقاله در یک لحظه توسط OpenAI در اوایل ماه جاری ایجاد شد. اکنون بیش از 1000 نفر شامل اساتید و دانشجویان دکترا عضویت دارند.

ترنس تائو از دانشگاه کالیفرنیا، لس آنجلس، ماه گذشته گفت که روشی که این اکتشافات انجام می‌شوند و در جامعه ریاضیات "ریخته می‌شوند" ممکن است به این رشته آسیب برساند. در حالی که در بسیاری از موارد نتایج رسمی هستند، بنابراین می توان به آنها به عنوان راه حل های دقیق اعتماد کرد، آنها اغلب به روشی غیرقابل نفوذ و شتابزده ارائه می شوند که زمینه را برای استخراج معنا و درک ترک می کند.

در پاسخ، یک گروه مشاوره مستقل در زمینه ریاضیات و هوش مصنوعی راه اندازی شد که به شرکت های هوش مصنوعی در مورد بهترین عملکرد مشاوره می دهد. OpenAI قبلا گفته بود که از این توصیه استفاده می کند، اما به نظر می رسد آخرین نسخه آن برخلاف بسیاری از پیشنهادات گروه است.

AHM سه تعهد از اعضا می خواهد، اما سومی اختیاری است. بنابراین، دو گروه وجود دارد: «گیاه‌خواران» که ترجیح داده‌اند با یا برای شرکت‌های هوش مصنوعی کار نکنند، و همچنین از ربات‌های چت برای نوشتن مقالات، یادداشت‌های سخنرانی یا کتاب‌ها استفاده نکنند، و دوم «وگان‌ها» که یک قدم فراتر رفته‌اند و به طور کامل از هوش مصنوعی اجتناب کرده‌اند.

سام راسکین در دانشگاه ییل یک عضو گیاهخوار است که تصمیم گرفت سومین تعهد را امضا نکند زیرا ابهام جزئی در مورد اینکه آیا استفاده گاه و بیگاه او برای کارهای ساده به حساب می آید یا خیر وجود داشت.

راسکین می‌گوید که عضویت در AHM متنوع است و این تعهدات «بسیار ملایم» هستند، اما انگیزه‌های پیوستن از نگرانی‌های محیطی گرفته تا ترس‌های شخصی در مورد امنیت شغلی متفاوت است. برای او، به این دلیل است که او معتقد است ریاضیات اساسا یک فعالیت انسانی است که وقتی به روش قدیمی انجام می شود خوشحالش می کند - و همچنین از ارسال سیگنال به دیگران مبنی بر اینکه او برای یک شرکت هوش مصنوعی کار نمی کند.

راسکین می‌گوید: «من مدام در مورد افرادی می‌شنوم که در موقعیت‌های رهبری در جامعه ریاضی هستند، [که] مؤسسات و چیزها را رهبری می‌کنند، و بی‌سر و صدا توسط Anthropic یا OpenAI پول می‌گیرند و لزوما این اطلاعات را افشا نمی‌کنند. و من فکر می‌کنم این سمی است».

استیون سیوک از امپریال کالج لندن (که عضوی از وگان است) می گوید که AHM صرفا فهرستی از افرادی نیست که مخالف هوش مصنوعی هستند، بلکه گروه هایی را تشکیل داده است تا بررسی کنند که این رشته در دنیای پس از هوش مصنوعی چگونه باید باشد. اینها شامل کمیته‌هایی در مورد نحوه محافظت از پیش‌چاپ در برابر مصرف مدل‌های هوش مصنوعی جدید در داده‌های آموزشی، حل مشکلات شغلی بالقوه برای اساتید و بررسی چگونگی تغییر آموزش در مقطع کارشناسی و کارشناسی ارشد است.

سیوک می گوید: "ما انکارگرا نیستیم. ما سر خود را در شن فرو نمی کنیم و نمی گوییم "این اتفاق نمی افتد". "منظورم این است که این اتفاق می افتد، واقعی است. ما باید دریابیم که چگونه این حرفه را با این واقعیت در حال ظهور جدید تطبیق دهیم."

برای Sivek، پیوستن به AHM همچنین بیانیه ای بود در مورد اینکه چگونه ریاضیات را به عنوان یک هنر می بیند که شامل کار سخت، تفکر عمیق و نتایج رضایت بخش است. او می‌گوید: «این کاری نیست که من شخصا بخواهم انجام دهم، اینکه بخشی از مغزم را خاموش کنم و فقط به دستگاه اجازه بدهم آن را مدیریت کند. من راحت نمی‌توانم چیزهایی را که نمی‌فهمم و نمی‌توانم آن‌ها را تضمین کنم، بیرون بیاورم.»

برای هروه لو درت در دانشگاه سوربن، فرانسه، عضویت در مورد نگرانی های اخلاقی، از جمله "اتلاف مفتضحانه منابع و اثرات زیست محیطی" هوش مصنوعی است.

OpenAI و Anthropic به درخواست New Scientist برای اظهار نظر پاسخ ندادند.