OpenAI دوباره دسته ای از ریاضیدانان را عصبانی می کند

براینا کرا، ریاضیدان دانشگاه نورث وسترن، به یاد می آورد که شرکت کنندگان با "ترکیبی از هیجان و ترس" پاسخ دادند، اما جلسه اولین گام امیدوارکننده بود. او به WIRED می گوید، این گروه از شرکت خواسته است که آنها را فقط در یک وبلاگ یا توییت منتشر نکند، همانطور که در اوایل آن ماه با 10 مشکل انجام داده بودند. به گفته کرا، در عوض، برای OpenAI مهم است که مقالاتی را در توضیح کار منتشر کند تا ریاضیدانان بتوانند نتایج را جذب، هضم و استفاده کنند.

او می گوید: «ظاهرا این ورودی نادیده گرفته شد. افرادی که با این طرح ها آشنا هستند به WIRED می گویند که OpenAI به مردم گفته است که قصد دارد صدها نتیجه را که در جلسه آگوست در جلسه اوت در روز سه شنبه به GitHub ارجاع داده بود، حذف کند. این نسخه جدیدترین راه‌حل از ده‌ها هزار راه‌حل ریاضی تولید شده توسط هوش مصنوعی در سال جاری خواهد بود، زیرا مدل‌های مرزی توانمندتر می‌شوند. در 28 آگوست، ما آموزش یک مدل داخلی جدید را آغاز کردیم.

مک کالوم می‌گوید: علاوه بر حل مسئله جایزه هزاره ناویر-استوکس، این مدل اکنون بیش از 100 مسئله باز طولانی مدت را در بیشتر زمینه‌های ریاضی حل کرده است. ما این نتایج را منتشر می کنیم.

ما زمان انتشار را تعیین نکرده ایم.» اما برای چندین ریاضیدان برجسته، خروجی قریب الوقوع همچنین نشانه ای است که شرکت از بحث و جدل های منتشر شده قبلی درس چندانی نگرفته است. در گفتگو با WIRED، دانشگاهیان می‌گویند که احساس می‌کنند این میدان به زمین بازی برای OpenAI و رقیب آن Anthropic تبدیل شده است تا مدل‌های خود را به نمایش بگذارند، زیرا هر دو برای عرضه‌های اولیه پرفروش آماده می‌شوند. ریاضیدانان می گویند در عجله آنها برای پیشی گرفتن از یکدیگر، فرآیندهای علمی سنتی برای انتشار و نسبت دادن نتایج کنار گذاشته شده است. چشمگیرترین مورد تا کنون در سپتامبر رخ داده است.

OpenAI پس از شنیدن "شایعاتی" مبنی بر اینکه دیگران در حال نزدیک شدن به راه حل ها هستند، هزاران عامل را برای حل یک مشکل افسانه ای جایزه هزاره مستقر کرد. تریستان باک مستر، ریاضیدان و استاد دانشگاه نیویورک، این شرکت را متهم کرد که در همکاری شخصی با کارمند آنتروپیک، لونت آلپوگ، کارهایی را که برای حل یک عنصر از مشکل انجام داده بود، پیشاپیش اجرا کرده است.

این زوج کار خود را منتشر نکرده بودند، اما از ابزار OpenAI برای کمک به آنها استفاده می کردند. سباستین بابک، محقق OpenAI، در طی تلاشی برای مذاکره برای اعتبار، به نظر می‌رسید که Alpöge باید از هر مقاله حذف شود، زیرا این امر اوضاع را پیچیده می‌کند. (در پاسخ به درخواست برای اظهار نظر، بابک به بیانیه عمومی قبلی اشاره کرد که در آن درخواست برای نامگذاری آلپوگه به ​​عنوان نویسنده را رد کرد.) باک مستر گفت که او نپذیرفت. بابک در تماسی ادعا کرد که بر اساس یادداشت‌های جلسه که توسط WIRED دیده شده است، نگرانی در مورد آنچه آنتروپیک انجام می‌دهد وجود دارد.

طبق یادداشت‌ها، لونت باید در حال حاضر با رهبری خود صحبت کند و به آنها بفهماند که OpenAI لعنتی می‌تواند با مشکل جایزه هزاره مواجه شود. چه چیزی مانع از آنتروپیک می شود که تمام محاسبات خود را برای دریافت یک مشکل جایزه هزاره بدهد؟ با توجه به یادداشت‌ها، زمانی که باک مستر تهدید کرد که اعتقاد خود را مبنی بر دزدیده شدن OpenAI کار او را به مطبوعات خواهد گفت، به نظر می‌رسید که Bubeck نشان می‌دهد که Buckmaster در حال نابود کردن حرفه‌اش است.

بر اساس یادداشت های جلسه، بابک گفت، اگر نمی خواهید من خوب باشم، پس لازم نیست خوب باشم. نستور گیلن، استاد مدعو ریاضی در دانشگاه نیویورک، به WIRED می‌گوید که «درکی از رفتار اوباش» از سوی شرکت‌های هوش مصنوعی در بین ریاضی‌دانان وجود دارد. مک کالوم می گوید: «ما با این شخصیت مخالفیم. گیلن می‌گوید: «من احساس اضطراب زیادی می‌کنم، و این را بیشتر و بیشتر در همکارانم در ریاضیات می‌بینم، نه در مورد هوش مصنوعی، بلکه در مورد شرکت‌های هوش مصنوعی.

"من فکر می کنم بسیاری از اضطراب ها در مورد انباشت قدرت در یک مکان است." OpenAI یک گروه مشاوره را در اواسط سپتامبر تشکیل داد تا به تعیین نحوه ارزیابی و انتقال نتایج جدید توسط شرکت کمک کند، استانداردهای آکادمیک و حرفه ای را رعایت کند، و ابزارهایی بسازد که از تحقیقات و یادگیری ریاضی پشتیبانی می کند.

اما ریاضیدانان می گویند که به نظر نمی رسد این شرکت پیشرفت زیادی داشته باشد. بسیاری از اینکه OpenAI و Anthropic به انتشار نتایج از طریق پست های وبلاگ، به جای مقالات علمی، ادامه می دهند، ناامید هستند، که تأیید آنها را سخت تر می کند و اغلب کار قبلی را از سایر ریاضیدانان حذف می کند. اعلامیه های تکه تکه به آزمایشگاه ها محدود نمی شود: خود آلپوگه اعلام کرد که یک حدس 87 ساله را از طریق توییتی که اندکی پس از فینال جام جهانی ارسال شده بود، رد کرده است. «ریاضی با توییت و ریاضی با بیانیه مطبوعاتی برای من راهی برای پرورش اکوسیستمی نیست که زمین حاصلخیزی را ایجاد کرده است.

کرا می‌گوید. برخی ابزارهای جدیدی را امسال در واکنش به افزایش اثبات‌های به کمک ماشین راه‌اندازی کرده‌اند. ایده این است که به جامعه کمک شود هم از نتایج جدید استفاده کند و هم آنچه را که باید بیشتر هضم شود مرتب کند. این ابزارها عبارتند از Hexagon، مخزنی برای مواد اولیه تولید شده توسط هوش مصنوعی، و Palomar، یک ثبت ریاضیات تأیید شده توسط ماشین. در حالی که OpenAI مستقیما تشویق به استفاده از این ابزارها شده است، "آنها رفتار خود را تغییر نداده اند."

او همچنین احساس نمی کند که اقدامات شرکت اقداماتی مطابق با اعلامیه لیدن است، درخواست بیش از 4000 ریاضیدان از شرکت های هوش مصنوعی برای رعایت استانداردهای ریاضیدانان که او در نوشتن آنها کمک کرده است. به گفته افرادی که با آنها صحبت کرده اند، چندین کارمند در OpenAI معتقدند که فناوری آنها به هر حال ریاضیات را مرده کرده است. مک کالوم می گوید: «ما معتقد نیستیم که آینده ریاضیات تعیین شده است.

«ما در حال کار با جامعه ریاضی هستیم تا آینده را به صورت مشترک هدایت کنیم.») در حالی که سناریویی که در آن قابلیت‌های هوش مصنوعی از محققان انسانی پیشی می‌گیرد، در جلسه اوت فرضی بود، شرکت‌کنندگانی که با WIRED صحبت کردند، آن را به‌عنوان هشداری در مورد آنچه قرار بود در پیش بود تفسیر کردند. این شرکت به ریاضیدانان در مورد توانایی ها و پیشرفت های خود به همان روشی توضیح داده است که "پلیس ممکن است بخواهد قبل از گزارش مرگ در تصادف رانندگی به خانواده خود اطلاع دهد." به نظر می رسد بابک معتقد است که فناوری شرکتش به سرعت به شغل اکثر ریاضیدانان پایان می دهد.

فردی که با تفکر او آشناست Bubeck به WIRED می گوید که او معتقد است هوش مصنوعی توانمندتر می تواند به ریاضیدانان کمک کند تا با سؤالات بلندپروازانه تری مقابله کنند، کار خود را بهتر به حل چالش های دنیای واقعی متصل کنند و ریاضیات را در دسترس تر کنند. او می‌گوید: «من این را فرصتی می‌دانم تا آنچه را که ریاضی‌دانان می‌توانند انجام دهند و تأثیری که کارشان می‌تواند داشته باشد، گسترش دهم». ریاضی‌دانان می‌دانند که باید خود را تطبیق دهند، به‌ویژه برای تجهیز نسل‌های جوان‌تر، اما باور ندارند که رشته آنها مرده است. کرا می‌گوید: «این نحوه عملکرد ما را تغییر می‌دهد، اما فکر می‌کنم لحظه‌ای است که می‌توانیم بزرگ‌تر فکر کنیم.

او خوشحال است که یک ابزار قدرتمند جدید برای حل مشکلات در اختیار دارد - او فقط می‌خواهد افشای شرکت‌ها بهتر باشد تا بتواند به نتایج اعتماد کند و بر اساس آن کار کند. او می‌گوید: «این زمان ترسناکی است، اما در عین حال واقعا زمان بسیار هیجان‌انگیزی است.»