OpenAI، اصل پارتیشن و ریاضیات

وقتی دیروز از رختخواب بلند شدم، سه نفر از من پرسیدند که آیا اعلامیه OpenAI را دیده‌ام که اصل پارتیشن به اصل انتخاب دلالت نمی‌کند یا خیر. تعداد آنها در طول روز افزایش می یافت و من می توانم دلیل آن را بفهمم. من معروف به این مشکل علاقه مند هستم.

در واقع، حداقل دو نفر پرسیدند که آیا قصد دارم برای سام آلتمن یک بطری ویسکی بفرستم، همانطور که در صفحه مشکلاتم قول داده بودم. پاسخ به آن منفی است. و اجازه دهید به شما توضیح دهم که چرا، و چرا باید در OpenAI بسیار عصبانی باشید.

بگذارید اول یک چیزی را روشن کنم. من کاملا مخالف استفاده از هوش مصنوعی نیستم. می‌دانم که این یک ابزار است و بسیاری از مردم آن را مفید می‌دانند، و خوشحالم که موافقم که شایستگی‌هایی دارد. من فکر می‌کنم قبل از اینکه عجله کنیم تا با آن عجله کنیم، باید بهتر درک کنیم که چگونه این فناوری حوزه ما را تغییر می‌دهد و چگونه می‌خواهیم از آن استفاده کنیم. به همین دلیل است که من به طور کلی از استفاده از هوش مصنوعی برای ریاضیات اجتناب می کنم (خوشحالم که از LLM ها بخواهم اطلاعات را برای من ادغام کنند، یا یک اینفوگرافیک مفید ایجاد کنند، یا برای اثبات خواندن یک ایمیل، و غیره)، این فقط چارچوب استفاده از آن است که در حال حاضر از نظر من گم شده است.

هنوز در مرحله کشف هستیم، مردم از آن استفاده می کنند و عواقب آن را می بینیم و می توانیم به عنوان یک جامعه تصمیم بگیریم آن را بیشتر بپذیریم یا استفاده از آن را محدود کنیم. به عنوان مثال، arXiv محدود کردن نرخ را به عنوان پیامد این ابزارها معرفی کرد، و تقریبا همه مقالات باید در این مرحله برخی از بیانیه‌های هوش مصنوعی را شامل شوند (حتی برای بیان اینکه از هوش مصنوعی استفاده نشده است، حدس می‌زنم). ما باید تصمیم بگیریم که چگونه سهم نویسنده را قضاوت می کنیم، به عنوان مثال، آیا ما نیاز داریم که گزارش چت عمومی شود، یا حداقل در دسترس بازبینان و ویرایشگر باشد؟ اینها سوالاتی هستند که باید با آنها مبارزه کنیم و ببینیم آنها ما را به کجا می برند.

اما، به اصل پارتیشن برگردیم. من نگاهی کوتاه به پیش‌چاپ منتشر شده توسط OpenAI انداختم (نه در کد Lean، زیرا من اطلاعات کمی از استفاده واقعی از Lean دارم، و این کد بسیار زیاد بود). مکیده بود. نامشخص است، درهم است و ساختار عجیبی دارد. اصطلاح "کمی کم" است، قضایایی وجود دارد که من انتظار اثبات آنها را ندارم، که آنها نیز به شیوه ای بسیار عجیب بیان شده اند. Lemma 7.4 چیزی نیست که انتظار داشته باشید در مقاله ای مانند این ببینید، همین امر در مورد Lemma 8.1 صدق می کند.

سپس مراجع وجود دارد. یکی از مقالات من در مورد مدل بریستول برای معرفی اولیه پسوندهای متقارن ذکر شده است، که مرجعی نیست که من انتخاب می کردم. حداقل سه یادداشت سخنرانی منتشر نشده، ارجاع نشده و غیر ارجاع به عنوان مرجع استفاده می شود (از جمله من، که برای اشاره به یک گزاره استفاده می شود که مطمئنم در برخی از مقالات منتشر شده من و سایر مقالات آمده است). این چیزی نیست که شما از یک پیش چاپ جدی که ادعا می کند مشکلی را حل می کند انتظار دارید.

اجازه دهید این پیش‌چاپ را با هر مقاله‌ای در نظریه مجموعه‌ها مقایسه کنم که به جنبه‌های فنی حوزه فرعی که من با آن آشنا نیستم سر و کار نداشته باشد. من تقریبا مطمئنا می توانم یک مقاله تئوری مجموعه ها را مرور کنم و ایده خوبی در مورد آنچه در حال انجام است داشته باشم. ممکن است با برخی از اصطلاحات یا استدلال ها آشنا نباشم، اما برای موارد غیر فنی، باید بتوانم استراتژی و ساختار را درک کنم. و برای مقالاتی در مورد تخصص من، در مورد اصل انتخاب، به طور کلی باید مقاله را به طور خلاصه مرور کنم تا ایده خوبی در مورد آنچه نویسندگان انجام داده اند (یا قصد انجام آن را داشته باشند) داشته باشم.

نه اینکه بگویم من همیشه حق با من است، یا اینکه همیشه آن را دقیقا همانطور که نویسندگان قصد داشتند دریافت می کنم، اما این چیزی است که بیش از 15 کار روی آن صرف کرده ام، و تا به حال ایده بسیار خوبی دارم که چگونه کار می کند. اما با مقاله OpenAI در مورد اصل پارتیشن، این غیرممکن است.

خیر، اگر این یک مقاله آکادمیک بود که به یک مجله ارسال شده بود، برای کیفیت باید رد میز صادر شود. مسئولیت همیشه بر عهده نویسنده است که سطح ارتباطات را مطابقت دهد و به آن پایبند باشد. تقریبا مانند مقاله ای که به زبان سوئدی نوشته شده است احتمالا از مجموعه مقالات انجمن ریاضی آمریکا رد می شود، زیرا وظیفه نویسندگان است که آن را برای خوانندگان در دسترس قرار دهند. و مالش در آن نهفته است.

OpenAI صدها "راه حل" را حذف می کند، "راه حل" که به طور نامفهومی نوشته شده است، و از همه ما انتظار می رود که از آنها استفاده کنیم و چه؟ از کمک های آنها قدردانی می کنید؟ چرا؟ سعی می کنم چندین مقاله را به پایان برسانم، تعدادی از دکترا را راهنمایی می کنم. دانشجویان، و من تحقیقات فعال زیادی برای انجام دادن دارم. چه زمانی باید یک کاغذ بد نوشته شده را غربال کنم؟ چرا باید زحمت بکشم، وقتی آنها زحمت برقراری ارتباط بهتر را ندارند؟

بیانیه مطبوعاتی OpenAI فقط "پیشرفت" را پیشنهاد می کند. اما چرخه رسانه ای، برای بقیه، اینها «راه حل» هستند. این یک راه عالی برای خوردن کیک و خوردن آن است. اما اگر بخواهیم آن را جدی بگیریم، معادل انکار سرویس است: همه چیز را متوقف کنید و این یکی را کشف کنید. و شاید برخی از مردم سال‌ها روی مشکلی کار کرده‌اند که ممکن است این کار را انجام دهند، اما در کل... خب. اگر این تلاش واقعی برای به اشتراک گذاشتن پیشرفت بود، کیفیت نوشتار بهتر می شد، نظرات کارشناسان واقعی در مورد موضوع واقعی را دریافت می کرد.

OpenAI یک شرکت شلوغ است، اما من مطمئن هستم که اگر آنها می‌خواهند واقعا مفید باشند، می‌توانند زمانی را پیدا کنند تا با چند ریاضیدان برای مشاوره و ورودی تماس بگیرند، اگر هیچ چیز دیگری، کیفیت خروجی‌ها وجود ندارد. زیرا حتی اگر این یک جهش بزرگ در پیشرفت باشد، تقریبا در سطح قابل قبولی نیست. اما هی، همه می توانند ادعا کنند که ChatGPT یک مشکل طولانی مدت را حل کرده است (این یکی، در مورد اصل پارتیشن، بیش از یک قرن قدمت دارد)، پس چرا باید OpenAI اهمیت دهد؟

و چه چیزی برای ما ریاضیدانان باقی مانده است؟ ما با مردمی، نهادهای سرمایه‌گذاری و سیاست‌گذارانی که نه آکادمیک هستند، نه متخصص، نه ریاضی‌دان، و نه با نحوه انجام تحقیقات ریاضی آشنا هستند (از آنجایی که با تحقیقات زیست‌شناسی، روان‌شناسی یا زبان‌شناسی بسیار متفاوت است) مانده‌ایم که این «نتایج» را می‌بینند و فکر می‌کنند که می‌توانیم ربات‌ها را جایگزین ریاضیدانان کنیم.

این معادل جایگزینی سرآشپز با ابزار آشپزخانه است، حتی اگر چاقو خودکار باشد و بتواند سبزیجات را به تنهایی خرد کند، باز هم فاصله قابل توجهی بین آن غذا و غذای خوش طعمی که می خواهید بخورید وجود دارد.

به نظر من، شرکت های فناوری هوش مصنوعی به جای صرف زمان و انرژی برای تطابق با استانداردهای خود، مایلند ما با استانداردهای آنها مطابقت داشته باشیم. و من می ترسم که این کار انجام نشود. بنابراین، نه، من به این زودی یک بطری ویسکی برای سام آلتمن نمی فرستم، و همچنین قصد ندارم وقتم را صرف خواندن آن مقاله و تلاش برای درک آن کنم.