درگیری بین ریاضیدانان به این ترس دامن می زند که هوش مصنوعی می تواند علم را تضعیف کند

بانکی از فریزرهای سفید در یک کارخانه ساعت سازی سابق در مرکز لندن غوغا می کند. داخل: ده ها جعبه کوچک با لوله های شیشه ای بارکد، که در مجموع حاوی صد میلیارد ژن هستند. دکتر الیور وینس، یکی از بنیانگذاران این مرکز، می‌گوید تنها دو جعبه ممکن است 10 برابر بیشتر از تمام متن‌های موجود در اینترنت اطلاعات داشته باشند.

شرکت او، Basecamp Research، قصد دارد تا حد امکان DNA جمع‌آوری کند تا هوش مصنوعی ایجاد کند که بتواند به زبان زیست‌شناسی صحبت کند، به همان روشی که شرکت‌های فناوری آمریکایی و چینی مطالب مکتوب را به صورت آنلاین جمع‌آوری کرده‌اند تا مدل‌های زبان بزرگ (LLM) را ایجاد کنند، که اساس سیستم‌های هوش مصنوعی فعلی است.

وینس، مانند بسیاری از افراد در تحقیقات تجاری و دانشگاهی، معتقد است که هوش مصنوعی به تحقیقات علمی کمک می کند. اما به طور فزاینده ای با بحث و جدل همراه است.

ماه گذشته، OpenAI، خالق ChatGPT، گفت که یکی از مسائل حل نشده بزرگ ریاضی را حل کرده است، مربوط به معادلات معروف Navier-Stokes. این شرکت گفت که عوامل هوش مصنوعی آن را در 88 ساعت شکسته اند. نهادی که برای هر کسی که بتواند مشکل را حل کند جایزه تعیین می کند، گفت که "ظاهرا حل شده است"، اما بررسی آن زمان می برد.

اما ساعاتی قبل از اعلام این خبر، تریستان باک مستر، ریاضیدان دانشگاه نیویورک، با نگرانی‌هایی در سطح عمومی اعلام کرد. او یک تیم مستقل با Levent Alpöge، ریاضیدانی که هر روز توسط شرکت رقیب آنتروپیک استخدام می شد، تشکیل داد.

آنها برای رسیدن به همان هدف کار می کردند و پیش نویس های خود را در ابزار کد نویسی OpenAI، Codex نگهداری می کردند. باک مستر گفت که به همکار محقق او اطلاع داده شده است که اخبار پیشرفت آنها به OpenAI "رسیده است"، اگرچه او نحوه چگونگی آن را مشخص نکرد. او پرسید که آیا تحقیقات او که در Codex ذخیره شده است، می تواند به کار خود OpenAI کمک کند، اگرچه او تأکید کرد که "کسی را به هیچ چیز متهم نمی کند".

بنیانگذار Basecamp، دکتر الیور وینس، می گوید که فقط دو جعبه ممکن است 10 برابر بیشتر از تمام متن های موجود در اینترنت اطلاعات داشته باشند.

OpenAI گفت که هیچ کس در شرکت، انسان یا هوش مصنوعی، کار تیم های دیگر را قبل از انتشار ندیده است. در ابتدا اعلام کرد که اگرچه بعید است، اما نمی‌توان آن را رد کرد که داده‌های ناشناس استفاده از محصولاتش ممکن است به بهبود مدل‌هایش کمک کرده باشد. چند روز بعد، اعلام کرد که درخواست‌های کدکس Buckmaster از دو ماه قبل از اعلام «به هیچ وجه نمی‌توانست روی سیستم تأثیر بگذارد».

این یک داستان پیچیده است. ما هنوز به طور کامل نمی دانیم چه اتفاقی افتاده است. اما موضوع رو به رشد استفاده از هوش مصنوعی در علم را برجسته می کند. معمولا این کلمات ما را وادار می‌کنند تصاویری از ربات‌هایی که ویروس‌های مهندسی ژنتیکی وحشتناک یا سلاح‌های شیمیایی می‌سازند، برای نابود کردن بشریت ایجاد کنند. اما یک مشکل ظریف‌تر وجود دارد که همان توجه را به خود جلب نکرده است: این که هوش مصنوعی می‌تواند ایمان به فرآیند علمی را تضعیف کند و سؤالاتی در مورد تازگی و دقت تحقیق ایجاد کند.

و نگرانی دیگری وجود دارد. به خوبی شناخته شده است که چت ربات‌های هوش مصنوعی مانند کلود یا جمینی گاهی اوقات می‌توانند چیزهایی را توهم کنند که به سادگی واقعیت ندارند. آنها درباره فیلمی به شما خواهند گفت که هرگز وجود نداشته است، یا نقل قولی که هرگز گفته نشده است. اکنون شواهدی وجود دارد که نشان می دهد این امر به طور فزاینده ای در علم اتفاق می افتد. در نهایت، بیم آن می رود که جدا کردن اکتشافات علمی واقعی از داستان های تولید شده توسط هوش مصنوعی دشوار شود.

و همه اینها می تواند سنگی را که تحقیقات علمی بر آن استوار است، تهدید کند - اگر منفجر نشود - اعتماد.

یکی از تهدیدات مجلات علمی است، محافظان یکپارچگی علمی، که به نظر می رسد در مقابله با سونامی تحریفات ایجاد شده توسط هوش مصنوعی ناکام هستند.

دالمیت سینگ چاولا، روزنامه‌نگار علمی که یک دهه را صرف گزارش در مورد تخلفات تحقیقاتی کرده است، می‌گوید: «هوش مصنوعی مولد اساسا کل فرآیند علمی را مختل کرده است.

او به بی‌بی‌سی می‌گوید که کارکنان یکپارچگی ناشران - افرادی که ارسال‌ها را از نظر دقت و قابلیت اطمینان بررسی می‌کنند، باید «به شدت [تعداد و تلاش] را افزایش دهند اگر نزدیک به مبارزه هستند». او می‌گوید: فعلا به نظر می‌رسد که نیستند.

در ظاهر، هوش مصنوعی ابزار مناسبی برای تقویت تحقیقات علمی به نظر می رسد. دانشمندان با حجم عظیمی از اطلاعات سروکار دارند. برای مثال، تلسکوپ‌ها و شتاب‌دهنده‌های ذرات، میلیاردها نقطه داده را جمع‌آوری می‌کنند که برای مغز قابل درک نیست. هوش مصنوعی می‌تواند نکات برجسته علمی را از زمزمه اطراف انتخاب کند.

فرزند پوستر هوش مصنوعی علمی، شرکت مستقر در بریتانیا Google DeepMind است که در سال 2020 یکی از بزرگترین مشکلات زیست شناسی را حل کرد: چگونگی تا شدن پروتئین ها در موجودات زنده به شکل دقیق خود.

ممکن است کسل کننده به نظر برسد، اما پروتئین ها ماشین های کوچکی هستند که زندگی را به کار می اندازند، و شکل هایی که تا می شوند تعیین می کند که چه کاری می توانند انجام دهند. از ساخت سلول ها و مبارزه با عفونت گرفته تا کمک به تشکیل بافت ها و اندام های بدن.

قبل از هوش مصنوعی، دانشمندان مجبور بودند آزمایش های زمان بری را در آزمایشگاه انجام دهند. سپس Google DeepMind یک مدل هوش مصنوعی به نام AlphaFold توسعه داد که به طور دقیق 200 میلیون برابر پروتئین را تنها در یک سال پیش بینی کرد.

کار آزمایشی معادل صدها میلیون سال در آزمایشگاه ها طول می کشید. این شرکت نتایج را به صورت رایگان در اختیار محققان قرار داد. رئیس DeepMind و دانشمند اصلی پروژه هر دو جایزه نوبل شیمی را دریافت کردند.

دکتر پوشمیت کوهلی، که کار علمی DeepMind را رهبری می‌کند، به من گفت که AlphaFold را می‌توان به عنوان یک "لحظه آبخیز" دید.

اما در جاهای دیگر، استفاده از هوش مصنوعی در علم با اتهامات تبلیغاتی همراه شده است. برخی از مدل‌های رایانه‌ای متهم به اغراق در اهمیت یافته‌هایشان هستند، و محققان انسانی که بر آنها نظارت دارند، برخی از ادعاها را بدون تردید کافی باور می‌کنند.

برای مثال، DeepMind در موفقیت خود نسبت به AlphaFold توجه خود را به پیش بینی ساختار مواد جدید معطوف کرد. این کار می تواند منجر به توسعه باتری های بهتر، سلول های خورشیدی ارزان تر و قطعات الکترونیکی شود که به عناصر کمیاب خاکی وابسته نیستند. (در تئوری، هیچ کس دیگر نیازی به بحث در مورد حقوق معدن ندارد، و گرینلند از تهاجم در امان خواهد بود.)

سر دمیس حسابیس، مدیر اجرایی DeepMind از استفاده شرکتش از هوش مصنوعی برای حل یکی از بزرگترین مشکلات زیست شناسی تجلیل کرد.

یک مدل DeepMind چیزی را ارائه کرد که شرکت ادعا می‌کرد بیش از دو میلیون ساختار کریستالی جدید است که به‌عنوان «دانش نزدیک به 800 سال» اعلام شد که در یک حرکت منتشر شد. از این تعداد، حدود 380000 مورد به اندازه کافی امیدوارکننده برای ساخت در آزمایشگاه در نظر گرفته شد.

اما پس از آن یک علامت هشدار از سوی دو شیمیدان در دانشگاه کالیفرنیا آمد. آنتونی چیتام و رام سشادری نمونه‌ای تصادفی از کریستال‌های جدید فرضی را بررسی کردند. با نوشتن در مجله شیمی مواد، آنها به این نتیجه رسیدند که "هنوز ترکیبات جدیدی پیدا نکرده اند"، با این استدلال که بسیاری از آنها "اقتباس های بی اهمیت از مواد شناخته شده" هستند. حکم آنها این نبود که این روش اشتباه بوده است، بلکه این بود که نتایج به بررسی دقیق و تأیید بیشتر از سوی شیمیدانان انسانی نیاز دارد.

DeepMind این اتهام را رد می کند و می گوید که هر ترکیب را برای تازگی آزمایش کرده است. این شرکت استدلال می‌کند که نادیده گرفتن ساختار جدید برای ظاهری آشنا، نکته اصلی را از دست می‌دهد: تعویض یک اتم تنها تعداد زیادی از مفیدترین مواد امروزی، از اجزای تلفن گرفته تا ضد آفتاب را دریافت کرده‌اند.

حداقل در آن موارد، علم عمدتا واقعی بود و موضوع فقط این بود که هوش مصنوعی به طور بالقوه اهمیت آن را اغراق می کرد.

احتمالا نگرانی حتی بیشتر، خطر فزاینده آلوده شدن مجلات علمی به اصطلاح "شیب" هوش مصنوعی است - جایی که یک کامپیوتر، نه یک دانشمند انسانی، در حال نوشتن تحقیق است که منجر به استنادات جعلی و مقالات فانتوم می شود.

در سال 2024، پروفسور دیمیتری کوباک، دانشمند کامپیوتر از دانشگاه گنت، بیش از یک میلیون مقاله تحقیقاتی زیست پزشکی را برای یافتن کلمات محرک مورد علاقه LLMهایی که نوشتن هوش مصنوعی را تولید می کنند، جستجو کرد. تیم او دریافت که تا دسامبر سال گذشته، تقریبا 90 درصد از آنها اثر انگشت هوش مصنوعی روی خود داشتند. فناوری تشخیص هوش مصنوعی کامل نیست. برخی از اشکال این نرم افزار قانون اساسی ایالات متحده را که در دهه 1780 نوشته شده بود، به عنوان "تولید شده توسط هوش مصنوعی" نامگذاری کرده اند. اما با این حال، کوباک گفت که از مقیاس استفاده آشکار از هوش مصنوعی شوکه شده است.

او به نیچر گفت: «هر گونه سوگیری که LLM ممکن است داشته باشد، به طور ناگهانی در ادبیات (علمی) نفوذ خواهد کرد».

کوباک در میان بسیاری از محققانی است که نگران این است که هوش مصنوعی به آرامی مجلات علمی را از بین ببرد.

و این مهم است: مقالات تحقیقاتی مایه حیات پیشرفت علمی هستند. هنگامی که یک کشف منتشر می شود، تیم دیگری در نقطه ای دیگر از جهان ممکن است بودجه ای برای ایجاد نتایج بدست آورد.

تپ اختر - نوع غیرمعمولی از ستاره نوترونی، که در بالا توسط یک هنرمند به تصویر کشیده شده است - در دهه 1960 تا حدودی به دلیل تعداد زیادی از دانشمندان کشف شد.

روند بررسی همتایان - که در آن مقالات تحقیقاتی قبل از انتشار توسط دانشمندان دیگر بررسی می شوند - نیز در خطر است.

تیمی به رهبری ویکسین لیانگ و جیمز زو در دانشگاه استنفورد گزارش های داوران ارائه شده به چهار کنفرانس بزرگ علوم کامپیوتر را تجزیه و تحلیل کردند و دریافتند که تا 17 درصد متن به طور اساسی توسط یک مدل زبانی اصلاح شده است.

بخش مهمی از یکپارچگی مقاله علمی شامل فهرستی از دانشمندان پیشرو است که تحقیقات قبلی را فهرست می کنند تا نشان دهند آنچه انجام داده اند واقعا جدید است. به این موارد استناد گفته می شود. یک تیم جداگانه در دانشگاه کرنل دریافتند که محققان از هوش مصنوعی برای جمع‌آوری استنادها استفاده می‌کنند و تحقیقات جعلی را ابداع می‌کنند و حدود 147000 قطعه تحقیق فانتومی در سال گذشته ذکر شده است.

اگر هوش مصنوعی به این شکل به مخدوش کردن یکپارچگی فرآیند آکادمیک ادامه دهد، محققان به گره‌های کور فرستاده می‌شوند، پول عمومی هدر می‌رود و ثمره تحقیقات معتبر - مانند داروهای جدید یا فناوری‌های سبز - کند می‌شود یا اصلا محقق نمی‌شود.

برخی از ناشران مجلات علمی مانند Elsevier در حال انجام اقداماتی برای جلوگیری از این بحران فزاینده اعتماد هستند.

تیم یکپارچگی تحقیقاتی Elsevier حدود 100 سیگنال ایجاد کرده است که یک مقاله را برای بررسی دقیق‌تر انسانی نشان می‌دهد. مجلات Nature تصاویر تولید شده توسط هوش مصنوعی را ممنوع می کنند و به داوران می گویند که هرگز دست نوشته ای را در یک سیستم هوش مصنوعی آپلود نکنند. وب‌سایت arXiv، که در آن دانشمندان نتایج اولیه خود را به اشتراک می‌گذارند، در صورت ارسال منابع اختراعی، محققان را به مدت یک سال ممنوع می‌کند.

پروفسور سارا مین، نایب رئیس الزویر، از جمله افرادی است که در این شرکت تلاش می کند تا چگونگی استفاده مسئولانه از هوش مصنوعی در تحقیقات را بیابد. او می‌گوید: «آنچه ما هوش مصنوعی درجه تحقیقاتی می‌نامیم، بر روی اطمینان از قرار گرفتن محقق در صندلی رانندگی متمرکز است.

دانشمند اسکاتلندی سر الکساندر فلمینگ پنی سیلین را در دهه 1920 کشف کرد

همانطور که عوامل هوش مصنوعی انبوه داده های حاصل از شتاب دهنده های ذرات، کیهان و جهان طبیعی را پردازش می کنند، چگونه می دانیم که آنها آن را به درستی دریافت می کنند؟

و یک سوال نگران‌کننده دیگر وجود دارد: چگونه می‌دانیم که عوامل هوش مصنوعی یک نتیجه مهم را به عنوان یک ناهنجاری رد نمی‌کنند؟ اکتشافات پنی سیلین، رادیواکتیویته و ستارگان عجیب و غریب به نام تپ اختر همگی از نتایج عجیب و غریبی به دست آمدند که به راحتی می توانستند رد شوند. قوزهای انسان ها آنها را به یکی از بزرگترین لحظات علمی قرن گذشته تبدیل کرد.

آیا هوش مصنوعی واقعا می‌تواند این حس خوشبختی و نبوغ انسانی را تکرار کند؟

کوهلی از DeepMind فکر نمی کند که راه حل این باشد که به هوش مصنوعی پشت کنیم. او به من گفت: "مثل این است که بگوییم باید بدون استفاده از ماشین حساب محاسبه کنید." اما او می پذیرد که نرده های محافظ انسانی وجود داشته باشد: "امروزه ماموران ناقص هستند. کسی باید پاسخگو باشد."

آزمایش او ساده است: "شما باید بفهمید که عامل چه کاری انجام داده است و باید مسئولیت آن را بپذیرید. شما نمی توانید فقط مشکل را مشخص کنید و اجازه دهید دستگاه کاغذ را بنویسد و آن را به عنوان واقعی ارسال کند."

چرا برخی از کارشناسان به طور فزاینده ای از این می ترسند که هوش مصنوعی تسلط یابد

هوش مصنوعی در حال ایجاد «حق بیمه انسانی» برای هنر ساخته شده توسط مردم است. اما آیا آن را حفظ خواهد کرد؟

به نظر می رسد میلیاردرهای فناوری در حال آماده شدن برای عذاب هستند. آیا همه ما باید نگران باشیم؟

پروفسور آندریا پاولی از مرکز زیستی وین در اتریش این آزمایش را دنبال کرده است. او تقریبا 10 سال را روی سؤالی سپری کرد که هنوز کسی نتوانسته به آن پاسخ دهد: چگونه یک اسپرم وارد تخمک می شود. استفاده مسئولانه از هوش مصنوعی به او در رسیدن به پاسخ کمک کرد. آزمایشگاه او پروتئینی را روی سطح تخم‌های گورخرماهی پیدا کرد که به مکانیسم قفل و کلیدی برای ورود اسپرم اشاره داشت.

موردی برای امید است، در دریایی از شیب علمی هوش مصنوعی. این نشان می دهد که هوش مصنوعی می تواند کمک کند.

این هم داستانی درباره انسان هاست. بلافاصله پس از تشکیل Basecamp - آزمایشگاهی که من در یک کارخانه ساعت سازی سابق لندن بازدید کردم - بنیانگذار آن، الیور وینس، به دلیل سرطان خون (که از آن بهبود یافته است) در بیمارستان بیمار بود. این انگیزه او را برای ایجاد یک سیستم هوش مصنوعی که شانس بیشتری برای درمان سرطان دارد، ایجاد کرد. او می‌گوید ممکن است کار نکند، اما ارزش یک ضربه را دارد.

او می‌گوید: «ما از نظر فنی راهی برای درمان سرطان داریم.

نه قولی از وینس، بلکه یک جهت. سوال بزرگ این است که آیا هوش مصنوعی علم را به آنجا منتقل می‌کند یا به آرامی آجرهایی را که روی آن ساخته شده است فرسایش می‌دهد.

آیا شما شخصا تحت تأثیر مسائل مطرح شده در این داستان هستید؟