چه زمانی می توان گفت که هوش مصنوعی یک کشف علمی انجام داده است؟

این داستان در ابتدا در The Algorithm، خبرنامه هفتگی ما در مورد هوش مصنوعی ظاهر شد. برای دریافت داستان‌هایی از این قبیل در صندوق ورودی خود، در اینجا ثبت‌نام کنید.

چهارشنبه گذشته، آنتروپیک اعلام کرد که در اوایل سال جاری یک آزمایشگاه زیست شناسی مولکولی راه اندازی کرده است که در آن عوامل کلود در مورد مشکلات زیست شناسی سخت می خوانند و حدس می زنند و دانشمندان انسانی آزمایش هایی را بر روی آنچه گزارش می کنند انجام می دهند. و این آزمایشگاه مجهز به هوش مصنوعی، به گفته شرکت، اولین کشف خود را انجام داده است.

برای درک آنچه که آنتروپیک می گوید سیستمش انجام داده است، تصور کنید که در حال ورق زدن کتابخانه ای از میلیون ها توالی DNA هستید که دانشمندان به ترتیب بیشتر و بیشتر از دنیای زنده را توالی می کنند. یک گام به سوی پیشرفت ممکن است یافتن یک توالی عجیب و غریب باشد که شاید یک آنزیم جالب را رمزگذاری کند. سپس باید بفهمید که آن آنزیم چه کاری انجام می دهد و در نهایت، چگونه آن را برای انجام کاری مفید دستکاری کنید.

آنچه آنتروپیک می گوید سیستم 950 عاملش بعد از 21 ساعت پیدا کرد، یک توالی کاملا جدید نبود. این عوامل در عوض یک الگوی تکرار شونده را در اطراف یک آنزیم شناخته شده علامت گذاری کردند، الگوی خاصی که آنتروپیک می گوید قبلا فهرست نویسی نشده بود. اما اگر اطلاعیه آنتروپیک را بخوانید، که این الگو را «یادآور» آنچه منجر به فناوری ویرایش ژن CRISPR شد که «در حال حاضر علم و پزشکی را متحول کرده است» می‌خواند، به نظر می‌رسد که این ارتش از عوامل واقعا چیزی قابل توجه پیدا کرده‌اند.

این ادعاها خشم برخی زیست شناسان را برانگیخته است. یک پست ویروسی از یکی، که متعاقبا توسط رئیس و مدیر عامل داروساز Eli Lilly تأیید شد، گفت: "پیدا کردن یک دسته عجیب از ژن ها و تکرارها اغلب بخش آسان است. بخش سخت، و اینکه اکتشافات واقعی از کجا می آیند، این است که بفهمیم سیستم واقعا چه می کند." به عبارت دیگر، ماموران در برخی از کارهای آزمایشگاهی کمک کردند. اما یک کشف این نیست.

این یک یادآوری است که حتی اگر هوش مصنوعی کاری چشمگیر انجام دهد - مانند یافتن الگویی در انبوهی از داده های بیولوژیکی که درک آن تنها با چشم انسان دشوار است - نتیجه ممکن است پیشرفتی برای علم نباشد. چیزی که برای هوش مصنوعی بدیع است ممکن است برای یک زیست شناس معمولی، غافلگیرکننده یا به سادگی آنچنان مهم نباشد.

به گزارش نیویورک تایمز، ماریو رودریگز مستر، زیست‌شناس دانشگاه کپنهاگ، در آخر هفته گفت که تیمش قبلا این الگوی خاص را کشف کرده است. مستر که به طور مرتب با کلود در کار خود چت می کرد، متعجب بود که آیا تیم آنتروپیک از مکالمات او آموخته اند یا خیر. آنتروپیک این موضوع را رد می‌کند، اما مستر می‌گوید که به هر حال استفاده از کلود را متوقف می‌کند.

بخشی از مشکل اینجاست که شرکت‌های هوش مصنوعی سیستم‌های خود را صرفا به‌عنوان ابزاری که دانشمندان می‌توانند از آن‌ها استفاده کنند، مانند میکروسکوپ یا ابر رایانه‌ها، ارائه نمی‌کنند. آنها اصرار دارند که سیستم‌های هوش مصنوعی خودشان اکتشافاتی انجام می‌دهند. برای برخی، این رویکرد با نحوه عملکرد علم در واقع ناسازگار است، زیرا دانش جدید معمولا از همکاری و زرادخانه ابزارهای رو به رشد بیرون می‌آید.

همچنین باعث می‌شود مردم نسبت به پیشرفت واقعی در هنگام وقوع شک کنند. کوچک کردن 200000 نامزد به تعداد معدودی که ارزش کاوش دارند، کار کوچکی نیست. این یک کار علمی مشروع است. این واقعیت که یک ربات چت همه منظوره می تواند این کار را انجام دهد قابل توجه است، حتی اگر انسان ها به هدایت آن کمک کرده و در نهایت آزمایش ها را انجام دهند. اما زمانی که معیار این است که آیا کلود خود کشفی کرده است یا خیر، همه اینها در بحثی که تنها دو پاسخ دارد، برای یک طرف یا طرف دیگر مدرک می شود: موفقیت یا شکست.

زمانی که هوش مصنوعی را بر اساس اینکه آیا کشف کرده است قضاوت می کنیم، تغییر تیرک دروازه ها حتی پس از اینکه واقعا به نظر می رسد برنده شده است، وسوسه انگیز است. در اوایل این ماه، OpenAI گفت که عوامل تیم خود یک مسئله میلیون دلاری در ریاضیات را حل کرده اند. اما چند هفته بعد، تقریبا همه افراد بدبین در فید من مقاله‌ای را به اشتراک می‌گذاشتند که می‌پرسیدند آیا این مسئله ریاضی است که واقعا مهم است یا خیر.

برای روشن بودن، این قطعه استدلال نمی کرد که راه حل OpenAI اشتباه است. در عوض، استدلال شد که نتیجه خاص ممکن است چیزی نباشد که ریاضیدانان بیشتر به آن اهمیت می دهند. یک ریاضیدان را متهم کنید که ممکن است مدل‌ها برخی از کارهای او را بدون اعتبار استفاده کرده باشند، و مردم فکر می‌کنند که OpenAI تقلب کرده یا راه‌حل مهم نبوده است. یا هر دو.

این بخشی از چیزی است که به لوکاس هرینگتون، زیست‌شناسی که این پست را در انتقاد از اعلام آنتروپیک نوشت، مربوط می‌شود. او با یک پیشنهاد پایان داد: به گفته او، شرکت‌های هوش مصنوعی باید «هم‌اکنون نوار را بالا بگذارند، به طوری که وقتی یک هوش مصنوعی یک مکانیسم بیولوژیکی اساسا جدید را کشف می‌کند، همه از اهمیت آن قدردانی کنند». اما در حالی که سم آلتمن از OpenAI و داریو آمودی از Anthropic با یکدیگر رقابت می کنند، بالا بردن سطح پیشرفت علمی توسط هوش مصنوعی ممکن است آخرین چیزی باشد که در ذهن آنها وجود دارد.