هوش مصنوعی انتشارات آکادمیک را نابود می کند

زمانی در یک نگاه به راحتی می‌توان به دانش‌آموزی ضعیف پی برد: نشانه‌ها شامل نوشتن بد، فقدان نقل‌قول‌های مرتبط، و درگیری اندک با پژوهش‌های قبلی بود، مانند مقاله‌ای که نوید یک چارچوب مفهومی «بدین» را می‌داد بدون اینکه به بسیاری از مقالات دیگر ادعاهای مشابهی را تایید کند. به‌عنوان دستیار ویراستار یک مجله اخلاق زیستی، تصمیم سریع «رد میز» می‌گیرم و این مقالات را برای بررسی همتایان نمی‌فرستم، که عملا امید به انتشار را از بین می‌برد. اکنون می توانم بگویم: هوش مصنوعی بر هر بخش از انتشارات دانشگاهی تأثیر می گذارد.

خوانندگان متوجه شده اند که مقالات با کمک هوش مصنوعی در مجلات وارد می شوند. اما هوش مصنوعی در پشت صحنه نیز مشکلاتی ایجاد می کند.

اکنون مقاله‌های ضعیفی با نثر روان، استدلال‌هایی با صدای معقول، بخش‌های منظم سازمان‌دهی‌شده، و نقل‌قول‌هایی که بررسی‌های اولیه هوش مصنوعی را پشت سر می‌گذارند، روی میز من می‌آیند. تنها با نگاهی عمیق تر، استفاده از هوش مصنوعی آشکار می شود. جملاتی وجود دارند که دارای تمام نشانه‌های استدلال واقعی هستند، اما به ندرت معنا پیدا می‌کنند - مانند «تریاژ الگوریتمی کمتر به عنوان یک ابزار بالینی عمل می‌کند تا زیرساخت پاسخگویی معوق». استنادهایی وجود دارد که فقط به مقالات با دسترسی آزاد یا با استناد بالا اشاره دارد، زیرا محبوب ترین LLM ها نمی توانند به راحتی به مقالات مجلات دارای دیوار پرداخت دسترسی داشته باشند، بنابراین به آنها اعتماد می کنند.

در مورد آنچه که یا رایگان است یا به طور مفصل در جای دیگری توضیح داده شده است.

متأسفانه، محققانی که مقالات را ارسال می کنند تنها کسانی نیستند که از هوش مصنوعی استفاده می کنند. بسیاری از داوران همتای آنها نیز همینطور هستند. یکی از بررسی‌های اخیر همتا که مجله من دریافت کرد - از یک محقق ارشد - مانند یک کار برش و چسباندن ویرایش نشده از یک LLM خوانده شد. هدیه این بود که نویسندگان را به دلیل عدم استناد به یک متن خاص - در این مورد، ویرایش پنجم راهنمای تشخیصی و آماری اختلالات روانی - مورد انتقاد قرار داد، در حالی که مقاله واقعا به آن استناد کرد.

[ بخوانید: ظهور نویسندگان انگل ]

برخی از مقالات خود من به طور مشابه بازبینی های مشکوکی دریافت کرده اند. یکی از مقاله‌های اخیر که من هم‌نویسنده آن بوده‌ام، به سبک هدر-گلوله‌ی گویای ChatGPT ارائه شد که 22 ویرایش اصلی و 14 ویرایش جزئی را در مورد موضوعات اخلاقی، آمار، طراحی آزمایشی و یادگیری ماشین درخواست کرد. بررسی یک انسان معمولا از جایی می آید. من معمولا می‌توانم بدون دانستن نام، بگویم که یک منتقد فیلسوف است یا یک دانشمند اجتماعی. اما این بررسی هم از همه جا و هم از هیچ جا آمد.

نثر درخشید (بازبینان انسانی برای صیقل دادن متنی که هیچ کس جز نویسندگان و ویراستاران نمی بیند، وقت نمی گذارند)؛ مرور با یک کلمه غیرضروری همراه بود و سه مترادف را برای استفاده در عوض ارائه کرد (بازبینی کنندگان به یک کلمه یا عبارت اعتراض می کنند، اما معمولا فهرستی از گزینه های جایگزین ارائه نمی کنند). و سال انتشار مرجع را زیر سوال برد (مراجعه کنندگان به طور مرتب منابع را بررسی می کنند، اما دقت جزئیات کتابشناختی کوچک را بررسی نمی کنند).

اما همانطور که هر دانشگاهی می داند، بررسی همتایان همیشه یک فرآیند بسیار ناقص بوده است. می‌توان تصور کرد که کارشناسان با دانش عمیق درباره موضوع یا روش‌های مقاله، هر دست‌نوشته را قبل از انتشار به دقت بررسی می‌کنند. واقعیت این است که آنهایی که تخصص مربوطه را دارند غرق در درخواست‌های بررسی هستند و تقریبا هرگز زمان لازم برای نوشتن آن را ندارند، به خصوص اگر درخواست از یک مجله کمتر شناخته شده باشد. (این را در اولین سال‌های به‌عنوان ویراستار مجله یاد گرفتم، زمانی که درخواست‌های بازبینی من به محققان برتر عمدتا نادیده گرفته می‌شد یا رد می‌شد.)

اگرچه بسیاری از بررسی ها متفکرانه هستند، برخی دیگر از افراد با تخصص مماس هستند. (تمام گوشه‌های اینترنت به میم‌هایی از «مرور ۲» اختصاص داده شده است، کاریکاتوری از یک محقق شهوانی که به وضوح مقاله را اشتباه متوجه شده است.) هنگامی که بازپس‌گیری یا ساختگی خبر را می‌دهد، مانند مقاله مرزهای ۲۰۲۴ در زیست‌شناسی سلولی و توسعه‌ای که شامل تصویری از هوش مصنوعی است که اغلب تصویری را که توسط هوش مصنوعی به‌وجود می‌آید به دلیل شکست ژن‌های موش‌ها منتشر می‌کند. از فرآیند بررسی همتایان اما به عنوان سردبیر مجله، تعجب می کنم که این اتفاق بیشتر نمی افتد.

هوش مصنوعی این سیستم از قبل معیوب بررسی همتایان را به نقطه شکست خود رسانده است. مجلات مملو از مقالات ارسالی هستند. برخی از مجلات از زمان انتشار ChatGPT، چند سال پیش، دو یا حتی سه برابر شده است. در سراسر مجموعه مجلات Elsevier، تعداد ارسال‌ها در سال 2025 تقریبا دو برابر بیشتر از سال 2024 بود. یک مجله گزارش داد که برای رسیدگی به رونق ارسال‌ها مجبور بود سردبیران خود - همه داوطلبان بدون حقوق - را دو برابر کند.

بررسی تعداد فزاینده ای از ارسال ها با نگاه انتقادی اکنون زمان می برد که ویراستاران مجلات با حداقل حقوق یا دستمزد، از جمله من، آن را ندارند. در نتیجه، حتی زمانی که ویراستاران مجلات نسخه‌های خطی بیشتری را رد می‌کنند، مقالات بیشتری را با کمک هوش مصنوعی برای بررسی ارسال می‌کنند، که به نوبه خود کار جدا کردن مقالات با کمک هوش مصنوعی را برای دو یا سه محقق دیگر که بیش از حد کار کرده‌اند، محو می‌کند. این محققین نیز به نوبه خود درخواست های بررسی بیشتری دریافت می کنند.

در برخی موارد، این چرخه پوچ شده است: مقالات به کمک هوش مصنوعی با ویراستارانی که بیش از حد کار می کنند، فرو می روند، که آنها را به داوران عجولانه می فرستند، که در برخی موارد از هوش مصنوعی برای نوشتن نظر استفاده می کنند، که نویسندگان آن را بازبینی کرده و با استفاده از هوش مصنوعی دوباره ارسال می کنند.

مطالعه اخیر بر روی 7.3 میلیون مقاله مجلات منتشر شده از سال 2020 تا 2025 نشان داد که تا سال 2025، بیش از نیمی از آنها شواهدی از کمک به LLM نشان می‌دهند که نسبت به 12 درصد در سال 2023 افزایش یافته است. این مشکلات به احتمال زیاد علوم انسانی و اجتماعی را تحت تأثیر قرار می‌دهند، زیرا تقلید استدلال مفهومی آسان‌تر از نتایج تجربی است. اما هوش مصنوعی می تواند بسیاری از مقاله ها را حتی در علوم سخت تولید کند.

[استیون استروگاتز: یک ریاضیدان آینده هوش مصنوعی را می خواند]

مقاله ژورنالی از دیرباز ارز سرمایه اجتماعی دانشگاهی بوده است. اکثر دانشگاهیان در مراحل اولیه می توانند به شما بگویند که چه تعداد منتشر کرده اند، مانند فروشنده ای که اعداد سه ماهه اخیر خود را به صدا در می آورد. این ارز با ارزش باقی مانده است زیرا تا همین اواخر تولید یک مقاله خوب دشوار بود. چنین بورسیه ای نیاز به زمان، گاهی اوقات بودجه، و تخصص برای طراحی یک مطالعه یا کار از طریق استدلال دارد. وقتی مردم دیگر نمی توانند به آنها اعتماد کنند، ارزها سقوط می کنند.

حتی اگر تعداد انگشت شماری از مجلات سطح بالا بتوانند ارزش مقالات خود را حفظ کنند، نمی توانند در یک اقتصاد دانشگاهی که در آن ده ها هزار رسانه دیگر نمی توانند بورس تحصیلی جدی را از کاری که به نظر می رسد تشخیص دهند، دوام بیاورند.

هر هفته، من با کارآموزانم ملاقات می کنم تا یک مقاله ژورنالی در زمینه خودمان را بخوانم و نقد کنم. من اخیرا مقاله‌ای با عنوان امیدوارکننده‌ای که هفته‌ها قبل در یک مجله معتبر منتشر شده بود، اختصاص دادم، که پس از یک مطالعه کوتاه، خوب به نظر می‌رسید. اما همانطور که آن را کالبدشکافی کردیم، شروع به دیدن همه ویژگی‌های هوش مصنوعی کردیم: درخشندگی بدون ماهیت، نقل‌قول‌هایی که اندکی حذف شده بودند، عدم وجود انسجام مفهومی عجیب. من در اوایل آن سال با یکی از نویسندگان در یک پانل کنفرانس حضور داشتم. از قضا، موضوع چالش های هوش مصنوعی در انتشارات دانشگاهی بود.

من معمولا در هر شرایطی می توانم یک لحظه قابل آموزش پیدا کنم. اما اگر دیگر نتوانم به کارآموزانم - فوق دکترا و دانشجویان فارغ التحصیل - بگویم که بورسیه تحصیلی دقیق ارزشی دارد که یک مجله دانشگاهی می تواند تشخیص دهد، مطمئن نیستم دقیقا برای چه آینده ای آنها را آماده می کنم.