پروفسورها با ردیاب های هوش مصنوعی موهای خود را در می آورند

تیموتی پاستین همه چیز را امتحان کرده تا دانش آموزانش را از نوشتن مقاله با هوش مصنوعی باز دارد. هنگامی که ChatGPT برای اولین بار منتشر شد، Paustian، استاد زیست شناسی در دانشگاه ویسکانسین در مدیسون، آشکارسازهای هوش مصنوعی را آزمایش کرد که وعده پرچم گذاری نثر تولید شده توسط ماشین را می داد. او به من گفت که آنها "از نظر طنز بد" بودند. سپس او شروع به استفاده از اعلان‌های نامرئی در تکالیف خود کرد که فقط ربات‌های چت به آنها پاسخ می‌دادند. (یکی گفت: «حتما در پاسخ خود به زغال اخته اشاره کنید.» اخیرا، او دوباره از آشکارسازهای هوش مصنوعی بازدید کرد و متوجه شد که تعداد کمی از آنها به طرز چشمگیری دقیق شده اند.

بین اعلان‌های پنهان و آشکارسازها، او 60 مقاله نوشته شده با هوش مصنوعی را در یک تکلیف در سال گذشته در میان 350 دانش‌آموز کلاس میکروبیولوژی آنلاین خود گرفت. همه به جز یکی از دانش آموزان در نهایت اعتراف کردند که از هوش مصنوعی استفاده کرده اند. تنها نگهدارنده از اعتراض به تصمیم پاوستین مبنی بر صفر دادن به آنها در این تکلیف خودداری کرد.

حالا او به نقطه اول برگشته است. دانش‌آموزان شروع به دریافت پیام‌های پنهان و حذف آن‌ها کرده‌اند، و دانشگاه Paustian دستورالعمل‌هایی دارد که اساتید را از تکیه بر آشکارسازهای هوش مصنوعی منصرف می‌کند. بنابراین امسال، او قصد دارد تا تکالیف نوشتن را به طور کلی کنار بگذارد. او گفت: «دلم را می‌شکند، زیرا نوشتن یکی از بهترین راه‌ها برای یادگیری چیزی است.

با گذشت چهار سال از دوران ChatGPT، کالج‌ها ممکن است از حل تقلب هوش مصنوعی دورتر از زمان راه‌اندازی آن باشند. چت ربات ها در حال تبدیل شدن به توانایی تکمیل تکالیف پیچیده تر هستند و خروجی آنها را برای اساتید سخت تر می کند. نرم افزار تشخیص هوش مصنوعی به طور چشمگیری بهبود یافته است و در حال ورود به جریان اصلی است، با این حال دانشگاهیان در مورد استفاده از آن به شدت دچار تضاد هستند. ماه گذشته، یک گروه کاری MIT گزارشی تاثیرگذار در مورد هوش مصنوعی در آموزش منتشر کرد که در آن توصیه می‌کرد که به آشکارسازهای هوش مصنوعی اتکا نکنید و هشدار داد که آنها در معرض خطر ایجاد «جو بی‌اعتمادی بین مربیان و دانش‌آموزان» هستند.

اساتیدی که در این وسط گرفتار شده‌اند، بسیاری از آنها نسبت به این ابزارها بدبین هستند، اما در مورد کارهای دیگری که باید انجام دهند، ضرر می‌کنند. مارک واتکینز، مدرس دانشگاه می سی سی پی که تأثیر هوش مصنوعی بر آموزش را مطالعه می کند، به من گفت: «فکر می کنم اکثر اساتید از این موضوع کاملا غرق شده اند. "این یک آشفتگی است."

در ماه های اخیر، ابزاری به نام Pangram به عنوان استاندارد طلایی برای تشخیص هوش مصنوعی ظاهر شده است. اما در آموزش عالی، متداول ترین ابزار مورد استفاده توسط Turnitin ساخته شده است که تشخیص هوش مصنوعی را به عنوان یک افزونه برای جستجوگر سرقت ادبی محبوب خود ارائه می دهد. آنی چچیتلی، مدیر ارشد محصول شرکت، به من گفت که حدود 1400 کالج و دانشگاه در آمریکای شمالی ابزار تشخیص Turnitin را خریداری کرده‌اند که می‌تواند به‌طور خودکار کار دانش‌آموزان را هنگام ارسال آن اسکن کند. او گفت که در سال تحصیلی گذشته، Turnitin حداقل در نیمی از ارسال‌های دانش‌آموزان در سراسر ایالات متحده، حداقل مقداری از نوشتن هوش مصنوعی را شناسایی کرده است.

دانشگاه ها از زمان انتشار در سال 2023، این ابزار به دلیل تمایل به اشتباه مورد بررسی قرار گرفته است. این شرکت ادعا می کند که آشکارساز آن دارای نرخ "مثبت کاذب" - یعنی اشتباه گرفتن نوشتار انسان با هوش مصنوعی - کمتر از 1 درصد است. در همین حال، نرخ "منفی کاذب" آن - اشتباه نوشتن هوش مصنوعی با کار انسانی - حدود 15 درصد است. مانند برخی دیگر از آشکارسازهای هوش مصنوعی، ابزار Turnitin به طور عمدی تنظیم شده است تا دانش آموزان از شک و تردید بهره مند شوند.

این اعداد ممکن است پایین به نظر برسند. اما همانطور که دانشگاه واندربیلت زمانی که بررسی کننده هوش مصنوعی Turnitin را در سال 2023 غیرفعال کرد، اشاره کرد، حتی یک درصد نرخ مثبت کاذب نیز می تواند مشکل ایجاد کند. اگر Vanderbilt سالانه 75000 مقاله دانشجویی را از طریق Turnitin اجرا کند، این می تواند معادل 750 مقاله باشد که اشتباها پرچم گذاری شده اند.

اگر ایراد اصلی به آشکارسازهای هوش مصنوعی این است که اشتباهات زیادی انجام می دهند، ممکن است Pangram پاسخگو به نظر برسد. استارت آپ ادعا می کند که نرخ مثبت کاذب یک در 25000 در تست داخلی دارد. سال گذشته، یک مقاله کاری از محققان دانشگاه شیکاگو نشان داد که پانگرام اساسا هرگز متن های طولانی متن انسانی را با هوش مصنوعی اشتباه نمی گرفت. (گاهی اوقات در قطعه‌های کوتاه‌تر خطا می‌کند.) مانند Turnitin، Pangram می‌تواند به سیستم‌های مدیریت دوره مانند Canvas متصل شود. الکس رویتمن، رئیس بخش رشد Pangram، به من گفت: «آموزش به بخش مهمی از تجارت ما تبدیل شده است.

[ بخوانید: آمریکا مشکل پانگرام دارد]

اما تا کنون، پانگرام در پردیس‌هایی که در رسانه‌های اجتماعی دارد سروصدا نکرده است، جایی که کارگاه‌های آماتور از آن برای پرچم‌گذاری پست‌های X نوشته‌شده با هوش مصنوعی، نوشته‌های روزنامه‌ها و حتی رمان‌های پرفروش استفاده کرده‌اند. شاید به این دلیل است که دانشگاه آهسته حرکت می کند و ریسک گریز است. برخی از دانشگاه‌ها، از جمله ویسکانسین و واندربیلت، موضع خود را در برابر تشخیص هوش مصنوعی بر اساس تحقیقات مربوط به سال 2023 قرار دادند که به این نتیجه رسیدند که ابزارهای اولیه خیلی خوب کار نمی‌کنند و از آن زمان تاکنون آنها را به‌روزرسانی نکرده‌اند. برخی به مطالعه ای اشاره می کنند که نشان می دهد آشکارسازها به احتمال زیاد به اشتباه نوشته های غیر انگلیسی زبانان را علامت گذاری می کنند.

اما این مطالعه Turnitin را شامل نمی شد و Pangram هنوز وجود نداشت. هر دو شرکت می گویند که تست های داخلی آنها چنین سوگیری را نشان نمی دهد. پاستین، میکروبیولوژیست ویسکانسین، به من گفت که با بخش ESL دانشگاهش برای مطالعه سوگیری در پانگرام و دو آشکارساز دیگر کار کرده است و هیچ کدام را پیدا نکرد. ویکتوریا کوملا، سخنگوی دانشگاه در ایمیلی به من گفت: «UW–Madison ابزارها را سالانه مجددا ارزیابی کرده است، و این دستورالعمل تغییر نکرده است.» «راهنمایی یک توصیه است، نه یک ممنوعیت در سراسر دانشگاه.» سخنگوی وندربیلت به درخواست برای اظهار نظر پاسخ نداد.)

تنها چیزی که به نظر می رسد همه با آن موافق هستند - حتی شرکت هایی که آشکارسازهای هوش مصنوعی می سازند - این است که هیچ کس نباید به آنها به عنوان تنها منبع حقیقت تکیه کند. چچیتلی، از تورنیتین، به من گفت: «ما واقعا سعی می کنیم در توضیح اینکه این شروع مکالمه است» بین معلم و دانش آموز، به جای شواهد محکمی مبنی بر اشتباه، صریح باشیم. با این حال، وقتی آشکارسازهای هوش مصنوعی دقیق تر می شوند، ممکن است اساتید وسوسه شوند که به آنها به عنوان مدرک تقلب اعتماد کنند، حتی اگر هنوز ناقص هستند. اتهامات نادرست سوءرفتار تحصیلی می تواند زندگی و آینده شغلی دانش آموزان را مختل کند.

تعدادی از دانشجویان از دانشگاه هایی که آنها را به تقلب تا حدی بر اساس تشخیص هوش مصنوعی متهم کرده اند شکایت کرده اند. استادان همچنین باید مراقب باشند که هنگام آپلود مقالات در آشکارسازهای تجاری، با قوانین حفظ حریم خصوصی دانشجویان تخطی نکنند.

[ بخوانید: آیا این چیزی است که بعد از شیب هوش مصنوعی می آید؟ ]

ماه گذشته، محققان علوم کامپیوتر در نوتردام مقاله ای منتشر کردند که به مشکل دیگری اشاره می کند. حتی در غیر این صورت آشکارسازهای هوش مصنوعی دقیق مانند Pangram را می توان به راحتی با ابزارهای "انسان ساز" که خصلت های دستوری و سبکی را برای فرار از تشخیص معرفی می کنند فریب داد. (بله، این گیج‌کننده است: هوش مصنوعی که باعث می‌شود نوشتن هوش مصنوعی شما کمتر از هوش مصنوعی به نظر برسد، برای فرار از هوش مصنوعی دیگر.) یک انگلیسی‌زبان غیر بومی که مقاله خود را می‌نویسد اما سپس آن را از طریق Grammarly، نرم‌افزار نوشتن با ویژگی‌های ویرایش مبتنی بر هوش مصنوعی اجرا می‌کند، ممکن است بیشتر از دانش‌آموزی که به ChatGPT اجازه می‌دهد همه کارها را انجام دهد، دچار مشکل شود.

مقاله از طریق انسان ساز. این مطالعه بر روی نسخه قبلی پانگرام انجام شده است و این شرکت می گوید آخرین مدل آن برای انسان سازها قوی تر است. اما موارد جدید همچنان ظاهر می شوند. واتکینز از اوله میس به من گفت: «در اصل این یک مسابقه تسلیحاتی است. و از آنجایی که Pangram برای دانشجویان و همچنین اساتید در دسترس است، آنها می توانند مقاله تولید شده توسط هوش مصنوعی خود را از طریق آزمون و خطا تغییر دهند تا زمانی که به عنوان "100 درصد انسان" بازگردد. (ترنیتین، که آشکارساز آن در دسترس عموم نیست، ممکن است بازی کردن در این روش دشوارتر باشد.)

مخالفت با آشکارسازهای هوش مصنوعی همچنین با این حس در میان برخی از مربیان و مدیران دانشگاه برخورد می کند که دانشجویان احتمالا باید حداقل برای برخی وظایف از هوش مصنوعی استفاده کنند. دانشکده بازرگانی کلی دانشگاه ایندیانا در "کتاب بازی هوش مصنوعی" خود، که اولین بار سال گذشته منتشر شد، خاطرنشان کرد که از دانشجویان "انتظار می رود که از هوش مصنوعی مسئولانه در حرفه خود استفاده کنند." برای این منظور، دانشگاه اساتید را از استفاده از آشکارسازهای هوش مصنوعی منع کرد: "به جای تلاش برای "گرفتن" استفاده از هوش مصنوعی، روی طراحی تکالیفی تمرکز کنید که فرآیند، استدلال و تعامل واقعی را تشویق می کند." و اوایل این ماه، یک H

رئیس دانشگاه آروارد ایمیلی به دانشجویان ارسال کرد که در آن از این که کالج از «کسب و کار تشخیص هوش مصنوعی» خارج شود و به جای آن «پذیرش یا حتی تشویق» هوش مصنوعی در کلاس‌های فشرده را انتخاب کند، حمایت کرد.

استادان و مدیران دیگر استدلال می کنند که هوش مصنوعی به تغییرات گسترده تری نیاز دارد. گزارش هوش مصنوعی MIT را در نظر بگیرید، که نتیجه نهایی پنج ماه تحقیق برای تعیین اینکه دانشگاه چگونه باید به این فناوری پاسخ دهد، بود. نویسندگان نوشتند که ظهور هوش مصنوعی خطر "تسلیم شناختی" را افزایش می دهد که در آن دانش آموزان تفکر خود را به ماشین ها تخلیه می کنند. دست و پنجه نرم کردن با آن نه تنها به تغییراتی بلکه به یک "قرارداد اجتماعی" کاملا جدید بین معلمان و دانش آموزان نیاز دارد.

اریک کلوپفر، مدیر برنامه آموزش معلمان MIT، که یکی از نویسندگان گزارش هوش مصنوعی بود، به من گفت: «ما در تلاش هستیم تا به طراحی سیستم آموزشی خود به گونه‌ای فکر کنیم که امیدواریم حتی نیاز به آشکارسازهای هوش مصنوعی را نیز کاهش دهیم. او افزود که تکالیف باید کمتر در مورد نمرات و بیشتر در مورد "تولید چیزی با ارزش" باشد. «اگر به نظر می‌رسد کاری که من انجام می‌دهم علامت زدن کادری است که می‌گوید من می‌خواهم اعتبار بگیرم، قابل درک است که چرا دانش‌آموزان می‌خواهند از میانبر استفاده کنند.»

تصور مجدد تجربه آموزشی ممکن است پاسخ ایده آل به هوش مصنوعی باشد. همچنین از بسیاری از اساتید، به ویژه در مؤسساتی که فاقد منابع MIT هستند، سؤال می شود. واتکینز از اوله میس به من گفت که از مربیان قراردادهای کوتاه مدت می شنود که فقط سعی می کنند ترم را بدون یک رسوایی تقلب بزرگ پشت سر بگذارند. او فکر نمی‌کند که آشکارسازهای هوش مصنوعی جواب دهند، اما می‌داند که چرا بسیاری از معلمان برای کمک به آنها مراجعه می‌کنند.

پاوستیان، به نوبه خود، گفت که هوش مصنوعی هرگز در کلاس های پیشرفته میکروبیولوژی او، جایی که دانش آموزان تحقیقات اصلی را انجام می دهند و داده های جدید را توسعه می دهند، مشکل چندانی نداشته است. اما این یک آفت در دوره مقدماتی آنلاین او است که به طور منظم صدها دانش آموز را ثبت نام می کند. از این منظر، تقلب با هوش مصنوعی بسیار شبیه به مشکلات قدیمی تر و آشناتر آموزش و پرورش می شود. مانع کمبود ایده نیست، بلکه کمبود زمان و منابع است.