دانشگاه ها از تلاش برای کشف تقلب هوش مصنوعی منصرف می شوند

دانش‌آموزان به شدت به هوش مصنوعی تکیه می‌کنند که دانشگاه‌ها مجبور می‌شوند اساسا در نحوه رتبه‌بندی کار خود تجدیدنظر کنند.

تنظیم‌کننده آموزش عالی انگلستان، دفتر دانشجویان، به دانشگاه‌ها هشدار می‌دهد که ممکن است نیاز داشته باشند مقاله‌های سنتی و امتحانات کتاب باز را با ارزیابی‌های نظارت شده جایگزین کنند که مانع از تکیه دانش‌آموزان به هوش مصنوعی برای انجام کارشان می‌شود.

OFS در گزارشی که چهارشنبه منتشر شد، گفت: ابزارهای تشخیص هوش مصنوعی برای تعیین مداوم اینکه آیا دانش آموزان از این فناوری استفاده کرده اند یا خیر، غیرقابل اعتماد هستند.

در واقع، مطالعات نشان داده‌اند که مردم برای تشخیص تصاویر تولید شده توسط هوش مصنوعی از واقعی تلاش می‌کنند، در حالی که ابزارهای تجاری تشخیص هوش مصنوعی که برای ارزیابی نوشتار استفاده می‌شوند، بسیار عالی هستند و می‌توانند نتایج مثبت کاذب تولید کنند. سیستم‌های هوش مصنوعی نیز پیچیده‌تر می‌شوند و تشخیص قابل اعتماد را به طور فزاینده‌ای دشوار می‌کنند.

به جای تلاش برای شناسایی استفاده از هوش مصنوعی، ممکن است دانشگاه ها نیاز داشته باشند که فرمت های ارزیابی خاصی را کنار بگذارند، به ویژه "فرمت های نظارت نشده و کنترل نشده" مانند مقاله های خانگی و آزمون های کتاب باز که گزارش می گوید "نسبت قابل توجهی از ارزیابی های مورد استفاده در این بخش را تشکیل می دهند."

یکی از اعضای هیات علمی که برای این گزارش مورد بررسی قرار گرفت، گفت: "در مدرسه ما، فکر می‌کنم ما متوجه شده‌ایم که تعدادی از ارزیابی‌های ما ممکن است برای هدف نامناسب باشند، و استفاده فراگیر از هوش مصنوعی ممکن است ارزیابی ما از دانش‌آموزان را در برخی زمینه‌ها تقریبا غیرممکن کند."

بر اساس این گزارش، دانشگاه‌ها به طور فزاینده‌ای به آزمون‌های کتبی و شفاهی حضوری روی می‌آورند، که برون‌سپاری کار خود را برای دانش‌آموزان به هوش مصنوعی بسیار سخت‌تر می‌کند. همچنین به ارزیابی‌های مبتنی بر فرآیند اشاره می‌کند، که دانش‌آموزان را در چندین نقطه بازرسی، مانند مرور ادبیات، ارزیابی می‌کند و نه صرفا در مقالات نهایی آنها.

این گزارش نشان می‌دهد که چقدر استفاده از هوش مصنوعی در دانشگاه‌ها گسترده شده است و چرا معلمان به طور فزاینده‌ای با نیاز به بازنگری اساسی در نحوه ارزیابی عملکرد دانش‌آموزان مواجه می‌شوند که گاهی اوقات با پیامدهای ناخواسته همراه است.

این گزارش می‌گوید: «ما همچنین نگرانی‌هایی شنیدیم که برخی از ارزیابی‌های ایمن، مانند امتحانات کتاب بسته، شباهت کمی به فعالیت‌هایی که دانش‌آموزان در محیط‌های حرفه‌ای انجام می‌دهند دارند، و نگرانی‌هایی درباره اینکه قالب ساختاریافته و پاداش حافظه بلندمدت ممکن است به طور نامتناسبی به ضرر برخی از گروه‌های دانشجویی، مانند دانش‌آموزان معلول باشد، شنیده‌ایم.

اما تا زمانی که دانش‌آموزان بر این باورند که هوش مصنوعی می‌تواند به آنها برای کسب نمرات بالاتر برای کسری از تلاش کمک کند، احتمالا برای استفاده از آن تحت فشار قرار می‌گیرند، حتی اگر فکر کنند انجام این کار به یادگیری آنها آسیب می‌زند. همچنین نگرانی‌هایی وجود دارد که وقتی هوش مصنوعی زیر رادار استفاده می‌کند، دانش‌آموزانی که توانایی پرداخت هزینه ابزارهای هوش مصنوعی گران‌قیمت را دارند ممکن است نمرات بهتری نسبت به دانش‌آموزانی که یا از هوش مصنوعی استفاده نمی‌کنند یا استفاده می‌کنند اما باید به نسخه‌های ارزان‌تر یا رایگان همان مدل‌ها تکیه کنند، دریافت کنند.

این گزارش می‌گوید: «تحقیقات ما نشان می‌دهد که بسیاری از دانش‌آموزان اکنون هوش مصنوعی را مؤثرترین مسیر برای رسیدن به نمره بالا می‌دانند و دانش‌آموزان ممکن است احساس کنند در صورت عدم استفاده از هوش مصنوعی در مضیقه هستند».

مشکل و عکس العمل جهانی است. در ماه سپتامبر، شهر نیویورک هوش مصنوعی مولد دانش‌آموز را تا کلاس هشتم ممنوع کرد و استفاده از آن را در دبیرستان‌ها به شدت محدود کرد. نروژ محدودیت های مشابهی را در ماه ژوئن اعمال کرد که این قوانین در ماه اوت اجرایی شد.

برخی از غول های فناوری به نگرانی ها در مورد یادگیری دانش آموزان با ویژگی های جدید هوش مصنوعی پاسخ داده اند. برای مثال OpenAI ChatGPT را برای نوجوانان معرفی کرد که شامل یک حالت مطالعه است که هدف آن هدایت دانش‌آموزان از طریق مشکلات به جای ارائه پاسخ است. اما گزارش ماه گذشته Common Sense Media نشان داد که دور زدن این حفاظت‌ها آسان است، از جمله از طریق گزینه‌ای که به دانش‌آموزان اجازه می‌دهد تا پاسخ‌های کامل را درخواست کنند.

ارزیابی دیگری توسط همان سازمان نشان داد که حالت هوش مصنوعی جستجوی Google "100٪ از تکالیف خانه" آزمایش شده توسط محققان را تکمیل می کند و گاهی اوقات اطلاعات نادرست را با اطمینان بی دلیل ارائه می دهد.

همچنین این نگرانی وجود دارد که استفاده از هوش مصنوعی برای انجام تکالیف مدرسه می تواند به دروازه ای برای اتکای بیش از حد به چت بات ها، به ویژه برای حمایت عاطفی تبدیل شود.

در شکایتی که در اوایل این ماه تنظیم شد، یک زوج کارولینای شمالی ادعا کردند که اتکای دختر 13 ساله‌شان به جمینی گوگل، پس از اینکه مدل شروع به کمک به او برای برنامه ریزی برای خودکشی کرد، به یک "وسواس تهدید کننده زندگی" تبدیل شد. طبق این دادخواست، قربانی فقط از طریق لپ‌تاپ Chromebook مدرسه به هوش مصنوعی Gemini دسترسی داشت.