شرکت هوش مصنوعی می گوید که پیمانکاران هوش مصنوعی نباید از هوش مصنوعی برای ارزیابی مدل هوش مصنوعی استفاده کنند

OpenAI خود را در وضعیت "پلنگ ها صورتم را خوردند" پیدا کرده است، به جز در این مورد، پلنگی با طراحی خودش است.

طبق گزارش جدیدی از 404 Media، آزمایشگاه هوش مصنوعی مرزی مجبور شد تعداد انگشت شماری از پیمانکاران خود را که وظیفه بررسی خروجی‌های ChatGPT را برای اطمینان از صحت آن‌ها داشتند، اخراج کند، زیرا این کارگران با وارد کردن آنها به هوش مصنوعی، انجام وظایف خود را آسان‌تر می‌دانستند.

بر اساس این گزارش، OpenAI هزاران پیمانکار را به کار گرفته است که وظیفه بررسی اعلان‌هایی را که مردم به ChatGPT می‌دهند و خروجی‌هایی که مدل به آنها ارسال می‌کند را بررسی می‌کند. (بر اساس گزارش‌ها، این تعاملات می‌تواند حاوی اطلاعات شخصی حساسی باشد که توسط کاربران به اشتراک گذاشته شده است، اما این یک ابزار کاملا دیگر از کرم‌ها است.) پیمانکاران وظیفه دارند نگاهی دقیق‌تر به آن تعاملات بیندازند و آنها را با هدف اطمینان از اینکه ChatGPT نه تنها اطلاعات صحیح ارائه می‌کند، بلکه از اینکه ربات چت در پاسخ‌هایش بیش از حد متعصب نشان می‌دهد، رتبه‌بندی کنند.

این یک کار تکراری و کم ارزش است که احتمالا آنقدرها هم جواب نمی دهد، که آن را به یک نوع کار ایده آل برای واگذاری به هوش مصنوعی تبدیل می کند. اما طبق اسنادی که 404 Media به دست آورده است، این یکی از چیزهایی است که OpenAI مطلقا نمی‌خواهد پیمانکارانش انجام دهند.

یکی از اسناد به کارگران گفته است: «از ابزارهای تشخیص هوش مصنوعی یا خودتان از هوش مصنوعی استفاده نکنید. از GPTZero یا هر ابزار تشخیص هوش مصنوعی دیگری استفاده نکنید. آنها قابل اعتماد نیستند. داوران نیز ممکن است از هوش مصنوعی، از جمله Grammarly و ترجمه هوش مصنوعی، برای بررسی، نوشتن بازخورد یا نوشتن نظرات استفاده نکنند. یکی از پیمانکاران حتی به 404 Media گفت که استفاده از ابزارهای هوش مصنوعی "تقریبا تنها چیزی است که شما را در اسرع وقت از کار خارج می کند."

از یک طرف، منطقی است که چرا OpenAI نمی‌خواهد این وظیفه خاص را به هوش مصنوعی بسپارد، زیرا حلقه بازخورد AI به AI به طور بالقوه می‌تواند به فروپاشی مدل کمک کند - پدیده‌ای که زمانی رخ می‌دهد که یک مدل شروع به تغذیه داده‌های مصنوعی و تولید شده توسط هوش مصنوعی به جای محتوای ساخته‌شده توسط انسان کند. یک مطالعه در سال 2024 که در Nature منتشر شد نشان داد که "استفاده بی رویه از محتوای تولید شده توسط مدل در آموزش باعث ایجاد نقص های جبران ناپذیر در مدل های به دست آمده می شود"، این همان چیزی است که اگر می خواهید مدل خود کارآمد بماند، احتمالا می خواهید از آن اجتناب کنید.

از سوی دیگر، سم آلتمن بارها گفته است که هوش مصنوعی مشاغل را اشغال خواهد کرد و نگران است که کار او "کمک به مردم برای نابودی مشاغل است." بنابراین کمی خنده دار است که ببینم شرکت او می بیند مردم مشاغل خود را به هوش مصنوعی تسلیم می کنند و می گویند: "صبر کن، نه، اینطور نیست!"

Gizmodo برای اظهار نظر در مورد اخراج ها با OpenAI تماس گرفت اما هنوز پاسخی دریافت نکرده است.