گوگل نباید مدارس را برای استفاده از هوش مصنوعی خود تحت فشار بگذارد

آیا کودکان باید از هوش مصنوعی در مدرسه استفاده کنند؟

وقتی در مدرسه بودم، فناوری جدیدی به شکل جعبه جادویی راه اندازی شد که می توانست به هر سوالی که می خواستید پاسخ دهد. نام آن گوگل بود، و معلمان من هشدار دادند که ما نباید به هر چیزی که منتشر می شود اعتماد کنیم، زیرا هر کسی می تواند هر چیزی را در اینترنت قرار دهد. سه دهه بعد، تاریخ در حال تکرار است - با پیچش. اکنون مدارس از گوگل التماس می‌کنند که به دانش‌آموزان اجازه دهد به موتور جستجوی خود دسترسی داشته باشند، اما غول فناوری می‌گوید این تنها در صورتی امکان‌پذیر است که معلمان نیز نوع جدیدی از جعبه جادویی، هوش مصنوعی را بپذیرند.

Google بسیار بیشتر از زمان من در آموزش ادغام شده است، زیرا محصولات Classroom و Workspace خود طیف وسیعی از ابزارها را از ایمیل گرفته تا برنامه ریزی درس در اختیار معلمان و دانش آموزان قرار می دهد. اخیرا، گوگل چت ربات هوش مصنوعی Gemini خود را در کلاس روم گنجانده است تا باعث ناراحتی برخی از مدارس ایالات متحده شود که می خواهند تصمیم بگیرند که آیا دانش آموزان به هوش مصنوعی دسترسی دارند یا نه. گوگل گفت مطمئنا می‌توانید هوش مصنوعی را خاموش کنید، اما جستجو را از دست می‌دهید. کریس فیلیپس از گوگل به نیویورک تایمز گفت: «جستجو و هوش مصنوعی عمیقا یکپارچه هستند.

در ابتدا، من فکر کردم که این باید یک سوء تفاهم در مورد آنچه ما AI می نامیم باشد. برای اکثر مردم امروز، AI به معنای یک مدل زبان بزرگ (LLM) از نوع Gemini یا ChatGPT است. اما موتور جستجوی گوگل مدت‌هاست که از هوش مصنوعی به معنای تاریخی یادگیری ماشینی استفاده می‌کند و از سال 2015 با سیستمی به نام RankBrain شروع کرد که به ارتباط کلمات با مفاهیم برای تولید نتایج جستجو کمک کرد. مرورهای AI که اغلب در بالای جستجوی امروزی مشاهده می کنید، که در سال 2024 راه اندازی شد، تنها بخشی از نتایج جستجوی تولید شده توسط Gemini است.

مطمئنا، من فکر می‌کردم، آنچه در اینجا اتفاق می‌افتد این است که مناطق مدرسه‌ای که می‌گویند «بدون هوش مصنوعی» صرفا به معنای عدم وجود مروری بر هوش مصنوعی است، در حالی که Google کاملا منطقی می‌گوید که نمی‌توان عناصر موتور جستجوی خود را که بیش از یک دهه کار می‌کردند، حذف کرد تا با یک درخواست سخت‌گیرانه «عدم هوش مصنوعی» مطابقت داشته باشد. این را می توان با اطمینان از اینکه همه در مورد یک موضوع صحبت می کنند به راحتی حل می شود، درست است؟

اشتباه است. گوگل واقعا در حال ارائه یک انتخاب همه یا هیچ به مدارس است. فیلیپس به رسانه آموزشی Chalkbeat گفت: «اگر مدرسه‌ای با آن راحت نیست و به سادگی می‌خواهد هوش مصنوعی را خاموش کند، آنگاه این انتخاب را دارند که اصلا جستجو را انجام ندهند. این یک تصمیم محصول است، نه فنی. مرورهای هوش مصنوعی در هر جستجو ظاهر نمی شوند و می توان آنها را برای هر جستجو با افزودن یک کد کوتاه به URL غیرفعال کرد. اگر بخواهد گوگل مطمئنا می تواند این گزینه را در اختیار مدارس قرار دهد.

وقتی از یکی از سخنگویان گوگل خواسته شد نظر بدهد، برای New Scientist پیوندی به پست وبلاگی در مورد آموزش هوش مصنوعی با محصول Gemini خود فرستاد.

قبلا دیده بودیم که یک غول فناوری از این کتاب بازی استفاده کرده است. تقریبا در همان زمانی که گوگل در اواخر دهه 1990 موتور جستجوی جوان و تازه‌کار خود را راه‌اندازی کرد، مایکروسافت با پیگرد قانونی برای مجبور کردن مردم به نصب مرورگر اینترنت اکسپلورر (IE) به عنوان بخشی از سیستم عامل ویندوز خود، در تلاش برای مبارزه با مرورگرهای رقیب، مواجه شد. در آن زمان، مایکروسافت ادعا کرد که فایل‌های IE بخشی جدایی‌ناپذیر از ویندوز هستند و نمی‌توان آن‌ها را بدون آسیب رساندن به عملکرد سیستم‌عامل حذف کرد.

در سال 2001، یک دادگاه ایالات متحده حکم داد که این ادغام برای حفظ غیرقانونی انحصار خدمت می کند و مایکروسافت موظف شد مرورگرهای دیگر را در دسترس تر کند. در سال 2010، مایکروسافت مجبور شد به دنبال حکم کمیسیون اروپا، طیف وسیعی از مرورگرها را به کاربران ارائه دهد.

هیچ پیشنهادی مبنی بر اینکه گوگل در رویکرد خود به مدارس اقدامی غیرقانونی انجام می دهد وجود ندارد، اگرچه این شرکت در حال حاضر در حال اعتراض به یک حکم ضد تراست ایالات متحده است که نشان می دهد به طور غیرقانونی انحصار خود را در جستجوی آنلاین حفظ می کند و مفسران آن را به سوء استفاده از این انحصار متهم کرده اند. زهران ممدانی، شهردار نیویورک در X نوشت: «گوگل در تلاش است از قدرت انحصاری خود استفاده کند تا هوش مصنوعی را به مدارس دولتی ما تحمیل کند.» پس از واکنش شدید، Google در X پست کرد که برای مدارس، جمینی و جستجو به طور پیش‌فرض خاموش خواهند بود و مدارس می‌توانند بنا به صلاحدید خود یکی را روشن کنند.

با این حال، این در واقع به موضوع جستجوی بدون مرورهای هوش مصنوعی نمی پردازد.

در نهایت، احتمالا دادگاه ها باید تصمیم بگیرند که آیا گوگل باید جستجوی بدون هوش مصنوعی را ارائه دهد یا خیر، اما من بیشتر به این سؤال علاقه مند هستم که چگونه و چه زمانی کودکان باید شروع به استفاده از هوش مصنوعی کنند. گوگل 90 درصد سهم بازار را در جستجو دارد، بنابراین ساده‌لوحانه است که فکر کنیم کودکان در معرض مرورهای هوش مصنوعی قرار نمی‌گیرند، حتی اگر در مدارس ممنوع شوند.

من شخصا می‌دانم که مرورهای هوش مصنوعی می‌توانند به‌شدت ناقص باشند و اطلاعات نادرستی ارائه دهند، و با این حال، نادیده گرفتن آنها در بالای نتایج جستجوی من برایم سخت است، حتی در حالی که می‌دانم اگر می‌خواهم وب‌سایت‌ها به موجودیت خود ادامه دهند، باید روی پیوندها کلیک کنم تا درآمدی را ارائه کنم.

تحقیقات در مورد چگونگی تأثیر LLM بر یادگیری هنوز در روزهای اولیه است، اما شواهدی که ما داریم نگران کننده است. یک مطالعه روی حدود 10000 بزرگسال نشان داد که افرادی که از خلاصه LLM به جای لیستی از پیوندها استفاده می کردند، درک سطحی تری از یک موضوع به دست آوردند، ظاهرا به این دلیل که داشتن نتایج پیش فرض توسط هوش مصنوعی به تلاش شناختی کمتری نیاز داشت.

مطالعه دیگری روی بیش از 26000 دانش‌آموز در چین نشان داد که استفاده از هوش مصنوعی به آنها عملکرد تکالیف را به شدت بهبود می‌بخشد، اما نتایج امتحانات کاهش می‌یابد - این نشان می‌دهد که بچه‌ها به هوش مصنوعی اجازه می‌دادند تکالیف خود را بدون اینکه واقعا چیزی یاد بگیرند، انجام دهد.

پاسخ گوگل به این نگرانی‌ها، محصول آموزش هدایت‌شده‌اش است که در حال افزودن آن به جستجوی حساب‌های دانشجویی است. این سیستم می‌گوید زمانی که کودکان در جستجوی کمک برای انجام تکالیف هستند، سیستم آن را بررسی می‌کند و آنها را به‌جای ارائه پاسخی ساده، گام‌به‌گام با آن‌ها همراهی می‌کند. در آزمایش‌هایی که با حدود 1800 دانش‌آموز در سیرالئون انجام شد، گوگل می‌گوید این رویکرد بیش از یک سال پیشرفت معمول یادگیری را تنها در هشت هفته ارائه می‌کند.

در اصل، من مخالف استفاده از هوش مصنوعی در مدارس نیستم – این یک فناوری مدرن و مفید است که مطمئنا بخشی از زندگی دانش‌آموزان در آینده خواهد بود، و آنها باید یاد بگیرند که آن را درک کنند، همانطور که من مزایا و معایب استفاده از Google را در دهه 90 آموختم. این سوال که چگونه می توان تکالیف خانه را در عصر هوش مصنوعی انجام داد، زمانی که یک مقاله را می توان در چند ثانیه تولید کرد، بسیار سخت و مداوم است. یکی از گزینه‌ها این است که تکالیف را کنار بگذاریم و به تست‌های بیشتری در کلاس نیاز داشته باشیم، اما اگر گوگل راه خود را پیش بگیرد و هوش مصنوعی در آنجا نیز اجتناب‌ناپذیر باشد، به نظر می‌رسد معلمان کنترل کمی خواهند داشت.

به نظر من، این مورد اعتراض آمیزترین نکته است، زیرا تعیین خط مشی آموزشی نباید به عهده غول های فناوری باشد.

خواندن بیشتر هوش مصنوعی

یک یوتیوبر از هوش مصنوعی برای تجزیه و تحلیل صداهای غیرقابل شنیدن (برای انسان) از هواپیما در پس‌زمینه یک ویدیو استفاده کرده و سپس آن را با داده‌های پرواز عمومی ارجاع می‌دهد تا بفهمد این ویدیو تا فاصله 100 متری کجا فیلم‌برداری شده است. این بسیار خارق‌العاده است، و من افراد دیگری را دیده‌ام که این تکنیک را تکرار می‌کنند، اما من علاقه مند هستم که یک مطالعه مناسب در مورد اینکه چقدر این تکنیک قدرتمند است، ببینم.

استفاده داخلی آنتروپیک از هوش مصنوعی گران‌تر از کل صورت‌حساب دستمزد آن است و نشان می‌دهد که این شرکت چقدر به محصولات خود وابسته شده است. چند اخطار در مورد آن وجود دارد - آنتروپیک بدیهی است که قیمت‌های خرده‌فروشی را به خود پرداخت نمی‌کند و بسیاری از کارکنان آن علاوه بر حقوق، با گزینه‌های سهام نیز پاداش می‌گیرند. با این وجود، آنتروپیک امسال موشک استفاده داخلی خود را دیده است که در ماه سپتامبر با ضریب 250 افزایشی در مقایسه با ژانویه.

مرکز ملی امنیت سایبری بریتانیا هشدار داده است که "AI-cyber" (یک عبارت وحشتناک به معنای حملات سایبری مبتنی بر هوش مصنوعی) در چند سال آینده به یک مشکل بزرگ تبدیل خواهد شد. من کاملا موافقم - توانایی جدیدترین مدل‌های هوش مصنوعی برای یافتن حفره‌های امنیتی در نرم‌افزار شگفت‌انگیز است و به نظر می‌رسد تنها راه دفاع در برابر آن هوش مصنوعی بیشتر است.