مهم ترین بخش چت ربات های هوش مصنوعی نادیده گرفته می شود

چت ربات های هوش مصنوعی چندین لایه دارند که ما همیشه به آنها فکر نمی کنیم

Jaap Arriens/NurPhoto از طریق Getty Images

ChatGPT هرگز قرار نبود انقلابی را آغاز کند. هنگامی که در نوامبر 2022 راه اندازی شد، سام آلتمن، مدیر عامل OpenAI آن را "یک نسخه آزمایشی اولیه" نامید و انتظارات پایین بود. شخصا، واکنش اولیه من این بود که به نظر نمی‌رسید از مدل‌های زبان بزرگ قبلی (LLM) که OpenAI منتشر کرده بود، توانمندتر باشد. فقط رابط کاربری بهتری داشت بدیهی است که من اشتباه کردم که اهمیت رابط را نادیده گرفتم، اما در سال 2026 فکر می کنم اکثر افرادی که از هوش مصنوعی استفاده می کنند بدون اینکه متوجه باشند اشتباه مشابهی انجام می دهند.

آنچه شما به عنوان ChatGPT یا Claude یا هر چت ربات دیگری از یک برند بزرگ هوش مصنوعی در نظر می گیرید، در واقع نرم افزارهای زیادی است که در یکی پیچیده شده اند، و ما مهمترین آنها را نادیده می گیریم: مهار.

ادامه مطلب هوش مصنوعی فرضیه 30 ساله ریاضی در علوم کامپیوتر را رد می کند

برای درک اینکه یک مهار چیست و چگونه کار می کند، به تجزیه چندین چیز که ChatGPT می نامیم کمک می کند. در پایین ترین قسمت LLM قرار دارد، که در حال حاضر نسخه ای از GPT-6 است، اما زمانی که OpenAI خانواده مدل های جدید را منتشر می کند، این مورد از بین می رود. LLM ها یک کار را انجام می دهند: با توجه به یک رشته متن، محتمل ترین کاراکترهای بعدی را پیش بینی می کنند. اولین مدل OpenAI، GPT-1، در سال 2018 به‌عنوان یک نرم‌افزار منتشر شد که باید آن را دانلود کرده و از طریق یک ترمینال روی رایانه خود اجرا کنید، رابط مبتنی بر متن برای رایانه‌ای که اکثر ما از آن اجتناب می‌کنیم.

همین امر در مورد GPT-2 در سال 2019 صادق بود، تا اینکه یک توسعه‌دهنده نرم‌افزار مستقل به نام آدام کینگ، Talk to Transformer را ایجاد کرد، وب‌سایتی که اکنون از بین رفته است و به شما امکان می‌دهد یک درخواست وارد کنید و در ازای آن پاسخ GPT-2 را دریافت کنید. چت رفت و برگشت امکان پذیر نبود، اما این یک نمونه اولیه از یک رابط بود، در این مورد یک وب سایت، که در بالای یک مدل قرار داشت.

در سال 2020، OpenAI GPT-3 را منتشر کرد و برای اولین بار به مردم اجازه داد از طریق رابط برنامه نویسی برنامه (API)، اولین محصول تجاری خود، به آن دسترسی داشته باشند. API ها روشی استاندارد برای ارتباط یک کامپیوتر با کامپیوتر دیگر هستند – به عنوان مثال، Google یک API نقشه های گوگل دارد که به یک نرم افزار اجازه می دهد درخواستی برای داده های مکان ارسال کند. API OpenAI به هر کسی اجازه می‌دهد نرم‌افزاری ایجاد کند که بتواند به GPT-3 متصل شود.

در آن زمان، من با چند مورد از اینها بازی کردم و آنها را جالب اما درهم و برهم دیدم - متنی که آنها تولید می کردند اغلب نادرست یا به نحوی ناقص بود، اگرچه جالب بود که این سطح از تولید متن حتی امکان پذیر بود. این اساسا هنوز زمان خروجی LLM "خام" بود، بدون ریل محافظ - اگر از GPT-3 بخواهید سخنان نفرت انگیز یا دستورالعمل هایی برای ساخت بمب تولید کند، این کار را به بهترین شکل ممکن انجام می دهد.

تبلیغات

با انتشار GPT-3.5 و همزمان ChatGPT که برای اولین بار تا تغییر نام در لحظه آخر «Chat with GPT-3.5» نامیده می شد، این موضوع تغییر کرد. این نام اصلی نشان می‌دهد که OpenAI ChatGPT را به‌عنوان یک رابط ساده برای یک مدل می‌دید، و این واکنش من را نیز توضیح می‌دهد – نتایجی که از بازی با ChatGPT گرفتم به نظر می‌رسید شبیه GPT-3 بود، و استفاده از آن آسان‌تر بود.

در واقع، یک تفاوت اساسی وجود داشت. با GPT-3.5، OpenAI سعی کرده بود ریل‌های محافظی را نصب کند که از تولید متنی که مدل مضر به نظر می‌رسید، با نرم‌افزاری که ورودی‌ها و خروجی‌ها را نمایش می‌داد، جلوگیری می‌کرد. اینها خیلی خوب کار نمی‌کردند - مثلا می‌توانید با درخواست برای انجام یک درخواست مخرب در قالب شعر، آنها را دور بزنید - اما این آغازی بود برای دور شدن از LLM‌های خام به مواردی که با واسطه یک مهار بین مدل و رابط قرار می‌گیرد.

امروزه، محصول ChatGPT، چه برنامه موجود در تلفن شما باشد و چه وب سایت، دارای مهار گسترده ای است که بیشتر از دید کاربر پنهان است. این به مدل اجازه می دهد تا کارهایی مانند جستجو در اینترنت، خواندن اسناد یا "دلیل" را انجام دهد، به این معنی که به طور مداوم خود را از طریق یک "زنجیره فکر" برای تولید نتایج بهتر راهنمایی کند. OpenAI همچنین یک مهار پیچیده‌تر دیگر برای مدل‌های خود به نام Codex دارد که به LLM اجازه می‌دهد مستقیم‌تر کامپیوتر را کنترل کند و بنابراین برای نوشتن کدهای کامپیوتری مفید است.

چرا هر کدام از اینها اهمیت دارد؟ خوب، راز کثیف شرکت‌های بزرگ هوش مصنوعی این است که بهترین مدل‌های آنها تا حدی قابل تعویض هستند. فناوری پشت مدل OpenAI GPT، یک ترانسفورماتور از پیش آموزش‌دیده مولد، همان فناوری است که توسط Anthropic، Google یا هر شرکت هوش مصنوعی دیگری استفاده می‌شود. تفاوت‌های مهمی در داده‌ها و قدرت محاسباتی مورد استفاده برای آموزش این مدل‌ها وجود دارد، اما عموما همه آنها در یک جهت حرکت می‌کنند، به همین دلیل است که شرکت‌ها مدام در حال رقابت هستند تا تاج «بهترین» را قبل از اینکه مدل دیگری جایگزین آن شود، به دست آورند.

چیزی که واقعا تفاوت را ایجاد می کند مهار است. برای نشان دادن این موضوع، من همان دستور را دادم - "من کی هستم؟" - به یک مدل، GPT-6، به سه روش مختلف. از طریق API، ابتدا پاسخی دریافت کردم: «من هویت شما را از این چت نمی‌دانم». از chatgpt.com، بدون اینکه وارد سیستم شوم، پاسخی دریافت کردم که شروع شد: «این یک سؤال بزرگ است. 🙂». وقتی وارد حساب شخصی خود شدم، پاسخ شروع شد: «شما جیکوب آرون هستید، سردبیر ارشد نیو ساینتیست، با علاقه شدید به ریاضیات، علوم، فناوری و محدودیت‌های آنچه که ما واقعا می‌توانیم بدانیم.»

ادامه مطلب ریشه های ترس از هوش مصنوعی در غرب فرهنگی است، نه فناوری

اما مهار بسیار بیشتر از دانستن چند واقعیت در مورد کاربر اهمیت دارد. در تست ARC-AGI، که یکی از معیارهای پیشرو در «هوش» مدل در نظر گرفته می‌شود، مدل‌ها با استفاده از یک مهار بازشده که در همه مدل‌ها استاندارد شده است، یا «آداپتور ارائه‌دهنده» که امکان دسترسی به ابزارهای خاصی را که هر شرکت هوش مصنوعی ساخته است، آزمایش می‌شوند. تفاوت قابل توجه است - برای GPT-6 Astra، مدل عمومی پیشرو OpenAI، امتیازات تست در هنگام استفاده از مهار آداپتور ارائه دهنده به جای استاندارد، تا 80 درصد افزایش یافت.

برای یک مدل قبلی، GPT-5.6 Sol، OpenAI دریافت که تنها بهینه سازی دو تنظیمات در مهار آن، امتیاز ARC-AGI حاصل را سه برابر می کند.

اگر مهارها بسیار مهم هستند، چرا بیشتر در مورد آنها صحبت نمی کنیم؟ چرا شرکت های هوش مصنوعی به جای آخرین مدل خود، در مورد مهار جدید خود فریاد نمی زنند؟ من فکر می کنم چند دلیل وجود دارد. اولین مورد این است که آنها پیچیده و فنی هستند - من یک مقاله کامل برای توضیح آنها آورده ام - و کاربر معمولی چت بات شما واقعا نیازی به دانستن در مورد آن ندارد. اما دوم این است که آنها به نوعی خسته کننده هستند. هزینه آموزش یک LLM پیشرو به 1 میلیارد دلار نزدیک می شود، تلاشی هرکول که به تعداد زیادی از پردازنده های کامپیوتری نیاز دارد.

هنگامی که LLM ها آموزش می بینند، ما هنوز دقیقا نمی دانیم که آنها چگونه نتایجی را که انجام می دهند ایجاد می کنند و فضایی مرموز را ارائه می دهند. از سوی دیگر، هارنس ها فقط نرم افزارهای معمولی هستند، خطوط کد نوشته شده توسط انسان که هر کسی می تواند آن را بخواند.

اما اینجاست که واقعا جالب می شود. اگر یک مهار فقط کد باشد، آیا یک AI می تواند مهار خود را بنویسد و بهبود بخشد؟ در حال حاضر این یک سوال تحقیقاتی باز است، هم در شرکت های هوش مصنوعی و هم برای دانشگاهیان. به عنوان مثال، در مقاله‌ای که در ماه اوت منتشر شد، یک تیم تحقیقاتی مدل‌ها را با شناسایی خرابی‌های مکرر و پیشنهاد تغییراتی در مهارهای آن‌ها که می‌تواند خرابی‌ها را برطرف کند، آزمایش کرد و شاهد بهبودهایی در حدود 10 تا 40 درصد در معیارها بود. به همین دلیل است که من فکر می‌کنم در آینده نزدیک چیزهای بیشتری در مورد مهارها خواهیم شنید.

اگر هدف شرکت‌های هوش مصنوعی، خودسازی بازگشتی باشد – هوش مصنوعی که می‌تواند هوش مصنوعی بهتری بسازد – پس مهار، نه مدل، می‌تواند کلید دستیابی به آن باشد.

ادامه مطلب انتخابات ریاست جمهوری برزیل به دلیل تعصبات ادعایی ابزارهای هوش مصنوعی متا انجام شد

مطالعه بیشتر هوش مصنوعی:

به نظر می‌رسد که OpenAI به عنوان بخشی از نسخه‌ای است که نتایج جدیدی در ریاضیات و فیزیک مشاهده می‌کند. جالب اینجاست که بر اساس بازخورد دانشگاهیان، رویکرد کمی متفاوت برای هر یک از آنها اتخاذ می کند. برای نتیجه ریاضی، مربوط به مشکلی در مورد چرخاندن سوزن، OpenAI خروجی هوش مصنوعی را به طور کامل منتشر کرده است. همین کار را برای نتیجه علم کامپیوتر انجام می دهد، رد حدسی به نام فرضیه زمان نمایی، در حالی که بودجه کنفرانسی برای بحث در مورد آن را نیز تامین می کند. نتیجه فیزیک تا زمانی که توسط کارشناسان خارجی بررسی شود، به تعویق افتاده است.

به نظر می رسد OpenAI هنوز در تلاش است تا بفهمد در مورد مدل های خود که روی انگشتان دانشگاهیان قرار می گیرند چه کاری انجام دهد.

آنتروپیک جزئیات تجارت خود را قبل از عرضه اولیه عمومی برنامه ریزی شده (IPO) در بازار سهام در اواخر سال جاری منتشر کرده است. این هوش مصنوعی را «پیامدترین فناوری در تاریخ بشر» می‌نامد (هیچ شگفتی‌ای در آنجا وجود ندارد) و همچنین هشدار می‌دهد که ممکن است «خطرات فاجعه‌بار یا وجودی برای بشریت» ایجاد کند - باز هم با توجه به سابقه عمومی آنتروپیک چندان تعجب‌آور نیست، اما دیدن این زبان در اسنادی که در کمیسیون بورس و اوراق بهادار ایالات متحده ثبت شده است، شگفت‌انگیز است.