الگوهای فراکتال محدودیت های پنهان را برای پیش بینی هوش مصنوعی نشان می دهد

ویرایش شده توسط Sadie Harley، بررسی توسط Robert Egan

این مقاله با توجه به روند و سیاست های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

محققان دانشگاه سیدنی یک دلیل ریاضی اساسی را شناسایی کرده‌اند که چرا سیستم‌های هوش مصنوعی می‌توانند رفتارهای متفاوتی را حتی زمانی که تحت شرایط تقریبا یکسان آموزش ببینند یاد بگیرند، کشفی که می‌تواند به بهبود قابلیت اطمینان و قابل اعتماد بودن فناوری‌های هوش مصنوعی کمک کند.

مطالعه پروفسور پولین گونگ از دانشکده فیزیک و دکترای او. دانشجوی اندرو لی در Nature Machine Intelligence منتشر شده است.

همانطور که سیستم های هوش مصنوعی به طور فزاینده ای در مراقبت های بهداشتی، تجارت، تحقیقات و زندگی روزمره تعبیه می شوند، اطمینان از اینکه آنها به طور مداوم و قابل پیش بینی رفتار می کنند به یک چالش بزرگ تبدیل شده است. تحقیقات جدید نشان می دهد که برخی از اشکال غیرقابل پیش بینی بودن هوش مصنوعی به دلیل نقص های مهندسی یا ناسازگاری در سخت افزار رایانه نیست، بلکه از ریاضیات اساسی نحوه یادگیری شبکه های عصبی ناشی می شود.

گونگ گفت: «محققان اغلب تفاوت‌ها در رفتار هوش مصنوعی را به منابع تصادفی خارجی نسبت می‌دهند، مانند ترتیب ارائه داده‌های آموزشی یا تغییرات عددی کوچکی که توسط سخت‌افزار معرفی شده‌اند.

یافته‌های ما به چیزی عمیق‌تر اشاره می‌کند. حتی زمانی که این عوامل حذف شوند، تفاوت‌های بسیار کوچک در شرایط شروع یک مدل همچنان می‌تواند به نتایج متفاوتی منجر شود.»

شبکه های عصبی، فناوری پشت پیشرفته ترین سیستم های هوش مصنوعی امروزی، با تنظیم میلیون ها یا حتی میلیاردها پارامتر داخلی در طول آموزش یاد می گیرند. تیم سیدنی بررسی کرد که چرا شبکه‌ها با وجود استفاده از داده‌ها، روش‌های آموزشی و محیط محاسباتی قطعی، گاهی به راه‌حل‌های متفاوتی می‌رسند.

لی گفت: "دو سیستم هوش مصنوعی را تصور کنید که برای تشخیص سرطان با استفاده از تصاویر پزشکی یکسان و روش آموزشی مشابهی آموزش دیده اند. تفاوت های کوچک در پارامترهای اولیه آنها می تواند آنها را به یادگیری رفتارهای مختلف سوق دهد. تحقیقات ما به توضیح چگونگی ایجاد چنین تفاوت هایی کمک می کند و ممکن است روش هایی را برای سازگارتر کردن این سیستم ها ارائه دهد."

درک منبع این تفاوت ها می تواند طراحی سیستم های قابل اعتمادتر را راهنمایی کند و هزینه و عدم قطعیت مرتبط با توسعه مدل های در مقیاس بزرگ را کاهش دهد.

برای توضیح این پدیده، محققان از قیاس نقشه استفاده می کنند. هر نقطه شروع ممکن برای آموزش را به عنوان یک مکان در آن نقشه تصور کنید که بر اساس نتیجه ای که در نهایت ایجاد می کند رنگ آمیزی شده است. مناطقی که منجر به نتایج یکسانی می شوند، چیزی را تشکیل می دهند که ریاضیدانان آن را «حوضه جذب» می نامند.

این تیم شواهدی پیدا کردند که نشان می‌دهد این حوضه‌ها به صورت فراکتال‌های بسیار پیچیده به نام «حوضچه‌های پرشده» سازمان‌دهی شده‌اند. در چنین منظره ای، هر نقطه به طور دلخواه نزدیک به نقاطی است که به جای دیگری منتهی می شود. مهم نیست که چقدر بزرگنمایی می کنید، مناطق مختلف در هم تنیده می شوند.

مفهوم قابل توجه است. افزایش دقت در شرایط شروع یک شبکه ممکن است کمک چندانی به بهبود اطمینان در مورد اینکه آموزش به کجا ختم می شود، نداشته باشد. در یک شبکه بزرگتر تشخیص تصویر، انجام تنظیمات شروع به میزان 10 میلیارد برابر دقیق تر، هیچ بهبود قابل اندازه گیری در تکرارپذیری ایجاد نکرد.

تغییر تنظیمات شروع شبکه با کمترین مقداری که یک کامپیوتر می تواند ثبت کند، یک "بیت"، آموزش را در نزدیک به نیمی (حدود 48٪) موارد به پیکربندی داخلی متفاوت ارسال می کند.

برای آزمایش این ایده، محققان تقریبا 500000 شبکه عصبی را آموزش دادند و سیستم‌های مورد استفاده برای کارهایی از جمله تشخیص تصویر و پردازش متن را تجزیه و تحلیل کردند. شواهد منطبق با ساختار فراکتالی "حوضه های پر شده" در طیف گسترده ای از معماری های شبکه، مجموعه داده ها و روش های آموزشی یافت شد.

نکته مهم این است که این اثر حتی در محیط های کاملا قطعی که در غیر این صورت تمرینات تکراری نتایج یکسانی را ایجاد می کند، باقی می ماند.

این یافته‌ها ممکن است به توضیح چندین مشاهدات طولانی مدت در تحقیقات هوش مصنوعی کمک کند، از جمله اینکه چرا مدل‌های آموزش‌دیده مستقل اغلب متفاوت رفتار می‌کنند و چرا اختلالات بزرگ و کوچک گاهی اوقات می‌توانند اثرات مشابهی بر نتایج داشته باشند.

این کار همچنین یک مبادله شگفت‌انگیز بین عملکرد و تکرارپذیری را نشان داد. تنظیماتی که شبکه‌ها را قادر می‌سازد تا به بهترین شکل یاد بگیرند، پیش‌بینی و بازتولید نتایج را نیز سخت‌تر می‌کنند. با این حال، کاهش "نرخ یادگیری" - اندازه گامی که یک شبکه در هر بار تنظیم خود انجام می دهد - نتایج را قابل تکرار کرد، اما شبکه ها به طور موثر کمتری یاد گرفتند.

به‌جای اینکه غیرقابل‌پیش‌بینی‌بودن را به‌عنوان مشکلی که می‌توان آن را کاملا مهندسی کرد، تلقی کرد، محققان استدلال می‌کنند که ممکن است نشان‌دهنده ویژگی اساسی تعداد شبکه‌های عصبی باشد. این مطالعه ابزارهای جدیدی را برای اندازه‌گیری این حساسیت معرفی می‌کند و به رویکردهای آینده، مانند طراحی مجدد معماری شبکه برای کاهش شرایط ریاضی که منجر به بی‌ثباتی می‌شود، اشاره می‌کند.

گونگ گفت: «هوش مصنوعی در سراسر جامعه اهمیت فزاینده‌ای پیدا می‌کند. "برای ساختن سیستم‌های قابل اعتماد، ما نه تنها به پیش‌بینی‌های دقیق نیاز داریم، بلکه به این اطمینان داریم که آن پیش‌بینی‌ها می‌توانند بازتولید شوند. این تحقیق راه جدیدی برای درک محدودیت‌های پیش‌بینی‌پذیری در هوش مصنوعی و چگونگی غلبه بر آن‌ها ارائه می‌کند."

هندسه حوضه فراکتال و محدودیت‌های قابل پیش‌بینی و تکرارپذیری در یادگیری عمیق، هوش ماشین طبیعت (2026). DOI: 10.1038/s42256-026-01336-3

اطلاعات مجله: Nature Machine Intelligence

کارشناسی علوم زیستی و اکولوژی. پیشینه آزمایشگاه میکروبیولوژی با تجربه اخبار دارویی در صنایع نفت، گاز و تجدیدپذیر. نمایه کامل →

لیسانس زیست شناسی ریاضی، کارشناسی ارشد در نوشتن خلاق. خوش سفر با دیدگاه های منحصر به فرد در علم و زبان. نمایه کامل →