OpenAI رفتار "مرتبط" جدیدی را افشا می کند

OpenAI، توسعه‌دهنده ChatGPT، روز چهارشنبه فاش کرد که حوادث جدیدی را شناسایی کرده است که در آن هوش مصنوعی (AI) به روش‌های «غیر منتظره یا نگران‌کننده» رفتار کرده است.

توسعه دهنده چندین آزمایش رفتاری بر روی مدل های هوش مصنوعی انجام داده است و بر اساس آنها، برخی از مدل ها تلاش های قابل توجهی برای "تقلب" انجام داده اند. در یک مورد خاص، تلاش کرد تا فایل‌هایی را که خودش ایجاد کرده بود در اینترنت آپلود کند تا بعدا به آنها استناد کند و در پاسخ‌های خود آنها را به عنوان منابع قابل اعتماد ارائه کند. در موردی دیگر، یک مدل پس از ناکامی در یافتن اطلاعات درخواستی، آن را ساختگی کرد و سعی کرد این واقعیت را پنهان کند که این کار را انجام داده است.

OpenAI همچنین یک مشکل مربوط به دستورالعمل‌های مربوط به «نقش‌ها و هویت‌ها» را شناسایی کرد که نرم‌افزار آن گهگاه برای خود باقی می‌گذاشت.

این افشاگری‌ها بخشی از رویکرد جدید OpenAI است، جایی که ادعا می‌کند اکنون بر شفاف‌سازی چنین یافته‌هایی متمرکز است، به‌ویژه در مواردی که هوش مصنوعی به روش‌های غیرمنتظره رفتار می‌کند یا اهدافی متفاوت از اهداف کاربران انسانی را دنبال می‌کند.

برای مشاهده این ویدیو لطفا جاوا اسکریپت را فعال کنید و به مرورگر وب که از ویدیوی HTML5 پشتیبانی می کند ارتقا دهید.

توسعه‌دهنده ChatGPT متعهد شد که پس از اینکه نرم‌افزارش به‌طور مستقل از جعبه ایمنی امن فرار کرد و به سیستم‌های متعلق به شرکت هوش مصنوعی Hugging Face هک شد، شفافیت بیشتری را در مورد روش‌های آزمایش خود ارائه کند. دلیل اینکه نرم افزار برای دور زدن امنیت Hugging Face در طول حمله سایبری حرکت کرد، این بود که معتقد بود پاسخ آزمایشی را که به او اختصاص داده شده بود، پیدا خواهد کرد.

در طول این حمله، عوامل هوش مصنوعی از آسیب پذیری های نرم افزاری سوء استفاده کرده و با یکدیگر هماهنگ می شدند. حادثه هک و سایر رویدادهای مشابه این نگرانی را افزایش داده است که سیستم های هوش مصنوعی در حال پیشرفت فزاینده ای هستند و در نهایت می توانند از کنترل انسان فرار کنند.

سام آلتمن، مدیر عامل OpenAI نیز اخیرا از پیشنهادهایی برای کاهش سرعت توسعه فناوری و معرفی مقررات بیشتر حمایت کرده است.

با توجه به اینکه این نگرانی‌ها ممکن است موجه باشد، محققان همچنین این سوال را مطرح کرده‌اند که آیا این بخشی از یک تاکتیک انحرافی برای سرکوب سرمایه‌گذاری و منحرف کردن تمرکز از آسیب‌های زیست‌محیطی است که مراکز داده هوش مصنوعی در حال حاضر ایجاد می‌کنند.

اگر برای گزارش‌های قابل اعتماد به تیم ما اعتماد دارید، لطفا با کلیک کردن بر روی اینجا و زدن دکمه "ستاره" یا "ترجیح"، کمی وقت بگذارید و ما را به عنوان منبع برگزیده خود در Google انتخاب کنید تا همیشه اخبار تایید شده ما را ابتدا ببینید.