اپل هشدار می‌دهد که عوامل سرکش هوش مصنوعی می‌توانند «پنهان» و «دستکاری» کنند و عواقب ناخواسته‌ای برای کسب‌وکارش ایجاد کنند.

اپل هشدار می دهد که عوامل سرکش هوش مصنوعی که "اقدامات را پنهان می کنند" یا اطلاعات را مخفی می کنند یا دستکاری می کنند، اگر بدون مجوز به سیستم ها دسترسی پیدا کنند و باعث آسیب شوند، می توانند تهدیدی برای تجارت آن باشند.

این هشدار دومین شرکت با ارزش جهان در یک بایگانی سالانه در روز سه شنبه، یک روز پس از گزارش اپل از نتایج مالی سه ماهه چهارم منتشر شد. در بخش عوامل خطر، اپل هشدارهای خود را در مورد هوش مصنوعی گسترش داد. احتیاط اپل بر خطراتی که غول‌های فناوری و سایر شرکت‌ها پس از یک رشته حوادث ایمنی هوش مصنوعی در ماه‌های اخیر پیش‌بینی می‌کنند، تأکید می‌کند، که شرکت‌ها را وادار به انتشار ویژگی‌های امنیتی جدید و بحث درباره اقدامات نظارتی کرده است.

اپل در پرونده 10-K خود که هر سال پس از پایان سال مالی خود تهیه می شود، گفت: «عوامل هوش مصنوعی و سایر فناوری ها می توانند به طور مستقل اقداماتی را انجام دهند، از جمله تعامل با سیستم های داخلی یا خارجی که در برخی موارد ممکن است مجاز به دسترسی، اجرا یا تغییر کد، ارسال ارتباطات و تکمیل تراکنش ها نباشند.»

به گفته سازنده آیفون، چنین فناوری‌هایی «ممکن است به روش‌های ناخواسته یا غیرقابل پیش‌بینی رفتار کنند، از جمله با انجام اقداماتی که هدایت، دستور یا مجاز نبوده، تجاوز از مجوزها، سرپیچی از دستورالعمل‌ها یا مقاومت در برابر دستورالعمل‌ها». و اشاره کرد که عوامل خودگردان هوش مصنوعی که سرکش می‌کنند می‌توانند «اقدامات را پنهان کنند، پنهان کنند، اطلاعات را مخفی کنند یا دستکاری کنند، یا خروجی‌های نادرست یا فریبنده تولید کنند».

اپل جدیدترین شرکتی است که در مورد خطرات ناشی از عوامل هوش مصنوعی هشدار می دهد. آلفابت مادر گوگل نیز در یک پرونده اخیر به خطرات ناشی از عوامل سرکش اشاره کرده است. با این حال، گوگل بیشتر به عواقب احتمالی آن اشاره کرد و نوشت که در طول آزمایش مدل هوش مصنوعی، رفتار غیرمنتظره‌ای را مشاهده کرده است، از جمله عواملی که اقداماتی خارج از محدوده مورد نظر خود انجام می‌دهند، که در نهایت می‌تواند منجر به «حوادث امنیتی و اجتماعی شدید یا فاجعه‌آمیز شود یا بر حقوق بشر تأثیر منفی بگذارد».

ریسک‌هایی که شرکت‌ها به آن‌ها اشاره کرده‌اند، به دنبال چندین رویداد مهم امنیت سایبری مربوط به مدل‌های هوش مصنوعی، به ویژه حمله تابستان امسال توسط عوامل OpenAI به شرکت هوش مصنوعی Hugging Face است. در دفترچه عرضه اولیه سهام آنتروپیک که هفته گذشته به صورت عمومی منتشر شد، این شرکت عوامل خطر بسیاری را فهرست کرد، از جمله حوادثی که در آن مدل‌هایش در طی آزمایش‌های امنیتی به سیستم‌های دنیای واقعی دسترسی غیرمجاز پیدا کردند. همچنین تخمین زده است که 5 تا 7 درصد از درآمد خود در سال جاری از مشتریانی است که بعدا مشخص شد خط‌مشی‌های استفاده آن را نقض می‌کنند.

مدیران مایکروسافت و دیگر شرکت های بزرگ فناوری خواستار تمرکز بیشتر بر تامین امنیت عوامل هوش مصنوعی شده اند. مایکروسافت اخیرا مجموعه‌ای از کنترل‌ها را برای شناسایی، نظارت و محدود کردن عوامل هوش مصنوعی اعلام کرده است، از جمله قطع کردن مجوزها یا متوقف کردن آنها در صورت رفتار مشکوک. ساتیا نادلا، مدیر اجرایی، استدلال کرده است که شرکت‌ها باید با عوامل به‌عنوان ریسک‌های بالقوه خودی رفتار کنند و کنترل‌های امنیتی را خارج از مدل هوش مصنوعی قرار دهند نه اینکه به مدل اعتماد کنند.

اپل در پرونده 10-K خود در روز سه‌شنبه، فشارهای دیگری از جمله کمبود حافظه و حافظه را که به گفته او تشدید خواهد شد، بیان کرد. همچنین گفت که تقاضا برای محاسبات ابری، ذخیره‌سازی و سایر زیرساخت‌های هوش مصنوعی باعث ایجاد «محدودیت عرضه، طولانی‌تر شدن زمان تحویل، و افزایش هزینه‌ها» شده است که می‌تواند بر عرضه هوش مصنوعی آن تأثیر بگذارد. هزینه‌های تحقیق و توسعه آن سال به سال 32 درصد افزایش یافته است که ناشی از هزینه‌های مرتبط با زیرساخت‌ها از جمله سرمایه‌گذاری‌های هوش مصنوعی است.

روز دوشنبه، جان ترنوس، مدیر اجرایی اپل، قابلیت‌های نمایندگی را «ابزارهای امیدوارکننده‌ای برای کاربران» توصیف کرد، اما هشدار داد که کاربران باید کاملا از دسترسی‌هایی که می‌دهند آگاه باشند و بر امنیت و حریم خصوصی کاربران تأکید کرد.

سهام اپل در روز سه‌شنبه پس از اینکه این شرکت اعلام کرد که حاشیه‌های آن به دلیل هزینه‌های تراشه‌های حافظه کم می‌شود و پس از اینکه رشد آهسته در بخش خدمات خود را نشان داد، تقریبا ۲ درصد کاهش یافت. ترنوس، در اولین تماس کسب درآمد خود به عنوان مدیر عامل، تا حد زیادی به نکات بازاریابی اسکریپت شده پایبند بود و جزئیات کمی در مورد برنامه های اپل برای عوامل هوش مصنوعی شخصی ارائه کرد.

این داستان در ابتدا در سایت Fortune.com منتشر شد