اپل هشدار می دهد که عوامل هوش مصنوعی می توانند بدون مجوز عمل کنند و شرکت را در معرض شکایت قضایی قرار دهند

اپل روز سه‌شنبه هشدار داد که عوامل هوش مصنوعی می‌توانند به سیستم‌های رایانه‌ای دسترسی داشته باشند یا بدون مجوز تراکنش‌های خود را انجام دهند که این امر شرکت را در معرض شکایت قضایی و آسیب به شهرت قرار می‌دهد.

اپل در پرونده سالانه خود در کمیسیون بورس و اوراق بهادار ایالات متحده اعلام کرد که عوامل هوش مصنوعی می توانند به طور مستقل کد نرم افزار را اجرا یا تغییر دهند، پیام ارسال کنند و تراکنش ها را کامل کنند.

بر اساس این پرونده، هنگام انجام چنین وظایفی، نمایندگان می‌توانند بدون مجوزهای لازم با سیستم‌های داخل یا خارج شرکت تعامل داشته باشند.

اپل گفت: «نمایندگان ممکن است به شیوه‌های ناخواسته یا غیرقابل پیش‌بینی رفتار کنند، از جمله با انجام اقداماتی که هدایت، دستور یا مجاز نبوده‌اند.

این شرکت هشدار داد که توانایی آن برای نظارت و کنترل عوامل هوش مصنوعی توسعه یافته توسط اشخاص ثالث ممکن است محدود باشد.

این افشاگری به دنبال تغییراتی بود که اپل در ماه اکتبر برای تشدید کنترل‌های دسترسی کامل به دیسک در رایانه‌های مک اعلام کرد، مجوزی که می‌تواند به نرم‌افزار دسترسی گسترده‌ای به فایل‌های ذخیره‌شده بدهد.

این پرونده یک روز پس از آن صورت گرفت که جان ترنوس، مدیر عامل اپل به تحلیلگران گفت که این شرکت فرصت هایی را برای گسترش وظایفی که سیری، دستیار دیجیتالی آن، می تواند از جانب کاربران انجام دهد، می بیند.

ترنوس بر اهمیت حصول اطمینان از اینکه کاربران می دانند به چه اطلاعات و سیستم هایی اجازه دسترسی به عوامل هوش مصنوعی را می دهند تاکید کرد.

ترنوس در جریان تماس درآمد روز دوشنبه گفت: "ما می خواهیم مطمئن شویم که این کار به گونه ای انجام می شود که از امنیت و حریم خصوصی محافظت کند."

او اطلاعات حساس ذخیره شده در آیفون‌ها از جمله مخاطبین، پیام‌ها، سوابق سلامت و داده‌های مالی را برجسته کرد.

ترنوس گفت سیری می‌تواند به کاربران کمک کند تا اطلاعات شخصی ذخیره شده در دستگاه‌هایشان را بازیابی کنند و در عین حال آن‌ها را از خود اپل محرمانه نگه دارند.

اپل همچنین در پرونده خود هشدار داد که تغییرات در قوانین حاکم بر هوش مصنوعی می تواند هزینه های انطباق را افزایش دهد.

این شرکت نگرانی‌های عمومی در مورد ایمنی سیستم‌های مستقل و آسیب‌های احتمالی که می‌توانند ایجاد کنند را به عنوان خطرات تجاری اضافی شناسایی کرد.