جیمی دیمون می گوید که Mythos Anthropic خطرات امنیت سایبری هوش مصنوعی را افزایش می دهد

جیمی دیمون، مدیر عامل جی‌پی مورگان چیس، گفت: پیشرفت‌های هوش مصنوعی خطرات امنیت سایبری را به شدت افزایش داده است. خوزه سارمنتو ماتوس / بلومبرگ / گتی ایماژ جیمی دیمون، مدیر عامل جی پی مورگان چیس، می گوید که افسانه های آنتروپیک خطرات امنیت سایبری را به مراتب بدتر کرده است.

او می‌گوید هوش مصنوعی آسیب‌پذیری‌هایی را که شرکت‌ها از وجود آن‌ها اطلاعی نداشتند، آشکار کرده است.

نگرانی های ایمنی هوش مصنوعی پس از حوادث آزمایشی اخیر در حال افزایش است. جیمی دیمون، مدیرعامل جی‌پی مورگان چیس، گفت که مدل هوش مصنوعی Mythos Anthropic به طور چشمگیری خطرات امنیت سایبری را افزایش داده است.

دیمون روز سه‌شنبه به تلویزیون بلومبرگ گفت: ریسک‌ها پس از Mythos 10 برابر شد.

او افزود: «هوش مصنوعی آسیب‌پذیری‌هایی را ایجاد کرد که ما از آنها اطلاعی نداشتیم و همیشه قبل از این موارد نگران سایبری بودیم.

مدیر عامل JPMorgan مدت‌هاست که امنیت سایبری را یکی از بزرگ‌ترین خطرات بانک توصیف کرده است و آخرین اظهارات وی را قابل توجه می‌کند زیرا صنعت فناوری با مفاهیم مدل‌های پیشرفته هوش مصنوعی دست و پنجه نرم می‌کند.

دیمون آخرین رهبر برجسته تجاری است که در مورد خطرات ناشی از سیستم های هوش مصنوعی قدرتمند هشدار می دهد.

نظرات او در حالی بیان می شود که توسعه دهندگان هوش مصنوعی مرزی با نظارت شدید بر ایمنی پیشرفته ترین مدل های خود مواجه هستند.

در هفته‌های اخیر، محققان هوش مصنوعی، مدیران فناوری و برخی قانون‌گذاران مجددا خواستار همکاری بین‌المللی قوی‌تر برای کاهش خطر سوءاستفاده فاجعه‌بار از هوش مصنوعی پیشرفته شده‌اند.

این بحث پس از آن تشدید شد که Anthropic و OpenAI در ماه‌های اخیر حوادث جداگانه‌ای را در طول آزمایش ایمنی فاش کردند که سؤالات جدیدی را در مورد اینکه چگونه قابل‌اطمینان‌ترین مدل‌های هوش مصنوعی آنها را می‌توان کنترل کرد، ایجاد کرد.

این حوادث همچنین به درخواست‌های برخی از محققان و مدیران هوش مصنوعی برای کاهش سرعت توسعه مدل‌های هوش مصنوعی مرزی تا زمانی که پادمان‌های ایمنی قوی‌تر اعمال شود، تقویت کرده است.

دیمون گفت که این خطرات واقعی هستند، اما استدلال کرد که باید با تدابیر عملی مقابله کرد تا وحشت.

او گفت: بدیهی است که جنبه منفی آن چیزی است که در مورد عوامل و Mythos و همه این چیزها می خوانید که می تواند باعث دردسر شود، و این یک نگرانی قانونی است، این یک چیز واقعی است.

او گفت: «من هیستریک نمی‌کنم که «آیا وجودی است یا نه؟» کاری که ما انجام می‌دهیم این است که آستین‌ها را بالا بزنیم و برای رفع آن دست به کار شویم.»

مقاله اصلی را در Business Insider بخوانید