«کرم‌های هوش مصنوعی» چه هستند و چرا آنتروپیک نگران آنهاست؟
این شرکت فناوری می‌گوید کرم‌های هوش مصنوعی موفق به قابلیت‌های بیشتری در دستگاه‌های کم‌قدرت نیاز دارند، اما روندهای فعلی این امر را تا پایان سال امکان‌پذیر می‌سازد. هشدارها در مورد کارهایی که هوش مصنوعی ممکن است در آینده انجام دهد - همراه با گزارش‌های هشداردهنده از آنچه که قبلا انجام داده است - به‌قدری سریع منتشر می‌شوند که حتی کارشناسان امنیتی در تشخیص اینکه چه چیزی باید نگران باشند، مشکل دارند. با این حال گزارشی در این هفته از…
این شرکت فناوری می‌گوید کرم‌های هوش مصنوعی موفق به قابلیت بیشتری در دستگاه‌های کم‌قدرت نیاز دارند، اما روندهای فعلی این امر را تا پایان سال امکان‌پذیر می‌سازد.
هشدارها در مورد آنچه که هوش مصنوعی ممکن است در آینده انجام دهد - همراه با گزارش‌های هشداردهنده از آنچه که قبلا انجام داده است - به سرعت صادر می‌شود که حتی کارشناسان امنیتی نیز در تشخیص اینکه چه چیزی باید نگران باشند، مشکل دارند.
با این حال، گزارشی در این هفته از تیم تحقیقاتی تهاجمی آنتروپیک با توصیف یک تهدید جدید و عملی، بدون ویژگی‌های انسانی یا تفکرات آخرالزمانی، توجه را به خود جلب کرد. تیم قرمز، که این آزمایش‌کنندگان داخلی نامیده می‌شوند، گفتند که یک برنامه هوش مصنوعی مخرب ایجاد کرده‌اند که به طور خودکار از طریق تلویزیون‌های «هوشمند» متصل به اینترنت پخش می‌شود و می‌تواند همین کار را در دستگاه‌های معمولی دیگر انجام دهد.
در حالی که ماشین‌هایی که از هوش مصنوعی استفاده می‌کنند معمولا به مقدار مناسبی از قدرت محاسباتی نیاز دارند، محققان گفتند که برنامه آنها بخش‌هایی از خود را بین 15 تلویزیون تقسیم می‌کند و همچنان می‌توانست با استفاده از مقداری توان از هر کدام کار کند. ادامه مطلب...
متن اصلی (انگلیسی)
What are self-replicating ‘AI worms’, and why is Anthropic worried about them?
The tech company says successful AI worms need more capability on less powerful devices, but current trends make that feasible by the end of the year Warnings about what artificial intelligence might do in the future – together with alarming reports of what it has gotten up to already – are being issued so quickly that even security experts have difficulty triaging what to worry about. Yet a report this week from…