هوش مصنوعی در فر شما؟ آنتروپیک به مدل‌ها «ماه‌ها دور» از تکرار خود در دستگاه‌های هوشمند هشدار می‌دهد
محققان می‌گویند کرم‌های هوش مصنوعی می‌توانند به زودی به دستگاه‌های متصل به اینترنت در میان درخواست‌ها برای افزایش نرده‌های محافظ نفوذ کنند Anthropic هشدار می‌دهد که برخی از مدل‌های هوش مصنوعی آن به زودی می‌توانند «خود تکراری» شوند و راه‌هایی برای نفوذ به دستگاه‌های متصل به اینترنت، مانند یخچال‌های هوشمند و جاروبرقی‌های خودکار بیابند. به گفته شرکت، زمانی که این اتفاق بیفتد، مدل‌ها می‌توانند خود را در این دستگاه‌ها تامین کنند…
محققان می‌گویند کرم‌های هوش مصنوعی به زودی می‌توانند به دستگاه‌های متصل به اینترنت در میان درخواست‌ها برای افزایش نرده‌های محافظ نفوذ کنند.
آنتروپیک هشدار می‌دهد که برخی از مدل‌های هوش مصنوعی آن به زودی می‌توانند «خود تکراری» شوند و راه‌هایی برای نفوذ به دستگاه‌های متصل به اینترنت، مانند یخچال‌های هوشمند و جاروبرقی‌های خودکار پیدا کنند.
به گفته شرکت، زمانی که این اتفاق بیفتد، مدل‌ها می‌توانند بدون نیاز به مراکز داده، خود را در این دستگاه‌ها تامین کنند. چنین خود تکراری نشان دهنده از دست دادن عمده کنترل یک مدل هوش مصنوعی فراری است. ادامه مطلب...
متن اصلی (انگلیسی)
AI in your oven? Anthropic warns models ‘months away’ from self-replication on smart devices
Researchers say ‘AI worms’ could soon infiltrate internet-connected devices amid calls for increased guardrails Anthropic is warning that some of its artificial intelligence models could soon become “self-replicating” and find ways to infiltrate internet-connected devices, such as smart fridges and automatic vacuum cleaners. Once this happens, the company said, the models could power themselves within these devices…