جیکوب کوکسون میگوید به همین دلیل است که قدم زدن در مرز ممکن است کارساز نباشد
جیکوب کوکسون، محقق هوش مصنوعی، گفت که قدم زدن در مرز ممکن است موثر نباشد. آدام گری/گتی ایماژ جاکوب کوکسون، محقق Anthropic که ماه گذشته ترک کرد، گفت که کند کردن پیشرفت هوش مصنوعی ممکن است موثر نباشد. او گفت که «۹۰ درصد» مطمئن است که جاسوسان چینی به آزمایشگاههای هوش مصنوعی آمریکا نفوذ کردهاند و میتوانند پیشرفت را بدزدند. روسای هوش مصنوعی ماه گذشته خواستار کاهش سرعت توسعه هوش مصنوعی برای معرفی کنترلها و تعادلهای بیشتر شدند. یعقوب…
جیکوب کوکسون، محقق هوش مصنوعی، گفت که قدم زدن در مرز ممکن است موثر نباشد. آدام گری/گتی ایماژ Jacob Coxon، محقق Anthropic که ماه گذشته ترک کرد، گفت که کند کردن پیشرفت هوش مصنوعی ممکن است موثر نباشد.
او گفت که «۹۰ درصد» مطمئن است که جاسوسان چینی به آزمایشگاههای هوش مصنوعی آمریکا نفوذ کردهاند و میتوانند پیشرفت را بدزدند.
روسای هوش مصنوعی ماه گذشته خواستار کاهش سرعت توسعه هوش مصنوعی برای معرفی کنترلها و تعادلهای بیشتر شدند. Jacob Coxon، کودک پوستر نابودی و تاریکی هوش مصنوعی، گفت که دلیلی وجود دارد که قدم زدن در مرز ممکن است کارساز نباشد.
کاکسون که ماه گذشته پس از متهم کردن آنتروپیک و OpenAI به «قمار با جانها» از آنتروپیک کنارهگیری کرد، در پادکست تاجر پاتریک بت دیوید گفت که کند کردن توسعه هوش مصنوعی ایالات متحده ممکن است بیاثر باشد زیرا جاسوسان چینی ممکن است به آزمایشگاههای ایالات متحده نفوذ کرده باشند.
او گفت که "90٪" در مورد حضور جاسوسان چینی در OpenAI و Anthropic مطمئن است، که می توانند پیشرفت آزمایشگاه ها را در هر زمان بدزدند و "پیشگام شوند."
او در مصاحبه ای که روز سه شنبه منتشر شد به بت دیوید گفت: "بنابراین اگر ادامه دهیم، آنها به آن دسترسی خواهند داشت. اگر ادامه ندهیم، چین خودش آن را ایجاد می کند. بنابراین در هر صورت، چین در نهایت به آن دسترسی خواهد داشت."
با این حال، زمانی که بت دیوید از او جزئیاتی در مورد اینکه چه کسانی ممکن است باشند پرسید، کاکسون گفت که او "سعی نمیکند مانند یک شکار جادوگر شروع کند" و نام کسی را ذکر نکرد.
یک منبع آشنا با آنتروپیک به Business Insider گفت که هیچ مدرکی برای تایید این ادعا وجود ندارد. آنتروپیک تهدیدهای اطلاعاتی خارجی را به عنوان یک خطر جدی تلقی می کند و بازرسی دقیق پرسنل، کنترل های دسترسی دقیق و نظارت بر ریسک های داخلی را حفظ می کند.
Coxon و نمایندگان OpenAI به درخواستهای Business Insider برای اظهار نظر پاسخ ندادند.
کاکسون در این مصاحبه اضافه کرد که دلیل دیگری که توانایی های هوش مصنوعی چین در حال پیشرفت است، استفاده از حملات تقطیر است، مشکلی که آزمایشگاه هایی مانند آنتروپیک چندین بار به آن اشاره کرده اند.
حملات تقطیر شامل استفاده از مدلهای پیشرفته هوش مصنوعی برای آموزش و بهبود قابلیتهای مدلهای کمتر پیشرفته است و آنتروپیک آزمایشگاههای چینی مانند Alibaba، Moonshot، DeepSeek و Zhipu را به انجام میلیونها حمله در تابستان متهم کرد.
در بخش دیگری از مصاحبه، او همچنین کارکنان آنتروپیک را با مورچههای کارگری مقایسه کرد که "مایلند خود را برای نفع ماموریت قربانی کنند"، یعنی دستیابی به هوش فوق العاده.
مصاحبه کاکسون پس از آن صورت گرفت که مدیران آزمایشگاههای بزرگ هوش مصنوعی، از جمله داریو آمودی، مدیر عامل آنتروپیک، سم آلتمن، مدیر عامل OpenAI، و ایلان ماسک، مدیر عامل xAI، در مورد کند کردن توسعه هوش مصنوعی و افزودن چکها و نردههای محافظ به فرآیند صحبت کردند. آلتمن در پستی در سپتامبر X گفت که پیشرفت در OpenAI "سریع بوده و ادامه خواهد داشت"، اما برای ایمن تر کردن هوش مصنوعی کمی کند خواهد شد.
با این حال، بسیاری از فراخوان برای سرعت بخشیدن به مرزها انتقاد کرده اند و می گویند که این امر می تواند باعث ایجاد تبلیغات در مورد عرضه های اولیه عمومی مورد انتظار Anthropic و OpenAI شود و رقبای کوچکتر هوش مصنوعی را از بین ببرد.
مقاله اصلی را در Business Insider بخوانید
متن اصلی (انگلیسی)
Jacob Coxon says this is why pacing the frontier might not work
AI researcher Jacob Coxon said pacing the frontier might not be effective. Adam Gray/Getty Images Jacob Coxon, the Anthropic researcher who quit last month, said slowing AI progress may not be effective. He said he was "90%" certain that Chinese spies had infiltrated US AI labs and could steal progress. AI chiefs called last month for a slower pace of AI development to introduce more checks and balances. Jacob…