محقق Anthropic که به افشاگر تبدیل شده است می گوید که برای خودکارسازی خود کار می کرد

محقق هوش مصنوعی جاکوب کاکسون در مورد خطرات هوش مصنوعی در برابر قانونگذاران شهر نیویورک شهادت داد. آدام گری/گتی ایماژ جیکوب کوکسون، محقق سابق Anthropic که استعفای او تیتر خبرها شد، در جلسه شورای نیویورک در مورد خطرات هوش مصنوعی هشدار داد.

کاکسون شهادت داد: «در آخرین کارم، به نوعی، کار می کردم تا خودم را خودکار کنم.

کاکسون گفت: خودکارسازی تحقیقات هوش مصنوعی به زودی باعث می‌شود که انسان‌ها نتوانند نتایج آن را کنترل کنند. یک محقق سابق Anthropic و OpenAI که به افشاگر تبدیل شده است، گفت: تحقیقات هوش مصنوعی خودکار در افق است، و هشدار داد که این امر می تواند انسان ها را کاملا قادر به کنترل آنچه در آینده می آید ناتوان کند.

جیکوب کوکسون، جوان 27 ساله ای که ماه گذشته پس از کار به عنوان پژوهشگر قابلیت ها به طور علنی از آنتروپیک استعفا داد، این اظهارات را در برابر قانونگذاران شهر نیویورک روز دوشنبه در حالی که زنگ خطر را به صدا درآورد که هوش مصنوعی می تواند بقای بشریت را تهدید کند، بیان کرد.

کاکسون شهادت داد که خودکارسازی تحقیقات هوش مصنوعی به "هدف اولیه" آزمایشگاه های برتر هوش مصنوعی تبدیل شده است.

کاکسون در جلسه استماع شورای شهر نیویورک که بر خطرات هوش مصنوعی متمرکز بود، گفت: «در آخرین کارم، به نوعی، برای خودکارسازی خودم کار می‌کردم.

او گفت: «زمانی که من در OpenAI بودم، ما نقاط عطفی برای یک محقق هوش مصنوعی خودکار در حدود سال‌های 2027، 2028 داشتیم و ما در مسیری قرار داریم یا این انتظارات را شکست می‌دهیم. این موضوع چند ماه دیگر است، نه دهه ها یا حتی پنج سال.

کاکسون گفت که زمانی که هوش مصنوعی بتواند تحقیقات خود را انجام دهد، "انسان ها بسیار دورتر از ما امروزی خواهند بود و امروز در حال حاضر عالی نیست."

کاکسون از آنچه او تجربه دست اول نامید صحبت کرد، گفت که اکثر کدهایی که امروزه نوشته می شود توسط هوش مصنوعی نوشته شده است. او شهادت داد: "و مردم دیگر آن را با دقت بررسی نمی کنند."

OpenAI و Anthropic بلافاصله به درخواست برای اظهار نظر در مورد اظهارات کاکسون در روز سه شنبه پاسخ ندادند.

کاکسون در میان هیئتی از افشاگران صنعت هوش مصنوعی بود که در جلسه استماع چند ساعته شهادت دادند، که شامل شهادت نمایندگان OpenAI، Anthropic، Google و Meta نیز بود.

جولی منین، سخنران شورای شهر در ابتدای جلسه گفت: "این جلسه در مورد خفه کردن نوآوری نیست."

در شهادت خود، کاکسون به اعضای شورا گفت که تجربه‌اش در داخل Anthropic و OpenAI او را متقاعد کرده است که شرکت‌ها بدون تدابیر کافی به پیش می‌روند.

کوکسون گفت: «به احتمال زیاد بشریت کنترل خود را به این هوش مصنوعی‌ها از دست می‌دهد و ممکن است منجر به انقراض انسان شود.

وقتی کاکسون در پستی که اکنون ویروسی شده است استعفای خود را از Anthropic در X اعلام کرد، گفت نه آنتروپیک و نه OpenAI "مسئولانه عمل نمی کنند" و ادعا کرد که هر دو "با زندگی ما قمار می کنند."

در طول جلسه استماع روز دوشنبه، کاکسون خواستار شفافیت بیشتر آزمایشگاه‌های هوش مصنوعی و کاهش سرعت در توسعه فناوری به سرعت در حال پیشرفت شد.

او شهادت داد: "شرکت‌ها بر اساس یک طرز فکر استارت‌آپ کار می‌کنند: سریع حرکت کنید، چیزها را خراب کنید، بعدا آنها را تعمیر کنید. این برای یک برنامه اشتراک‌گذاری عکس کار می‌کند. برای ساخت قدرتمندترین فناوری ساخته شده تا به حال کار نمی‌کند."

چند روز پس از استعفای کوکسون، داریو آمودی، مدیر عامل آنتروپیک، مقاله ای جدید تقریبا 4000 کلمه ای منتشر کرد و از صنعت هوش مصنوعی خواست تا سرعت خود را کاهش دهد.

آمودی نوشت: «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم. "پیشرفت همچنان سریع به نظر می رسد و ما باید از زمانی که به دست می آوریم عاقلانه استفاده کنیم."

در پاسخ، سام آلتمن، مدیر عامل OpenAI در یک پست X گفت: "من با داریو موافقم که ما باید از مرزها عبور کنیم. این موضوع اصلی بحث های ما در OpenAI در هفته های اخیر بوده است."

مقاله اصلی را در Business Insider بخوانید