JPMorgan تغییرات کلود را ارائه می کند: محدودیت های خرج 2000 دلار و امنیت بیشتر

پیام‌های تیم‌های داخلی نشان می‌دهد که برخی از مهندسان در JPMorgan برای کلود محدودیت‌هایی در هزینه دارند. بلومبرگ/گتی ایماژ پیام‌های داخلی تیم‌ها نشان می‌دهد که برخی از مهندسین که از Claude استفاده می‌کنند، محدودیت‌های مخارج ماهیانه 2000 دلاری دارند.

این کلاه با معماری کدگذاری جدید برای برخی از مهندسان که از Claude استفاده می کنند، "Devspace" مصادف است.

Devspace دسترسی کلود به اعتبار کارمندان و توانایی تعامل با سیستم های شرکت را محدود می کند. بر اساس پیام‌های داخلی که توسط Business Insider مشاهده شده است، JPMorgan محدودیت‌های مخارج ماهانه 2000 دلاری را برای برخی از کارمندان با استفاده از Claude Code ایجاد کرده است.

این سقف، همراه با یک تلاش امنیتی جدید برای برخی از کاربران کلود، نشان‌دهنده تحول دیگری در نحوه اصلاح استفاده از هوش مصنوعی توسط بزرگترین بانک آمریکا در میان هزینه‌ها و ریسک‌ها و تغییر شکل انتظارات برای مهندسان نرم‌افزار است.

ماه گذشته، دو پیام Teams در یک گروه برای برخی از مهندسان با دسترسی به Anthropic's Claude در مورد یک کد خطای جدید پرسیدند: "ExceededBudget" و "Budget=2000.0".

در پاسخ‌های کارکنان گفته شد که برای مهندسان خاصی که از Claude استفاده می‌کنند، محدودیت هزینه ماهیانه 2000 دلار وجود دارد. دو پاسخ گفتند که هزینه ها ماهانه بازنشانی می شوند. سایر پاسخ‌ها گفتند که کاربران می‌توانند درخواست افزایش سقف هزینه‌های خود را داشته باشند.

همانطور که Business Insider قبلا گزارش داده بود، JPMorgan که بودجه فناوری سالانه نزدیک به 20 میلیارد دلار دارد، ماه‌ها استفاده مهندسان خود از هوش مصنوعی را به دقت ردیابی کرده است، اما این اولین نشانه از هزینه‌های هوش مصنوعی یا محدودیت‌های توکن است.

هزینه های توکن در سراسر وال استریت به یک مسئله مبرم تبدیل شده است. در ماه ژوئن، Zachery Anderson، مدیر ارشد داده‌ها و تجزیه و تحلیل پرداخت‌ها در JPMorgan، در یک رویداد فناوری گفت که برخی از کارمندان «بیش از حقوق خود برای توکن‌ها خرج می‌کنند»، اما سمافور گزارش داد که تلاش گسترده‌ای برای کاهش استفاده صورت نگرفته است.

جرمی بارنوم، مدیر مالی بانک، در جریان تماس سود سه ماهه دوم بانک در ماه ژوئیه، گفت که در حالی که هزینه‌های رمزی در آن نقطه «بی‌اهمیت» بودند، بانک «شتاب معناداری در این رقم برای نیمه دوم سال پیش‌بینی می‌کند».

جی پی مورگان از اظهار نظر در مورد محدودیت های توکن یا استراتژی هزینه آن خودداری کرد. یکی از سخنگویان گفت: «ما با نظم و انضباط به هوش مصنوعی نزدیک می‌شویم، هزینه‌ها را به ارزش تجاری قابل اندازه‌گیری گره می‌زنیم و طیف وسیعی از معیارها را در نظر می‌گیریم، از جمله پذیرش، نتایج، بهبود بهره‌وری، کیفیت، سرعت، ایجاد ظرفیت، کاهش ریسک و تأثیر تجاری.»

معماری جدید برای کلود

محدودیت 2000 دلاری برای برخی مصادف است با تغییر گسترده‌تری در نحوه استفاده برخی از مهندسان بانک از Claude، و در گروه Teams درباره معماری جدید کدنویسی، "Devspace" ذکر شد. تا همین اواخر، برخی از توسعه دهندگان کلود را مستقیما روی دسکتاپ خود به صورت آزمایشی اجرا می کردند. سخنگو گفت، با این حال، Devspace یک برنامه بلندمدت است که دسترسی کلود به اعتبار کارمندان و توانایی آن در تعامل با سیستم های داخلی را محدود می کند.

این نوع محدودیت به ویژه برای اجرا و کنترل عوامل هوش مصنوعی مفید است که می توانند به تنهایی تصمیم بگیرند و وظایف را انجام دهند.

Devspace به‌عنوان یک سرور «کانتینری‌شده» و جعبه‌شنی مانند میزبانی شده در خدمات وب آمازون در یک پست وبلاگی در یک سایت داخلی برای سؤالات فنی توسط Business Insider توصیف شده است. ماسه‌بازی کدنویسی، مانند یکی در زمین بازی، مکانی جدا شده است که نرم‌افزار می‌تواند بدون تأثیر بر بقیه سیستم‌های کامپیوتری اجرا شود.

سخنگوی گفت که Devspace نسبتا جدید است و بانک همچنان به ارائه ویژگی های جدید ادامه می دهد. پست وبلاگ دو ماه پیش منتشر شد. مشخص نیست که شرکت از چه زمانی شروع به معرفی محیط کدنویسی جدید کرد و چند مهندس به آن دسترسی دارند.

پت اوپت، مدیر ارشد امنیت اطلاعات جی پی مورگان در ماه آوریل، قبل از اینکه بانک این پلتفرم را معرفی کند، در طی یک گفتگوی کنار آتش در یک کنفرانس امنیت سایبری در مورد معماری سندباکس صحبت کرد. او گفت که قرار دادن ابزارهای قدرتمند هوش مصنوعی روی همان دسکتاپ هایی که ایمیل ها، فایل های حساس و اطلاعات شخصی کارکنان را در خود جای می دهد، می تواند خطرناک باشد. Opet گفت که شرکت "سعی می کند این را به گونه ای بسازد که پلتفرم مورد استفاده هوش مصنوعی را ایزوله کند" و محیط های دسکتاپ متمایز کارمندان و هوش مصنوعی را ایجاد کند.

او گفت: «در حالت ایده‌آل، ما می‌خواهیم این عوامل در اکوسیستمی کار کنند که در آن هیچ حقی ندارند. آنها هویت دارند، اما هیچ حقی ندارند.» وقتی این ابزارها نیاز به دسترسی به یک منبع دارند، ما می‌خواهیم درک زمینه اطراف آن را کنترل کنیم.»

Opet گفت که تحت این نوع معماری، JPMorgan می تواند فعالیت نمایندگان را بهتر درک کند و مجوز دهد. اگر یک عامل هوش مصنوعی بفهمد که چگونه از محیط خارج شود، اعتبار لازم برای دسترسی به سیستم های داخلی یا "سوء استفاده از شرکت" را نخواهد داشت.

با عرضه Devspace، بانک شروع به تحقق چشم انداز Opet کرده است، اگرچه مشخص نیست که آیا یا چه زمانی تمام مهندسانی که از Claude استفاده می کنند در محیط دیجیتال جدید شروع به کار خواهند کرد یا خیر.

در حال حاضر، تنها بخشی از بخش فناوری جهانی 65000 نفری بانک به کلود دسترسی دارد. در ماه آگوست، داشبورد داخلی مشاهده شده توسط Business Insider نشان داد که حدود 8000 نفر دارای مجوز Claude هستند و گروه Teams برای سؤالات در مورد Devspace در اوایل سپتامبر حدود 1900 عضو داشت. مشخص نیست که آیا همه افراد گروه Teams در Devspace صندلی دارند یا خیر.

از زمان چت کنار آتش Opet، نگرانی در مورد عوامل سرکش هوش مصنوعی افزایش یافته است و تهدیدات امنیت عمومی از نظر شدت و فراوانی افزایش یافته است.

عوامل Anthropic و OpenAI در چند ماه گذشته از محیط‌های آزمایشی بسته فرار کرده‌اند، گاهی اوقات به اینترنت دسترسی پیدا کرده و وب‌سایت‌ها را ربوده‌اند. آنتروپیک از آن زمان امنیت را در محیط‌های آزمایش دیجیتال خود تشدید کرده است و OpenAI متعهد شده است که نحوه افشای آن را در مواقعی که عواملش سرکش می‌کنند، تغییر دهد. برخی از رهبران صنعت از کاهش سرعت پیشرفت تکنولوژی برای نجات بشریت حمایت کرده اند.

بانک ها حجم عظیمی از داده های حساس از اطلاعات شناسایی مشتریان گرفته تا شماره کارت اعتباری آنها را در اختیار دارند. شهرت شرکت‌ها به سطح ایمنی، واقعی و درک شده آن‌ها گره خورده است، که مسئله امنیت سایبری در عصر هوش مصنوعی را به‌ویژه مهم می‌کند. تمرکز ایمنی برای JPMorgan چیز جدیدی نیست - این شرکت بخشی از "Project Glasswing"، یک گروه امنیت سایبری بود که مدل قدرتمند Mythos Anthropic را در یک محیط کنترل شده در ماه آوریل آزمایش کرد.

هنگامی که Opet در آوریل صحبت کرد، گفت که ساخت موفقیت‌آمیز این معماری باعث ایجاد «اعتماد و اطمینان» کافی برای توسعه دستیاران کدنویسی هوش مصنوعی در سراسر شرکت می‌شود، شرکتی که به خود افتخار می‌کند که اولین محرک هوش مصنوعی در وال استریت است.

او گفت: «این بهترین دیدگاه ما در حال حاضر در مورد اینکه چگونه شرکت‌ها می‌توانند برای دستیاران کدنویسی طراحی کنند، است.

مقاله اصلی را در Business Insider بخوانید