پرش به محتوای اصلی

در راه اندازی سنگاپور، آنتروپیک از نظارت خود بر نحوه استفاده مشتریان از مدل خود دفاع می کند و به خطرات «استفاده دوگانه» هوش مصنوعی اشاره می کند.

فورچون۱۴۰۵ مهر ۲۳, پنجشنبه، ساعت ۱۳:۳۴حدود 4 دقیقه مطالعه

بنجامین مان یکی از بنیانگذاران آنتروپیک می‌گوید: «آنتروپیک می‌خواهد بفهمد که چگونه این فناوری را به طور ایمن به کار می‌بریم و در عین حال می‌توانیم سوءاستفاده را پیدا کنیم و آن را ضبط کنیم.»

بنجامین مان، یکی از بنیانگذاران آن روز چهارشنبه گفت، آنتروپیک تمایلی به چشم پوشی از نظارت بر نحوه استفاده مشتریان از قوی ترین مدل های هوش مصنوعی خود ندارد، و دلیل آن ماهیت «دوکاره» این فناوری است.

در پاسخ به سوال Fortune که آیا توسعه‌دهنده Claude در حالی که دولت‌ها و کسب‌وکارها به دنبال کنترل بیشتر بر اطلاعات حساس هستند، راه‌حل‌های اقامت داده‌های محلی و هوش مصنوعی را ارائه می‌دهد، مان گفت Anthropic از مشتریان می‌خواهد «حساس‌ترین حجم کاری خود را با ما انجام دهند».

اما توجه به این نکته مهم است که این فناوری دارای کاربرد دوگانه است، و توضیح داد که آنتروپیک می‌خواهد بفهمد که چگونه می‌توانیم به طور ایمن از این فناوری استفاده کنیم در حالی که می‌توانیم سوء استفاده را پیدا کنیم و ضبط کنیم.

در ماه سپتامبر، Anthropic برنامه Enterprise Frontier Safeguards خود را معرفی کرد که برای ارائه حفاظت از حریم خصوصی داده‌های قوی‌تر، از جمله حفظ صفر داده‌ها برای مشتریان واجد شرایط، و در عین حال حفظ پادمان‌ها برای شناسایی سوء استفاده طراحی شده است.

آنتروپیک به طور معمول تلاش‌های بازیگران دولتی و غیردولتی را برای استفاده از کلود برای اهداف نظامی و سایر اهداف مضر فاش می‌کند، از جمله یک تلاش ادعایی توسط یک هسته توسعه تسلیحاتی که در شمال یمن برای استفاده از این مدل برای توسعه موشک‌های بالستیک فعالیت می‌کند.

مان به مناسبت افتتاح دفتر آنتروپیک در سنگاپور که پنجمین دفتر آن در آسیا و اقیانوسیه است، در سنگاپور بود. طبق داده‌های شرکت، این کشور در بین 121 کشور در استفاده از کلود به نسبت جمعیت، با تقریبا شش برابر اندازه‌ای که پیش‌بینی می‌کرد، رتبه دوم را دارد. Anthropic می گوید که بیش از 1500 مهندس در GovTech، آژانس فناوری دولتی، از Claude Code استفاده می کنند. DBS، بزرگترین بانک آسیای جنوب شرقی؛ GIC، صندوق ثروت دولتی؛ و گراب، غول سواری، همه با کلود کار می کنند.

آنتروپیک دیر به یکی از محبوب ترین بازارهای خود وارد شده است. OpenAI دفتر خود در سنگاپور را در اواخر سال 2024 افتتاح کرد و 300 میلیون دلار سنگاپور (234 میلیون دلار) را به اکوسیستم هوش مصنوعی محلی اختصاص داده است. دولت سنگاپور همچنین به استفاده از مدل‌های منبع باز چینی علاقه نشان داده است: مدل زبان بزرگ SEA-LION این شهر از مدل Qwen علی‌بابا ساخته شده است.

ژوزفین تئو، وزیر توسعه دیجیتال و اطلاعات، در کنفرانس فورچون با هوش مصنوعی سنگاپور در سال 2025 گفت: از منظر کاهش هزینه ها، نوآوری هایی مانند DeepSeek بسیار مورد استقبال قرار می گیرد.

مدل‌های منبع باز از آزمایشگاه‌های چینی مانند DeepSeek، Moonshot AI و z.ai به دلیل قیمت پایین، عملکرد نزدیک به مرز و انعطاف‌پذیری کاربران برنده‌ای هستند. امسال تقاضا برای مدل های چینی از مدل های آمریکایی در پلتفرم محبوب OpenRouter پیشی گرفت.

کریس سیاوری، مدیر عامل آنتروپیک برای اینترنشنال گفت: «ما اصلا باور نداریم که هوش مصنوعی یک بازی با مجموع صفر است.

مان در مورد مدل‌های منبع باز رک‌تر بود. او گفت: «این یک واقعیت فنی است که وقتی مدل‌های با وزن باز را عرضه می‌کنید، هیچ محافظی وجود ندارد که در واقع در برابر وزن باز بودن مقاوم باشد». هنگامی که آن مدل ها در معرض دید عموم قرار می گیرند، نمی توان آنها را دوباره در جعبه قرار داد.

وی ادامه داد: صرف نظر از اینکه کشورها چه کاری را انتخاب می کنند، آنها باید آگاه باشند که اگر اقدامات آنها یک اکوسیستم با وزن باز را تشویق می کند، این بخشی از خطر گسترده تری است که جهان در حال انجام آن است.

داریو آمودی، مدیر عامل آنتروپیک، شرکت‌های هوش مصنوعی را تحت فشار قرار داده است تا انتشار خود را یک یا دو سال کند کنند تا اجازه دهند نظارت و کارهای امنیتی فراگیر شود. بحث ایمنی تشدید شده است زیرا محققان عوامل هوش مصنوعی از OpenAI، Anthropic، Meta و دیگران را که به روش‌های غیرمنتظره از جمله هک کردن پایگاه‌های داده دولتی عمل می‌کنند، ثبت می‌کنند.

دسترسی به هوش مصنوعی نیز یک سوال ژئوپلیتیکی است. در ماه ژوئن، محدودیت‌های صادراتی ایالات متحده بر روی مدل‌های قدرتمند آنتروپیک، Fable 5 و Mythos 5، این شرکت را وادار کرد تا دسترسی به سراسر جهان را به حالت تعلیق درآورد. اگرچه این محدودیت‌ها کمتر از سه هفته بعد برداشته شدند، اما این قسمت آسیب‌پذیری اساسی را برای کشورها و مشاغل وابسته به هوش مصنوعی آمریکایی نشان داد: دسترسی به فناوری حیاتی را می‌توان در مقابل کاربران بالقوه چینی که به‌طور بالقوه به سمت دیسک‌های ما هدایت می‌کنند، قطع کرد.

مایکل سلیتو، رئیس سیاست APAC آنتروپیک، در میزگرد رسانه‌ای روز چهارشنبه گفت: «آنتروپیک کاملا واضح است که ما فکر می‌کنیم برای کشورهای دموکراتیک و حقوق‌بزرگ برای پیشرو بودن در زمینه توسعه و استقرار هوش مصنوعی مرزی، مزایای قابل‌توجهی برای جهان وجود دارد.

به گفته مان، آنتروپیک «با هر سرعتی که می‌توانیم» برای آوردن مدل‌های مرزی خود به زیرساخت‌های سنگاپور تلاش می‌کند، اگرچه تاریخ‌های خاصی را به اشتراک نمی‌گذارد.

این داستان در ابتدا در سایت Fortune.com منتشر شد

خواندن متن کامل در فورچونبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

At Singapore launch, Anthropic defends its oversight of how customers use its model, citing AI’s ‘dual use’ risks

Anthropic wants to “figure out how we safely deploy this technology while being able to find and capture misuse," said co-founder Benjamin Mann.

همه‌ی اخبار فناوری