آمازون وارد عرصه ایمنی هوش مصنوعی می شود و خواستار "آزمایش دقیق" و تدابیر امنیتی است

آرم آمازون در این تصویر دیده می شود که در 16 فوریه 2025 گرفته شده است. رویترز/دادو روویک/تصویر

سان فرانسیسکو، 17 سپتامبر - آمازون در مورد بحث ایمنی هوش مصنوعی که دره سیلیکون را متشنج کرده است، گفت که آزمایشگاه‌های هوش مصنوعی باید اطمینان حاصل کنند که مدل‌ها تنها زمانی عرضه می‌شوند که ایمن و کاملا آزمایش شده باشند، اما از درخواست برای کاهش سرعت صنعت خودداری کردند.

سخنگوی شرکت سیاتل به رویترز گفت: «ما آن را انتخابی بین پیشرفت و ایمنی نمی‌دانیم. مدل‌ها باید زمانی عرضه شوند که آماده و ایمن برای استفاده باشند، که ناشی از آزمایش‌های دقیق و حفاظت‌های قوی است.»

این شرکت نظرات خود را در پاسخ به تحقیق رویترز چند روز پس از آن ارائه کرد که بسیاری از بزرگترین آزمایشگاه‌ها خواستار توسعه آهسته‌تر هوش مصنوعی شدند، پس از نارضایتی محققان و سایرینی که می‌ترسند این فناوری از کنترل انسان دور شود و سیستم‌های جهانی و حتی خود بشریت را تهدید کند.

آمازون با اشاره به پیشرفت در توسعه هوش مصنوعی گفت: «اگر این اتفاق به طور جمعی رخ ندهد، خطراتی وجود دارد. ما معتقدیم که به عنوان یک صنعت، در مشارکت با دولت، از طریق حمایت‌های درست کار خواهیم کرد.»

آمازون مدل‌های هوش مصنوعی را از طریق زیرمجموعه خدمات وب آمازون خود و در واحدی که به هوش عمومی مصنوعی یا AGI اختصاص دارد، توسعه می‌دهد، تا حدی برای تقویت دستیار صوتی الکسا و سایر خدمات. همچنین یک تامین‌کننده زیرساخت پیشرو برای آزمایشگاه‌های هوش مصنوعی است و به سایر شرکت‌ها کمک می‌کند تا از طریق بازار Bedrock به مدل‌های رقبا دسترسی پیدا کنند.

پس از اینکه داریو آمودی، مدیر عامل آنتروپیک، مقاله ای تقریبا 4000 کلمه ای را در روز شنبه منتشر کرد و از صنعت خواست تا سرعت توسعه هوش مصنوعی را که به نام pacing شناخته می شود، کند کند، روسای OpenAI، xAI، DeepMind گوگل و مایکروسافت همگی از رویکردی سنجیده تر حمایت کردند و لحظه نادری از وحدت را رقم زدند.

این شرکت‌ها همچنین توافق کردند که با همکاری یکدیگر اطمینان حاصل کنند که ایمنی بسیار مهم است. آمازون نگفت که آیا قصد دارد اقدامات مشابهی انجام دهد یا خیر.

محققان Anthropic، OpenAI و DeepMind در رسانه‌های اجتماعی درباره نگرانی‌های خود درباره اینکه هوش مصنوعی کنترل نشده، تهدیدی برای نابودی تمدن بشری منتشر کرده بودند. نگرانی ها در مورد ایمنی هوش مصنوعی پس از اینکه هفته گذشته یکی از محققان Anthropic در یک پست رسانه اجتماعی اعلام کرد که توسعه دهندگان هوش مصنوعی "معتقدند که می تواند تا پایان دهه همه ما را بکشد" کناره گیری کرد، اوج گرفت.

این به دنبال افشای این موضوع بود که مدل‌های هوش مصنوعی OpenAI و Anthropic از آزمایش فرار کردند و سیستم‌های شرکت‌های دیگر را هک کردند و ماه‌ها در یک زمان از توجه دور ماندند.

اما آمازون تا اواخر روز چهارشنبه سکوت کرده بود. این پس از آن بود که مدیران عامل انویدیا و متا در روز سه‌شنبه از سایر توسعه‌دهندگان هوش مصنوعی فاصله گرفتند و استدلال کردند که ارزیابی و کنترل هر خطری که هوش مصنوعی برای بشریت ایجاد می‌کند مسئولیت شرکت‌های جداگانه است.

نگرانی‌ها به کاخ سفید رسیده است، اگرچه دونالد ترامپ، رئیس‌جمهور آمریکا نگرانی‌های ایمنی را یک «فریب» خوانده است.

تنها کنترل یا «نرده‌های محافظ» که هوش مصنوعی به آن نیاز دارد، یک رئیس‌جمهور قوی و باهوش (ضریب هوشی بالا!) است، و ایالات متحده آمریکا این را در کل دارد!» ترامپ در Truth Social نوشت. انتظار می رود او در این هفته یا اوایل هفته آینده با مدیران هوش مصنوعی دیدار کند.

نمی توان آموخت که آیا آمازون دعوت می شود یا خیر. رویترز