جهان باید برخی چیزهای بد را از هوش مصنوعی بپذیرد - مدیر عامل OpenAI

پس از هشدار بیل گیتس که استفاده نادرست می تواند منجر به "یک میلیارد مرگ" شود، سم آلتمن می گوید برخی از آسیب های این فناوری ارزش پذیرش دارد.

سام آلتمن، مدیر عامل OpenAI گفته است که جهان باید برخی «چیزهای بد» از جمله هک، کلاهبرداری، و سوء استفاده را در ازای مزایای هوش مصنوعی و دسترسی گسترده به فناوری بپذیرد.

آلتمن در مصاحبه‌ای با پولیتیکو که روز دوشنبه منتشر شد، این ایده را رد کرد که جلوگیری از همه استفاده‌های مضر از هوش مصنوعی، قرار دادن این فناوری را تحت کنترل شدیدتر توجیه می‌کند.

آلتمن گفت: «جهان باید برخی اتفاقات بد را به خاطر منافع این فناوری و افرادی که آژانس دارند، بپذیرد.

رئیس OpenAI گفت که دسترسی به هوش مصنوعی را حتی در ازای ضمانت‌هایی در برابر هک‌های بزرگ، سوء استفاده، کلاهبرداری و سایر پیامدهای مضر محدود نخواهد کرد. او توضیح داد: «من فکر می‌کنم مردم کارهای فوق‌العاده‌ای انجام می‌دهند - کارهای خوب بیشتر از کارهای بد.

آلتمن تاکید کرد، با این حال، "خطرات واقعا فاجعه بار"، از جمله "از دست دادن جدی کنترل هوش مصنوعی" را نمی پذیرد.

ادامه مطلب ترامپ و غول‌های فناوری آمریکا قراردادی را امضا کردند که مانع از سرکشی هوش مصنوعی شود (ویدئو)

او همچنین رویکردی را رد کرد که در آن یک فناوری قدرتمند و بالقوه خطرناک توسط یک آزمایشگاه واحد کنترل می شود که تصمیم می گیرد مزایای آن چگونه توزیع شود. آلتمن چنین مبادله ای را «کاملا غیرقابل قبول» خواند و در عوض برای دسترسی گسترده تر به هوش مصنوعی استدلال کرد.

این اظهارات در حالی بیان می شود که OpenAI با بررسی دقیق عوامل فزاینده هوش مصنوعی که به شیوه های غیرمنتظره رفتار می کنند، مواجه است. در طول تابستان، عوامل شرکت از محیط آزمایشی خود فرار کردند و به سرورهای متعلق به Hugging Face، یک مخزن آنلاین برای مدل‌ها و مجموعه‌های داده هوش مصنوعی، هک کردند. از آن زمان، عوامل هوش مصنوعی به وب‌سایت‌های متعلق به آژانس‌های فدرال ایالات متحده، دولت استرالیا و سازمان ملل دسترسی غیرمجاز پیدا کرده‌اند یا تلاش کرده‌اند به آن‌ها نفوذ کنند.

OpenAI یکی از شش شرکت بزرگ فناوری ایالات متحده بود که هفته گذشته توافق نامه ای را با کاخ سفید امضا کردند که متعهد به تدابیر قوی تر در برابر هوش مصنوعی سرکش بود. گوگل، متا، xAI، آنتروپیک، انویدیا و OpenAI توافق کردند که کنترل‌های داخلی سخت‌تر و ممیزی‌های مستقل را معرفی کنند و اطمینان حاصل کنند که مدل‌هایشان «به روش‌های ناخواسته هک نمی‌شوند یا به سیستم‌های فنی دسترسی ندارند».

ادامه مطلب هوش مصنوعی در خطر "خارج شدن از کنترل" است - رئیس گروه برنده نوبل

این توافق در حالی صورت گرفت که نگرانی‌هایی در مورد سیستم‌های هوش مصنوعی که خارج از کنترل توسعه‌دهندگان عمل می‌کنند، افزایش یافت. شرکت‌ها متعهد شدند که چنین رفتاری را شناسایی کرده و به سرعت رسیدگی کنند، در حالی که حسابرسان مستقل و کمیته‌های هیئت‌مدیره ارزیابی خواهند کرد که آیا اقدامات حفاظتی کار می‌کند یا خیر.

جفری هینتون، دانشمند کامپیوتر برنده جایزه نوبل، ماه گذشته هشدار داد که هوش مصنوعی قدرتمندتر در نهایت می تواند از کنترل انسان فرار کند و عواقب بالقوه فاجعه باری برای بشریت داشته باشد. او استدلال کرد که هیچ روش ثابتی برای اطمینان از اینکه انسان‌ها بر سیستم‌هایی که به طور قابل‌توجهی هوشمندتر از خالقانشان می‌شوند کنترل می‌کنند وجود ندارد.

بیل گیتس، یکی از بنیانگذاران مایکروسافت نیز خواستار مقررات دولتی شده و هشدار داده است که هوش مصنوعی در دستان عوامل مخرب به اندازه کافی قدرتمند است تا حوادثی را که منجر به «یک میلیارد مرگ» می شود، ایجاد کند.