مدیر عامل OpenAI می گوید "چیزهای بد" بخشی از تجارت هوش مصنوعی است

سام آلتمن، مدیر عامل OpenAI گفته است که عموم مردم باید بپذیرند که با ادامه پیشرفت فناوری، هوش مصنوعی آسیب هایی را به همراه خواهد داشت، اما او افزود که مزایای هوش مصنوعی در نهایت بر خطرات آن بیشتر خواهد بود.

آلتمن در طی مصاحبه ای با پولیتیکو، تفاوت کلیدی بین رویکرد OpenAI به مقررات هوش مصنوعی و شرکت رقیب هوش مصنوعی Anthropic را برجسته کرد، که به طور فزاینده ای برای محافظت از سیستم های پیشرفته هوش مصنوعی فشار آورده است.

آلتمن وقتی از او در مورد تفاوت‌های بین OpenAI و Anthropic پرسیده شد، گفت: "فکر می‌کنم نور روز زیاد است." و افزود که "جهان باید اتفاقات بدی را بپذیرد که به نفع این فناوری و افرادی که آژانس دارند."

این نظرات در بحبوحه بررسی شدید صنعت هوش مصنوعی به دنبال مجموعه ای از حوادث مربوط به سیستم های هوش مصنوعی پیشرفته و نگرانی های فزاینده محققان و توسعه دهندگان در مورد قابلیت های این مدل های قدرتمند بیان می شود.

آلتمن استدلال کرد که محدود کردن دسترسی به هوش مصنوعی پیشرفته در تلاش برای حذف همه خطرات، رویکرد اشتباهی است. او ضمن اذعان به اینکه بازیگران بد از هوش مصنوعی سوء استفاده خواهند کرد، گفت که مردم باید برخی از پیامدهای منفی را بپذیرند زیرا از نظر او، مردم به مراتب بیشتر از ضرر با این فناوری سود خواهند برد.

آلتمن می‌گوید: «من نمی‌خواهم بگویم: «ما مطمئن می‌شویم که هیچ هک بزرگی وجود ندارد، هیچ نوع سوءاستفاده‌ای از این فناوری وجود ندارد، کلاهبرداری‌ها صفر است، همه چیزهای بد دیگری که اتفاق می‌افتد، صفر است». چون فکر می‌کنم مردم کارهای فوق‌العاده‌ای انجام خواهند داد، کارهای بزرگ‌تر، کارهای خوب تا کارهای بد».

آلتمن ضمن اذعان به خطرات، گفت آنچه را که او به عنوان "خطرات واقعا فاجعه بار" توصیف کرد، از جمله احتمال از دست دادن جدی کنترل سیستم های هوش مصنوعی را نمی پذیرد.

اظهارات آلتمن در تضاد کامل با موضع داریو آمودی، مدیر عامل آنتروپیک است که از صنعت هوش مصنوعی خواسته است تا سرعت توسعه هوش مصنوعی مرزی را کاهش دهد.

آمودی در مقاله‌ای با عنوان «ما باید در مرز قدم بگذاریم» که در ماه سپتامبر منتشر شد، گفت که متقاعد شده است که قابلیت‌های هوش مصنوعی خیلی سریع پیشرفت می‌کنند تا اقدامات ایمنی موجود ادامه پیدا نکند.

آمودی نوشت: «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم.

او گفت یکی از بزرگترین نگرانی‌های او رشد سریع چیزی است که محققان آن را خود-بهبودی بازگشتی می‌نامند، زمانی که سیستم‌های هوش مصنوعی شروع به کمک به ساخت هوش مصنوعی بهتر می‌کنند، که سپس به ساخت هوش مصنوعی بهتر کمک می‌کند و چرخه‌ای از بهبود سریع‌تر را ایجاد می‌کند. Amodei هشدار داد که اگر کنترل نشود، این فرآیند می تواند از توانایی بشر برای درک یا کنترل فناوری فراتر رود.

یکی دیگر از نگرانی های اصلی او یک حادثه اخیر مربوط به عوامل هوش مصنوعی مستقل بود که به گفته او نشان داد که توانایی های این فناوری با چه سرعتی در حال پیشرفت است. آمودی گفت که با توجه به سرعت فعلی توسعه، بیم آن را دارد که ظرف شش تا 12 ماه، انبوهی از عوامل هوش مصنوعی به طور بالقوه باعث اختلال بزرگ در کل اینترنت شود.

آمودی به جای توقف کامل توسعه هوش مصنوعی، مجموعه‌ای از اقدامات از جمله ارزیاب‌های شخص ثالث، هماهنگی بیشتر بین شرکت‌های هوش مصنوعی و ایجاد مکانیسم‌های نظارت بین‌المللی برای مدل‌های پیشرفته را پیشنهاد کرد.

نیوزویک برای اظهار نظر با آلتمن و آمودی تماس گرفته است و منتظر پاسخ است.

بحث در مورد ایمنی هوش مصنوعی پس از آن تشدید شد که محقق سابق Anthropic Jacob Coxon به طور علنی هشدار داد که توسعه دهندگان هوش مصنوعی خیلی سریع به سمت ایجاد سیستم های قدرتمندتر بدون فکر کردن به عواقب آن حرکت می کنند. کاکسون استدلال کرد که شرکت‌های هوش مصنوعی «مستقیما به سمت سوپرهوش خودسازی و قمار با زندگی ما رقابت می‌کنند».

هشدارهای او توجه را به خود جلب کرد زیرا آنها از نگرانی های عمومی در مورد اطلاعات نادرست یا از دست دادن شغل فراتر رفتند و بر این احتمال تمرکز کردند که کنترل سیستم های هوش مصنوعی آینده ممکن نیست. این ترس‌ها به نقطه فزاینده‌ای برای اختلاف در صنعت تبدیل شده‌اند، با برخی از محققان در مورد خطرات وجودی هشدار می‌دهند در حالی که دیگران - مانند آلتمن - استدلال می‌کنند که مزایای نوآوری سریع بسیار بیشتر از خطرات است.

دیدگاه‌های متفاوتی که آلتمن و آمودی بیان کردند، بحث گسترده‌ای را در بالاترین سطوح صنعت هوش مصنوعی برجسته می‌کند: آیا جامعه باید به‌کارگیری سریع فناوری تحول‌آفرین را علی‌رغم خطرات شناخته‌شده در اولویت قرار دهد، یا عمدا پیشرفت را کند کند تا زمانی که تدابیر حفاظتی قوی‌تری ایجاد شود.

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: جان فیتزپاتریک و جیمز دبنز