سم آلتمن: برخی حوادث هوش مصنوعی اجتناب‌ناپذیر هستند

«سم آلتمن»، مدیرعامل OpenAI، می‌گوید که نمی‌توان انتظار داشت هوش مصنوعی در آینده کاملاً بی‌خطر شود. او در کنفرانس Dreamforce کمپانی Salesforce گفت که به باورش، برخی حوادث که با ظهور فناوری‌هایی همچون هوش مصنوعی پدیدار می‌شوند، واقعاً اجتنا‌ب‌ناپذیر هستند. چیزی که بیش از همه اهمیت دارد این است که صنعت هوش مصنوعی پس از وقوع این حوادث چگونه واکنش نشان می‌دهد. آلتمن در این کنفرانس گفت «من فکر می‌کنم درجه‌ای از حوادث با فناوری‌های جدید اجتناب‌ناپذیر هستند. چیزی که من واقعاً به آن اهمیت می‌دهم این است که ما یک فرهنگ خوب برای گزارش حوادث و یادگیری از آن‌ها داریم.» او به اداره هوانوردی فدرال و هیئت ایمنی حمل‌ونقل ملی آمریکا به‌عنوان الگو اشاره کرد. این سازمان‌ها هر حادثه را به‌صورت عمیق می‌کاوند و فرهنگ یادگیری از حوادث یکی از دلایل مهمی است که امروز سفرهای هوایی این اندازه امن هستند. آلتمن می‌گوید مردم حق دارند از پیشرفت سریع هوش مصنوعی و تمرکز فناوری آن در چند کمپانی اندک نگران باشند. نگرانی‌ها درباره حوادث هوش مصنوعی آلتمن این نظرات خود را در شرایطی مطرح کرد که حساسیت و نگرانی‌ها درباره توسعه‌دهندگان هوش مصنوعی بیشتر از همیشه است. از علل اصلی این امر می‌توان به خودمختاری روزافزون این سیستم‌ها اشاره کرد. «جیکوب کاکسون» (Jacob Coxon)، پژوهشگر هوش مصنوعی که به‌تازگی از آنتروپیک استعفا داده بود، با اظهارنظرهای خود به این نگرانی‌ها دامن زد. او هشدار می‌دهد که کمپانی‌ها برای دستیابی به یک ابرهوش خودبهبوددهنده با هم مسابقه می‌دهند. آلتمن این نگرانی‌ها را انکار نکرد. او گفت نگرانی‌های مردم درباره خارج شدن هوش مصنوعی از کنترل یا تمرکز بیش از حد آن در دست چند توسعه‌دهنده قابل درک است. او گفت «جهان حق دارد از این بترسد.» بااین‌حال او استدلال کرد که به‌جای کندکردن یا توقف همه چیز، کمپانی‌های باید قبل از پیشرفت توانایی مدل‌ها، روی همسویی (alignment)، ایمنی و پایش بیشتر کار کنند. اگر آن‌ها نتوانند تعادل را رعایت کنند، باید آماده باشند تا پژوهش‌ها را آهسته یا حتی متوقف کنند. او گفت مسئله این نیست که بی‌اعتنا باشیم و حوادث را بپذیریم. بلکه باید وقتی چیزها درست پیش نمی‌روند، صادق باشیم، آن‌ها را سریع بازبینی کنیم و به بهبود ادامه دهیم تا ریسک‌ها تکثیر نشوند. این اظهارات بخشی از یک بحث گسترده‌تر هستند درباره این که هوش مصنوعی با چه سرعتی باید پیشرفت کند. برخی از چهره‌های درون این صنعت خوستار احتیاط بیشتری هستند، در حالی که سیاست آمریکا در دولت فعلی این بوده است که در این فناوری از رقبای بین المللی خود جلوتر بماند.