مهندس سابق OpenAI می گوید هوش مصنوعی به لایه های ایمنی مانند نیروگاه های هسته ای نیاز دارد

هشدارها از داخل و خارج از دنیای هوش مصنوعی این است که عوامل آن به قدری سریع توسعه می‌یابند و آنقدر باهوش می‌شوند که به زودی می‌توانند از کنترل فرار کنند و بشریت را محو کنند.

نیویورک - یکی دیگر از کارمندان سابق OpenAI صدای خود را به گروهی از فراخوان های دیوانه وار برای ایمن کردن هوش مصنوعی اضافه کرد و گفت که صنعت باید با لایه های حفاظتی خود از بخش های هوانوردی یا انرژی هسته ای تقلید کند تا از فاجعه جلوگیری کند.

در مقاله ای که در مجله آتلانتیک منتشر شد، دیوید رابینسون هشدارهای داخل و خارج از دنیای هوش مصنوعی را تکرار کرد که عوامل آن به قدری سریع توسعه می یابند و آنقدر باهوش می شوند که به زودی می توانند از کنترل فرار کنند و بشریت را محو کنند.

رابینسون گفت حوادث هشداردهنده گزارش شده از ابتدای تابستان – که در آن عوامل هوش مصنوعی از فضاهای کنترل شده خود خارج شدند و برای حمله به اهداف مختلف سرکشی کردند – نشان می دهد که صنعت ایمنی را به اندازه کافی جدی نمی گیرد زیرا در حال سرعت گرفتن برای توسعه قابلیت های هوش مصنوعی سریعتر و قدرتمندتر است.

در این مقاله، رابینسون گفت که اعتبار او شامل نظارت بر نوشتن گزارش های ایمنی در 12 راه اندازی محصول مدل پیشرفته و هدایت پیش نویس چارچوب آمادگی OpenAI است.

رابینسون می‌گوید سه سال و نیم در OpenAI کار کرده و یکی از طولانی‌ترین کارمندان این شرکت بوده است.

رابینسون نوشت: اشتباهاتی که اخیرا فاش شده اند به دلیل "سرعت و انعطاف پذیری که مردم با آن کار می کنند" معمولی هستند.

او افزود: «محیطی که چنین اتفاقاتی می‌تواند رخ دهد، جایی برای رشد ذهن‌های مصنوعی نیست که می‌توانند باهوش‌تر از ما باشند و ممکن است آنچه را که ما می‌خواهیم انجام ندهند.»

او استدلال کرد که آزمایشگاه‌های پیشرفته هوش مصنوعی باید مانند صنعت هوانوردی یا هسته‌ای با لایه‌هایی از پادمان‌های اضافی و برنامه‌ریزی دقیق عمل کنند «تا خطاهای انسانی گاه به گاه و اجتناب‌ناپذیر دری را به روی فاجعه باز نکند».

رابینسون همچنین اصرار داشت که موضوع "همسویی" - اصطلاح صنعتی برای نحوه آموزش هوش مصنوعی برای احترام به ارزش‌های انسانی - ضروری است، اما چیزی که صنعت حتی در تعریف آن ناکام مانده است.

او گفت: مدل‌های هوش مصنوعی در تشخیص زمانی که آزمایش می‌شوند بهتر و بهتر می‌شوند و ممکن است زمانی که واقعا مستقر می‌شوند رفتار متفاوتی داشته باشند و استادان خود را فریب دهند.

پس از جلسه ای در 29 سپتامبر در کاخ سفید، در میان نگرانی های جهانی در مورد معنای هوش مصنوعی برای بشریت، مدیران ارشد هوش مصنوعی گفتند که به تدابیری برای خود تنظیمی متعهد شده اند، به جای تسلیم شدن به قوانین دولتی. این شامل کنترل های داخلی بر روی سیستم های هوش مصنوعی و آوردن تحلیلگران خارجی است.

پرزیدنت دونالد ترامپ به شدت مخالف مقررات دولتی هوش مصنوعی است و اصرار دارد که انتقاد از خطرناک بودن هوش مصنوعی فقط یک "فریب" است. خبرگزاری فرانسه