وقتی هوش مصنوعی به زبان خود می‌نویسد؛ پایان عصر برنامه‌نویسان انسانی؟
گسترش استفاده از ابزارهای هوش مصنوعی باعث شده مهندسان نرم‌افزار توانایی درک کدهای تولیدشده را از دست بدهند.
گسترش استفاده از ابزارهای هوش مصنوعی باعث شده مهندسان نرم‌افزار توانایی درک کدهای تولیدشده را از دست بدهند.
گسترش روزافزون هوش مصنوعی در محیط‌های کاری، ماهیت وظایف مهندسان نرم‌افزار را از توسعه‌ی مستقیم برنامه‌ها به نظارت بر خروجی مدل‌های زبانی تغییر داده است. روند فزاینده‌ی اتوماسیون باعث شده گروهی از متخصصان دیگر توانایی تحلیل و درک کدهای تولیدشده توسط این سیستم‌ها را نداشته باشند.
به روایت فیوچریسم ، پژوهشگران نسبت‌به تحلیل‌رفتن مهارت‌های بنیادین و افت شناختی در میان دانشمندان علوم کامپیوتر هشدار می‌دهند. فشارهای مدیریتی برای افزایش سرعت، توسعه‌دهندگان را از فرایند نگارش دستی کد و معماری پروژه‌های بزرگ دور می‌کند.
شواهد نشان می‌دهد حتی نیروهای فعال در شرکت‌های پیشرو نیز گاهی تسلطی روی ساختار خروجی‌ها ندارند. جردن نانوس ، عضو تیم فنی شرکت پژوهشی SemiAnalysis، در گفت‌وگویی فاش کرد که مهندسان اوپن‌ای‌آی هنگام بررسی کد کرنل پردازنده‌ی گرافیکی خود دچار سردرگمی بودند.
تربیت نسل جدید متخصصان در محیطی که نیاز به فهم عمیق ساختارها را نادیده می‌گیرد، چالش‌های امنیتی و فنی تازه‌ای پیش روی صنعت فناوری قرار می‌دهد
نانوس می‌گوید: «نکته این است که همکاران بررسی‌کننده‌ی کد، شناخت بسیار بالایی از سخت‌افزار و مفاهیم سیستم داشتند، اما هیچ ایده‌ای نداشتند که کرنل مربوط به دیپ‌سیک در عمل چه کاری انجام می‌دهد. خط‌به‌خط جلو می‌روید و چیزی سردرنمی‌آورید؛ هوش مصنوعی آن را می‌فهمد، آزمایش می‌کند و نتایج درستی تحویل می‌دهد که عملکرد فوق‌العاده‌ای دارند.»
کاهش نظارت انسانی خطر نفوذ خطاهای پنهان و توهم مدل‌ها را بالا می‌برد. آمازون پس از بروز اختلال در پردازش سفارش‌های مشتریان، برنامه‌ای ۹۰ روزه برای بازنگری در ایمنی کدها اجرا کرد، درحالی‌که اسناد داخلی از نگرانی مدیران بابت تبعات تغییرات اتوماتیک حکایت داشت.
بررسی‌های آماری شرکت نرم‌افزاری Undo نشان می‌دهد ۳۵ درصد از کدهای تولیدشده با ابزارهای خودکار، پیش از ورود به فاز نهایی بهره‌برداری، به‌طور کامل توسط تیم‌های مهندسی درک نمی‌شوند. همچنین ۲۹ درصد از مهندسان از افت بهره‌وری به دلیل نیاز به بازبینی مداوم کدهای ماشین‌ساز خبر داده‌اند.
سرگی کلفتسوف ، پژوهشگر هوش مصنوعی، می‌گوید: «هوش مصنوعی به نقطه‌ای رسیده است که دیگر نیازی به نگرانی درباره‌ی بسیاری از جزئیات نیست؛ توسعه‌دهندگان فقط باید معماری و معیارهای صحت عملکرد را مشخص کنند و شبکه‌ی عصبی بقیه‌ی کارها را انجام خواهد داد.»
تربیت نسل جدید متخصصان در محیطی که نیاز به فهم عمیق ساختارها را نادیده می‌گیرد، چالش‌های امنیتی و فنی تازه‌ای پیش روی صنعت فناوری قرار می‌دهد.