هوش مصنوعی عقل ندارد و شما هم نخواهید داشت

تنها در ماه گذشته این عبارات را شنیده ام:

مطمئنا این صنعت در حال دگرگونی است، با این حال، افراد و سازمان‌هایی که در دام عدم خواندن و نوشتن کد می‌افتند، فقط این کار را به خطر می‌اندازند.

واقعیت این است که پروژه‌های کدگذاری شده با گذر زمان به یک آشفتگی غیرقابل نگهداری تبدیل می‌شوند. دلیل آن ساده است، اما رفع آن سخت است: قابلیت نگهداری کد و معماری خوب اندازه گیری های خوبی ندارند که بتوانیم آنها را اعمال کنیم، زیرا ماه ها، حتی سال ها طول می کشد تا متوجه اثرات معماری بد یا کد غیرقابل نگهداری شویم.

ما مطمئنا می‌توانیم کد بد را تعریف کنیم: کدی که خواندن آن سخت است، درک آن سخت است، برای هر چیزی که آینده در راه است، تکامل آن دشوار است. نوعی کد که در آن تغییر یک چیز، برنامه را به روش های بسیار غیر قطعی می شکند، یا منطق را در جای دیگری، دور از تغییر شما، شبیه به «اثر پروانه ای» می شکند. نوعی از کد که در آن افزودن یک ویژگی به معنای یک تعهد جدی به دلیل تغییر کد در مکان‌های مختلف است و همچنان فراموش می‌کنید که همه چیز را وصله کنید، در نتیجه ناسازگاری‌ها ایجاد می‌شود.

کدی که در آن تغییرات ثابت طرح مشخص نیست و نویسندگان آن دیگر برای محافظت در برابر تخلفات و اطمینان از یکپارچگی وجود ندارند. کدهایی که آزمایش آنها سخت است، نیاز به ساختگی و افشای جزئیات پیاده‌سازی دارد، که منجر به آزمایش‌های شکننده‌ای می‌شود که در نهایت از بازآفرینی معنادار جلوگیری می‌کند.

و با این حال، ما آن را به عنوان یک واقعیت می دانیم که مشاهده کد بد زمان می برد. ماه ها، سال ها البته مهندسان نرم‌افزار با تجربه، دماغه‌ای دارند که می‌تواند بوی کد را تشخیص دهد و مدت‌ها قبل از مشاهده اثرات بد، می‌تواند اقدام کند.

توسعه دهندگان ماهر، متخصصان، به شهود خود که با عرق و اشک ساخته شده است، تکیه می کنند، ساعت های طولانی در تلاش برای رفع اشکال و رفع مشکلات تولید هستند، و سوگند یاد می کنند که دیگر هرگز آنقدر احمق نباشند که اشتباهات گذشته را تکرار کنند. این نوعی شهود است که واقعا نمی‌توان آن را به فهرستی از قوانین سفت و سخت تبدیل کرد، زیرا همه چیز وابسته به زمینه است. کارشناسان با قوانین و دستور العمل های مشابهی که مبتدیان را بازده بیشتری می کنند سازگار نیستند. کارشناسان از قوانین پیروی نمی کنند، آنها قوانین را وضع می کنند.

به عنوان مثال، هوش مصنوعی در مورد معنای قابل نگهداری کد آموزش ندیده است. به عنوان مثال، هر یادگیری تقویتی انجام شده نیاز به یک سیگنال پاداش دارد که می تواند بلافاصله اندازه گیری شود، نه در ماه ها یا سال ها. هوش مصنوعی قوانین را از کتاب قوانینی که برای مبتدیان در نظر گرفته شده است یاد می گیرد. هوش مصنوعی متوجه الگوهای کد در طبیعت می شود و صادقانه بگوییم، بیشتر کدهای موجود در طبیعت بسیار بد هستند. هیچ تابع تناسب اندام وجود ندارد که بتوانید برای کد قابل نگهداری تعریف کنید، حداقل یک تابعی که ما بتوانیم آن را تشخیص دهیم، در غیر این صورت در قالب های ما قرار می گرفت.

آیا متوجه شده اید که هوش مصنوعی در «ساده سازی» کد چقدر وحشتناک است؟ بله، مدل های SOTA. حتی نمی تواند توابع را به درستی تعریف کند، و تصمیم می گیرد توابع را به توابع کوچکتر تقسیم کند که در واقع قابل استفاده مجدد نیستند. استخراج یک تابع کوچکتر از یک تابع بزرگتر انتخاب بسیار بدی است اگر برای درک تابع بزرگتر، باید اجرای تابع کوچکتر استخراج شده را نیز بخوانید. تعریف توابع قابل استفاده مجدد و شفاف سازی یک شکل هنری است، هنری که نیاز به تسلط دارد.

اکثر توسعه دهندگان، که هنوز «مبتدیان پیشرفته» در مدل Dreyfus هستند، قادر به تعریف عملکردهای خوب، شفاف کننده و قابل استفاده مجدد نیستند و هوش مصنوعی هم در حال حاضر این کار را نمی کند.

اگر مردم همچنان کنترل داشته باشند و از آن اشتباهات درس بگیرند، این خیلی بد نخواهد بود. اما ما شاهد روندی هستیم که مردم برای نوشتن و حتی خواندن کد به هوش مصنوعی تکیه می کنند.

این افراد هرگز به تسلط نخواهند رسید، زیرا آنها دیگر انتخاب نمی کنند، دیگر مسئولیت اشتباهات در کدنویسی را بر عهده نمی گیرند و دیگر از آن اشتباهات درس نمی گیرند. این هوش مصنوعی است که در حال حاضر اشتباه می کند، هوش مصنوعی از این اشتباهات درس نمی گیرد و همچنین افرادی که برای کدنویسی به هوش مصنوعی متکی هستند.

اشتباه نکنید، من فکر می کنم LLM ها ابزار خوبی هستند. من Luddite نیستم، من هوش مصنوعی را در کارهای روزمره خود ادغام کرده ام، در حالی که در واقع به همکارانم آموخته ام را آموزش می دهم. من با کمال میل از LLM برای مراقبت از همه چیزهای کسل کننده و نفس گیر استفاده می کنم که باید با آنها دست و پنجه نرم کنیم. من همچنین از مزایای کارایی که می بینم لذت می برم. اما در پایان روز، این فقط یک ابزار است، و مانند همه انقلاب های دیگر، نور آن نیز محو خواهد شد. IMO، در حال حاضر چنین است، همانطور که در حال حاضر اخبار فناوری رک و پوست کنده است.

مردم در واقع در پیش بینی وحشتناک هستند. من معتقدم آینده همه ما را شگفت زده خواهد کرد. اما من خودم پیش بینی می کنم…

در آینده شاهد خواهیم بود که شرکت های بیشتری با افتخار از سیاست "NO-AI" خود به عنوان یک مزیت رقابتی می بالند. و حق خواهند داشت.

مردم می‌گویند: «اما خطوط مونتاژ خودکار همیشه کارآمدتر هستند»، با این تفاوت که صنعت نرم‌افزار خاص است، زیرا ما همیشه اتوماسیون را در مقیاس انجام داده‌ایم، هر کاری که انجام می‌دهیم اتوماسیون است، LLM تنها وسیله آن نیست، و بسته به زمینه، ممکن است در واقع باعث حواس‌پرتی شود. "کد نویسی حل نمی شود" به معنای معنی دار. مطمئنا، می‌توانید به LLM دستور دهید تا برای شما یک کامپایلر C/C++ بسازد، یا فقط می‌توانید GCC یا LLVM را شبیه‌سازی کنید، و می‌توانید یک کامپایلر C/C++ بهتر را نیز به صورت رایگان دریافت کنید.

و شاید راه‌های بهتری برای صرف زمان و منابع نسبت به اختراع مجدد همان برنامه‌های CRUD وجود داشته باشد (نیازها و خواسته‌های انسان بی‌نهایت است، هیچ کمبودی برای اهداف جدید وجود ندارد).

اگر افراد و شرکت ها در مورد استفاده از آن مسئولیت پذیر نباشند، عواقبی در پی خواهد داشت.