یک مهندس آنتروپیک در مورد "تسلیم شناختی" هشدار می دهد زیرا عوامل هوش مصنوعی کار او را به دست می گیرند.

بلومبرگ/گتی ایماژ مهندس آنتروپیک آدی عثمانی درباره «تسلیم شناختی» در میان کدنویسان هشدار داد.

او با اشاره به عوامل AI به عنوان مقصر نوشت: «هیچ چیز در زندگی روزمره من باعث نمی شود که تفکر انتقادی به من وارد شود.

عثمانی از انتخاب انتخابی محل تخلیه - و محل پرسیدن سؤالات بعدی دفاع کرد. آدی عثمانی به سختی در مورد تفکر فکر می کند.

عثمانی در تیم کلود کد در آنتروپیک کار می کند. این شرکت تماما در زمینه کدنویسی عاملی است - بالاخره او به ایجاد محصول کدنویسی هوش مصنوعی خود کمک می کند - و نوشتن کدهای انسانی را کاهش داده است.

عثمانی در مقاله سه‌شنبه ایکس نوشت: «اکنون که بخش اعظم کار من از طریق عوامل انجام می‌شود، هیچ چیز در زندگی روزمره من به طور فزاینده‌ای باعث نمی‌شود که تفکر انتقادی به من وارد شود.

مهندسان نگرانی های مشابهی را در سال گذشته ابراز کرده اند: هوش مصنوعی آنها را بیشتر به اپراتور تبدیل کرده تا سازنده. یکی از دانش آموختگان OpenAI به Business Insider گفت که کدنویسی با هوش مصنوعی خسته کننده و کسل کننده است.

عثمانی نمی خواست مهندسان استفاده از هوش مصنوعی را متوقف کنند. او می خواست که آنها یاد بگیرند عمیق تر فکر کنند.

خطر "تسلیم شناختی"

عثمانی تز خود را اینگونه بیان کرد: "شما باید تفکر انتقادی را در روزگار خود بسازید، زیرا به طور پیش فرض هیچ کاری برای شما انجام نمی دهد."

او نوشت، سه نوع تفکر کاهش یافته با استفاده از هوش مصنوعی وجود دارد. اولین بار، "تخلیه شناختی" است: فرآیند واگذاری وظایف به هوش مصنوعی در حالی که مالکیت محصولات را حفظ می کند. او نوشت: «تمام روز این کار را انجام می‌دهم. "تو هم باید."

مورد دوم «تعویق» است، که در آن خروجی هوش مصنوعی به ورودی جدید شما تبدیل می‌شود. سومین عبارت «تسلیم شناختی» است، اصطلاحی که توسط دو محقق در مدرسه وارتون ابداع شد. این اعتماد کامل به خروجی های هوش مصنوعی است که عثمانی آن را تنبل توصیف کرد. تسلیم شدن اغلب "بدهی شناختی" ایجاد می کند.

هنوز مشخص نیست که آیا هوش مصنوعی ما را احمق می کند یا طرز فکر ما را تغییر می دهد. محققان Business Insider با آنها صحبت کردند علائم بدی را دیدند، اما از نتیجه‌گیری سریع هشدار دادند.

در مورد عثمانی، او اغلب این تسلیم تفکر انتقادی را می بیند. او نوشت: این بدترین چیز نیست. این فقط یک سوال در مورد اهمیت کار است.

او نوشت: «جایی که خطرات کم است، با خیال راحت به طور کامل تفویض اختیار کنید. "وقتی نمی توانید پاسخ یک سوال را حتی از طریق نماینده خود توضیح دهید، مالکیت را واگذار کرده اید."

چگونه با عوامل هوش مصنوعی فکر کنیم

عثمانی فهرستی از سوالاتی را که از خود می پرسد به اشتراک گذاشت. آنها عبارتند از: "آیا من قبل از پرسیدن یک فرضیه را تدوین کردم؟" و "چه چیزی را دیگر تمرین نمی کنم؟"

باز هم، او از مهندسان نمی خواهد که در مورد همه چیز یا حتی بیشتر چیزها سخت فکر کنند. عثمانی در پاسخ به سوالی مبنی بر تمایز کمک از بارگذاری، نوشت: هر دو مشکلی ندارند، به شرطی که بدانید کدام یک را انجام می دهید.

عثمانی نوشت، مهندسان همچنین باید حلقه‌هایی ایجاد کنند تا مطمئن شوند که کدهایی که هوش مصنوعی نوشته است کار می‌کند. او آن را "تأیید به عنوان یک عادت" نامید و به مهندسان گفت که از عامل هوش مصنوعی بپرسند که چه چیزی را می تواند تأیید کند (و چه چیزی را نمی تواند).

مهارت ها اغلب با گذشت زمان کاهش می یابند. چند نفر از ما می‌توانیم با استفاده از نقشه فیزیکی بعد از اینکه برنامه‌های تلفن کنترل شدند، حرکت کنیم؟ چند نفر از ما شماره تلفن دوستان خود را زمانی که می توانیم آنها را در مخاطبین ذخیره کنیم به خاطر می آوریم؟ کدنویسی فرقی نمی کند.

عثمانی نوشت: «مهارت‌هایی که ورزش را متوقف می‌کنید از بین می‌روند و احتمالا سریع‌تر از آن چیزی که حدس می‌زنید. "به انجام کارهایی که حاضر نیستی رها کنی ادامه بده."

مقاله اصلی را در Business Insider بخوانید