هوش مصنوعی محل کار باید نظارت انسانی را حفظ کند | نظر

یک ماشین می تواند تکلیف خود را تکمیل کند در حالی که کار شخص دیگری را سخت تر می کند. یک ابزار هوش مصنوعی ممکن است سریعتر از آن چیزی که یک توسعه دهنده بتواند آن را به طور معناداری بررسی کند، کد تولید کند. یک ربات ممکن است مسیر خود را دنبال کند در حالی که کارگران اطراف را در مورد حرکت بعدی خود نامطمئن می گذارد. در هر دو مورد، کارایی ظاهری می‌تواند یک رابطه کاری ضعیف را پنهان کند.

از آنجایی که کسب‌وکارها در نظر می‌گیرند که چقدر کار به هوش مصنوعی و روبات‌ها محول می‌کنند، من معتقدم که باید سؤالی گسترده‌تر از سرعت انجام یک کار بپرسند. آیا این فناوری به افراد کمک می‌کند که قادر، آگاه و تحت کنترل باقی بمانند؟ این باید شرط پذیرش موفقیت آمیز باشد.

تحقیقات دلیلی برای بررسی این سوال ارائه می دهد. یک مطالعه در سال 2025 که در مجموعه مقالات کنفرانس عوامل انسانی در سیستم‌های محاسباتی (CHI) منتشر شد، یک کنفرانس بین‌المللی در مورد تعامل انسان و رایانه، 319 دانش‌آموز را مورد بررسی قرار داد و دریافت که اعتماد بیشتر به هوش مصنوعی مولد با تفکر انتقادی کمتر گزارش‌شده مرتبط است. این نشان نمی‌دهد که هوش مصنوعی باعث از دست دادن دائمی مهارت می‌شود. این نشان می دهد که اعتماد به یک ابزار زمانی که افراد مسئول نتایج آن باقی می مانند، مستحق بررسی است

دغدغه من عملی است. هنگامی که یک سیستم پذیرش پاسخ را آسان تر از درک آن می کند، حفظ نظارت معنادار می تواند دشوارتر شود. اقدامات بهره وری باید این بار را در نظر بگیرند.

من پس از گذراندن سه سال و نیم به صورت دستی بر روی سیستم‌های کنترل از راه دور و کنترل ماموریت برای چهارپایان روباتیک با این مشکل مواجه شدم. سازمان نرم افزاری ما فرصتی برای آزمایش هوش مصنوعی دریافت کرد.

همانطور که هوش مصنوعی را توسعه دادیم و وظایف تیم ما از کاری که من به انجام آن علاقه داشتم متفاوت بود، من این اشتباه را کردم که بیش از حد به ابزارهای هوش مصنوعی تکیه کردم. کار من نیاز به اصلاح بیشتری داشت و میانبر ظاهری گاهی اوقات تحویل را کندتر می کرد. مدت کوتاهی پس از آن رفتم تا روی استودیوی بازی خود تمرکز کنم که در کنار آن کار می کردم.

تقریبا در همان زمان، هنگام اجرای استودیوی بازی، ما شروع به پذیرش تغییرات ایجاد شده توسط هوش مصنوعی سریع‌تر از درک کامل آنها کردیم. ما بعدا با جدا کردن رندر بازی و رابط کاربری برای بازسازی دست‌نویس و حفظ سیستم‌های باطنی پشتیبانی‌شده از هوش مصنوعی پاسخ دادیم، اما آسیب وارد شد.

ما از نظر عملکردی به هوش مصنوعی متکی بودیم در حالی که کمتر از آن چیزی که یک تیم کاملا انسانی قادر به کنترل آن بود، پایگاه کد را کنترل می‌کردیم. این یک سازش ناقص بود که توسط منابع محدود شکل گرفت، اما این دیدگاه من را تقویت کرد که درک انسان به مکانی محافظت شده در جریان کار نیاز دارد.

متوجه شدم پیامدهای رفتاری درازمدت مرتبط با هوش مصنوعی و استفاده از ماشین مستقل را در نظر می‌گیرم.

رباتیک این نگرانی را به فضای فیزیکی مشترک می آورد. یک ربات فرضی بازرسی را در نظر بگیرید که به یک کارگر در حال حرکت تجهیزات نزدیک می شود. پیروی از مسیر تعیین شده ممکن است از نظر فنی صحیح باشد، اما همچنان کارگر را رها کنید تا حدس بزند که آیا می ایستد، می چرخد ​​یا ادامه می دهد.

هنگامی که در نظر بگیرید که کارگران ممکن است هنگام عبور از ربات با آن روبرو شوند، این یک مشکل طراحی بزرگتر می شود. اجازه دهید اثرات بلندمدت بر بهره وری کارگران را در نظر بگیریم، زمانی که مردم به طور مداوم پشت سر آنها چک می کنند تا ببینند آیا رباتی در نزدیکی آن وجود دارد یا خیر.

من به این ارگونومی رفتاری فکر می کنم: طراحی رفتار ماشین حول ادراک انسان، انتظارات و شرایط کاری. رابط یک ربات باید به همه کسانی که با آن برخورد می کنند، خدمت کند، نه تنها افرادی که کنترلر آن را در دست دارند. مردم نیاز به سیگنال های قابل درک در مورد حرکت مورد نظر خود دارند، اینکه آیا درخواست آنها را ثبت کرده است، و زمانی که به کمک نیاز دارد.

این نیز یک نگرانی مهندسی قابل اندازه گیری است. مؤسسه ملی استانداردها و فناوری، اشتراک‌گذاری بصری اطلاعات، تجربه اپراتور و اثربخشی ارتباط را در میان اولویت‌های پژوهشی تعامل انسان و ربات خود شناسایی می‌کند. اینها مبنای وسیع تری برای ارزیابی یک استقرار نسبت به تکمیل کار به تنهایی ارائه می دهند.

رفتار حیوانات ممکن است ایده های طراحی مفیدی را ارائه دهد. یک ربات سگ شکل می تواند از یک تغییر قابل مشاهده در جهت یا صدای مشخص برای نشان دادن حرکت یا نزدیکی استفاده کند. این نشانه ها نیاز به آزمایش با کارگران واقعی دارند. ظاهر آشنا هرگز نباید دلالت بر این داشته باشد که یک ماشین مردم را به عنوان یک حیوان درک می کند یا جایگزین محافظ های تعیین شده می شود.

رفتار قابل پیش بینی نیز در سیستم های کنترل کننده روبات ها مستحق توجه بیشتر است. مایلم مهندسان در صورت لزوم، مدل های کوچکتر و تخصصی همراه با قوانین تصمیم گیری صریح را ارزیابی کنند. اصطلاح صنعتی برای این می تواند جایی بین سیستم های خبره و درخت های تصمیم گیری که به طور احتمالی مبادله شده اند باشد.

چنین رویکردهایی به طور خودکار از مدل های زبان ایمن تر نیستند، اما به طور قابل توجهی برای برنامه نویسان شفاف تر هستند. ارزش آنها به این بستگی دارد که آیا تیم ها می توانند محدودیت های خود را آزمایش کنند و پاسخ های خود را در محیط مورد نظر قابل درک کنند.

مزیت بالقوه این است که در آن ماشین ها بارها را کاهش دهند در حالی که مردم قضاوت و اعتماد به نفس را حفظ می کنند. جایگزین، انتقال تدریجی مسئولیت بدون درک متناظر است. کارگران می‌توانند در قبال خروجی‌هایی که برای ارزیابی آن تلاش می‌کنند پاسخگو باشند، یا روز خود را صرف سازگاری با ماشین‌هایی کنند که رفتارشان نامشخص است.

قبل از گسترش استقرار، کارفرمایان باید آزمایشاتی را هم با اپراتورها و هم با کارگران مجاور انجام دهند. آزمایش کنید که آیا افراد می توانند حرکت را پیش بینی کنند، سوء تفاهم ها را تشخیص دهند و از روش های مداخله مناسب استفاده کنند. برای کار با کمک هوش مصنوعی، ارزیابی کنید که آیا کارمندان می توانند خروجی را توضیح و تصحیح کنند. وقفه ها را دنبال کنید و در کنار سرعت دوباره کار کنید و فرصت هایی را برای تمرین مهارت های ضروری به طور مستقل حفظ کنید.

این بررسی ها توانایی انسانی را بخشی از تصمیم خرید می کند. عملکرد یک ماشین باید شامل میزان خوبی باشد که افراد می توانند در کنار آن کار کنند.

رابرت براونشتاین بنیانگذار استودیوی بازی سازی Gnarled Helix و یک توسعه‌دهنده سابق نرم‌افزار روباتیک است که کارش دیدگاه‌های او را درباره کدنویسی به کمک هوش مصنوعی و تعامل انسان و ماشین نشان می‌دهد.