سریع ترین راه برای از بین بردن اعتماد به هوش مصنوعی این است که کار اشتباهی به آن بدهید

تقریبا مطمئنا بسیاری از رهبران تجاری و فناوری را شنیده اید که از فضیلت هوش مصنوعی تمجید می کنند. آنها مشتاقانه به شما خواهند گفت که این فناوری تأثیری دگرگون کننده بر مشاغل در سراسر جهان خواهد داشت.

به نظر من حق با آنهاست. با این حال، با دو اخطار مهم: هوش مصنوعی باید مشاغل مناسب را در اختیار داشته باشد و افرادی که از آن استفاده می‌کنند باید به آنچه که انجام می‌دهد اعتماد کنند.

اغلب اوقات، هوش مصنوعی بدون فکر زیاد در سراسر یک تجارت مستقر می شود، زیرا روسای بیش از حد اعتماد به نفس وظایفی را به نمایندگان اختصاص می دهند که برای آنها طراحی نشده است. مشکلی که ایجاد می کند این است که بسیاری از کارمندانی که هر روز از ابزارهای هوش مصنوعی استفاده می کنند هنوز برای نقش جدید خود در مدیریت این عوامل آماده نیستند. اعتماد فقط از تجربه ناشی می شود و با گذشت زمان ایجاد می شود.

هنگامی که یک سیستم هوش مصنوعی نتایجی را به شما ارائه می دهد که منطقی است و در واقع به کار شما کمک می کند، مردم در استفاده از آن احساس اطمینان بیشتری می کنند. اما اگر اشتباه کند، این اعتماد به نفس در یک لحظه از بین می رود. اگر همه چیز اشتباه پیش برود، کارمندان شروع به یافتن راه‌هایی برای دور زدن هوش مصنوعی می‌کنند یا به‌کلی استفاده از آن را متوقف می‌کنند، و زمانی که رهبران نگرانی‌های کارکنان در مورد بهبود عملکرد هوش مصنوعی را نادیده می‌گیرند، مزایای آن تضعیف می‌شود.

بهترین راه برای اطمینان از اینکه هوش مصنوعی کارایی هایی را که وعده داده را ارائه می دهد، اطمینان از انجام کار درست است، و این به آن سادگی که به نظر می رسد نیست.

حوزه هایی که هوش مصنوعی در آنها برتری دارد

هوش مصنوعی روی احتمالات کار می کند و پاسخ هایی را تولید می کند که احتمالا درست هستند. کلمه کلیدی در اینجا "احتمال" است، به همین دلیل است که گاهی اوقات توهم ایجاد می کند.

احتمال گرایی باعث می شود هوش مصنوعی هنگام برخورد با اطلاعات نامشخص یا پیچیده بسیار موثر باشد. اما این بهترین گزینه برای کارهایی نیست که پاسخ اشتباه می تواند عواقب جدی داشته باشد.

سه حوزه اصلی وجود دارد که هوش مصنوعی واقعا می تواند تفاوت ایجاد کند. اولا هنگام پردازش اسناد؛ دوم، پشتیبانی تصمیم و در نهایت شخصی سازی

هوش مصنوعی به ویژه در کارهایی که اسناد زیادی را شامل می شود مؤثر است. این می تواند اطلاعاتی را استخراج، طبقه بندی و خلاصه کند که معمولا مرور آنها ساعت ها طول می کشد. به عنوان مثال، یک سیستم هوش مصنوعی می‌تواند قراردادها را با مجموعه‌ای از بندهای استاندارد مقایسه کند یا مجموعه بزرگی از ایمیل‌های مشتریان را بر اساس مسائل مربوط به آنها سازماندهی کند. به این ترتیب، فرد به جای بررسی کامل اسناد، تنها باید به یافته های مهم نگاه کند.

هوش مصنوعی همچنین می‌تواند نقش کلیدی در حمایت از مدیران شرکت در تصمیم‌گیری ایفا کند، زیرا در گرفتن اطلاعات مختلف، یافتن الگوها و ارائه گزینه‌هایی برای انجام کارهای بعدی بسیار خوب است.

با این حال، مهم است که به یاد داشته باشید که هوش مصنوعی همیشه فناوری مناسبی برای تصمیم گیری نیست. به عنوان مثال، تصور کنید در حال خرید چیزی هستید و باید از بین بسیاری از تامین کنندگان مختلف یکی را انتخاب کنید.

هوش مصنوعی می‌تواند به تمام اطلاعات نگاه کند، مانند اینکه در گذشته چقدر خوب کار کرده‌اند، چه چیزی می‌توانند ارائه دهند، احتمال دارد چقدر سریع به دستشان برسد و آیا تامین‌کننده برای خریدهای تکراری تخفیف‌هایی ارائه می‌دهد یا خیر. حتی می تواند توضیح دهد که چرا یک گزینه ممکن است بهتر از دیگری باشد. با این حال، در بیشتر سناریوها، این انسان است که انتخاب نهایی را انجام می دهد.

برای برخی از مشاغل، شخصی‌سازی ابزار امیدوارکننده‌ای است، زیرا می‌توان از هوش مصنوعی برای ایجاد ارتباط بیشتر محصولات با فردی که از آنها استفاده می‌کند استفاده کرد. این حوزه ای است که کار با احتمالات می تواند به یک محرک کلیدی برای هوش مصنوعی تبدیل شود. محتوا فقط باید به اندازه کافی خوب باشد که این ارتباط را ایجاد کند تا گیرنده احساس کند که به روشی سفارشی به آنها خطاب می شود.

هزینه تعیین شغل اشتباه هوش مصنوعی

یکی از نگرانی‌های کلیدی که شرکت‌ها باید در مورد مدیریت هوش مصنوعی داشته باشند این است که در حالی که پاسخ‌های تولید شده توسط هوش مصنوعی می‌توانند مطمئن به نظر برسند، اما هنوز این احتمال وجود دارد که این فناوری اشتباهی داشته باشد. اگر به آن پاسخ اجازه داده شود تا بدون اعتبارسنجی اقدامی را آغاز کند، یک خطای کوچک می تواند به سرعت در جریان کار حرکت کند.

به این فکر کنید که چه اتفاقی می‌افتد وقتی کسی اشتباه کوچکی در قاعده یا جزییات قرارداد مرتکب شود. زمانی که فردی خطا را دریافت کند، ممکن است قبلا به سوابق اضافه شده باشد، برای افراد خارج از شرکت ارسال شده باشد یا حتی برای ایجاد نرم افزار جدید استفاده شده باشد.

برای یادآوری محدودیت‌های هوش مصنوعی، فکر می‌کنم که این فناوری معادل یک کارآموز بسیار باهوش و سخت‌کوش است، مفید است. کارآموزان نیاز به راهنمایی و نظارت دارند که باید توسط همکاران مجرب و آگاه ارائه شود. مهمتر از همه، دسترسی آنها به اطلاعات حساس باید محدود شود و تنها به این دلیل اعطا شود که نشان دهند می توانند تصمیمات درستی بگیرند.

هوش مصنوعی باید به همین روش مدیریت شود. تنها زمانی باید سطح کنترل بیشتری به آن داده شود که خود را ثابت کرده باشد، و سپس کار آن همچنان باید توسط انسان ها نظارت شود.

یک مثال خوب از اهمیت مدیریت هوش مصنوعی، نقش آن در توسعه نرم افزار است. هوش مصنوعی می‌تواند کدهای زیادی را به سرعت ارائه کند، اما سرعت سریع آن به این معنی است که کیفیت همیشه با توسعه‌دهندگان انسانی یکسان نیست.

در واقع، مدیریت مقادیر زیادی کد تولید شده توسط هوش مصنوعی می تواند دردسر واقعی برای متخصصان فناوری اطلاعات باشد. به عنوان مثال، افزایش مصرف توکن و تغییر به قیمت‌گذاری مبتنی بر مصرف، هزینه‌های کدگذاری هوش مصنوعی را بالا می‌برد و توسعه‌دهندگان را مجبور می‌کند که در مورد زمان و مکان استفاده از مدل‌های هوش مصنوعی، همانطور که توسط گارتنر گزارش شده است، انتخاب کنند.

اجازه دهید هوش مصنوعی به طراحی مدل کمک کند، نه کنترل ماشین آلات

مهمترین تصمیم طراحی جایی است که هوش مصنوعی مجاز به استدلال است. مخاطره آمیزترین مکان در لایه پیاده سازی است، جایی که یک اشتباه کوچک می تواند مشکلات بزرگی را ایجاد کند که رفع آنها سخت است.

من معتقدم یک رویکرد صحیح استفاده از هوش مصنوعی برای کار با ایده ها و قوانین تجاری است. به این ترتیب، بررسی و درک آنچه که هوش مصنوعی پیشنهاد می کند برای مردم آسان تر است.

زبان های دامنه خاص و سایر انتزاعات مورد استفاده در توسعه مدل محور می توانند این جداسازی را فراهم کنند. هوش مصنوعی به ایجاد یا اصلاح یک مدل کاربردی در سطح بالا کمک می کند، در حالی که یک توسعه دهنده سپس مدل را قبل از اینکه یک پلتفرم قطعی آن را به نرم افزار اجرایی تبدیل کند، اعتبارسنجی می کند.

هوش مصنوعی می تواند نشان دهد که چگونه کاری باید انجام شود، اما لازم نیست که مسئولیت اجرای هر مرحله را بر عهده بگیرد.

Abstraction به توسعه دهندگان کمک می کند و در سیستم های عامل محور به یک ابزار کنترلی تبدیل می شود. این سیستم‌های پیچیده را ساده می‌کند و از تبدیل شدن خطاهای کوچک به مشکلات بزرگ جلوگیری می‌کند و آزمایش و رفع آن خروجی هوش مصنوعی را آسان‌تر می‌کند.

تخصص انسانی ارزشمندتر می شود، نه کمتر

با رواج بیشتر هوش مصنوعی، نقش توسعه دهندگان نیز تکامل خواهد یافت. آنها همچنان کد می نویسند، اما بخش بزرگی از نقش آنها نظارت بر سیستم ها، بررسی خروجی ها و کشف اشتباهات خواهد بود، تغییری که فرصت یادگیری مهارت های جدید را به همراه دارد.

توسعه‌دهندگان به طور فزاینده‌ای در سطح سیستم‌ها و معماری، درک منطق کسب‌وکار، شناخت الگوها و قضاوت در مورد اینکه آیا کد تولید شده توسط هوش مصنوعی با کاربرد گسترده‌تر مطابقت دارد یا خیر، کار خواهند کرد.

یکی از شرکت‌هایی که در این زمینه نوآوری کرده و در حال درو کردن پاداش تجربه خود است، فورد است. آنها اخیرا 350 مهندس با تجربه را برای کمک به آموزش همکاران جوان تر و بهبود ابزارهای هوش مصنوعی و اتوماسیون خود استخدام کردند.

این تغییر به دلیل این واقعیت بود که ابزارهای هوش مصنوعی بدون تخصص ارائه شده توسط متخصصان باتجربه نتایجی را که می خواستند تولید نمی کردند. اکنون، این مهندسان با تجربه به عنوان حسابرسان داخلی عمل می کنند، طرح ها را بررسی می کنند و مشکلات احتمالی را قبل از تبدیل شدن به مسائل اصلی در کارخانه پیدا می کنند.

وقتی توانایی هوش مصنوعی در تشخیص الگوها و پردازش اطلاعات را با دانش و تجربه انسانی ترکیب کنید، به ابزار بسیار قدرتمندتری تبدیل می‌شود. این ترکیب چیزی است که آن را واقعا مؤثر می کند، نه تنها به یکی یا دیگری تکیه کند.

اعتماد سازی

شرکت‌ها همچنین باید در برابر فشار برای استقرار عوامل در همه جا مقاومت کنند، زیرا به نظر می‌رسد رقبا این کار را انجام می‌دهند. وقتی صحبت از استفاده از هوش مصنوعی به میان می آید، رهبران باید به دقت در مورد هر موقعیتی فکر کنند.

آنها باید سه سوال مهم را از خود بپرسند. اول، آیا آنها از هوش مصنوعی می خواهند که فقط پیشنهاد دهد که چه کاری انجام شود یا واقعا آن را انجام دهد؟ بعد، آیا کسی می تواند آنچه را که هوش مصنوعی می گوید قبل از انتشار خطا بررسی و اصلاح کند؟ در نهایت، اگر سیستم در مورد چیزی مطمئن باشد اما در واقع اشتباه است، چه اتفاقی می‌افتد؟

پاسخ ها نقش مهمی در تصمیم گیری در مورد میزان آزادی ارائه فناوری دارند. به عنوان مثال، ابزاری که اسناد را خلاصه می‌کند ممکن است فقط به بررسی سریع نیاز داشته باشد، اما سیستمی که تصمیمات تجاری را پیشنهاد می‌کند به تأیید ثبت‌شده شخصی نیاز دارد.

هنگامی که شرکت ها شروع به استفاده از هوش مصنوعی برای کارهای خاص و عملی می کنند، به کارمندان نشان می دهد که واقعا می تواند در کار آنها تفاوت ایجاد کند. این رویکرد به شرکت فرصتی می دهد تا داده ها، قوانین و فرآیندهای خود را مرتب کند. اگر مردم ببینند که سیستم به خوبی کار می‌کند و بفهمند چه کاری می‌تواند انجام دهد و چه کاری نمی‌تواند انجام دهد، شروع به اعتماد بیشتر به آن می‌کنند. با گذشت زمان این اعتماد بیشتر می شود.

نکته کلیدی ایجاد یک راه‌اندازی کاری است که در آن انسان‌ها و ماشین‌ها کاری را که در آن خوب هستند انجام دهند. هوش مصنوعی در پردازش حجم زیادی از اطلاعات و الگوهای ظاهری عالی است. مردم در درک تصویر بزرگتر، اشاره به اشتباهات و قبول مسئولیت اعمال خود خوب هستند.

کار اشتباهی که به هوش مصنوعی داده می‌شود، هر کاری است که در آن یک اشتباه عواقب واقعی به همراه داشته باشد، هیچ‌کس کار را قبل از اینکه باعث آسیب شود بررسی نمی‌کند، یا سیستم در عین اینکه اشتباه می‌کند مطمئن به نظر برسد. شرکت‌هایی که به این بخش احترام می‌گذارند، اعتماد به نفس بیشتری را برای هوش مصنوعی عامل در طول زمان ایجاد می‌کنند. کسانی که آن را نادیده می گیرند ممکن است متوجه شوند که یک کار ضعیف می تواند کل استراتژی هوش مصنوعی آنها را تضعیف کند.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit