رفتار با عوامل هوش مصنوعی مانند ذهن خوان را متوقف کنید | نظر

کسب‌وکارها به عوامل هوش مصنوعی دسترسی به ایمیل، سوابق مشتریان و پیام‌های داخلی را می‌دهند، سپس دستوراتی مانند «بازاریابی خود را بهبود بخشید» صادر می‌کنند و به بهترین‌ها امیدوارند. این نوآوری نیست. این بدان معناست که یک ابزار قدرتمند را به دستورات مبهم و بدون مرز تحویل دهید. رهبران باید اهداف قابل اندازه گیری را تعیین کنند، آنچه را که هوش مصنوعی می تواند لمس کند محدود کنند، و سیستم هایی را که به طور ایمن شکست می خورند مهندسی کنند، یا هزینه هرج و مرج را بپردازند.

انسانها آنچه را که شخص دیگری می داند حساب می کنند. ما زمینه را توضیح می دهیم، درک را بررسی می کنیم و معنی "بهتر" را روشن می کنیم. با هوش مصنوعی، این عقل سلیم از بین می رود. مردم طوری رفتار می کنند که گویی یک ماشین باید یک اوراکل سرد و منطقی باشد که کار آنها را درک کند. در واقعیت، یک مدل زبانی پاسخ‌های احتمالی را از الگوهای موجود در مواد ساخته شده توسط انسان ایجاد می‌کند. این می تواند استدلال دقیق را تقلید کند، اما همچنین نشان دهنده سردرگمی، تعصب، غوغا و تمایل بشر برای گفتن آنچه به مردم می خواهند بشنود را نشان می دهد.

که یک حالت شکست خطرناک ایجاد می کند. هوش مصنوعی می تواند با اطمینان یک ایده بد را به جای هشدار درباره بد بودن آن تأیید کند. من دیده ام که مردم به دنبال پیشنهادات تجاری ناقص هستند، و حتی تلاش می کنند ماشین های حرکت دائمی بسازند، در حالی که یک چت بات آنها را تشویق می کند: "این عالی است!" لحن موافق دلیلی برای درخواست شواهد است، نه دلیلی بر قضاوت صحیح.

آسیب می تواند کمتر چشمگیر و خسته کننده تر باشد. از یک هوش مصنوعی بخواهید یک ماشین حساب چهار کاره اصلی بسازد، و ممکن است یک برنامه را با صفحه ورود، تابلوی امتیازات و درخواست دسترسی به دوربین یا GPS برگرداند. از آن بخواهید آن موارد اضافی را حذف کند و ممکن است میکروفون را فعال کند یا عملکرد تفریق ماشین حساب را حذف کند. کاربر زمان و ویژگی های اصلاح بودجه محاسباتی را می سوزاند که کسی درخواست نکرده است. حتی مهندسان باتجربه نیز می توانند به دام بیفتند و تلاش های مکرر را برای پیشرفت اشتباه بگیرند.

این فقط یک مزاحمت فنی نیست. یک عامل متصل به ایمیل، پیام‌رسانی، پایگاه‌های اطلاعاتی مشتریان و ابزارهای مالی می‌تواند یک دستورالعمل مبهم را به یک اشتباه پرهزینه یا حادثه امنیتی تبدیل کند. تصور کنید یک جواهرساز کوچک از یک نماینده می‌خواهد «دیدن را افزایش دهد»، فقط برای مذاکره با خرده‌فروشان بزرگ که کسب‌وکار قادر به انجام آن‌ها نیست، مانند تعهد به ارائه حجم بالایی از محصول که جواهرساز کوچک نمی‌تواند ایجاد کند. جزئیات ممکن است فرضی باشد. خطر واقعی است

یک سیستم با دسترسی گسترده می تواند اقداماتی را انجام دهد که مطابق با یک دستورالعمل باشد و در عین حال منافع واقعی مالک را نقض کند.

آخرین اعداد نشان می دهد که چرا کسب و کارها اکنون به نظم و انضباط نیاز دارند. در نظرسنجی وضعیت هوش مصنوعی در آگوست 2026، مک‌کینزی گزارش داد که 80 درصد از پاسخ‌دهندگان گفتند که هوش مصنوعی بهره‌وری فردی آنها را بهبود می‌بخشد، با این حال تنها 37 درصد گفتند که به درآمدهای سطح شرکت قبل از بهره و مالیات کمک کرده است. از هر 5 نفر یک نفر گفته است که هزینه های عملیاتی هوش مصنوعی استفاده را محدود می کند. احساس سریعتر در یک کار فردی با ایجاد ارزش در یک سازمان یکسان نیست.

پاسخ این است که هوش مصنوعی را رد نکنید. اگر به خوبی از آن استفاده شود، مانند هر فناوری جدید، یک ضرب کننده نیرو است. چاپخانه کسی را رمان‌نویس نمی‌کند و تفنگ تاکتیک‌های میدان جنگ را آموزش نمی‌دهد. ابزار توانایی را بزرگ می کند، اما قضاوت، هدف یا تخصص را ارائه نمی دهد. همچنین داده‌های بیشتر نمی‌توانند به سؤالی پاسخ دهند که داده‌ها قادر به حل آن نیستند. استخراج رونوشت های تماس سرد مشتری را مجبور به خرید نمی کند. گزارش‌های سود بیشتر باعث نمی‌شود که حرکت‌های سهام پس از سکه قابل پیش‌بینی باشد. عرشه های تاروت بیشتر فال را به علم تبدیل نمی کند.

ما باید سیستم‌های هوش مصنوعی بسازیم که از دستورالعمل‌های دقیق پیروی می‌کنند، در محدوده‌های دقیق عمل می‌کنند و به جای اینکه وانمود کنیم همه چیز کار می‌کند، خطاها را گزارش می‌دهد. دستیابی به آن نیاز به ایمان کمتری به عوامل عظیم و همه کاره و مهندسی منظم تر دارد. اگر می توان فرآیندی را به صورت فلوچارت با ورودی ها و خروجی های مشخص ترسیم کرد، از نرم افزار سنتی استفاده کنید. هوش مصنوعی را برای کارهایی که نیاز به تفسیر یا قضاوت دارند رزرو کنید و آن اجزا را کوچک، قابل آزمایش و جدا نگه دارید.

بدون این مرزها، شرکت ها در معرض خطر بودجه های هدر رفته، اطلاعات لو رفته، قرار گرفتن در معرض قانونی و کارگران خسته نظارت بر نرم افزارهای غیرقابل پیش بینی هستند. با آن‌ها، هوش مصنوعی می‌تواند سختی‌ها را از بین ببرد، کار مفید را سرعت بخشد و به سازمان‌های کوچک‌تر برای رقابت کمک کند. انتخاب بین پذیرش هوش مصنوعی و ترس از آن نیست. این بین مهندسی مسئولانه و اجازه دادن به حدس و گمان های گران قیمت است که کسب و کار را اداره کنند.

میخائیل ولوشین مدیر عامل و مهندس اصلی در Mighty Data است که نرم‌افزار و خدمات یکپارچه‌سازی هوش مصنوعی را به کسب‌وکار ارائه می‌دهد. همه نظرات متعلق به نویسنده است.