بهتر کردن اینترنت برای عوامل هوش مصنوعی ممکن است اوضاع را برای دیگران بدتر کند

این داستان در ابتدا در The Algorithm، خبرنامه هفتگی ما در مورد هوش مصنوعی ظاهر شد. برای دریافت داستان هایی از این قبیل در صندوق ورودی خود، در اینجا ثبت نام کنید.

تا همین اواخر، کاربران اینترنت را فقط به دو دسته تقسیم می‌کردید: ربات‌ها و افراد. وب‌سایت‌ها مدت‌هاست که به ربات‌ها اجازه می‌دادند کارهای خودکاری مانند ضبط محتوای صفحات وب را انجام دهند، اما قوانینی که می‌توانند به آن‌ها دسترسی داشته باشند و نحوه رفتارشان را کنترل می‌کنند. به هر حال، وب اساسا برای مردم طراحی شده است، حتی اگر گاهی مجبور شویم پازل ها و کپچاها را حل کنیم تا ثابت کنیم ربات نیستیم.

اما این به طور کامل با انتشار عوامل هوش مصنوعی شخصی که می توانند کارهایی را به صورت آنلاین برای شما انجام دهند، مانند رزرو پرواز یا اتاق هتل، کاملا تغییر می کند. آنها اخیرا با راه‌اندازی برنامه‌هایی مانند OpenAI's Dots و Meta's Muse در مقیاس وسیع منتشر شده‌اند. Muse در ماه اول 5 میلیون بار دانلود شد و ترافیک وب عاملی از آگوست تا سپتامبر سه برابر شد.

اختلاط این عوامل با بازدیدکنندگان انسانی - در اینترنت که عمدتا برای اولویت‌بندی افراد طراحی شده است - ضعیف بوده است، به طوری که بسیاری از وب‌سایت‌ها عوامل هوش مصنوعی را که مصرف‌کنندگان برای مذاکره در مورد قیمت‌ها یا برنامه‌ریزی تعطیلات فرستاده‌اند مسدود کرده‌اند. با این حال، اگر تقاضا برای نمایندگان همچنان افزایش یابد، اینترنت به‌طور فزاینده‌ای برای آنها به جای ما طراحی می‌شود.

چنین تغییراتی به این دلیل است که نمایندگان واقعا دسته سوم بازدیدکنندگان وب را مشخص می کنند. البته آنها انسان نیستند و با سرعت ماشین از اینترنت استفاده می کنند. اما آنها کاملا ربات نیستند، زیرا آنها از طرف افراد خاص برای انجام وظایفی که می توانند کاملا مشروع و مفید باشند عمل می کنند. آنها فقط سریعتر از یک شخص کار می کنند.

از آنجایی که عامل‌ها در سیستم‌هایی که ما برای متمایز کردن ربات‌ها از افراد داریم، جا نمی‌شوند، برخی از پلت‌فرم‌ها (به‌ویژه پلتفرم‌هایی که از امنیت بیشتری برخوردار هستند) تصمیم گرفته‌اند که آنها را کاملا ممنوع کنند. TechCrunch اخیرا گزارش داده است که مردم در استقرار نمایندگان خود در وب‌سایت‌هایی از Pizza Hut گرفته تا Yelp مشکل دارند، که به هوش مصنوعی اجازه نمی‌دهد رزرو رستوران را رزرو کند. آمازون عوامل Muse را مسدود کرده است و در حال نبردی دادگاهی با استارتاپ هوش مصنوعی Perplexity است تا نمایندگان خود را نیز مسدود کند.

اگرچه اخیرا یک قاضی به نفع Perplexity رای داد، اما آمازون درخواست تجدیدنظری ارائه کرده است که در آن استدلال می‌کند که عوامل هوش مصنوعی تجارت تبلیغاتی آن را با سخت‌تر کردن تمایز بین تبلیغات مشاهده شده توسط انسان و تبلیغاتی که برای ربات‌ها ارائه می‌شوند، تهدید می‌کنند.

این بلوک‌ها برای پذیرندگان اولیه آزاردهنده هستند، اما Ethan Mollick، دانشیار دانشکده وارتون دانشگاه پنسیلوانیا، پیش‌بینی می‌کند که به زودی کل وب را تحت تأثیر قرار خواهد داد. به محض اینکه مشخص شد که نمایندگان هوش مصنوعی می‌توانند برای درخواست بازپرداخت یا مذاکره در مورد قیمت‌ها فرستاده شوند، برای مثال، نمایندگان بخش‌های خدمات مشتری را تا حدی تحت تأثیر قرار می‌دهند که توسط افراد واقعی غیرقابل استفاده می‌شوند. او اخیرا در لینکدین نوشت: «انسان‌ها در نهایت بسیار آزرده می‌شوند، وقتی که عواملشان اجازه انجام این کار را از طرف آنها نداشته باشند.

اگر تقاضا برای نمایندگان شخصی افزایش یابد، پلتفرم‌ها راه‌هایی برای ورود به آن‌ها پیدا خواهند کرد. این امر به‌ویژه صادق است زیرا اکثریت قریب به اتفاق ترافیک وب نمایندگی‌ها به سایت‌های تجارت الکترونیکی اختصاص دارد، به این معنی که اگر پلتفرم‌ها به نمایندگان جدید هوش مصنوعی اجازه دهند از طرف افراد واقعی خرید کنند، پولی به دست می‌آیند. در واقع، غول تجارت الکترونیک Shopify در حال حاضر با دادن خطوط پرداخت خود به آنها که صفحات طراحی شده برای انسان ها را دور می زند، از نمایندگان استقبال می کند.

سوال مبرم این است که در این فرآیند برای بقیه ما چه اتفاقی برای اینترنت خواهد افتاد. ما به وب عادت کرده‌ایم که در آن، حتی با توجه به اینکه به طور فزاینده‌ای برای بهره‌برداری از توجه ما طراحی شده است، انسان‌ها حداقل کاربران مورد نظر باقی مانده‌اند. اما این اینترنت ممکن است به یک بهینه‌سازی شده برای عواملی برسد که در نهایت تعداد آنها از ما بیشتر خواهد شد و این امر برای انسان‌هایی که باقی مانده‌اند بدتر می‌شود.

چگونه ممکن است این اتفاق بیفتد؟ شاید وب سایت ها به طور فزاینده ای به عنوان مقصدی برای افراد واقعی نادیده گرفته شوند. انسان هایی که می خواهند خودشان محصولات را مرور و مقایسه کنند با رابط های بدتری مواجه می شوند. سیستم های تأیید ناقص هستند. تصور کنید که دائما از شما خواسته می شود تا تأیید کنید که شما یک انسان هستید، نه یک عامل (و هی، شاید برای انجام این کار نیاز به اسکن عنبیه خود داشته باشید). ژاکتی که می خواهید برای همه یک قیمت درج نشده است، بلکه قیمت های متفاوتی را به نمایندگان افراد مختلف نشان می دهد.

شما هرگز نمی توانید بگویید که چه زمانی توصیه نماینده شما تحت تأثیر تبلیغات یا کمیسیون های پلت فرم است.

این با آینده ای که گوگل، آنتروپیک و OpenAI وعده داده اند، فاصله زیادی دارد، که در آن عوامل هوش مصنوعی به مصرف کنندگان قدرت و اهرم چانه زنی بیشتری می دهند. اما این وعده عجیب نیست. به عنوان مثال، نمایندگان می توانند با مبارزه با صورتحساب های پزشکی جعلی یا تحقیق در مورد بیمه خودرو مقرون به صرفه تر به مردم کمک کنند.

اینکه آیا آنها واقعا می توانند برای این اهداف مورد استفاده قرار گیرند یا خیر، بستگی به قوانینی دارد که برای نحوه تعامل نمایندگان با وب سایت ها و اینکه دقیقا چه کاری مجاز است انجام دهند.

این قوانین هنوز در حال نوشتن هستند. برخی از آنها به نفع همه ما خواهند بود - نه مصرف‌کنندگان و نه کسب‌وکارها نمی‌خواهند اطلاعات کارت اعتباری توسط نمایندگان در هر کجا که در وب پرسه می‌زنند، منتشر شود، و قوانینی برای حفظ امنیت بیشتر نمایندگان چیز خوبی است. این موارد مورد مناقشه تر هستند، مانند اینکه آیا کسب و کارها می توانند نمایندگان را از وب سایت خود مسدود کنند یا آنها را از مذاکره در مورد معاملات بهتر برای مصرف کنندگان جلوگیری کنند، که تعیین می کند آیا وب به بزرگراهی برای نمایندگانی تبدیل می شود که برای ما کار می کنند یا علیه ما.