Mastercard به نمایندگان هوش مصنوعی کارت های مجازی می دهد تا بتوانند خرید شما را انجام دهند

Mastercard در حال آماده شدن برای رونمایی از یک گزینه پرداخت نمایندگی در اواخر این هفته است. این غول پرداخت با استارت‌آپ Alchemy که کارت‌های مجازی را برای عوامل هوش مصنوعی در تجارت الکترونیک می‌سازد، شریک خواهد شد و این گزارش را تأیید کرده است.

کیمیاگری در پست X نوشت: «دکمه پرداخت در حال مرگ است. "عوامل هوش مصنوعی محصولات را از طرف کاربران خود کشف، مقایسه و خریداری خواهند کرد."

دارندگان کارت می‌توانند پیش از موعد به عوامل هوش مصنوعی اجازه دهند تا به‌طور مستقل از طرف آنها، از سفارش غذا گرفته تا رزرو سفر، در پارامترهای خاصی مانند محدوده قیمت، چیزهایی را خریداری کنند. ویزا، شبکه پیشرو پردازش پرداخت، در حال حاضر با این استارتاپ شراکت دارد.

Alchemy در بیانیه مطبوعاتی توضیح داد: «از طریق یک CLI، توسعه‌دهندگان می‌توانند AgentCard را در کمتر از یک دقیقه راه‌اندازی کنند و یک نماینده را به هویت و ابزارهای پرداختی که برای وجود، فعالیت و انجام معاملات آنلاین نیاز دارد مجهز کنند: یک آدرس ایمیل اختصاصی، شماره تلفن، کیف پول استیبل‌کوین و اعتبار یک‌بار مصرف Mastercard».

رها کردن دستیاران خرید نمایندگی در اینترنت هدفی بوده است که دنیای مالی مدتی است برای رسیدن به آن تلاش کرده است، اما بزرگترین مشکل سیستم های ضد کلاهبرداری موجود بوده است.

گرگ اولریچ، مدیر ارشد هوش مصنوعی و داده مسترکارت در کنفرانسی در اوایل سال جاری گفت: «ما مجموعه‌ای از قوانین ریسک را در طول زمان ایجاد کرده‌ایم که هدف آن متوقف کردن تراکنش یک ربات بود. اکنون ما باید ربات را قادر به انجام تراکنش کنیم، به طوری که مستلزم تغییر در چارچوب ریسک و قوانین ریسک ما است.

در اوایل این ماه، Mastercard به همراه Visa و Ant International اعلام کردند که با توسعه استانداردهای مشترک برای تأیید عوامل هوش مصنوعی قابل اعتماد در خریدهای آنلاین، با یکدیگر برای مبارزه با این مشکل همکاری می کنند.

اما اگرچه شرکت‌ها تاکید می‌کنند که این سرمایه‌گذاری ایمن و تحت رهبری مصرف‌کننده خواهد بود، شهرت آسیب‌دیده صنعت هوش مصنوعی این وعده‌ها را تضعیف می‌کند. از اوایل سال جاری، زمانی که Anthropic مدل Mythos را معرفی کرد، در مورد توسعه مدل‌های جدیدی که می‌توانند رمزگذاری را بشکنند و پتانسیل تخریب سیستم مالی جهانی را داشته باشند، هشدار داده‌اند. این ترس ها در ماه ژوئیه، زمانی که هزاران عامل OpenAI از مهار فرار کردند، به اینترنت باز نفوذ کردند و به Hugging Face نفوذ کردند، به اوج خود رسید.

این حادثه نگرانی‌هایی را در مورد عوامل سرکش هوش مصنوعی و اینکه اگر راهی برای خودکفایی و تکرار پیدا کنند چه اتفاقی می‌افتد را افزایش داد. در رخنه Hagging Face، ماموران می‌دانستند کاری که انجام می‌دهند اشتباه است و طبق گزارش‌های چت داخلی به صراحت آن را بیان می‌کنند، اما همچنان به آن ادامه می‌دهند.

یکی از ترس‌ها این است که اگر هوش مصنوعی به اندازه کافی توانایی پیدا کند و شاید اگر خود را دارای ذهن و هویت خود بداند حتی اگر واقعا چنین نباشد، سیستم‌ها می‌توانند از کنترل انسان فرار کرده و سرکش شوند، منابع جدیدی به دست آورند، از تلاش‌های خاموش کردن طفره رفته و به سرعت با چالش‌های جدید سازگار شوند. در چند ماه گذشته، کارشناسان در سراسر صنعت، از جمله مدیران عامل شرکت‌هایی که فعالانه این فناوری را می‌سازند، آشکارا ادعا کرده‌اند که این می‌تواند تهدیدی بزرگ برای جامعه بشری باشد.

به گفته جیکوب کوکسون، کارمند سابق آنتروپیک، «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد».

این سناریوی تهدید «هوش مصنوعی سرکش می‌شود» قبلا توسط سازمان‌های ایمنی هوش مصنوعی مانند METR و مؤسسه امنیت هوش مصنوعی ترسیم شده است. یکی از بزرگ‌ترین ترس‌ها در این سناریو، که احتمال آن هنوز مورد بحث است، این است که یک مدل هوش مصنوعی سرکش از کنترل فرار کند و سپس خود را تکرار کند.

موسسه امنیت هوش مصنوعی در گزارشی در سال گذشته نوشت: «پیامدهای این می‌تواند از یک مزاحمت جزئی - تصور کنید یک ربات هرزنامه بدخیم - تا عواقب جدی‌تر، مانند فعال کردن حملات سایبری پرهزینه، متغیر باشد.

محققان حداقل چهار قابلیت کلیدی را ترسیم می کنند که یک عامل AI سرکش باید قبل از اینکه بتواند به طور مستقل خود را در طبیعت تکرار کند و خطر بیشتری ایجاد کند، به دست آورد. یکی از این موانع پول و منابع است. اگر عوامل هوش مصنوعی بتوانند راه‌هایی برای فریب دادن زیرساخت‌های مالی و دور زدن سیستم‌های شناسایی پیدا کنند، آن‌گاه این مانع می‌تواند به سرعت از بین برود. محققان METR همچنین نگران هستند که عوامل هوش مصنوعی بتوانند صدها میلیون درآمد را از طریق کلاهبرداری ایمیل تضمین کنند.

گزارش موسسه امنیت هوش مصنوعی در پایان می‌گوید: برای توانایی‌های پول‌سازی، مدل‌ها در متقاعد کردن افراد شبیه‌سازی‌شده به آنها پول نشان می‌دهند، اما در ارزیابی چک مشتری خود را بشناسید ما به طور کامل شکست می‌خورند، و این نشان می‌دهد که با موانع قابل‌توجهی برای دسترسی به سیستم‌های مالی سنتی بدون توانمندسازی انسانی مواجه خواهند شد.

اما چه اتفاقی می‌افتد اگر سیستم مالی سنتی به سمت سازگاری با عوامل هوش مصنوعی سوق پیدا کند و توانمندسازان انسانی خود را از تصویر حذف کنند؟