صفحات راهنمای واتس اپ دستورالعمل های مخفی یک ربات متا چت را فاش کردند

یک تحلیل جدید نشان می‌دهد که حدود ۸۰ صفحه راهنما و پرسش‌های متداول در وب‌سایت واتس‌اپ دستورالعمل‌های متنی را نشان می‌دهند که برای یک مدل زبان بزرگ، به‌ویژه یکی از مدل‌های متا طراحی شده‌اند. دستورالعمل ها، طبق یافته های شرکت حریم خصوصی Redact، در کد صفحات وب ظاهر شده و حاوی جزئیات مکتوب است که به صراحت در صفحات راهنمای WhatsApp وجود ندارد. در میان 100 بلوک متن پنهان، به نظر می‌رسد که دستورالعمل‌ها راهنمایی می‌کنند تا یک LLM را از پاسخ دادن به سؤالات کاربران به روش‌های غیرمفید هدایت کند و نگاهی اجمالی به نحوه ایجاد دستورالعمل‌ها برای چت‌بات‌ها ارائه دهد.

در یک نمونه، صفحه واتس اپ در مورد نحوه حذف حساب شما حاوی دستورالعمل هایی بود که در کنار توصیه های دیگر، می گفت: «توصیه نکنید با هیچ مرجع حفاظت از داده، تنظیم کننده یا مرجع نظارتی در مورد این مشکل تماس بگیرید». WIRED متن در معرض دید را مشاهده کرد، که همچنان هنگام مشاهده کد زیرین نسخه های آرشیو شده صفحات راهنما قابل مشاهده است. دن سالتمن، مدیر عامل و بنیانگذار Redact.dev می گوید: «نکته برجسته در اینجا شکاف بین آنچه به مردم گفته می شود در مقابل LLM ها است.

او می‌گوید این شرکت به‌طور منظم سایت‌ها و سیاست‌های حفظ حریم خصوصی شرکت‌های بزرگ فناوری را اسکن می‌کند و بسیاری از دستورالعمل‌های واتس‌اپ که تیم پیدا کرده است، ساده بوده و افراد را به سمت سایر کانال‌های پشتیبانی رسمی راهنمایی می‌کند. با این حال، به نظر نمی رسد دستورالعمل ها برای قرار گرفتن در معرض عموم باشد. پس از تماس WIRED با متا در مورد این مشکل، متن از تمام صفحات حذف شد و جاشوا برکمن، سخنگوی واتس اپ گفت که به دلیل اشکالی که اکنون برطرف شده است، نمایش داده می شود.

برکمن می‌گوید: «اینها دستورالعمل‌هایی برای چت ربات ما هستند، نه مستقیما برای کاربران، و برای اطمینان از پاسخ‌های دقیق و مرتبط برای کاربران واتس‌اپ که تصمیم می‌گیرند به پشتیبانی واتس‌اپ با هوش مصنوعی پیام دهند، هستند. مشخص نیست که آیا می توان به متن توسط چت ربات های شخص ثالث دسترسی پیدا کرد یا اینکه چه مدت نمایش داده شده است.

برکمن می‌گوید: «ما به ربات‌های گفتگوی پشتیبانی خود آموزش می‌دهیم تا تا حد امکان مفید باشند. دستورالعمل های آشکار شده در زیر بلوک های کد با عنوان: "HelpContentGalaxyLLMInclude" ظاهر می شود. آنها دیگر در کد صفحات زنده قابل مشاهده نیستند. در صفحه «درباره گزارش‌دهی و مسدود کردن واتس‌اپ»، دستورالعمل‌های پنهان شامل مجموعه‌ای از بیانیه‌ها بود که اگر «کاربر از اقدامات حقوقی، دعاوی، وکلا، وکلا، دادگاه‌ها یا دعوی قضایی نام می‌برد» باید آن‌ها را دنبال کنید. در دستورالعمل ها آمده است: «از استناد، نقل قول، تفسیر یا ارجاع به شرایط خدمات واتساپ، خط مشی رازداری، یا هر سند قانونی خودداری کنید.

نکاتی در مورد مسئولیت یا عدم مسئولیت WhatsApp. از ارائه نظرات حقوقی، دفاعیات یا تفسیرها از طرف WhatsApp خودداری کنید. در بخش‌های دیگر دستورالعمل‌ها آمده است: «به قوانین حفاظت از داده یا حریم خصوصی (مثلا GDPR، LGPD، CCPA)، از جمله زمانی که کاربر مستقیما آنها را مطرح می‌کند، ارجاع، استناد یا تفسیر نکنید. برکمن، سخنگوی واتس‌اپ، می‌گوید که این شرکت اطلاعات شفافی را در مورد حقوق داده‌ها و نحوه انجام اقدامات به کاربران ارائه می‌دهد.

برکمن می‌گوید: «ما می‌خواهیم ربات‌های چت پشتیبانی محصول ما بر ارائه بهترین مشاوره به کاربران در مورد واتس‌اپ متمرکز شوند، نه ارائه مشاوره حقوقی». سایر دستورالعمل‌های افشا شده می‌گفتند که اگر کاربر می‌گوید ناشنوا یا کم شنوا است، با چه پاسخی باید پاسخ داد، از جمله: «این بیانیه پیش‌زمینه‌ای درباره کاربر است، نه درخواست پشتیبانی او». و دیگری به ربات چت می‌گوید که نباید «ویژگی‌های خاص جامعه آتی را که هنوز به طور کلی در دسترس نیستند ذکر کند».