صدای رباتیک یک ویژگی ایمنی بود. اکنون از بین رفته است

ما به انسان هایی که شبیه ربات ها هستند عادت کرده ایم. بدبختی مفتضح برخورد با یکی از بسیاری از بوروکراسی های دولتی چنین فرصت هایی را به وفور ارائه می دهد. در حالی که این کسل کننده است و گاهی اوقات خسته کننده است، اما بیشتر بی ضرر است.

اما ما اکنون در عصری هستیم که ربات‌ها می‌توانند شبیه انسان‌ها به نظر برسند: البته بسیار متقاعدکننده. دسا، مدل هوش مصنوعی جدید جک دورسی بلاک، در لبه تقلید انسان قرار دارد. این چیزی جز کسل کننده یا بی ضرر است.

دورسی در X گفت که این "معتبرترین مدل گفتاری تمام دوبلکسی است که تا کنون ساخته شده است." در حالی که صحبت می کند گوش می دهد، حرف می زند، وسط جمله می خندد و مانند مردم زمزمه می کند.

برای چندین دهه، صدای رباتیک یک ویژگی ایمنی بود. فورا به شما گفت که هیچ کس آنجا نیست. دسا به دلایل خیرخواهانه برای حذف این گوینده ساخته شد. اما یکی از آخرین راه های آسان برای دانستن اینکه چه کسی یا چه کسی در خط است، همراه با آن است.

صداهای واقعی هوش مصنوعی جدید نیستند. چیز جدیدی که دسا یاد گرفت. بلاک می گوید که فقط بر روی مکالمه ضبط شده انسانی آموزش داده شده است، بنابراین هر آه و قهقهه کوچکی را حفظ می کند و تلو تلو می خورد. این یک پیش نمایش تحقیقاتی با دموهای دستچین شده است، اما جهت آن مشخص است.

بیایید ابتدا نکات مثبت را در نظر بگیریم. این کار استفاده از هوش مصنوعی برای تولید محصولات واقعی تر را برای صنایع خلاق آسان تر می کند.

این کاهش قابل توجهی در هزینه برای آنها است. این امر ممکن است رسانه‌ها را به روی افرادی بگشاید که از ایده‌هایی سر در می‌آورند که در غیر این صورت برای دستیابی به دسترسی یا مشاهده پتانسیل خلاقانه خود با مشکل مواجه می‌شدند.

فراتر از رسانه‌ها، می‌تواند باعث شود که خدمات کمکی خودکار احساس انسان بودن و کمتر رباتیک کنند. برای مثال، افراد مسن که با خطوط تلفن بهداشتی تماس می گیرند، ممکن است راحت تر با یک سرویس هوش مصنوعی که به طور طبیعی با آنها صحبت می کند، تعامل داشته باشند.

سپس اپیدمی تنهایی است. یک هوش مصنوعی متقاعد کننده ممکن است به کسانی که احساس تنهایی می کنند، آرامش دهد، به نوعی مانند حیوان خانگی که می تواند فراتر از یک ووف یا میو با شما صحبت کند.

اما هر یک از طرفین یک دوقلو شیطانی دارد. پس‌اندازی که رسانه‌ها را باز می‌کند، مشاغل از دست رفته برای بازیگران و عوامل خدمات مشتری است.

مهمتر از همه، ظهور مدل های صوتی متقاعد کننده هوش مصنوعی یک هدیه باورنکردنی برای کلاهبرداران است. گرمی که به تماس‌گیرنده مسن اطمینان می‌دهد چیزی است که وقتی صدا متعلق به یک کلاهبردار باشد، او را خلع سلاح می‌کند.

هنر کلاهبرداری در توانایی آن در فریب دادن علامت است. که خیلی راحت تر می شود.

FBI هشدار می دهد که کلاهبرداران از هوش مصنوعی برای صاف کردن لبه های ناهموار ایمیل های خود استفاده می کنند. به‌جای التماس‌های غلط املایی از شاهزادگان نیجریه، انتظار تماس‌های غیرمنتظره از صدایی را داشته باشید که دقیقا شبیه کسی است که می‌شناسید.

تا به حال، معمولا افراد ساده لوح یا زودباورتر در میان ما، از جمله افراد آسیب پذیر از نظر بالینی، دچار کلاهبرداری های آشکار می شوند. ما وارد عصری می‌شویم که بسیاری از کلاهبرداری‌ها دیگر به هیچ وجه آشکار نیستند، و دامنه قربانیان قربانیان را گسترش می‌دهد.

اما شاهزاده هرگز آنقدر که به نظر می رسید کم نور نبود. یک مقاله تحقیقاتی مایکروسافت در سال 2012 توسط کورمک هرلی استدلال کرد که این پوچی به کلاهبرداران کمک می کند. پاسخ‌ها برای آن‌ها وقت صرف می‌کند، بنابراین یک گام عجیب و غریب همه را به جز ساده‌لوح‌ترین آنها نشان می‌دهد.

هوش مصنوعی که می تواند مکالمات بی پایان را اجرا کند این هزینه را کاهش می دهد. حالا همه هدف هستند.

حتی ترسناک‌تر از تخلیه حساب بانکی شما توسط دزدی با مدل هوش مصنوعی این است که چگونه می‌تواند بر سیاست و امنیت ملی تأثیر بگذارد.

رهبران سیاسی پیش از این بارها توسط تماس گیرندگان شوخی فریب خورده اند، علیرغم لایه هایی از محافظت فرضی در اطراف آنها که دسترسی را محدود می کند. چه اتفاقی می‌افتد وقتی افرادی که جامعه ما را رهبری می‌کنند فریب کسانی را می‌خورند که نیت‌های بدخواهانه دارند؟

ممکن است به زودی متوجه شویم. سال گذشته، یک شیاد از تقلید هوش مصنوعی صدای مارکو روبیو برای تماس با سه وزیر خارجه، یک فرماندار و یکی از اعضای کنگره استفاده کرد. آن فریبکار پیام‌های صوتی گذاشت. نفر بعدی قادر به انجام مکالمه خواهد بود.

تیم دسا Block خطرات را تصدیق می کند و آشکارا می خواهد به آنها رسیدگی کند.

Ragavan Thurairatnam، رهبر Dessa، در پیامی در وب‌سایت خود با عنوان «تمام محققان ایمنی را فراخوانی می‌کنیم» می‌گوید: «مدلی که یاد گرفته تنها از طریق صدا صحبت کند، قلمرو جدیدی است و ما می‌خواهیم چشم‌های بیرونی روی آن باشد.

این تیم قبلا اینجا بوده است. در سال 2019، دسا که در آن زمان یک استارت‌آپ در تورنتو بود، صدای جعلی جو روگان را ساخت اما از این مدل خودداری کرد و هشدار داد که چنین فناوری می‌تواند به جعل هویت یک سیاستمدار برای تحت تأثیر قرار دادن انتخابات کمک کند.

ما در حال عبور از یک دنیای جدید دلهره آور هستیم که در آن دیگر نمی توانیم باور کنیم آنچه می خوانیم، می بینیم یا می شنویم واقعی است. غول های فناوری در حال پیشرفت هستند. ایمنی همیشه نمی تواند حفظ شود.

رونالد ریگان دوست داشت یک ضرب المثل قدیمی روسی را به میخائیل گورباچف ​​نقل کند: اعتماد کن، اما تأیید کن. نیاز به به‌روزرسانی دارد: هرگز اعتماد نکنید، همیشه تأیید کنید.

اف‌بی‌آی می‌گوید برای تشخیص صدای شبیه‌سازی‌شده به لحن و انتخاب کلمه گوش دهید. مدل هایی مانند Dessa برای قبولی در این آزمون ساخته شده اند. نکته دیگر این اداره بهتر است: توافق بر سر یک کلمه محرمانه خانوادگی.