هوش مصنوعی صدای جدید بلاک به طرز وحشتناکی انسانی به نظر می رسد و باعث ترس و وحشت کلاهبرداری می شود

بر اساس اعلام Block، این مدل که Dessa نام دارد، کاملا بر روی گفتار انسان به جای متن آموزش دیده است و می تواند در حین صحبت کردن گوش کند، و به آن اجازه می دهد تا از وقفه ها، خنده ها و تغییرات لحن در طول مکالمه مدیریت کند.

دورسی در X می نویسد: «حرف زدن با آن مانند صحبت کردن با فردی است که سرشار از احساسات، نکات ظریف، مکث ها و آهنگ طبیعی است.

در یکی از نمایش ها، دسا در وسط جمله می خندد. در دیگری، به تعجب با چیزی شبیه به احساسات واقعی واکنش نشان می دهد. بلاک می گوید که مکالمات به صورت زنده بدون اینکه کسی پاسخ های مدل را هدایت کند ضبط شده است.

برخلاف سیستم‌هایی که ابتدا گفتار را قبل از ایجاد پاسخ گفتاری به متن تبدیل می‌کنند، دسا مستقیما صدا را پردازش می‌کند. بلاک گفت که دسا را ​​از ابتدا با استفاده از یک سیستم محاسباتی Nvidia GB200 NVL72 آموزش داده است. بر اساس بیانیه شرکت، این مدل به اندازه کافی جمع و جور است که می تواند به صورت محلی روی مک بوک پرو مجهز به تراشه M4 Max یا بهتر اجرا شود.

در حال حاضر، Dessa به جای یک محصول در دسترس عموم، یک پیش نمایش تحقیقاتی است.

نسخه ی نمایشی Dessa به سرعت در رسانه های اجتماعی مورد توجه قرار گرفت و برخی از کاربران از طبیعی بودن این تعاملات تمجید کردند.

کاربر X، الکساندر هاف، گفت که او هرگز "هیچ چیز مصنوعی که به نظر می رسد... انسانی" نشنیده است، در حالی که کاربر Hesamation آن را به عنوان "چیزهای علمی تخیلی مستقیم" توصیف کرده است.

Changpeng "CZ" Zhao، بنیانگذار بایننس، همچنین به کاربردهای بالقوه در آموزش اشاره کرد، جایی که تعاملات صوتی طبیعی می تواند به کودکان کمک کند از طریق مکالمه یاد بگیرند.

ژائو با اشاره به پروژه آموزشی خود نوشت: "این ممکن است برای GiggleAcademy بسیار خوب باشد. آموزش بچه ها با "صدای هوش مصنوعی" فعلی یک چالش بود."

اما همان ویژگی‌های انسانی که برخی شنوندگان را تحت تأثیر قرار داد، نگرانی‌هایی را در میان دیگران در مورد پتانسیل این فناوری برای فریب ایجاد کرد.

جاستین بیتمن، فیلمساز، این سوال را مطرح کرد که چرا صداهای هوش مصنوعی باید شبیه انسان باشد و استدلال می‌کرد که می‌توان از آن برای گمراه کردن مردم استفاده کرد. او نوشت: «بنابراین می‌توانید مردم را فریب دهید تا گاردشان را پایین بیاورند.

روزنامه‌نگار Shiv Aroor نگرانی‌های مشابهی را در مورد کلاهبرداری مطرح کرد و نوشت: "تماس‌های کلاهبرداری برای رسیدن به سطح همه‌گیری".

Dessa از Block می آید که Square، Cash App، کیف پول بیت کوین Bitkey و واحد سخت افزار استخراج بیت کوین Proto را اداره می کند. آزمایشگاه تحقیقاتی هوش مصنوعی آن مستقیما به دورسی گزارش می دهد و شامل کارکنان سابق استارتاپ هوش مصنوعی Dessa مستقر در تورنتو است که Square در سال 2020 آن را خریداری کرد.

بلاک اندازه مدل، نتایج معیار یا تاریخ انتشار عمومی را فاش نکرده است. نمونه‌های صوتی آن به‌جای آزمایش‌های مستقل، نمایش‌های شرکتی هستند.

این شرکت دسترسی زودهنگام را به گروه کوچکی از محققان ایمنی هوش مصنوعی ارائه می دهد. بلاک می‌گوید هوش مصنوعی مبتنی بر گفتار در نهایت می‌تواند در تشخیص نشانه‌های احساسی، مانند پریشانی و درد، که رونوشت‌های متنی ممکن است نادیده گرفته شوند، بهتر شود، در حالی که محققان خطراتی را که شرکت ممکن است نادیده گرفته باشد، ارزیابی می‌کند.