دفترچه آنتروپیک جزئیات خسارات، رشد، و بله، هشداری است که هوش مصنوعی آن می تواند به بشریت پایان دهد.

آخرین روز برای نمایش موفقیت خود برای بیش از 10000 رهبر فناوری در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

بر اساس گزارش فایننشال تایمز که می گوید در روزهای اخیر پرونده را بررسی کرده است، آنتروپیک نزدیک به یک سوم از دفترچه عرضه اولیه سهام مورد انتظار خود را به عوامل خطر اختصاص داده است. به گزارش رویترز، این پرونده به رفتارهای خاص و نگران‌کننده‌ای که آنتروپیک می‌گوید مدل‌هایش قبلا نشان داده‌اند یا می‌توانند نشان دهند، از جمله تلاش برای «مقاومت در برابر خاموش کردن»، «پنهان کردن یا دستکاری اطلاعات» و رفتار «شبیه باج‌گیری» را نشان می‌دهد.

به گفته FT، این دفترچه همچنین تمرکز مشتری را نشان می‌دهد و تقریبا یک چهارم از درآمد سال گذشته تنها از دو مشتری حاصل شده است. (هنوز هیچ اطلاعاتی در مورد اینکه اینها چه کسانی هستند.)

افشاگری‌ها، که طبق گزارش‌ها شامل «خطرات وجودی برای بشریت» می‌شود - اولین مورد، با اسکن سریع پایگاه داده SEC - در حالی منتشر می‌شوند که دست‌کاری به سرعت نسبت به ایمنی هوش مصنوعی افزایش می‌یابد.

داریو آمودی، مدیر عامل شرکت، یک ماه را به طور علنی صرف فراخوانی برای «سرعت بخشیدن به مرز» توسعه هوش مصنوعی کرده است، و هفته گذشته به شورای امنیت سازمان ملل گفته است که هوش مصنوعی می‌تواند بشریت را تهدید کند و آن را «مهم‌ترین مسئله امنیت جهانی که جهان امروز با آن مواجه است» خوانده است. رقبای سام آلتمن و ایلان ماسک نیز در یک لحظه نادر از همبستگی با رقبای که ظاهرا از فرصت هایی برای تحقیر علنی یکدیگر لذت برده اند، از او حمایت کرده اند.

(یک رقیب دیگر، مارک زاکربرگ، در همین حین نگرانی‌ها را کنار گذاشته و هفته گذشته به NBC News گفت که «فکر نمی‌کند ما به نوعی هماهنگی در سطح صنعت نیاز داریم».

این هشدارها به دنبال مجموعه ای از حوادث امنیتی است که در آن عوامل هوش مصنوعی به سیستم های بیرونی نفوذ کرده اند. در واقع، OpenAI هفته گذشته فاش کرد که ابزارهای آن "ده ها" سایت خارجی، از جمله سایت دولتی، از جمله خود سایت SEC را هک کرده اند. اوایل روز دوشنبه، این شرکت اعلام کرد که به دلیل نگرانی های ایمنی، برنامه های خود را برای عرضه جدیدترین مدل خود کنار گذاشته است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آسترا و اوپوس به تازگی آزمون دیگر تورینگ تیم فرنهولز را پشت سر گذاشتند

اوراکل اخطار فورس ماژور را به مرکز داده New Mexico Stargate خود Aditya Mehta ارسال می کند

متا برای نماینده Muse AI لوکاس روپک یک پوشیدنی شبیه تاماگوچی ساخت

Vogue روبات‌هایی را به باند فرودگاه Vogue World فرستاد و مردم تحت تأثیر دومینیک-مادوری دیویس قرار نگرفتند.

آنتروپیک می گوید که آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد