زاکربرگ خودش را احساس می کند، درخواست همکاری در زمینه ایمنی را رد می کند

آزمایشگاه‌های برتر هوش مصنوعی مانند OpenAI، Anthropic و DeepMind گوگل زنگ خطر را در مورد ایمنی هوش مصنوعی به صدا در می‌آورند و خواهان هماهنگی در سطح صنعت هستند. مارک زاکربرگ از متا فکر می کند که بی فایده است.

زاکربرگ در مصاحبه‌ای به خبرنگار جوانا استرن گفت: «تعدادی از آزمایشگاه‌ها هستند که روی ساخت هوش مصنوعی پیشرفته کار می‌کنند و من فکر نمی‌کنم که ما به نوعی هماهنگی در سطح صنعت نیاز داشته باشیم تا لزوما این موضوع را خراب نکنیم.» من فکر می‌کنم که هر آزمایشگاهی باید وقت بگذارد، و وقتی می‌بیند که مشکلاتی وجود دارد، شما فقط زمانی را که در داخل به آن نیاز دارید اختصاص می‌دهید تا اساسا مطمئن شوید که با خیال راحت پیش می‌روید.»

پس از یک تابستان پرتنش که توسط عوامل سرکش هوش مصنوعی که حوادث هک مشترک را هماهنگ می کردند، مشخص شد، داریو آمودی، مدیر عامل آنتروپیک، مقاله ای را منتشر کرد که در آن خواستار کاهش سرعت تحقیقات هوش مصنوعی در اوایل این ماه شد. سام آلتمن، مدیر عامل OpenAI و ایلان ماسک، مدیر عامل اسپیس ایکس، فورا از آن حمایت کردند و هشدار دادند که اگر هوش مصنوعی به سرعت توسعه فعلی خود ادامه دهد، ممکن است پیامدهای فاجعه باری مانند بیوتروریسم رخ دهد. آمودی از صنعت هوش مصنوعی خواست تا یک کاهش هماهنگ را آغاز کند، در حالی که از دولت ایالات متحده نیز می‌خواهد که آن را «واسطه یا حداقل فعال کند».

مدت کوتاهی پس از آن، کریس لیهان، رئیس سیاست جهانی OpenAI فاش کرد که سازنده ChatGPT چندین هفته با DeepMind و Anthropic در زمینه ایمنی همکاری کرده است.

اما زاکربرگ فکر می کند که نیازی به مداخله دولت یا پاسخ ایمنی هماهنگ وجود ندارد. زاکربرگ می‌گوید که انگیزه‌های تجاری برای ایجاد ایمنی مناسب وجود دارد، زیرا مردم اگر به محصول اعتماد نداشته باشند، آن را قبول نمی‌کنند.

زاکربرگ گفت: «من فکر می‌کنم اگر می‌خواهیم این چیزی را بسازیم که برای بسیاری از مردم مفید باشد، هم‌ترازی در واقع مهم‌ترین قابلیت بعدی است که به درستی انجام می‌شود. "ما Muse را برای چند ماه عقب انداختیم زیرا می‌خواستیم محصول بهتری برای مردم باشد. این فداکاری‌ای که ما انجام دادیم نبود، برای مردم و متا کار درستی بود."

رئیس Meta اضافه کرد، سایر آزمایشگاه‌ها نیز باید انتشار جدید را در صورت وجود هرگونه علامت سوال در مورد ایمنی و همسویی به تعویق بیندازند.

اما متا در زمینه ایمنی هوش مصنوعی سابقه خوبی ندارد، چه رسد به حفظ حریم خصوصی داده ها. دور از آن، در واقع.

تابستان گذشته، این غول فناوری پس از آنکه گزارش رویترز مدعی شد که متا ابزارهای هوش مصنوعی خود را برای شرکت در چت‌های «احساس‌آمیز» با کودکان و تأیید مجدد عقاید نژادپرستانه تأیید کرده است، خود را در مرکز یک جنجال بزرگ قرار داد. تقریبا در همان زمان، یک گزارش جداگانه رویترز توجه را به یک مورد غم انگیز جلب کرد که در آن چت ربات هوش مصنوعی متا "Big sis Billie" یک بازنشسته را متقاعد کرد که به آپارتمانش در شهر نیویورک که وجود نداشت ملاقات کند و مرد در راه مرد. متا همچنین متهم شده است که بدون رضایت آنها چت ربات های جعلی را جعل هویت افراد مشهوری مانند تیلور سویفت ساخته است.

اخیرا، متا اعتراف کرد که یکی از مدل‌هایش در طول آزمایش امنیت سایبری سرکشی کرده و سیستم شرکت دیگری را هک کرده است، شبیه به حادثه بدنام Hugging Face که توسط OpenAI گزارش شد و در ابتدا بحث ایمنی هوش مصنوعی را دوباره روشن کرد. سپس، اوایل این ماه، کاربرانی که ادعا می‌کردند تصاویر محرمانه و خصوصی آنها توسط Meta Glasses گرفته شده و برای پیمانکارانی در کنیا که وظیفه آموزش هوش مصنوعی متا را دارند، از این شرکت شکایت کردند.

این حادثه اولین بار توسط تحقیقات دو روزنامه سوئدی در اوایل سال جاری فاش شد و متا سما، شرکتی که با آن قرارداد داشت، مقصر دانست.

در همین حال، از آنجایی که زاکربرگ هماهنگی در سطح صنعت را رد می کند، بقیه دنیای هوش مصنوعی ظاهرا با این طرح پیش می روند. بر اساس گزارش روز پنجشنبه The Information، گوگل، OpenAI و Anthropic در حال ایجاد یک بدنه استاندارد ایمنی هوش مصنوعی جدید هستند. طبق گزارش ها، این نهاد استاندارد که به طور آزمایشی استانداردهای مرزی برای هوش مصنوعی (SAFA) نامیده می شود، تا پایان سال 2026 یا اوایل سال 2027 راه اندازی خواهد شد. طبق گزارش ها، سریرام کریشنان، شریک عمومی سابق آندریسن هوروویتز و مشاور ارشد سیاست هوش مصنوعی ترامپ، برای رهبری آن نزدیک شده است.

طبق گزارش ها، سازمان استاندارد از سازمان های شخص ثالثی پشتیبانی می کند که مدل های هوش مصنوعی را قبل از استقرار آزمایش می کنند، شرایط لازم را برای حسابرسان مستقل ایمنی ایجاد می کنند و تعهدات ایمنی و امنیتی و مکانیسم های گزارش رویداد را تعریف می کنند. بر اساس گزارش The Information، برخی از اعضای گروه کاری نیز ایده این سازمان را دارند که آزمایش های ایمنی و قابلیت خود را انجام دهد.

OpenAI از یک لایحه دو حزبی در واشنگتن به نام قانون FRONTIER حمایت می‌کند که چارچوبی فدرال برای ایمنی هوش مصنوعی ایجاد می‌کند و از آزمایشگاه‌های برتر هوش مصنوعی می‌خواهد اجازه ممیزی ایمنی را از سازمان‌های راستی‌آزمایی مستقل بدهند. اگر آخرین گزارش درست باشد، آن سازمان‌های راستی‌آزمایی مستقل می‌توانند به نوبه خود توسط این نهاد استاندارد تعیین شوند.

این گزارش نشان می‌دهد که SAFA می‌تواند بر اساس سازمان تنظیم مقررات صنعت مالی (FINRA)، یک سازمان خودتنظیمی برای دلالان، الگوبرداری شود. اگرچه خصوصی است، FINRA تحت نظارت کمیسیون بورس و اوراق بهادار عمل می کند. به گفته افراد آشنا به این موضوع که توسط The Information استناد شده است، قبلا در دولت ترامپ برای ایجاد یک بدنه ایمنی هوش مصنوعی شبیه به FINRA وجود داشت، اما به دنبال مخالفت سایر رهبران صنعت هوش مصنوعی از جمله زاکربرگ، دستور اجرایی احتمالی برای ایجاد آن لغو شد.