رئیس تحقیقات OpenAI پس از چند هفته در مورد "بازنشانی فرهنگی" صحبت می کند

مارک چن سال گذشته مدیر ارشد تحقیقات OpenAI در سانفرانسیسکو، کالیفرنیا شد. اعتبار: توموهیرو اوسومی/گتی

این شرکت هوش مصنوعی مستقر در سانفرانسیسکو، کالیفرنیا، در مرکز یک سری طوفان های رسانه ای قرار گرفته است. ابتدا، در ماه جولای، این شرکت اعلام کرد که مدل‌هایش مرکز هوش مصنوعی Hugging Face را هک کرده‌اند، یک پلتفرم مشترک که در آن کاربران مدل‌ها و مجموعه‌های داده را به اشتراک می‌گذارند. این هفته، دولت استرالیا فاش کرد که عوامل OpenAI یک وب سایت ملی مراقبت های بهداشتی را نقض کرده اند.

و در اوایل این ماه، این شرکت اعلام کرد که مدل‌هایش یک مشکل بزرگ در ریاضیات را حل کرده‌اند – اما سپس با پیشنهاداتی مواجه شد که نشان می‌داد این موفقیت از مدل‌هایش ناشی می‌شود که پیشرفت‌هایی را که قبلا توسط ریاضیدانان انسانی انجام شده بود، جذب می‌کردند.

در همین حال، درخواست ها برای تنظیم هوش مصنوعی افزایش یافته است. رهبران شرکت‌های هوش مصنوعی، از جمله OpenAI، نگرانی‌هایی را مطرح کرده‌اند که اعطای اختیار به مدل‌ها برای تقویت قابلیت‌های خود، از طریق یک نسخه کاملا مستقل از فرآیندی به نام خود-بهبودی بازگشتی، می‌تواند منجر به از دست دادن کنترل انسان بر فناوری شود. محققان همچنین از «همسویی نادرست» می ترسند - به این معنی که ارزش ها و اهداف مدل ها با انسان ها مطابقت ندارد.

در قلب این اقدام، مارک چن، مدیر ارشد تحقیقات OpenAI، که توسعه مدل را رهبری می کند، قرار دارد. چن با نیچر به بحث در مورد چگونگی تأثیر هوش مصنوعی بر علم، همراه با محوریت شرکت به سمت ایمنی پرداخت.

من می خواهم این تصور را که ما مدل های خاص ریاضی ایجاد می کنیم را از بین ببرم.

به عنوان مثال، در فرآیند کشف دارو، ما امیدواریم که مدل‌ها واقعا بتوانند خط لوله را کاهش دهند. بررسی ادبیات و پروژه‌های تحقیقاتی مستقل به کار دستی زیادی نیاز دارند. تحقیق در مورد اهداف بالقوه می تواند هفته ها یا ماه ها طول بکشد. ما در حال بررسی هستیم که آیا مدل های ما می توانند این روند را تسریع کنند یا خیر.

حوزه‌های دیگری نیز وجود دارد که ما بر آن‌ها فشار وارد کرده‌ایم - به عنوان مثال، در طراحی و توسعه نیمه‌رسانا. ما تراشه خودمان Jalapeño را توسعه داده‌ایم.

با همه زمینه‌ها، از جمله ریاضی، می‌خواهیم جامعه را با خود همراه کنیم تا هوش مصنوعی مرزی را توسعه دهیم. این فناوری ها پتانسیل تغییر صنایع را دارند. ما می خواهیم در کنار این زمینه ها بفهمیم که تعامل چگونه باید پیش برود. OpenAI می خواهد نتایجی را منتشر کند تا نشان دهد این فناوری کجاست و چه توانایی هایی دارد. اما اصلا خواست ما این نیست که میدان را پوشش دهیم. ما می خواهیم هنجارها را با هم توسعه دهیم.

ما رویکردی چند جانبه داریم. اما اساسا قوی ترین و مطمئن ترین راه حل شبیه نظارت است. مدل‌ها می‌توانند آنچه را که زنجیره فکر نامیده می‌شود، «تفکر» بدون فیلتر آن‌ها در حالی که راه‌حلی را دنبال می‌کنند، آشکار کنند. مانیتورینگ مدل‌ها [فرایندهای داخلی] مدل‌های دیگر امروزه مؤثرترین راه برای ایمن‌سازی و تراز کردن آنهاست. یکی از چالش‌ها این است که با قوی‌تر شدن مدل‌ها، مقدار محاسباتی که آنها قبل از افشای «تفکر» خود انجام می‌دهند بیشتر می‌شود.

این سؤال پیش می‌آید که آیا می‌توانید برای درک ردپای تفکر، به مدل یا جای دیگری در مدل نگاه کنید؟

ما می خواهیم از مدل های خود برای تسریع در توسعه نسل های آینده مدل ها استفاده کنیم.

اولین هدف ما در اینجا تولید یک «کارآموز پژوهشی» بوده است: [یک عامل هوش مصنوعی که] با زمینه بسیار کمی وارد می‌شود، که می‌توانید دامنه کاری کاملا تعریف‌شده را به آن بدهید و به مواردی مانند اجرای آزمایش‌های اولیه یا اشکال‌زدایی اجراهای خاص اعتماد کنید. به عنوان اولین نقطه عطف خود، ما صدها هزار تراشه می‌خواستیم که مستقیما توسط Codex [یک عامل کدنویسی] مدیریت می‌شد تا آزمایش‌های تحقیقاتی داخلی را انجام دهند، و در واقع این وضعیتی است که در آن هستیم.

یک هدف بلندپروازانه تر که در سال 2028 می آید، تحقیقات نهایی بیشتر است. یکی از تنگناهای بزرگ در اینجا آموزش حس بهتر «طعم پژوهشی» به مدل است، مانند ایده‌هایی که ارزش کاوش را دارند.

doi: https://doi.org/10.1038/d41586-026-03028-9

این مصاحبه برای طولانی بودن و وضوح ویرایش شده است.

هوش مصنوعی قرار است امنیت سایبری را به طور کامل متحول کند - در اینجا نحوه آماده سازی محققان آمده است

طرفداران جوان ویدیوهای ورزشی YouTube به مبل می چسبند

چرا نمی توان به شرکت های هوش مصنوعی برای خود تنظیمی اعتماد کرد؟

آیا هوش مصنوعی واقعا همه ما را خواهد کشت؟ علم پشت تبلیغات

آیا فناوری‌های پوشیدنی آزمایش‌های بالینی را متحول خواهند کرد؟

از پزشکان-دانشمندان و پزشکان بینا در تمام رشته ها و مراحل شغلی دعوت می کند تا به تیم پایه ما بپیوندند.

دانشکده مهندسی بیومدیکال از داوطلبان واجد شرایط دعوت می کند تا برای چندین موقعیت شغلی/موقعیت هیئت علمی درخواست دهند.

مدرسه خلاقیت و هنر (SCA) برای داوطلبانی با سوابق تحصیلی استثنایی یا پتانسیل نشان داده شده دعوت می کند.

دانشکده علوم و فناوری اطلاعات از کاندیداهای واجد شرایط دعوت می کند تا چندین پست هیأت علمی را تکمیل کنند.

هدف دانشکده علوم و فناوری فیزیکی (SPST) ایجاد محیطی است که آینده تحقیقات دانشگاهی و پرورش استعداد را تجسم می بخشد.