مدل های هوش مصنوعی ناشناخته می شوند
مدلهای هوش مصنوعی ممکن است ایمنتر شوند و در عین حال نظارت آنها سختتر شود. اینکه کدام سمت الاکلنگ غالب است می تواند تعیین کند که آیا هوش مصنوعی به طور ایمن مقیاس بندی شده است یا تمدن را که ما می شناسیم خراب می کند. چرا مهم است: در حال حاضر هر دو گزینه کاملا کار می کنند و هیچ کس نمی داند که چه کسی مسئول اطمینان از برنده شدن گزینه مناسب است. وضعیت بازی: OpenAI در روز پنجشنبه GPT-6 Astra را منتشر کرد که رئیس جمهور گرگ براکمن گفت که می تواند…
خواندن متن کامل در اکسیوسبه زبان اصلی، در سایت ناشر باز میشودمتن اصلی (انگلیسی)
AI models are becoming unknowable
AI models may be getting safer while also getting harder to monitor. Which side of that seesaw prevails could determine whether AI is scaled safely or ruins civilization as we know it. Why it matters: Right now both options are running full steam and no one knows who's in charge of making sure the right one wins. State of play: OpenAI on Thursday released GPT-6 Astra, which president Greg Brockman said could…