پرش به محتوای اصلی

Llama.cpp در PS5 جیلبریک شده: هر مدل GGUF را به صورت بومی روی کنسول اجرا کنید

هکرنیوز۱۴۰۵ مهر ۲۴, جمعه، ساعت ۲۲:۰۲حدود 2 دقیقه مطالعه

آدرس مقاله: https://github.com/cobanov/PS5LM آدرس نظرات: https://news.ycombinator.com/item?id=50122431 امتیاز: 255 # نظرات: 64

PS5 شما مدل زبان را اجرا می کند. هر دستگاهی در شبکه شما از آن استفاده می کند. llama.cpp در پردازنده گرافیکی کنسول، با OpenAI و APIهای Anthropic و صفحه نمایش ساخته شده برای تلویزیون.

جدید: مدل‌های تصمیم، ارائه شده توسط اولایا. PS5LM اکنون مدل‌های تصمیم‌گیری Jev مانند (d1، Clef، OpenJev و موارد دیگر) را روی GPU اجرا می‌کند و به همان /v1/systemone API مانند Ollaya پاسخ می‌دهد: تصمیم‌های تایپ‌شده با احتمالات کالیبره‌شده، در کسری از ثانیه.

PS5LM برای کسانی است که PS5 جیلبریک دارند و می خواهند یک سرور مدل خصوصی در خانه داشته باشند. این یک مدل GGUF را روی پردازنده گرافیکی کنسول بارگذاری می کند و آن را به لپ تاپ، تلفن و ابزارهای کدنویسی شما ارائه می دهد. در حین اجرا به رایانه شخصی نیاز ندارد، نیازی به فضای ابری و حساب کاربری ندارد.

Qwen 3.5 9B به درخواست‌های لپ‌تاپ در PS5 Slim پاسخ می‌دهد. برای ویدیو کلیک کنید

صفحه اصلی، مدل‌ها، کنسول، API و تنظیمات تلویزیون.

اولایا مدل‌های تصمیم باز را روی رایانه شخصی اجرا می‌کند، همانطور که اولاما مدل‌های زبان را اجرا می‌کند. PS5LM همین ایده را به کنسول می‌آورد: یک مدل تصمیم‌گیری وضعیت را می‌خواند و به سؤالات تایپ‌شده در یک پاس رو به جلو پاسخ می‌دهد، بدون اینکه متنی تولید شود.

لیست پیشنهادی دارای d1 Omni 600M، d1 3B و Clef Flash است. هر GGUF که ابرداده تصمیم llama.cpp را حمل می‌کند به همین ترتیب بارگیری می‌شود و برنامه آن را یک مدل تصمیم‌گیری برچسب‌گذاری می‌کند.

شما به یک PS5 روی سیستم عامل 7.00 تا 13.60، جیلبریک شده، با این بارهای بارگذاری شده نیاز دارید:

برای به روز رسانی، پوشه جدید را روی پوشه قدیمی کپی کنید. تنظیمات، مدل‌ها و بارگیری‌ها در /data/PS5LM باقی می‌مانند. استفاده از آن از ابزارهای کدگذاری (opencode، Codex، Claude Code) در docs/CLI.md است.

C++ در ps5-homebrew-ui، llama.cpp با ggml-vulkan در RADV PS5_Vulkan، ساخته شده بر روی لینوکس.

ساختمان · یادداشت های کنسول · انتقال · تحقیق · مدل های مناسب · نقشه راه · تغییرات · بار اصلی

GPL-3.0-یا جدیدتر، به LICENSE مراجعه کنید. llama.cpp مجوز MIT خود را حفظ می کند، Manrope OFL خود را. هیچ فایل SDK، کلید، سیستم عامل یا وزن مدل سونی در این مخزن وجود ندارد.

PS5LM به Sony Interactive Entertainment وابسته نیست. "PlayStation" و "PS5" علائم تجاری Sony Interactive Entertainment هستند.

خواندن متن کامل در هکرنیوزبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

Article URL: https://github.com/cobanov/PS5LM Comments URL: https://news.ycombinator.com/item?id=50122431 Points: 255 # Comments: 64

همه‌ی اخبار فناوری