DeepSeek сервиһин үлэлэтэр DeepInfer инференс движогун аһаҕас код гынна
Кытай DeepSeek хампаанньата моделлэрин продакшеҥҥа үлэлэтэр DeepInfer программатын Apache 2.0 лицензиянан бэчээттээтэ. Билигин DeepSeek-V4.1-Flash эрэ өйөнөр, Nvidia SM100 GPU уонна Huawei Ascend 950 чиптэригэр үлэлиир, толору онлайн-сервис буолбатах.
Кытай ИИ-лабораторията DeepSeek 2026 сыл алтынньы 20 күнүгэр DeepInfer — бэйэтин этэринэн улахан продакшен сервистэрин үлэлэтэр инференс фреймворгун — аһаҕас код гынна. Код GitHub-ка Apache 2.0 лицензиянан тахсыбыт.
Релиз иһигэр туох баарый
- Билигин DeepInfer биир моделы — DeepSeek-V4.1-Flash — өйүүр; бастакы чекпойнт — DeepSeek-V4.1-Flash-1017.
- Движок Nvidia SM100 дата-центр GPU-ларыгар уонна Huawei Ascend 950 NPU-ларыгар үлэлиир.
- GitHub-ка ахтыллар кыахтар: оптимизацияламмыт ядролар, параллелизм хас да көрүҥэ (mixture-of-experts эспертнэй параллелизмын кытта), спекулятивнай декодирование, асинхроннай батч былааннааһына, детерминированнай выборка уонна структурированнай таһаарыы.
- Релиз офлайн-инференсы хабар. Репозиторийга толору сервискэ киирбэтэх чаастар наада диэн суруллубут: KV-кэш системата, prefill/decode араарыы уонна репликалар икки ардыларыгар баланс.
- The Next Web суруйарынан, DeepInfer бастаан аһаҕас vLLM движогар олоҕуран оҥоһуллубут; DeepSeek өссө API-тын токенизациятын хатылыыр deepseek-recipe библиотеканы таһаарда.
Тоҕо суолталааҕый
Инференс — үөрэтиллибит моделы ыйытыыларга эппиэттэтии — ИИ-сервистэр ороскуоттарын улахан өлүүтэ. Bloomberg (The Next Web сигэлииринэн) облачнай провайдердар уонна DeepSeek моделлэрин бэйэлэрин серверигэр үлэлэтэр хампаанньалар ороскуоту аччатарга маннык ньымалары туһаныахтарын сөп диэбит; үксүгэр маннык ньымалары кистииллэр. Түргэн туһунан сыыппаралар — DeepSeek бэйэтин сыыппаралара, тус-туспа өссө бэрэбиэркэлэнэ иликтэр.
Релиз АХШ былааһа федеральнай гражданскай ведомстволарга DeepSeek бородуукталарын системаларыттан сотторго бирикээстээбит күнүн нөҥүө күнүгэр таҕыста.