DeepSeek V4.1-Flash: 552 mlrd parametr, 1M kontekst — va bittasi ham sizga tegmaydi
DeepSeek eng kichik V4.1 modelini chiqardi: Causal Encoder-Decoder arxitekturasi, 1M token kontekst, KV cache 4x kichik. IPO arafasida. Nima uchun bu muhim — oddiy tilda.
Bugun DeepSeek V4.1-Flash’ni chiqardi — kompaniyaning aytishicha, yangi arxitektura oilasidagi eng kichik model. Yirik matbuot Reuters tomonidan xabar qilingan, model Hugging Face’da ochiq (MIT litsenziyasi).
Bu shunchaki «yana bir model» emas. Uch sabab bor.
1. Causal Encoder-Decoder: g’oyal o’zgardi
DeepSeek-nima postida aytganimizdek, DeepSeek har doim arxitektura bilan hisob kitob qiluvchi kompaniya. Bu safar ham shunday:
- 552 mlrd asosiy (backbone) parametr — lekin har token uchun faqat 8 mlrd (prefill) / 16 mlrd (decode) ishlaydi (MoE);
- Yangi Causal Encoder-Decoder (CED) sxemasi: 20 qatlamli causal encoder
- 20 qatlamli decoder. Dekoderning global KV cache’i har qatlamning o’z holatidan emas, encoder’ning oxirgi holatidan proyeksiyalanadi;
- 1M token kontekst — butun kod bazasini yoki yuzlab hujjatni bir murojaatda berish mumkin;
- Multimodal: rasm + matn birga, o’qishda birlashadi.
2. Asl yangilik: xotira siqish
Model sarlavhasi o’zi gapiradi: «Pushing the Limits of KV Cache Compression». Uch texnik glossariy:
- CSA2 (Compressed Sparse Attention 2) — har attention qatlamiga uch statik rejim (Full / Reindex / Reuse) tayinlanadi; KV va indekslar qatlamlar orasida bo’linadi. Natija: global KV cache 890 bayt/token — V4-Flash’ga nisbatan ~4x kichik;
- SWA Bounded Replay — eski oynaning KV holatlari SSD’da saqlamaydi, oxirgi n_win tokenni qayta «o’ynatib» tiklanadi; doimiy cache izi ~1/8;
- FP4 asosiy KV cache (E2M1 + har 16 kanalga E4M3 shkala) — Xitoy chiplarining HBM dramati fonida xotira siqish aniq kapitalga aylanadi.
Buni system-fingerprint postidagidek «texnik tafsilot» deb o’tkazib yubormang: agentlar davrida kirish (prompt) chiqishdan katta bo’ladi — input-heavy agentic workload. Prefill 8B — bu hujjat yutadigan agentlarga to’g’ridan-to’g’ri tejamkorlik.
3. IPO arafasida
Reuters’ning aytishicha, DeepSeek Shanxay STAR Market’da IPO’ga tayyorgarlik ko’rmoqda. 150 muhandis yollash to’lqini — 300-500 xodimli kompaniya uchun hajmi ikki baravar — endi mantiqan o’qiladi: investor oldiga to’liq pipeline bilan chiqish.
| Ko’rsatkich | Qiymat | Izoh |
|---|---|---|
| Backbone | 552B (MoE) | har token 8B/16B aktiv |
| Kontekst | 1M token | 45T token pre-train |
| KV cache | 890 bayt/token | V4-Flash’dan ~4x kichik |
| Litsenziya | MIT | vaznlar ochiq |
| Keyingi qadam | IPO | Shanxay STAR Market (Reuters) |
O’zbekiston uchun 3 saboq
- Xotira yangi jangovar maydon. GPU soatiga pul to’laymiz, lekin haqiqiy chegara ko’proq xotira. Kepler va Xitoy chip narxlari bilan bir qatorda — uch hikoya, bitta xulosa: KV cache siqish = to’g’ridan-to’g’ri marja.
- Ochiq vazn = tekshiriladigan marketing. MIT litsenziyasi bilan benchmark’ni ham, cache raqamlarini ham hammasi takrorlash mumkin. Yopiq API’da bunday da’voga faqat ishonish qoladi.
- Kichik model — katta signal. «Eng kichik» chiqishi oilaning qolganini kutayotgani haqida gapiradi. Raqiblar chiqarmasidan oldin standart o’rnatish — klassik poyga hiylasi.
Manbalar: Reuters 10.09, Hugging Face model kartasi, Reuters IPO 09.09.