Embedding nima? AI uchun so'zlarning «xaritasi» — oddiy tilda tushuntiraman

Google’ga «avto ta’mir» deb yozsangiz, «mashina remonti» haqidagi sahifalarni ham topadi. Kalit so’zlar bir xil emas — lekin ma’no bir xil. Qidiruv tizimi ma’noni qanday «o’lchaydi»? Javob: matnni fazodagi nuqtaga aylantirib. Bu texnologiyaning nomi — embedding.

Muammo: kompyuter so’zni ko’rmaydi, faqat sonni ko’radi

Kompyuter uchun «mushuk» — shunchati belgilar ketma-ketligi. Eski qidiruv tizimlari shu bilan ishlagan: sahifada so’rovning o’zi bormi — bor bo’lsa mos keladi. «Avtomobil» so’roviga «mashina» yozilgan sahifa tushib qoladi: belgilar har xil-ku.

Ma’noni solishtirish uchun matnni sonlar orqali ifodalash kerak, lekin aqlli usulda: ma’nosi yaqin bo’lsa — sonlari ham yaqin bo’lsin.

G’oya: har bir so’z — fazodagi nuqta

Embedding — bu matnni (so’z, gap, butun hujjat) ko’p o’lchovli fazodagi vektorga aylantirish: sonlar ro’yxati, masalan 300 yoki 3000 ta son. sehr shu yerda: bu fazoda yaqinlik = ma’no yaqinligi.

• «mushuk» va «mushukcha» nuqtalar bir-biriga yaqin;
• «mushuk» va «avtomobil» uzoq;
• «it» va «mushuk» — oralarda: har ikkisi hayvon, lekin har xil.

Endi «qaysi matn qaysiga o’xshaydi?» savoli matematikaga aylanadi: ikki nuqta orasidagi burchak (kosinus o’xshashligi). Tez, aniq, millionlab matnlarga bir vaqtda ishlaydi.

Mashhur misol: podshoh − erkak + ayol

2013-yilda Google’dan Tomas Mikolov jamoasi word2vec ni e’lon qildi (arXiv:1301.3781): 1,6 milliard so’zli matndan so’z vektorlarini bir kunda o’rgatib olish usuli. Eng mashhur topilma: vektorlarda arifmetika ishlaydi —

podshoh − erkak + ayol ≈ malika

He kim «podshoh» va «malika» o’rtasida «jins» bog’liqligini dasturga yozmagan. Model bu munosabatni matndan o’zi chiqargan: podshoh malika bilan bir xil kontekstlarda uchraydi, erkak ayol bilan. Demak, ma’no — so’zlarning qo’shniligida yashaydi. Bu neyron tarmoqlar va machine learning g’oyasining chiroyli namunasi: dasturlab emas, o’rganib.

Bugun qayerda uchraysiz?

Word2vec so’zlar bilan ishlagan. Zamonaviy modellar esa butun gap va hujjatlarni bitta vektorga aylantiradi — va embedding 2026-yilda siz sezmaydigan joylarda ishlaydi:

• Semantik qidiruv. Perplexity sizning savolingizni vektorga aylantirib, ma’nosi eng yaqin hujjatlarni topadi — RAG’ning 2-qismi aynan shu;
• Tavsiyalar. Spotify, Netflix — «yoqqan narsangiz» vektori atrofidagi qo’shni kontent;
• Rasm + matn bir fazoda. OpenAI’ning CLIP modeli (2021) rasm va matnni bir xil fazoda joylashtiradi: «qorli tog’lar» yozuvi haqiqiy qorli tog’ rasmining yoniga tushadi. Shuning uchun zamonaviy chatbotlar rasmni ko’rib tushunadi;
• Takrorlarni tozalash. Millionlab hujjat ichida bir xil savollarni vektor yaqinligi bilan guruhlash.

Bunday qidiruv uchun vektorlar maxsus bazalarda saqlanadi — «vector database» (Pinecone, Weaviate, pgvector kabi) deb ataladi: oddiy baza kalit bo’yicha topadi, bular yaqinlik bo’yicha topadi.

LLM bilan bog’lanisi

Katta til modellarida ham embedding birinchi qadam: LLM matnni to’g’ridan-to’g’ri o’qimaydi — avval har bir so’zni (bo’lakni) vektorga aylantiradi, keyin o’sha vektorlar ketma-ketligi bilan ishlaydi. Modelning «tushunishi» — bu vektorlar orasidagi munosabatlarni hisoblashdir.

3 amaliy xulosa

1. Kalit so’zga qaramang. AI vositalariga savolni tabiiy tilda yozing — semantik qidiruv to’liq gapdan ma’noni oladi.
2. «Yaqin hujjat» ma’no jihatidan yaqin degani. AI qidiruv natijasi g’alati bo’lsa — so’rovning ma’nosini aniqroq berib ko’ring.
3. Embedding — statistika, tushunish emas. Model «mushuk» haqida hech narsa «bilmasdan» uni to’g’ri joylashtirishi mumkin: faqat matnda kim bilan qo’shni yashaganini hisoblab. Ishonch, lekin ko’r-ko’rona emas.

---

RobotAka — o’zbek tilida sun’iy intellekt haqida. Telegram kanalga obuna bo’ling — har kuni yangilik va qisqa tushuntirishlar.