Kunning AI va GPU yangiliklari

EmbeddingGemma 2: qisqa vektor — kichikroq model emas

Hujjatlar bo‘yicha qidiruv juda ko‘p xotira egalladi va siz kattaroq GPU izlayapsiz. Avval model xotirasini qidiruv bazasi xotirasidan ajrating. Google DeepMind 2026-yil 6-oktabrda chiqargan EmbeddingGemma 2’da modelning o‘zini kichraytirmasdan, uning natijalarini ixchamlashtirish mumkin.

Bu embedding-model: u ma’lumotlarni ma’no jihatidan taqqoslash uchun vektorlarga — sonlar to‘plamiga aylantiradi. Google hujjatiga ko‘ra, Matryoshka Representation Learning yordamida 768 sonli natijani 256 songacha qisqartirish mumkin. Sonlar formati bir xil bo‘lsa, vektorlarning o‘zi uch baravar kam joy oladi. Butun baza ham shuncha kichrayishi kafolatlanmaydi: indeks va metama’lumotlar ham joy egallaydi.

Sinov indeksi uchun sentence-transformers’da model.encode chaqiruviga truncate_dim=256 va normalize_embeddings=True parametrlarini bering. Ikkinchisi qisqartirilgan vektorlarni qayta normallashtiradi. So‘rovlar va hujjatlar uchun bir xil o‘lchamdan foydalaning. Keyin o‘z savollaringiz bilan 768 va 256 o‘lchamda kerakli hujjatlar dastlabki natijalarga qanchalik tushishini solishtiring.

Aynan model vaznlari uchun VRAM yetishmasa, chiqish vektorini qisqartirish bu muammoni hal qilmaydi. Qisqa vektor natijalar uchun joy tejaydi, model vaznlarini kichraytirmaydi. Qidiruv sifati pasayishi mumkin: tejamkorlikni faqat fayl hajmi bilan emas, natijalar bilan ham tekshiring.

AI papkani nusxaladi — kirish huquqlari-chi?

Siz AI’dan ish papkasining zaxira nusxasini yaratadigan skript yozishni so‘radingiz. Fayllar yangi diskda paydo bo‘ldi va ochilyapti. Ammo bunday nusxaga ishonishdan oldin faqat mazmunini emas, endi uni kim o‘qiy olishini ham tekshiring.

Python hujjatida ogohlantirish bor: hatto shutil.copy2() ham barcha metama’lumotlarni — fayl mazmunidan tashqari ma’lumotlarni — ko‘chirmaydi. Xususan, Windows’da fayl egasi va ACL, ya’ni kirish qoidalari ro‘yxatlari nusxalanmaydi. Demak, skriptda shu funksiya borligi avvalgi kirish cheklovlari saqlanganini bildirmaydi.

Yordamchiga aniq vazifa bering: Windows uchun nusxalash skriptini tekshir. Mazmun, fayl egasi va ACL saqlanishi kerak. Tanlangan usul nimalarni ko‘chirmasligini hujjat asosida tushuntir. Ish ma’lumotlarisiz alohida papkada sinov taklif qil: oldingi va keyingi fayl egasi hamda ACL’ni solishtir. Hozircha hech narsani ishga tushirma va o‘zgartirma. Keyin tekshirish usulini administrator bilan kelishib, sinov fayllarida nusxalashni tekshiring.

Shunda faqat fayllar paydo bo‘lganini emas, «zaxira nusxa» degan va’dani tekshirasiz. Bu sinov talablarning faqat bir qismini tekshiradi: butun ish tizimi nosozlikdan keyin tiklanishini isbotlamaydi. AI’ga nimani nusxalash va qaysi kirish huquqlarini saqlash kerakligini alohida ayting.

ECC yoqildi — GPU yangi rejimda ishlayaptimi?

Sozlashdan keyin GPU serverni qabul qilyapsiz. ECC — xotira xatolarini nazorat qilish — yonida Enabled yozuvini ko‘rib, ishni boshlamoqchisiz. Avval bu yozuv qaysi maydonga tegishli ekanini tekshiring: Current yoki Pending.

NVIDIA hujjatida Current hozir ishlayotgan ECC rejimini, Pending esa keyingi qayta yuklashdan so‘ng ishlaydigan rejimni bildiradi. Bu sozlamani o‘zgartirish uchun reboot kerak. Demak, Pending: Enabled ECC hozirning o‘zida yoqilganini tasdiqlamaydi.

Qabul qilishdan oldin faqat ma’lumot o‘qiydigan buyruqni bajaring: nvidia-smi --query-gpu=name,ecc.mode.current,ecc.mode.pending --format=csv. Current: Disabled va Pending: Enabled chiqsa, texnik xizmat vaqtini kelishing va qayta yuklashdan so‘ng yana tekshiring. Bu natijani o‘qish misoli, bizning serverimizdagi o‘lchov emas. Ikkala natijani qabul qilish dalolatnomasi bilan saqlang.

Faqat belgi qo‘yish uchun ishlayotgan serverni kelishmasdan qayta yuklamang. N/A bu qurilma yoki muhitda ko‘rsatkich qo‘llab-quvvatlanmasligini bildiradi, Disabled degani emas. Bunday holatda aynan shu model ECC’ni qo‘llashini aniqlang. Qabul qilishda faqat rejalashtirilgan emas, amaldagi ECC rejimini tekshiring.