Kunning AI va GPU yangiliklari

Gemma 3 270M: katta chat-bot o‘rniga tor vazifa

Google Gemma 3 270M’ni 14.08.2025 da chiqargan. Bu bugungi yangilik emas: google/gemma-3-270m-it — text-only model, 270M parametr, context 32K. Ochiq weights Apache 2.0 emas, Gemma Terms asosida beriladi; Hugging Face’da shartlarni qabul qilish kerak. Pretrained va instruction-tuned variantlari bor.

Fakt: Google 270M’ni murakkab suhbat uchun emas, task-specific fine-tuning, tasniflash va ma’lumot ajratish uchun tavsiya qiladi. Murojaatlarni yo‘naltirishda katta universal LLM uchun darhol GPU ijaraga olishdan oldin kichik ixtisoslashgan modelni sinash ma’qul.

Uch qadam 1. Bitta vazifani tanlang: masalan, murojaatlarni bo‘limlarga ajratish. Toifalar va «ma’lumot yetarli emas» variantini belgilang; belgilangan RU/UZ misollari va alohida test set tayyorlang. 2. Avval -it variantini o‘z chat template’i bilan tekshiring. Sifat yetmasa, o‘quv qismida fine-tuning qiling; test set’ni o‘qitish yoki prompt tanlashga qo‘shmang. Xatolarni har bir toifa va til bo‘yicha o‘lchang. 3. Katta model bilan ayni test set’da sifat, kechikish va ishchi batch’dagi xotira sarfini solishtiring. GPU’ni o‘lchovlardan keyin tanlang. Weights xotirasi barcha VRAM emas: inference uchun cache va ishchi buferlar, fine-tuning uchun yana gradients, optimizer states va activations kerak.

Cheklov: kichik hajm kerakli sifatni kafolatlamaydi. Google IT 270M uchun IFEval’da 51,2 (0-shot) ko‘rsatgan, ammo bu sizning tasniflash aniqligingiz emas. RU/UZ xatolarini alohida tekshiring; bu yerda universal VRAM hajmi va’da qilinmaydi.

Verum AI: https://verum-ai.uz

Источники / Manbalar · Google: https://developers.googleblog.com/introducing-gemma-3-270m/ https://ai.google.dev/gemma/docs/core/model_card_3 https://huggingface.co/google/gemma-3-270m-it

AI kirishni assert bilan tekshirdimi? -O’da tekshiruv yo‘qoladi

Fakt: Python -O bilan ishga tushirilganda assert uchun kod yaratmaydi. Bu tashqi ma’lumotni ishonchli tekshirish emas, debugging vositasi. AI assert quantity > 0 yozgan bo‘lsa, oddiy ishga tushirish manfiy miqdorni rad etadi, optimallashtirilgan rejim esa uni o‘tkazib yuborishi mumkin.

Uch qadam 1. AI’dan ilova chegaralaridagi assertlarni topishni so‘rang: API kirishi, fayl importi, CLI parametrlari. Majburiy validatsiyani ichki debugging taxminlaridan ajrating. 2. Allaqachon butun songa aylantirilgan miqdor uchun tekshiruvni aniq shart bilan almashtiring: if quantity <= 0: raise ValueError("quantity must be positive") Tur tekshiruvi va boshqa qoidalarni kontraktga muvofiq alohida qo‘shing. 3. Bir xil noto‘g‘ri kirishni oddiy Python va python -O bilan tekshiring. Ikkala rejimda ham u DB’ga yozish yoki so‘rov jo‘natishdan oldin rad etilsin. Tekshiruvchi ssenariyning o‘zi assertga tayanmasin: exception va exit code’ni aniq tekshiring.

Tayyor prompt Tashqi ma’lumotlar uchun assert orqali yozilgan majburiy validatsiyani top. Faqat shuni exception beradigan aniq tekshiruvlarga almashtir. Kontraktni o‘zgartirma. Noto‘g‘ri va to‘g‘ri kirishni oddiy Python va -O bilan tekshir; exit codes va haqiqiy natijalarni ko‘rsat.

Cheklov: barcha assertions’ni ko‘r-ko‘rona almashtirmang — ular testlar va ichki invariantlar uchun foydali. Exception ushlanib, xavfli amal davom ettirilsa, aniq shart ham himoya qilmaydi.

Verum AI: https://verum-ai.uz

Источник / Manba · Python: https://docs.python.org/3/reference/simple_stmts.html#the-assert-statement

FP16 training: avval unscale, keyin gradient clipping

Fakt: scaler.scale(loss).backward() dan keyin gradients GradScaler koeffitsiyentiga ko‘paytirilgan bo‘ladi. PyTorch gradient clipping’dan oldin bu masshtabni olib tashlashni talab qiladi: aks holda belgilangan chegara asl gradients’ga qo‘llanmaydi.

Nega muhim: mixed precision’ga o‘tganda weights yangilanishini tasodifan haddan tashqari susaytirish mumkin. Kuchliroq GPU amallar tartibini tuzatmaydi.

Uch qadam 1. O‘z FP16 training loop’ingizda backward va optimizer step orasidagi clipping’ni toping. Quyidagi parcha model’ning barcha parametrlarini boshqaradigan bitta optimizer uchun; loss hisoblangan, batch oldidan gradients nollangan, scaler oldindan yaratilgan. 2. Shu tartibni saqlang: scaler.scale(loss).backward() scaler.unscale_(optimizer) torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm) scaler.step(optimizer) scaler.update() max_norm — siz tanlagan norma chegarasi, universal son emas. Unscale aniq chaqirilgach, scaler.step masshtabni ikkinchi marta olib tashlamaydi. 3. Gradient accumulation’da avval effective batch uchun barcha backward’larni tugating. Shundan keyingina unscale → clipping → step → update bajaring; har microbatch’dan keyin masshtabni olib tashlamang.

Tuzoq: unscale_ har bir optimizer uchun step’lar orasida bir marta chaqiriladi. Takroriy chaqirish RuntimeError beradi. Managed trainer’da avval framework bu amallarni o‘zi bajarmayotganini tekshiring. Bu GradScaler bilan training qoidasi, inference’ni tezlatish usuli emas.

Verum AI: https://verum-ai.uz

Источник / Manba · PyTorch: https://docs.pytorch.org/docs/2.14/notes/amp_examples.html

Ministral 3 3B Reasoning: tarixni odat bo‘yicha kesmang

Mistral AI Ministral 3 oilasini 02.12.2025 kuni taqdim etdi. Bu yangi e’lon emas, mavjud modelning amaliy tahlili: Ministral-3-3B-Reasoning-2512 matn va tasvirni qabul qilib, matn chiqaradi; weights Apache 2.0 ostida ochiq. Oilada Base, Instruct va Reasoning bor.

Fakt: Mistral bu Reasoning-model uchun navbatlar orasida reasoning traces’ni context’da saqlashni tavsiya qiladi. «Tarixdan barcha mulohazalarni o‘chirish» umumiy funksiyasi tavsiya etilgan rejimni buzishi mumkin. Bu ko‘p bosqichli coding va tools bilan ishlashda muhim.

Nima qilish kerak: 1. Aniq model ID va «javob → tarix → keyingi so‘rov» yo‘lini tekshiring. Faqat yakuniy matnni saqlab, runtime qaytargan reasoning maydonini sezdirmay tashlab yubormang. 2. Tarixni runtime qo‘llaydigan formatda uzating; xizmat maydonlarini oddiy user prompt’ga qo‘shmang. Rasmiy vLLM misolida --reasoning-parser mistral ishlatiladi, ammo parser yetmaydi: client ham tarixni saqlashi kerak. 3. Bir xil dialoglarda traces’ni saqlash va o‘chirishni solishtiring: keyingi javoblar to‘g‘riligi, input tokens, kechikish va eng yuqori VRAM. Tavsiya etilgan temperature=0.7 va bir xil output budget bilan boshlang.

GPU va cheklov: saqlangan tarix context’ni uzaytirib, KV cache talabini oshiradi. Ishlab chiqaruvchi BF16 uchun 16 GB VRAM’ni mo‘ljal qiladi; bu istalgan dialog uzunligi yoki concurrency kafolati ham, fine-tuning budjeti ham emas. Traces’ni saqlash qoidasini boshqa modellarga avtomatik ko‘chirmang.

GPU konfiguratsiyalari katalogi: https://verum-ai.uz

Источники / Manbalar: https://huggingface.co/mistralai/Ministral-3-3B-Reasoning-2512 https://mistral.ai/news/mistral-3

AI Excel’ni oldi — ammo jadvalning hammasini emasmi?

Fakt: OpenAI Responses API’da jadvalni input_file orqali berish barcha yozuvlarni o‘qish degani emas. Spreadsheet fayllari uchun API har bir varaqning dastlabki 1000 qatorigacha tahlil qiladi va yaratilgan qisqa mazmun hamda sarlavha metama’lumotlarini qo‘shadi.

Shuning uchun fayl bo‘yicha ishonchli ko‘ringan javob tushum jami barcha qatorlardan hisoblanganini isbotlamaydi.

Qanday qo‘llash kerak 1. Aniq summalar va joins uchun faqat context’dagi ko‘rinishni emas, asl faylga kirishi bor kod bajarish vositasini ishlating. OpenAI bunday tahlil uchun Hosted Shell’ni tavsiya qiladi. 2. Hisoblashdan oldin varaqlar ro‘yxati, o‘qilgan yozuvlar soni va sanalar oralig‘ini oling. Qamrovni asl eksport bilan solishtiring. 3. Kod va natijani saqlashni, filtrlashdan oldingi va keyingi qatorlar sonini alohida ko‘rsatishni so‘rang.

Tayyor prompt Asl faylni Python orqali och, qisqa mazmundan hisoblama. Varaqlar, yozuvlar soni va sanalar oralig‘ini chiqar. Tanlangan varaqdagi barcha yozuvlar bo‘yicha summani hisobla; filtrlar va chiqarib tashlangan qatorlar sonini sanab ber. Kodni saqla. To‘liq faylga kirish bo‘lmasa, to‘xta va xabar ber.

Cheklov: dastlabki 1000 qator qoidasi API input_file’ga tegishli, barcha chat va tools’ga emas. Prompt faylga kirish huquqini bermaydi va kod bajarilganini tekshirish o‘rnini bosmaydi.

Verum GPU katalogi: https://verum-ai.uz

Источник / Manba · OpenAI: https://developers.openai.com/api/docs/guides/file-inputs

GPU jurnalingizni kutyaptimi? loss.item()’ni tekshiring

Fakt: PyTorch cuda_tensor.item()’ni CPU–GPU synchronization talab qiladigan amallar qatoriga kiritadi. Python sonini olish uchun CPU GPU’dagi natijani kutishi kerak. Har qadamda jurnal uchun loss’ni o‘qish CPU’ning keyingi amallarni oldindan navbatga qo‘yishiga xalaqit berishi mumkin.

Qanday qo‘llash kerak: 1. Training loop’da loss.item(), print(cuda_tensor) va metrikalarni .cpu() orqali ko‘chirishni toping. Ixtiyoriy logging’ni o‘qitishga ta’sir qiladigan tekshiruvlardan ajrating. 2. Oddiy jurnal uchun loss’ni kamroq, masalan, har yuzinchi qadamdan keyin o‘qing: if step % 100 == 0: logger.info("loss=%s", loss.item()). Step sanog‘ini 1 dan boshlang. Bu intervalning o‘rtacha qiymati emas, tanlangan qadamning loss’i; ularni chalkashtirmang. 3. Warmup’dan so‘ng bir xil training steps blokining vaqtini avvalgi va siyrak logging bilan solishtiring. O‘lchov boshlanishidan oldin va tugagach CUDA ishining yakunlanishini kuting, lekin har qadamda synchronization qo‘shmang. Batch, precision va ma’lumotlarni o‘zgartirmang.

Nega muhim: qimmatroq GPU’ga o‘tishdan oldin koddagi keraksiz kutishlarni bartaraf etish kerak. Yutuq yuklamaga bog‘liq; tezlashish kafolatlanmaydi.

Tuzoq: loss.detach().item() ham qiymatni CPU’da o‘qiydi — detach synchronization’ni yo‘qotmaydi. Chiroyli benchmark uchun NaN, to‘xtatish yoki scheduler qarorlariga oid muhim tekshiruvlarni kechiktirmang.

Verum GPU katalogi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источник / Manba · PyTorch: https://docs.pytorch.org/tutorials/recipes/recipes/tuning_guide.html#avoid-unnecessary-cpu-gpu-synchronization

Qwen3-Reranker-4B: manfiy score xato emas

Qwen seriyani 2025-yil 5-iyunda chiqargan: bu amaliy tahlil, yangi reliz emas. 4B modeli matn juftliklarining mosligini baholaydi; ochiq weights, Apache 2.0, context 32K. 0.6B va 8B variantlari ham bor.

Fakt: rasmiy Sentence Transformers misolida CrossEncoder.predict() standart holatda 0–1 oralig‘idagi sonni emas, logits farqini qaytaradi. Manfiy score mumkin. Boshqa shkala uchun tanlangan chegara RAG’da kerakli hujjatlarni sezdirmay chiqarib tashlashi mumkin.

Qanday qo‘llash kerak: 1. Model, kutubxona versiyasi va score shkalasini qayd eting. Oddiy top-k uchun kamayish tartibida saralang: Sigmoid baholarning matematik tartibini o‘zgartirmaydi. 2. 0–1 shkalasi kerakmi? Rasmiy misoldagi model.predict(pairs, activation_fn=torch.nn.Sigmoid()) ga «so‘rov — hujjat» juftliklarini bering; torch import qilingan bo‘lishi kerak. 3. Saralash chegarasini o‘z bazangizdagi belgilangan misollarda tanlang. Xuddi shu batch va juftlik uzunligida latency hamda peak VRAM’ni o‘lchang — GPU’ni shunga qarab tanlang. Weights hajmi butun inference xotirasiga teng emas.

Tuzoq: 0.9 score isbotlangan 90% aniqlik yoki hujjatning rostligini anglatmaydi. Sigmoid shkalani o‘zgartiradi, ammo o‘zi ishonchlilikni kalibrlamaydi. Model yoki runtime almashsa, chegarani qayta tekshiring.

GPU katalogi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar · Qwen: https://huggingface.co/Qwen/Qwen3-Reranker-4B https://qwenlm.github.io/blog/qwen3-embedding/

AI CSVni o‘qidi: «NA» kodi qayerga yo‘qoldi?

Fakt: pandas.read_csv() odatda ayrim satrlarni yetishmayotgan qiymat deb taniydi. Hatto dtype={"region": "string"} ham NA kodini saqlab qolmaydi: u missing value’ga aylanadi. AI yuklashda buzilgan ma’lumotlarni to‘g‘ri hisoblab berishi mumkin.

Qo‘llash: 1. Tahlildan oldin qoidani belgilang: faylingizda NA — hudud kodi, bo‘sh katak esa yetishmayotgan qiymat. Modeldan buni taxmin qilishni kutmang. 2. AI’dan importni aniq sozlashni so‘rang, masalan: pd.read_csv("data.csv", dtype={"region": "string"}, keep_default_na=False, na_values={"region": [""]}) Bu yerda pd — import qilingan pandas. 3. Uch holatni tekshiring: NA saqlanadi, region’dagi bo‘sh katak missing value bo‘ladi, EU o‘zgarmaydi. Shundan keyin jamlama tuzing. Bu test pandas 3.0.6’da tekshirildi.

Tayyor prompt: CSVni Python orqali tahlil qil. region’da NA haqiqiy kod, faqat bo‘sh katak yetishmayotgan qiymat. Avval read_csv parametrlarini ko‘rsat va NA / bo‘sh / EU testini bajar. Keyin hisobotni hisobla. Qiymatlarni bildirmasdan almashtirma.

Tuzoq: keep_default_na=False barcha ustunlarda standart missing value belgilarini o‘chiradi. Har ustun qoidasi bo‘yicha na_values sozlang; misolni ko‘r-ko‘rona ko‘chirmang. na_filter=False bo‘lsa, bu missing value sozlamalari e’tiborga olinmaydi.

GPU konfiguratsiyalari katalogi: https://verum-ai.uz

Источник / Manba · pandas: https://pandas.pydata.org/docs/reference/api/pandas.read_csv.html

GPU monitoring: alert’ni terminal ustuniga bog‘lamang

Fakt: NVIDIA nvidia-smi chiqishining orqaga mosligini kafolatlamaydi. Driver yangilanishlaridan keyin ham ishlashi kerak bo‘lgan vositalar uchun NVML yoki Python bindings tavsiya qilinadi.

Nega muhim: «uchinchi satr, beshinchi ustun» parser’i yangilanishdan keyin buzilishi mumkin. Maydonlarni ekrandagi joylashuvi bo‘yicha emas, API orqali oling.

Qanday qo‘llash mumkin 1. Alohida Python environment’da python -m pip install nvidia-ml-py buyrug‘ini bajaring. Paket nomi boshqa bo‘lsa-da, import nomi pynvml. 2. Jadvalni tahlil qilish o‘rniga UUID va band xotirani bytes’da o‘qing: import pynvml as nv nv.nvmlInit() try: for i in range(nv.nvmlDeviceGetCount()): h = nv.nvmlDeviceGetHandleByIndex(i) print(nv.nvmlDeviceGetUUID(h), nv.nvmlDeviceGetMemoryInfo(h).used) finally: nv.nvmlShutdown() 3. Collector’da UUID va used_bytes maydonlarini alohida saqlang. Yangi driver rollout’idan oldin test tugunida muvaffaqiyatli o‘qishni ham, xatoni qayta ishlashni ham tekshiring; exception’ni «0 bytes»ga aylantirmang.

Cheklov: pip-paket NVIDIA driver/NVML’ni o‘rnatmaydi. Metrikalar qo‘llovi GPU va rejimga bog‘liq; API’da ham deprecations bor. Bu o‘qish namunasi, tayyor production collector emas. Bizning host’da uning GPU’da bajarilishi tekshirilmagan.

https://verum-ai.uz saytida GPU ijarasi va ochiq modellar yo‘nalishlari ko‘rsatilgan; muayyan konfiguratsiya mavjudligini alohida aniqlang.

Источники / Manbalar https://docs.nvidia.com/deploy/nvidia-smi/index.html https://pypi.org/project/nvidia-ml-py/

Qwen3-VL-4B: ramka siljidimi? Koordinata shkalasini tekshiring

Qwen Qwen3-VL-4B-Instruct modelini 15.10.2025 da chiqargan. Bu mavjud model tahlili, bugungi yangilik emas: Apache 2.0 ochiq vaznlari, text/image/video → text, native context 256K; alohida Thinking versiyasi ham bor.

Fakt: Qwen3-VL rasmiy cookbook’i piksel emas, 0–1000 oralig‘idagi nisbiy koordinatalardan foydalanadi. Bbox qiymatlarini tayyor piksel deb chizsangiz, ramka noto‘g‘ri joyga tushadi. Kuchliroq GPU sotib olish buni tuzatmaydi.

Qo‘llash: 1. Rasm va shu so‘rovni yuboring: Locate the orange sphere. Return only JSON: {"bbox_2d":[x1,y1,x2,y2]}. Use coordinates normalized to 0–1000. 2. W×H rasm uchun ikkala x koordinatasini x_px = x / 1000 * W, ikkala y koordinatasini y_px = y / 1000 * H bilan o‘giring. Misol: 1920×1080 da [250,250,750,750] → [480,270,1440,810]. 3. JSON, diapazon va burchaklar tartibini tekshirib, ramkani aynan o‘sha rasm ustiga chizing. Model crop olgan bo‘lsa, to‘liq rasm uchun crop siljishini ham hisobga oling.

Cheklov: to‘g‘ri shkala obyekt to‘g‘ri topilganini kafolatlamaydi. Tekshirmasdan avtomatik klik qilmang. GPU tanlashda o‘z resolution, context va batch’ingizda VRAM’ni o‘lchang: «4B»ning o‘zi xotira sarfini belgilamaydi.

Loyiha sayti: https://verum-ai.uz

Manbalar / Источники: https://huggingface.co/Qwen/Qwen3-VL-4B-Instruct https://github.com/QwenLM/Qwen3-VL/blob/main/cookbooks/2d_grounding.ipynb

AI r.json() yozdi — bu hali API muvaffaqiyati emas

Fakt: Python Requests HTTP 500 javobidagi JSON’ni muvaffaqiyatli o‘qishi mumkin. r.json() so‘rov muvaffaqiyatini emas, javob tanasi formatini tekshiradi. AI bu tekshiruvlarni aralashtirsa, server xatosi hisobotga oddiy ma’lumot sifatida kirishi mumkin.

Uch qadam: 1. AI’dan HTTP status tekshiruvi va JSON parsing’ni ajratishni so‘rang. Shartnomaga ko‘ra JSON qaytaradigan endpoint uchun avval r.raise_for_status(), keyin data = r.json(). Birinchi chaqiruv 4xx/5xx’ni rad etadi. 2. Kutilgan status, majburiy maydonlar va biznes-muvaffaqiyat belgisini API hujjatiga ko‘ra alohida tekshiring. Exception’ni bo‘sh ro‘yxatga aylantirmang: «ma’lumot yo‘q» va «so‘rov bajarilmadi» — boshqa-boshqa natija. 3. Sun’iy javoblar bilan test qo‘shing: 200 + to‘g‘ri ma’lumot; 500 + to‘g‘ri formatdagi xato JSON’i; 200 + yaroqsiz JSON. Oxirgi ikkitasi muvaffaqiyatli natijaga tushmasin.

Tayyor prompt Bu kodda API javobi qanday qayta ishlanishini tekshir. HTTP status, JSON parsing va biznes-muvaffaqiyatni ajrat. Xatolarni [] yoki {} bilan yashirma. Uchta test qo‘sh: 200+ma’lumot, 500+xato JSON’i, 200+yaroqsiz JSON. Testlarning haqiqiy natijalarini ko‘rsat.

Cheklov: raise_for_status() mazmunni tekshirmaydi. HTTP 200 ham biznes-xatoni saqlashi mumkin; tanasiz 204 uchun json() chaqirish kerak emas.

Verum AI: https://verum-ai.uz

Источник / Manba · Requests: https://requests.readthedocs.io/en/latest/user/quickstart/#json-response-content

PyTorch: kichik kesmani saqladingiz — katta fayl oldingizmi?

Fakt: tensor view’ni torch.save() orqali saqlaganda PyTorch faqat ko‘rinadigan elementlarni emas, uning backing storage’ini saqlaydi. Rasmiy misolda beshta qiymatli kesma faylga 999 qiymatli storage’ni olib kiradi. Bu GPU-serverda embeddings va oraliq natijalar eksportini kattalashtirishi mumkin: ortiqcha ma’lumot NVMe’da joy egallaydi va tarmoq orqali uzatiladi.

Uch qadam: 1. Asl tensor bilan bog‘liqligi endi kerak bo‘lmagan alohida kesmani saqlayotganingizni tekshiring. Butun checkpoint’ni ko‘r-ko‘rona o‘zgartirmang. 2. Saqlashdan oldin kesmaning mustaqil nusxasini yarating. Hujjatdagi minimal misol: import torch large = torch.arange(1, 1000) small = large[0:5] torch.save(small.clone(), "small.pt") 3. O‘z ma’lumotingizda clone bilan va usiz fayl hajmlarini solishtiring. Ikkala faylni yuklab, shape, dtype va qiymatlarni tekshiring; shundan keyin yozish va uzatish vaqtini solishtiring. O‘lchamasdan tezlashishni va’da qilmang.

Tuzoq: clone tensors o‘rtasidagi umumiy storage bog‘liqligini uzadi va joriy qurilmada nusxa uchun xotira talab qiladi. Umumiy saqlash muhim bo‘lsa, uni ommaviy qo‘llamang. Bu quantization ham, asl modelning VRAM hajmini kamaytirish ham emas.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · PyTorch: https://docs.pytorch.org/docs/2.14/notes/serialization.html#saving-and-loading-tensors-preserves-views

Jina Embeddings v4: flag o‘chirilgan qatlamni qaytarmaydi

Jina AI v4’ni 25.06.2025 da taqdim etgan: bu qidiruv uchun embedding-model, chatbot ham, bugungi yangilik ham emas. Asl versiya matn va tasvirni qabul qiladi, context — 32 768 tokens gacha. Model card’da Qwen Research License ko‘rsatilgan: weights tijoriy foydalanish uchun shartsiz erkin deb o‘ylamang.

Fakt: text-only GGUF variantlarida multi-vector embeddings yaratgan o‘qitilgan MLP olib tashlangan. Shu sabab --pooling none asl multi-vector rejimini tiklamaydi. Ko‘p vektor olish aynan o‘sha o‘qitilgan representations’ni olish degani emas.

Uch qadam: 1. Vazifani belgilang: oddiy matnli qidiruvmi yoki har hujjatga bir nechta vektor ishlatadigan late interaction’mi? Ikkinchisi uchun bu text-only GGUF emas, Hugging Face orqali asl modelni return_multivector=True bilan ishlating. 2. Single-vector text retrieval uchun jinaai/jina-embeddings-v4-text-retrieval-GGUF ni tanlab, --pooling mean ni belgilang. So‘rov oldiga Query: , hujjat oldiga Passage: qo‘shing. 3. GPU tanlashdan oldin o‘z «so‘rov → kerakli hujjat» juftliklaringizda sifatni tekshiring. Keyin maqsadli batch va kirish uzunligida eng yuqori VRAM sarfini o‘lchang. GGUF fayli hajmi — to‘liq VRAM budjeti emas.

Cheklov: aynan bu text-only GGUF tasvirlarni qabul qilmaydi. Bu cheklovni alohida multimodal GGUF variantiga tatbiq etmang. Kuchliroq GPU yo‘q qatlamni qaytarmaydi. GPU katalogi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar · Jina AI: https://huggingface.co/jinaai/jina-embeddings-v4-text-retrieval-GGUF https://huggingface.co/jinaai/jina-embeddings-v4 https://jina.ai/news/jina-embeddings-v4-universal-embeddings-for-multimodal-multilingual-retrieval/

AI .csv bilan birga nomning bir qismini ham o‘chirdimi?

Fakt: Python rstrip(".csv") aniq bitta qo‘shimchani emas, «.csv» to‘plamidagi istalgan belgilarni o‘ngdan olib tashlaydi. Shuning uchun "metrics.csv".rstrip(".csv") natijasi "metri" bo‘ladi. Fayllarni qayta ishlashda AI yozgan kod nomlarni va asl ma’lumot bilan bog‘lanishni sezdirmay buzishi mumkin.

Uch qadam: 1. Aniq qoida bering: faqat oxirgi .csv olib tashlansin, nomning qolgan qismi saqlansin. Python 3.9+ uchun name.removesuffix(".csv") ishlating. 2. Fayllarga tegishdan oldin satrlarni tekshiring: metrics.csv → metrics, civic.csv → civic, report.csv → report, report.csv.bak → report.csv.bak. Bu to‘rtta tekshiruv Python 3.11.16 da bajarildi. 3. Avval fayllar nomini o‘zgartirmasdan «eski nom → yangi nom» jadvalini oling. Yangi nomlar takrorlanmasligini va shu nomdagi fayl mavjud emasligini tekshiring; shundan keyin yozishga ruxsat bering.

Tayyor prompt: Bu Python-kodda belgilar to‘plamini emas, faqat aniq oxirgi .csv qo‘shimchasini olib tashla. removesuffix ishlat. metrics.csv, civic.csv, report.csv va report.csv.bak ni tekshir. Test natijalari va nom o‘zgartirish rejasini ko‘rsat; fayllarni hozircha o‘zgartirma.

Tuzoq: solishtirish katta-kichik harfga sezgir: .CSV o‘chmaydi. Buning qoidasini alohida belgilang. removesuffix diskdagi faylni emas, satrni o‘zgartiradi va nomlar to‘qnashuvini oldini olmaydi.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · Python: https://docs.python.org/3/library/stdtypes.html#str.rstrip https://docs.python.org/3/library/stdtypes.html#str.removesuffix

GPU Drain and Reset so‘rayaptimi? Hammasini ko‘r-ko‘rona to‘xtatmang

Fakt: NVIDIA GPU Recovery Action maydonida Reset va Drain and Reset holatlarini farqlaydi. Ikkinchisida GPU kamroq mavjud xotira yoki ishlamayotgan MIG bo‘limlari bilan ishlashi mumkin. Yangi vazifalarni boshlash mumkin emas, ammo ishlayotgan va nosozlik ta’sir qilmagan vazifalarni yakunlash yoki qulay checkpoint’gacha yetkazish mumkin.

Nega muhim: darhol reset qilish bir necha soatlik hisoblashni yo‘qqa chiqarishi mumkin; yangi vazifalarni odatdagidek taqsimlash esa ularni resurslari cheklangan GPU’ga yuboradi.

Uch qadam: 1. nvidia-smi -q natijasini saqlang: qurilma UUID’i, GPU Recovery Action va xato ma’lumotlari. Alert’dagi «xato» so‘ziga emas, haqiqiy qiymatga qarang. 2. Aynan Drain and Reset bo‘lsa, scheduler orqali shu GPU’ga yangi vazifalar berishni to‘xtating. Ta’sirlanmagan vazifalar tugasin yoki checkpoint saqlasin; keyin texnik xizmat tartibiga ko‘ra qolgan client’larni to‘xtating. 3. Drain tugagach, administrator shu platforma yo‘riqnomasi bo‘yicha reset bajaradi. GPU’ni scheduler’ga qaytarishdan oldin holati va ishlashini qayta tekshiring. Buyruq muvaffaqiyati o‘zi sozlikni tasdiqlamaydi.

Tuzoq: bu tartibni Reset, Reboot yoki Drain P2P uchun avtomatik qo‘llamang: amallar farq qiladi. Maydon asl sababni emas, tiklash usulini bildiradi; N/A «hammasi soz» degani emas. Har qanday alert uchun avtomatik reset yoqmang.

Verum AI: https://verum-ai.uz

Источник / Manba · NVIDIA: https://docs.nvidia.com/deploy/nvidia-smi/

Qwen3-VL-Embedding: aynan nima quantization qilinadi?

Qwen Team bu oilani 2026-yil 7-yanvarda chiqargan. Qwen/Qwen3-VL-Embedding-2B — matn, tasvir va video bo‘yicha qidiruv uchun Apache 2.0 litsenziyali ochiq model, chatbot emas. Context — 32K; chiqishda 2048 tagacha komponentli vektor. 8B varianti ham bor. Bu mavjud model tahlili, bugungi reliz xabari emas.

Fakt: rasmiy model card’dagi Quantization Support ustuni chiqish embedding’ining quantization’ini anglatadi. U weights quantization’ini va’da qilmaydi va modelning o‘zi kamroq VRAM egallashini isbotlamaydi. Qidiruv natijalarini va modelni siqish — boshqa-boshqa amallar.

Qanday qo‘llash kerak: 1. Config’da weights formati, hisoblash dtype’i va chiqish vectors formatini alohida yozing. «Yes» belgisi model INT8’da yuklanishining dalili emas. 2. Indeksda joy tejash uchun asl va quantized embeddings’ni bir xil so‘rovlar to‘plamida solishtiring. Kerakli hujjat top-10’ga kirishini RU/UZ uchun alohida tekshiring; so‘rov va indeksning mos formatlarini belgilang. 3. GPU’ni inference o‘lchovlari bo‘yicha tanlang: haqiqiy batch, matn uzunligi va tasvir/video kadrlar hajmida eng yuqori VRAM sarfini o‘lchang. Vectors fayli kichrayishi model VRAM’i ham shuncha kamayishini anglatmaydi.

Tuzoq: chiqish vectors quantization’i natijalar tartibini o‘zgartirishi mumkin. E’lon qilingan benchmarks siqilgan indeksingiz sifatini kafolatlamaydi; inference retsepti fine-tuning xotirasini belgilamaydi.

Verum AI: https://verum-ai.uz

Источники / Manbalar · Qwen: https://huggingface.co/Qwen/Qwen3-VL-Embedding-2B https://qwen.ai/blog?id=qwen3-vl-embedding

Temporary Chat — ma’lumotni darhol o‘chirish emas

Fakt: OpenAI yozishicha, chat vaqtinchalik bo‘lib turganida modellarni yaxshilash uchun ishlatilmaydi, ammo xavfsizlik maqsadida uning nusxasi 30 kungacha saqlanishi mumkin. «Tarixda yo‘q» va «hech qayerda saqlanmaydi» — boshqa-boshqa tushunchalar.

Ish hujjatlariga qanday qo‘llash kerak: 1. Yuklashdan oldin tashkilotingiz bu ma’lumotlarni ChatGPT’ga uzatishga ruxsat berishini tekshiring. F.I.Sh., telefon, rekvizit va ichki ID’larni lokal ravishda CLIENT_A kabi belgilar bilan almashtiring. Moslik jadvali o‘zingizda qolsin. Asl faylni «avval anonimlashtir» deb yuklamang — ma’lumot allaqachon uzatilgan bo‘ladi. 2. Yangi Temporary Chat ochib, vazifa uchun zarur bo‘lgan eng kichik anonimlashtirilgan parchani yuboring. Faqat xat shakli kerak bo‘lsa, summa va bitim tafsilotlarini ham to‘qima misol bilan almashtiring. 3. Javobni tekshirib, kerakli qiymatlarni lokal ravishda qaytaring. Vaqtinchalik chatni oddiy chat sifatida saqlasangiz, keyin unga modellarni yaxshilash sozlamalari va oddiy chatlarni saqlash qoidalari tatbiq etiladi.

Allaqachon tozalangan matn uchun tayyor prompt: Quyidagi parcha asosida javob yoz. CLIENT_A va CONTRACT_B — shartli belgilar: aynan saqla. Shaxslar va yo‘q rekvizitlarni taxmin qilma. Yetishmayotgan ma’lumotlarni alohida sanab ber.

Cheklov: ismlarni almashtirish anonimlikni kafolatlamaydi: sana, lavozim va voqealar birikmasi shaxsni bildirib qo‘yishi mumkin. «Hech narsani saqlama» prompt’i servis qoidalarini o‘zgartirmaydi; uzatish taqiqlangan ma’lumotni vaqtinchalik chatga ham yubormang.

Verum AI: https://verum-ai.uz

Источник / Manba · OpenAI: https://help.openai.com/en/articles/8914046-temporary-chat-in-chatgpt

Qisqa GPU vazifalari: Persistence Daemon’ni tekshiring

Fakt: doimiy GPU client bo‘lmagan headless Linux’da oxirgi jarayon tugagach, driver GPU’ni deinitsializatsiya qilishi mumkin. Keyingi vazifa uni qayta ishga tayyorlash vaqtini sarflaydi. NVIDIA nvidia-persistenced’ni taklif qiladi: daemon device files’ni ochiq tutib, vazifalar orasida driver holatini saqlaydi.

Nega muhim: ko‘p qisqa ishga tushirishlarda start kechikishi kernels tezligidan muhimroq bo‘lishi mumkin. Kuchliroq GPU sotib olishdan oldin buni tekshiring.

3 qadam: 1. O‘z Linux tuguningizda nvidia-smi -q → Persistence Mode’ni tekshiring. Driver systemd service bilan kelgan paket orqali o‘rnatilgan bo‘lsa, systemctl status nvidia-persistenced’ni tekshiring. Bunday unit yo‘qligi daemon yo‘q degani emas: o‘rnatish distributivga bog‘liq. 2. Administrator bilan daemon’ning OS boshlanishida ishga tushishini va ajratilgan GPU uchun persistence’ni sozlang. Muhim: barcha GPU’da persistence o‘chiq bo‘lsa ham daemon ishlashi mumkin; faqat «active» holati yetarli emas. 3. O‘zgarishdan oldin va keyin bir xil qisqa vazifani bir necha alohida jarayonda o‘lchang. Start va hisoblash vaqtini ajrating; testda qurilmani o‘zlari ochiq tutadigan ortiqcha GPU client’larni yoping.

Adashtirmang: driver holati saqlanadi, tugagan jarayonning model weights yoki KV cache’i emas. Bu tokens/s o‘sishi va’dasi emas. Maslahat Linux uchun; Windows’da driver hayot sikli boshqacha.

GPU katalogi: https://verum-ai.uz — kerakli konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar · NVIDIA: https://docs.nvidia.com/deploy/driver-persistence/overview.html https://docs.nvidia.com/deploy/driver-persistence/persistence-daemon.html