Kunning AI va GPU yangiliklari

DeepSeek 8B: config’dagi 128K — VRAM zaxirasi emas

DeepSeek-R1-0528-Qwen3-8B — DeepSeek’ning MIT ostida ochiq vaznli, matn bilan ishlaydigan reasoning modeli. U Qwen3-8B-Base’ni R1-0528 mulohazalari asosida qo‘shimcha o‘qitish orqali olingan. Bu yangi reliz xabari emas, lokal inference amaliyoti.

Fakt. Rasmiy config’da max_position_embeddings=131072 va YaRN uchun factor=4.0, original_max_position_embeddings=32768 berilgan. Ishlab chiquvchi BARCHA configuration files’ni asl Qwen3’dan emas, DeepSeek repozitoriysidan olishni talab qiladi: bir xil arxitektura bir xil sozlamalar degani emas.

Nega muhim: ruxsat etilgan context uzunligi GPU kerakli so‘rovlar sonini ko‘tara olishini kafolatlamaydi. Uzun ketma-ketlikka qo‘shimcha KV cache kerak; YaRN sozlamasining o‘zi xotira qo‘shmaydi.

Uch qadam: 1. Weights, tokenizer va config’ni deepseek-ai/DeepSeek-R1-0528-Qwen3-8B dan yuklang. Eski lokal papkadagi Qwen3-8B fayllarini aralashtirmang. 2. Yuklangan config’da yuqoridagi maydonlarni, runtime loglarida esa YaRN qo‘llab-quvvatlanishi va amaldagi context limitini tekshiring. RoPE sozlamalarini e’tiborsiz qoldirib, faqat token sonini oshirmang. 3. Hujjatlaringizning haqiqiy uzunligi va bitta so‘rovdan boshlang. Eng yuqori VRAM sarfi, latency va sifatni o‘lchang; keyin uzunlik va concurrency’ni bittadan oshiring. Context’da javob uchun ham joy qoldiring.

Xato: config’dagi 128K hujjatning istalgan qismidan faktlarni aniq topish va’dasi ham, GPU uchun universal talab ham emas. Bu sinov fine-tuning emas, inference uchun.

Verum GPU katalogi: https://verum-ai.uz — kerakli konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar: https://huggingface.co/deepseek-ai/DeepSeek-R1-0528-Qwen3-8B https://huggingface.co/deepseek-ai/DeepSeek-R1-0528-Qwen3-8B/blob/main/config.json

nvidia-smi CUDA’ni ko‘rsatmoqda. Kompilyator ham o‘rnatilganmi?

Fakt. nvidia-smi dagi CUDA versiyasi CUDA Toolkit o‘rnatilganini isbotlamaydi. NVIDIA uni driver qo‘llab-quvvatlaydigan eng so‘nggi CUDA versiyasi deb ta’riflaydi. Amaldagi hujjatda maydon CUDA UMD Version deb ataladi; eski CUDA Version nomi deprecated deb belgilangan. Kompilyatorning o‘z versiyasini nvcc --version ko‘rsatadi.

Nega muhim: CUDA extension’ni build qilishda muammo GPU’da emas, build tizimi nvcc’ni topa olmayotgani yoki PATH’dan boshqa Toolkit’ni tanlayotganida bo‘lishi mumkin.

Qayta o‘rnatishdan oldin uch qadam 1. Vazifa xato berayotgan muhitda nvidia-smi ni bajaring. GPU modeli va driver versiyasini saqlang — utilita versiyasiga qarab Driver Version yoki KMD Version maydoni. 2. Linux shell’da command -v nvcc, so‘ng nvcc --version ni tekshiring. Birinchisi tanlangan kompilyator yo‘lini, ikkinchisi versiyasini ko‘rsatadi. Buyruq topilmasa, bu Toolkit diskda yo‘q degani emas: PATH’ni tekshiring. 3. Shu yo‘lni build log’dagi kompilyatsiya buyrug‘i va extension’ning Toolkit talablariga solishtiring. Docker’da kerakli konteyner ichida tekshiring: host’dagi Toolkit konteynerda kompilyator borligini tasdiqlamaydi. O‘zgartirishdan oldin xatoning to‘liq matnini saqlang.

Xato: nvidia-smi va nvcc’dagi raqamlarning farqi o‘z-o‘zidan nosozlik emas. PATH’da nvcc yo‘qligi ham tayyor ilovani GPU’da ishga tushirib bo‘lmasligini isbotlamaydi. Faqat raqamlarni tenglashtirish uchun driver’ni qayta o‘rnatmang.

Verum GPU yo‘nalishi: https://verum-ai.uz — kerakli konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar https://docs.nvidia.com/deploy/nvidia-smi/ https://docs.nvidia.com/cuda/cuda-compiler-driver-nvcc/index.html#version-v

AI pul hisoblayaptimi? Satrlardan Decimal so‘rang

Fakt. Python float ko‘plab o‘nli kasrlarni aniq saqlamaydi: tekshirilgan ishga tushirishda 0.1 + 0.2 natijasi 0.30000000000000004, Decimal('0.1') + Decimal('0.2') esa 0.3 bo‘ldi. Python hujjatlari aniq tenglik talab qilinadigan hisob-kitoblar uchun decimal’ni tavsiya qiladi.

Nega muhim: AI hisoblarni solishtirsa yoki hisoblash kodini yozsa, ishonarli yakun emas, kelishilgan yaxlitlash bilan qayta bajariladigan kod kerak.

Uch qadam 1. Shaxsiy ma’lumotlarsiz qatorlarni bering: ID, narx, miqdor, valyuta. O‘nli ajratgichni aniqlang; turli valyutalarni qo‘shmang. 2. Narxlarni float’dan emas, asl satrlardan yaratib, Decimal bilan Python’ni bajarishni so‘rang. Aniqlik, yaxlitlash qoidasi va bosqichini oldindan belgilang: har qatorda yoki yig‘indidan keyin. 3. Har bir ID bo‘yicha hisob, yakun va kodni oling. Asl qiymatlar va bir nechta qatorni mustaqil tekshiring. Kodni bajarish imkoni bo‘lmasa, kodni tekshirilgan natija emas, qoralama deb biling.

Tayyor prompt Summalarni ID bo‘yicha tekshir. Narxlarni satr sifatida o‘qi, Python’da Decimal orqali, float’siz hisobla. Yaxlitlash: [xonalar soni, rejim, bosqich]. Qoidalar to‘ldirilmagan yoki son noaniq bo‘lsa, avval so‘ra. Qatorlar, har bir valyuta yakuni, kod va haqiqiy bajarish natijasini qaytar. Bajarilmasa, natijani tekshirilgan dema.

Xato: Decimal(0.1) allaqachon yaratilgan float xatosini saqlaydi. Decimal noto‘g‘ri o‘qilgan narxni tuzatmaydi; bo‘lish va boshqa amallar ham precision va rounding’ga bog‘liq.

Verum GPU katalogi: https://verum-ai.uz

Источник / Manba · Python: https://docs.python.org/3/library/decimal.html

Phi-4-multimodal: ruscha matn ≠ ruscha nutq

Microsoft Phi-4-multimodal-instruct’ni 2025-yil 26-fevralda chiqargan: 5,6B parametr, MIT litsenziyasidagi ochiq weights, 128K context. Kirishda matn, tasvir va audio, chiqishda matn. Bu bugungi reliz emas.

Amaliy fakt: model card’da rus tili text uchun ko‘rsatilgan, audio uchun emas. Audio ro‘yxatida ingliz, xitoy, nemis, fransuz, italyan, yapon, ispan va portugal tillari bor. O‘zbek tili ham bu ro‘yxatda yo‘q. Ruscha javob ruscha yozuvni sifatli tanishning isboti emas.

Qo‘ng‘iroqlarni qayta ishlashdan oldin: 1. Ishtirokchilar roziligi bilan har bir kerakli tilda qisqa yozuvlar va qo‘lda tayyorlangan etalon transkriptlar to‘plang. Oddiy audio vazifalarida Microsoft 40 soniyagacha uzunlikni tavsiya qiladi; summarization uchun alohida 30 daqiqa ko‘rsatilgan. 2. To‘g‘ridan-to‘g‘ri audio→text’ni kerakli tilda sinalgan ASR ishlatiladigan ASR→LLM sxemasidan alohida tekshiring. Faqat ravonlikni emas, so‘zlar, ismlar va summalardagi xatolarni solishtiring. 3. Bitta GPU’da precision, batch size va yozuv uzunligini bir xil saqlang; ikkala variantning peak VRAM va kechikishini o‘lchang. Resursni «multilingual» yozuviga emas, sifat tekshiruvidan keyin tanlang.

Cheklov: til ro‘yxatda yo‘qligi model umuman ishlamasligini isbotlamaydi, ammo qo‘llab-quvvatlashni va’da qilishga asos bermaydi. Ko‘proq VRAM til bo‘yicha bo‘shliqni o‘zi tuzatmaydi; 128K context istalgan uzunlikdagi yozuvning aniq transkriptini anglatmaydi.

GPU katalogi: https://verum-ai.uz — tanlangan konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar · Microsoft: https://huggingface.co/microsoft/Phi-4-multimodal-instruct https://aka.ms/phi4-feb2025

GPU-Util 100% — server chegarasi degani emas

NVIDIA hujjatlariga ko‘ra, nvidia-smi’dagi GPU utilization — o‘lchov davrida GPU’da kamida bitta kernel ishlagan vaqt ulushi. Bu erishilgan FLOPS foizi ham, band hisoblash bloklari ulushi ham emas. Demak, 100%ning o‘zi server ko‘proq so‘rovga xizmat qila olmasligini isbotlamaydi.

Yana bir GPU sotib olishdan oldin tekshiring: 1. Inference paytida kuzatuvni yoqing: nvidia-smi --query-gpu=timestamp,uuid,utilization.gpu,memory.used --format=csv -l 1 2. Bir xil prompts to‘plami va bir xil generatsiya limitlari bilan bir nechta concurrency darajasini — bir vaqtdagi so‘rovlar sonini — solishtiring. Sinovlar orasida model va quantization’ni o‘zgartirmang. 3. Warmup’dan keyin jami chiqish tokens/s, javob vaqtining p95 qiymati va band VRAM’ni o‘lchang. Kechikish maqbul bo‘lib, throughput oshsa, oldingi 100% GPU-Util’da ham zaxira bor edi. Concurrency’ni chiroyli foizga emas, maqsadli kechikishga qarab tanlang.

Xato: memory.used — band xotira hajmi, uning bandwidth yuklanishi emas. N/A — metrika mavjud emas, nol emas. Test sizning workload’ingizni baholaydi; tezlashishni kafolatlamaydi va bottleneck’ni o‘zi aniqlamaydi.

GPU katalogi: https://verum-ai.uz — tanlangan konfiguratsiya mavjudligini alohida aniqlashtiring.

Источник / Manba · NVIDIA: https://docs.nvidia.com/deploy/nvidia-smi/index.html

AI CSV’ni tahlil qilyapti: «00123» yo‘qolmasin

Artikul — son emas, identifikator. AI CSV’ni pandas orqali standart sozlamalarda o‘qisa, boshidagi nollar yo‘qolishi, NA kodi esa yetishmayotgan qiymatga aylanishi mumkin. Shunda hatto to‘g‘ri solishtirish ham buzilgan kalitlar bilan ishlaydi.

Qanday qo‘llash kerak 1. Tahlildan oldin identifikator ustunlarini belgilang: masalan, sku. Yetishmayotgan qiymat belgilarini alohida kelishib oling. 2. Turni o‘qishdan keyin emas, o‘qish paytida belgilang: df = pd.read_csv("data.csv", dtype={"sku": "string"}, keep_default_na=False) 3. AI’dan 00123 va NA kodlari bor kichik CSV’da tekshiruvni amalda ishga tushirib, qiymatlar va ustun turini ko‘rsatishni so‘rang. Ikkala kod ham aynan matn sifatida saqlanishi kerak.

Tayyor prompt «CSV’ni Python orqali tahlil qil. sku — matnli identifikator: boshidagi nollarni va aynan NA yozuvini saqla. Yetishmayotgan qiymat belgilarini taxmin qilma. Hisoblashdan oldin 00123 va NA bilan import testini bajar, natijani ko‘rsat. Asl faylni o‘zgartirma».

Xato xavfi: na_values berilmasa, keep_default_na=False butun faylda, jumladan bo‘sh maydonlarda, matnli yetishmayotgan qiymat belgilarini tanishni o‘chiradi. Boshqa ustunlar uchun qoidalarni alohida belgilang. O‘qilgan sonni keyin matnga aylantirish yo‘qolgan nollarni qaytarmaydi.

Verum-AI GPU katalogi: https://verum-ai.uz

Источник / Manba · pandas: https://pandas.pydata.org/docs/reference/api/pandas.read_csv.html

Qwen3-Next: thinking’ni tarixga ko‘chirmang

Qwen Qwen3-Next-80B-A3B’ni 2025-yil 11-sentabrda taqdim etgan. Bu bugungi reliz emas. Matn modeli Apache 2.0 ostidagi ochiq weights, alohida Instruct va Thinking variantlari hamda 262 144 tokenlik native context’ga ega.

Fakt: Qwen3-Next-80B-A3B-Thinking uchun ishlab chiquvchi oldingi javoblar tarixida thinking’siz, faqat yakuniy qismni qoldirishni tavsiya qiladi. Rasmiy Jinja chat template buni hisobga oladi; o‘z integratsiyangizda qoidani o‘zingiz ta’minlang.

Nega muhim: uzun mulohazalarni qayta yuborish keyingi prompt’ni kattalashtiradi. Ularni chiqarish kirish tokenlarini kamaytiradi, ammo model weights hajmini emas; GPU’da aniq tezlashishni ham kafolatlamaydi.

Uch qadam 1. Aynan tanlangan checkpoint’ning tokenizer va chat template’idan foydalaning. Instruct faqat non-thinking, Thinking esa faqat thinking rejimida ishlaydi. 2. Runtime’ning tegishli parser’i bilan reasoning va yakuniy javobni ajrating. Keyingi oddiy dialogga foydalanuvchi xabarlarini saqlagan holda assistant’ning yakuniy matnini yuboring. Ikkala maydonni qayta birlashtirmang. 3. Ikkinchi navbatning serializatsiya qilingan prompt’ini tekshiring: javob va faktlar qolgan, eski thinking qaytmagan bo‘lsin. Bir xil dialoglarda, precision va concurrency’ni o‘zgartirmay, input tokens, latency va peak VRAM’ni o‘lchang.

Xato xavfi: Thinking’da ochuvchi <think> template orqali allaqachon qo‘shiladi. Generatsiyada faqat </think> bo‘lishi odatiy; juft teglarni qidirish reasoning’ni o‘tkazib yuborishi mumkin. Tavsiya shu modelga tegishli: uni boshqa LLM’larga avtomatik qo‘llamang, tool calls/results’ni o‘chirmang.

Verum GPU yo‘nalishi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источник / Manba · Qwen https://huggingface.co/Qwen/Qwen3-Next-80B-A3B-Thinking

CUDA: har restart’da JIT cache’ni yo‘qotmang

Ilova PTX’ni GPU mashina kodiga kompilyatsiya qilsa, CUDA driver natijani diskda saqlashi mumkin. NVIDIA ogohlantiradi: bu cache’ni o‘chirish yuklanish vaqtini uzaytiradi. Vaqtinchalik container o‘chirilganda cache ham uning fayl tizimi bilan yo‘qolishi mumkin — keyingi ishga tushishda ish takrorlanadi.

Qo‘llash tartibi — Linux: 1. CUDA_CACHE_DISABLE=1 o‘rnatilmaganini tekshiring. Oddiy ishga tushirishda caching yoqilgan bo‘lsin; standart qiymat — 0. 2. Ilova foydalanuvchisi yozishi mumkin bo‘lgan katalogni belgilang: mkdir -p "$HOME/.cache/cuda-jit" CUDA_CACHE_PATH="$HOME/.cache/cuda-jit" python app.py Bu yerda app.py — sizning entry point’ingiz. Container’da shu katalogni persistent volume orqali saqlang: faqat yo‘lni belgilash qayta yaratishdan keyin ma’lumotni saqlab qolmaydi. 3. Bir xil workload’ning birinchi va takroriy ishga tushishida ilk foydali natijagacha vaqtni solishtiring. GPU, driver, kod va kirish ma’lumotlarini o‘zgartirmang; weights’ni yuklab olish va xotiraga yuklash vaqtini alohida hisobga oling.

Cheklov: bu CUDA driver kompilyatsiya cache’i, LLM’ning KV cache’i yoki torch.compile cache’i emas. PTX JIT ishlatilmasa yoki kechikishni modelni yuklash keltirib chiqarsa, tezlashish bo‘lmasligi mumkin. Universal yutuq foizini bermaymiz — o‘z ishga tushirishingizni o‘lchang.

GPU konfiguratsiyalari katalogi: https://verum-ai.uz — tanlangan konfiguratsiya mavjudligini alohida aniqlashtiring.

Источник / Manba · NVIDIA: https://docs.nvidia.com/cuda/cuda-programming-guide/05-appendices/environment-variables.html

AI JSON qaytardi: takroriy kalit summani yashirishi mumkin

Fakt: standart Python json bir obyekt ichidagi takroriy nomlarni sukut bo‘yicha qabul qilib, oxirgi qiymatni saqlaydi. Amalda tekshirildi: {"amount":100,"amount":900} xatosiz {'amount': 900} ga aylanadi. LLM javobini CRM’ga import qilishda bu muvaffaqiyatli tekshiruv emas, ma’lumotning sezilmay yo‘qolishidir.

Uch qadam: 1. Asl JSON satrini oddiy dict’ga aylantirishdan oldin tekshiring. Standart parsing’dan keyin takror ko‘rinmaydi. 2. json.loads(raw, object_pairs_hook=reject_duplicates) ga o‘z funksiyangizni bering: u har bir obyektning juftliklar ro‘yxatini oladi, takroriy kalitni ValueError bilan rad etadi, shundan keyingina dict yaratadi. reject_duplicates — tayyor parametr emas, siz yozadigan funksiya. 3. Importdan oldin testlarni bajaring: yagona kalitlar o‘tadi; yuqori darajadagi va ichki obyektdagi takror — xato. Birinchi yoki oxirgi summani tanlab takrorni «tuzatmang»: asl javobni tekshiruvga yuboring.

Coding-agent uchun tayyor prompt: Python’da object_pairs_hook bilan JSON parser yoz: har qanday obyekt ichida takroriy kalitni rad et. Testlarni qo‘sh va amalda bajar: yagona kalitlar, takroriy amount, ichki obyektdagi takror. Natijalarni ko‘rsat. Xato bo‘lsa, CRM’ga hech narsa yozma.

Cheklov: bu qiymatlar rostligini emas, takrorlarni tekshiradi; JSON Schema o‘rnini bosmaydi. Python JSONDecoder’dagi strict=True takroriy kalitlarni taqiqlamaydi: parametr satrlardagi boshqaruv belgilariga tegishli.

Verum-AI GPU katalogi: https://verum-ai.uz

Источник / Manba · Python: https://docs.python.org/3/library/json.html#repeated-names-within-an-object

PyTorch: loss jurnalida o‘qitish grafigini saqlamang

Batch o‘zgarmayapti, xotira esa oshyaptimi? Metrikalarni yig‘ishni tekshiring. PyTorch FAQ’iga ko‘ra, loss gradient talab qilsa, total_loss += loss qadamlar orasida autograd history’ni to‘playdi. Hisobotga hisoblashlar bilan bog‘lanish emas, son kerak. Ko‘proq VRAM’li GPU olishdan oldin shu sababni tekshiring.

Uch qadam 1. Metrika yig‘uvchilarni toping: total_loss += loss va history.append(loss) kabi ro‘yxatlar. 2. Skalyar loss uchun Python number saqlang: total_loss += loss.item() yoki history.append(loss.item()). loss.backward() uchun loss tensor bo‘lib qolsin; faqat jurnalga yozishni o‘zgartiring. 3. Bir xil batch va kirish uzunligi bilan qisqa sinovni qayta boshlang. Qizdirishdan keyin har qadamning bir xil nuqtasida torch.cuda.memory_allocated() ni solishtiring. Bir martalik cho‘qqi emas, uzluksiz o‘sish — tensorlarga qolgan havolalarni qidirish belgisi.

Cheklov: .item() faqat bitta elementli tensor uchun ishlaydi. CUDA’da bu CPU–GPU synchronization nuqtasi: tez-tez jurnalga yozish siklni sekinlashtirishi mumkin. Bu metrikalarni tuzatish, gradient accumulation o‘rnini bosmaydi va har qanday OOM’ni hal qilmaydi.

Verum GPU konfiguratsiyalari katalogi: https://verum-ai.uz

Источники / Manbalar · PyTorch https://docs.pytorch.org/docs/2.14/notes/faq.html https://docs.pytorch.org/docs/2.14/generated/torch.Tensor.item.html https://docs.pytorch.org/tutorials/recipes/recipes/tuning_guide.html

AI jadvallarni birlashtirdi — tushum birdan oshdimi?

Sabab savdoda emas, join’da bo‘lishi mumkin. Mijozlar ma’lumotnomasida ID takrorlansa, bir savdo birlashtirishdan keyin bir nechta qatorga aylanishi mumkin.

Fakt: pandas’dagi validate="many_to_one" o‘ng jadval kalitlari noyobligini tekshiradi. «Ko‘p savdo → bitta mijoz» uchun bu yakunlarni hisoblashdan oldingi foydali tekshiruv.

Qanday qo‘llash kerak 1. AI’ga chapdagi savdo jadvali, o‘ngdagi ma’lumotnoma va client_id kalitini ko‘rsating. Bo‘sh kalitlarni tekshirish uchun alohida ro‘yxatga ajrating. 2. sales.merge(clients, on="client_id", how="left", validate="many_to_one", indicator=True) ni bajarishni so‘rang. 3. Xato bo‘lsa, ma’lumotnomadagi dublikatlarni chiqaring. Ularni avtomatik o‘chirmang: tarkibli kalit kerak bo‘lishi mumkin. Join muvaffaqiyatli tugagach, qatorlar soni, savdo summasi va _merge="left_only" qatorlarini tekshiring — ularga mijoz topilmagan.

Tayyor prompt Savdolarni ma’lumotnoma bilan client_id bo‘yicha left join orqali birlashtir. many_to_one ni tekshir. Dublikat bo‘lsa, to‘xta va ularni ko‘rsat; asl fayllarni o‘zgartirma. Bo‘sh va mos kelmagan kalitlarni, birlashtirishdan oldingi/keyingi qatorlar soni va savdo summasini alohida chiqar. Bu tekshiruvlarsiz yakunni ishonchli deb hisoblama.

Cheklov: validate ID to‘g‘riligini tekshirmaydi. pandas’da bo‘sh kalitlar oddiy SQL join’dan farqli ravishda o‘zaro mos kelishi mumkin.

Verum saytida GPU katalogi: https://verum-ai.uz Manba: https://pandas.pydata.org/docs/reference/api/pandas.merge.html

Gemma 3n: audioyozuvning oxiri qayerga ketdi?

Google DeepMind’ning Gemma 3n modeli 2025-yil 26-iyunda to‘liq chiqarilgan. E2B/E4B matn, rasm, video va audio qabul qilib, matn qaytaradi; context — 32K. Vaznlar Apache 2.0 emas, Gemma shartlari asosida ochiq. Bu yangi reliz xabari emas, amaliy tahlil.

Fakt: Transformers 5.15.1’da Gemma3nAudioFeatureExtractor uchun standart qiymatlar max_length=480000 va truncation=True. 16 kHz’da bu 30 soniya: shu sozlamalarda uzunroq waveform modelga yetmasdan kesiladi. Katta text context audio preprocessing limitini bekor qilmaydi.

Yakunini yo‘qotmaslik uchun: 1. google/gemma-3n-E2B-it processor sozlamalarini tekshiring. Yozuvni haqiqatan mono 16 kHz’ga aylantiring — metadatadagi sonni almashtirish yetmaydi. 2. Yozuvni ustma-ust qismni ham qo‘shib, 30 soniyagacha bo‘laklarga ajrating. Masalan, chegaralarda 1 soniyalik umumiy qism qoldiring va asl vaqt siljishlarini saqlang. Bo‘laklarni alohida qayta ishlang. 3. Sinov yozuvining eng oxiriga ma’lum ibora qo‘ying. Uni transkriptda tekshiring, keyin qismlarni birlashtirib, chegaralardagi takrorlarni olib tashlang. Shundan keyingina umumiy konspekt tuzing.

Cheklov: truncation=False modelni sinalgan long-audio pipeline’ga aylantirmaydi. Bo‘lish so‘zlarni uzishi ham mumkin. Ko‘proq VRAM tashlab yuborilgan audioni qaytarmaydi; ketma-ket bo‘laklar bitta kirish hajmini cheklaydi, ammo vaznlar xotirasini kamaytirmaydi. Eng yuqori VRAM sarfini o‘z runtime va batch’ingizda o‘lchang.

Verum GPU katalogi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источники / Manbalar: https://huggingface.co/docs/transformers/v5.15.1/en/model_doc/gemma3n https://developers.googleblog.com/en/introducing-gemma-3n-developer-guide/

AI CSV’ni «tuzatdimi» — yoki qatorlarni tashlab yubordimi?

Import xato bersa, AI xatoni bildirmasdan on_bad_lines="skip" bilan almashtirishiga yo‘l qo‘ymang. pandas’da bu rejim ortiqcha maydonli qatorlarni ogohlantirmasdan o‘tkazib yuboradi. Kod ishlaydi, ammo hisobot to‘liq bo‘lmasligi mumkin.

Uch qadam 1. Asl faylni saqlang. pd.read_csv(path, on_bad_lines="error") bilan boshlang — bu standart rejim. ParserError bo‘lsa, avval ajratgich va qo‘shtirnoqlarni tekshiring: qiymat ichidagi vergul har doim yangi ustun degani emas. 2. AI’dan muammoli yozuvlar va sababini ularni o‘chirmasdan ko‘rsatishni so‘rang. O‘tkazib yuborish zarur bo‘lsa, bunga alohida rozilik bering va chiqarib tashlangan yozuvlarni tekshirish uchun faylga saqlang. 3. Tuzatishdan keyin yozuvlar soni va ko‘rsatkichning nazorat yig‘indisini manba bilan solishtiring. Import muvaffaqiyati ma’lumotlar to‘liqligini o‘zi isbotlamaydi.

Tayyor prompt CSV’ni Python orqali tahlil qil. Roziligimsiz on_bad_lines=skip/warn ishlatma. Xato bo‘lsa, to‘xta, delimiter va quoting’ni tekshir, muammoli yozuvlarni ko‘rsat. Asl faylni o‘zgartirma. Tuzatgach, importni bajar, yozuvlar soni va amount yig‘indisini manba bilan solishtir. Kod va haqiqiy natijani ko‘rsat.

Ehtiyot bo‘ling: warn ham qatorlarni tashlab ketadi, faqat ogohlantiradi. error esa to‘liq schema tekshiruvi emas: maydoni yetishmagan qator bo‘sh qiymat bilan yuklanishi mumkin. Majburiy maydonlarni alohida tekshiring.

Verum GPU katalogi: https://verum-ai.uz

Источник / Manba · pandas: https://pandas.pydata.org/docs/reference/api/pandas.read_csv.html

Qwen3-4B-2507: takrorlar kamaydi, til buzildimi?

Qwen/Alibaba’ning Qwen3-4B-Instruct-2507 modeli 2025-yil 6-avgustda chiqqan: 4B matn modeli, Apache 2.0 asosida ochiq vaznlar, context 262 144 tokens. Bu yangi reliz xabari emas, amaliy tahlil. Dastlabki Qwen3-4B’dan farqli ravishda bu versiya faqat non-thinking mode’da ishlaydi.

Fakt: model card cheksiz takrorlarni kamaytirish uchun parametrni qo‘llaydigan frameworks’da presence_penalty ni 0 dan 2 gacha sozlashni tavsiya qiladi. Ammo katta jarima tillarning aralashishi va sifat pasayishiga olib kelishi mumkin. Bu yerda «qancha katta bo‘lsa, shuncha yaxshi» qoidasi ishlamaydi.

Uch qadam 1. Aniq model ID’ni tekshiring: Qwen/Qwen3-4B-Instruct-2507. Tavsiya etilgan sampling settings’dan boshlang: temperature=0.7, top_p=0.8, top_k=20, min_p=0. Runtime ularni haqiqatan qabul qilishini tekshiring. 2. Takrorlar bo‘lsa, faqat presence_penalty’ni 0 dan boshlab, ko‘rsatilgan oraliqda kichik qadamlar bilan o‘zgartiring. Bir xil ruscha va o‘zbekcha so‘rovlar to‘plamida takrorlar, tilga rioya qilish va javob to‘g‘riligini solishtiring. Bu lokal tanlov, hamma uchun optimal qiymat emas. 3. Sifatni buzmasdan muammoni hal qiladigan eng kichik jarimani tanlang. Output tokens soni va latency’ni solishtiring: ortiqcha takrorlar GPU vaqtini oladi, ammo GPU almashtirish decoding settings’ni tuzatmaydi.

Ehtiyot bo‘ling: presence_penalty va repetition_penalty — turli parametrlar, bir-birining boshqa nomi emas. Bunday sozlash vaznlar xotirasini kamaytirmaydi va faktlar to‘g‘riligini kafolatlamaydi.

Verum: https://verum-ai.uz

Источники / Manbalar https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507 https://github.com/QwenLM/Qwen3

NCCL osilib qoldimi? Jarayonlar loglarni bosib yozmasin

Fakt: NCCL NCCL_DEBUG_FILE faylini qayta yaratib, avvalgisini bosib yozadi. NVIDIA ogohlantiradi: bir nechta jarayon bitta faylga yozsa, log yo‘qolishi yoki buzilishi mumkin. Multi-GPU diagnostikasida faqat oxirgi emas, har bir jarayonning logi kerak.

Linux uchun uch qadam: 1. Job boshlanishidan oldin har bir tugundagi barcha workers uchun muhitni sozlang: export NCCL_DEBUG=INFO export NCCL_DEBUG_SUBSYS=INIT,NET export NCCL_DEBUG_FILE=/tmp/nccl-jobA.%h.%p.log NCCL %h o‘rniga hostname, %p o‘rniga PID qo‘yadi. jobA ni ishga tushirishning noyob ID’siga almashtiring; konteynerlar umumiy papkaga yozsa, konteynerning noyob ID’sini ham qo‘shing. 2. Muammoli ishga tushirishni minimal yuklama bilan takrorlang. Konteynerlarni o‘chirishdan oldin barcha tugunlardan fayllarni saqlang. Jarayonlar tanlagan tarmoq interfeyslari va oxirgi initsializatsiya xabarlarini solishtiring. 3. Diagnostikadan keyin bu sozlamalarni launcher va muhitdan olib tashlang: unset NCCL_DEBUG NCCL_DEBUG_SUBSYS NCCL_DEBUG_FILE

Cheklov: INIT,NET — ishga tushirish va tarmoq uchun filtr, collectives’ning to‘liq trassirovkasi emas. Loglar osilib qolishni tuzatmaydi. Debug-sozlamalarni production’da qoldirmang; yuborishdan oldin loglardagi ichki manzillar va yo‘llarni tekshiring.

GPU katalogi: https://verum-ai.uz — konfiguratsiya mavjudligini alohida aniqlashtiring.

Источник / Manba · NVIDIA: https://docs.nvidia.com/deeplearning/nccl/user-guide/docs/env.html#nccl-debug-file

AI «bitta fayl»ni o‘zgartirdimi? Faqat diff yetmaydi

Fakt: oddiy git diff ishchi fayllarni index bilan solishtiradi: staged o‘zgarishlar va yangi untracked fayllar ko‘rinmay qolishi mumkin. Demak, bo‘sh diff agent hech narsani o‘zgartirmaganini bildirmaydi.

Qanday qo‘llash: 1. Git status toza va mavjud commit bo‘lgan alohida ishchi nusxada boshlang. Ruxsat etilgan fayllarni belgilang; tekshiruvgacha agentga commit qilishni taqiqlang. 2. Ish tugagach, repository ildizidan bajaring: git diff --name-status HEAD git ls-files --others --exclude-standard Birinchi buyruq tracked fayllarning HEADga nisbatan yakuniy o‘zgarishlarini, jumladan staged holatini ko‘rsatadi. Ikkinchisi ignored fayllardan tashqari yangi untracked fayllarni chiqaradi. Ikkala ro‘yxatni ruxsat etilgan fayllar bilan solishtiring. 3. git diff HEAD va yangi fayllar mazmunini o‘qing. Keyin testlarni bajaring: kichik diff kod to‘g‘riligini isbotlamaydi.

Tayyor prompt: [Xato]ni tuzat. Faqat [yo‘llar]ni o‘zgartirish mumkin. Commit qilma va vazifani kengaytirma. Boshqa fayl kerak bo‘lsa, to‘xta va sababini ayt. Yakunda o‘zgargan va yangi fayllarni, test buyruqlarini va haqiqiy natijalarni ko‘rsat. Testlarni bajarmagan bo‘lsang, ochiq ayt.

Tuzoq: bu buyruqlar repository tashqarisidagi fayllarni nazorat qilmaydi va ignored fayllarni yashiradi. Prompt sandbox emas: agent kirishini alohida cheklang, production sirlarini bermang.

Verum AI: https://verum-ai.uz Git manbalari: https://git-scm.com/docs/git-diff https://git-scm.com/docs/git-ls-files

PyTorch: qaysi VRAM cho‘qqisini o‘lchadingiz?

Fakt: max_memory_allocated() odatda dastur boshlanganidan beri tensorlar egallagan xotiraning eng katta qiymatini qaytaradi. Oldin og‘ir warmup bo‘lgan bo‘lsa, optimallashtirishdan keyin ham o‘sha «rekord» qolishi mumkin. Alohida o‘lchovdan oldin peak stats’ni tiklang.

Uch qadam 1. GPU, dtype, batch size va context uzunligini bir xil saqlang. Modelni yuklang, warmup bajaring va uning natijalariga keraksiz havolalarni olib tashlang. Sovuq startni alohida o‘lchang. 2. Xuddi shu jarayonda tekshiriladigan qismni quyidagicha o‘rang. run_workload() — tanlangan GPU’dagi o‘zingizning yuklama funksiyangiz, PyTorch funksiyasi emas: import torch d = torch.device("cuda:0") torch.cuda.synchronize(d) torch.cuda.reset_peak_memory_stats(d) run_workload() torch.cuda.synchronize(d) print(torch.cuda.max_memory_allocated(d) / 2**30) Natija — GiB. Bu intervaldagi tirik tensorlarning maksimumi, jumladan oldindan yuklangan vaznlar; faqat xotira o‘sishi emas. 3. O‘zgarishdan oldin va keyin bir xil kirishlar bilan o‘lchang. Yonida max_memory_reserved(d) ni ham kuzating: bu caching allocator boshqaradigan xotira cho‘qqisi, allocated ustiga qo‘shiladigan yana bir hajm emas.

Tuzoq: reset statistikani tiklaydi, VRAM’ni bo‘shatmaydi. Bu ko‘rsatkichlar nvidia-smi’dagi jami xotiraga teng emas va PyTorch allocator’dan tashqarida ajratilgan barcha xotirani qamramaydi. Bitta qisqa test production yuklamasi sig‘ishini isbotlamaydi.

Verum AI: https://verum-ai.uz

Источники / Manbalar · PyTorch https://docs.pytorch.org/docs/stable/generated/torch.cuda.memory.max_memory_allocated.html https://docs.pytorch.org/docs/stable/notes/cuda.html#memory-management

Mistral Small 4: har bir satr uchun reasoning yoqmang

Mistral AI Small 4’ni 2026-yil 16-martda chiqargan; hujjatlarda maqomi GA. Bu 119B parametrli MoE, har token uchun 6,5B faol: kirishda matn va tasvir, chiqishda matn, context 256K, Apache 2.0 litsenziyasidagi ochiq vaznlar.

Amaliy fakt: bitta model har bir so‘rovda reasoning_effort orqali "none" yoki "high" rejimiga o‘tadi. Qisqa hujjatdan maydon ajratish uchun reasoning sarflash shart emas; murakkab tekshiruvni shu modelga boshqa rejimda yuborish mumkin.

Uch qadam 1. Test vazifalarini ajrating: bevosita ma’lumot ajratish va bir nechta bog‘liqlikni tekshirish. Tekshiriladigan to‘g‘ri natijani oldindan belgilang. 2. Oddiy so‘rovlar uchun reasoning_effort="none", temperature=0.1 dan boshlang. Murakkablarini reasoning_effort="high", temperature=0.7 bilan solishtiring: model card high uchun shu temperature’ni tavsiya qiladi. Sozlama prompt ichidagi jumla emas, API parametri sifatida beriladi. 3. Bir xil kirishlarda to‘g‘rilik, to‘liq javob vaqti va output tokens’ni yozib oling. Testda foyda bergan vazifa turlarini high’ga yo‘naltiring. Lokal vLLM uchun rasmiy misoldagi --reasoning-parser mistral ni sozlang.

Cheklov: high haqiqatni kafolatlamaydi, none esa vaznlar hajmini kamaytirmaydi. GPU’ni faqat faol parametrlar emas, butun checkpoint, KV cache va yuklama uchun tanlang. Alohida NVFP4 checkpoint bor; inference xotira budjetini fine-tuning uchun qo‘llab bo‘lmaydi.

Verum AI: https://verum-ai.uz

Источники / Manbalar · Mistral AI https://huggingface.co/mistralai/Mistral-Small-4-119B-2603 https://docs.mistral.ai/models/mistral-small-4-0-26-03

AI 04/07 ni aprel deb o‘qidimi? Sana formatini belgilang

pandas’da dayfirst=True — afzal ko‘riladigan tartib, qat’iy tekshiruv emas. Hisobot uchun bu xavfli: kun va oy almashsa ham, sana yaroqli bo‘lib qolishi mumkin. Savdolar boshqa oyga tushadi.

Qanday qo‘llash kerak 1. Formatni fayl egasidan aniqlang. Faqat 04/07/2026 qatoriga qarab, bu 4-iyulmi yoki 7-aprelmi, bilib bo‘lmaydi. 2. Asl ustunni saqlang va formatni aniq bering. Kun/oy/yil uchun: pd.to_datetime(df["date_raw"], format="%d/%m/%Y", errors="raise") 3. Oylar bo‘yicha guruhlashdan oldin nazorat qatorlarini tekshiring: bu yerda 04/07/2026 → 2026-07-04, 31/02/2026 esa xato berishi kerak. Ikkala holat pandas 3.0.6 da tekshirildi.

Tayyor prompt «date_raw sanalarini tasdiqlangan %d/%m/%Y formatida o‘qi. Aslini saqla. Formatni har bir qatordan taxmin qilma va qiymatlarni indamay tuzatma. Yakuniy hisobdan oldin nazorat misollarini ko‘rsat».

Cheklov: noto‘g‘ri tanlangan format barcha almashishlarni aniqlamaydi. errors="coerce" xatolarni NaT ga aylantiradi, sanalarni tuzatmaydi; bo‘sh qiymatlarni alohida tekshiring.

Verum GPU konfiguratsiyalari katalogi: https://verum-ai.uz Manba: https://pandas.pydata.org/docs/reference/api/pandas.to_datetime.html