Kunning AI va GPU yangiliklari

AI to‘lovlarni birlashtirdi — nega jami kamaydi?

Fakt: SQLite’da UNION natijadagi bir xil satrlarni olib tashlaydi, UNION ALL esa saqlaydi. AI ikkita eksportni faqat summa ustuni bo‘yicha birlashtirsa, har biri 100 bo‘lgan ikki alohida to‘lov bitta satrga aylanishi mumkin. Xato qo‘shishda emas — yozuv oldinroq yo‘qolgan.

Qanday qo‘llash kerak 1. Maqsadni aniqlang: barcha operatsiyalarni saqlashmi yoki noyob qiymatlarni olishmi? Bir eksport satrlarini ikkinchisiga takrorlarni o‘chirmasdan qo‘shish uchun UNION ALL ishlating. 2. AI’dan kichik misolni tekshirishni so‘rang: SELECT 100 AS amount UNION SELECT 100; Bitta satr qaytadi. UNION ALL bilan ikkita; ularning yig‘indisi 100 emas, 200 bo‘ladi. 3. Agregatsiyadan oldin operatsiya ID’si va manbasini saqlang. Satrlar soni va jami summani dastlabki eksportlar bilan solishtiring.

Tayyor prompt: SQLite SQL kodimni birlashtirishda satrlar yo‘qolishi bo‘yicha tekshir. Bir xil qiymatlar va aynan bir operatsiyani farqla. Summasi teng ikki alohida to‘lov uchun test, kutilgan satrlar va jami summani ko‘rsat. Takrorlarni o‘chirish qoidasini asossiz o‘zgartirma.

Tuzoq: eksportlar kesishib, bitta operatsiya ikki marta kelsa, o‘ylamasdan UNION ALL’ga almashtirish jami summani oshiradi. Takrorlarni summa tengligi bo‘yicha emas, kelishilgan operatsiya kaliti bo‘yicha olib tashlang.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · SQLite: https://www.sqlite.org/lang_select.html

GPU yangi epoch’ni kutyaptimi? Workers’ni bekorga qayta ishga tushirmang

Fakt: PyTorch DataLoader’da persistent_workers=True ma’lumotlar to‘liq o‘qib chiqilgandan keyin worker processes va ularning Dataset instances’ini saqlaydi. Default — False. Xuddi shu DataLoader ishlatilsa, keyingi epoch’da workers’ni qayta yaratish shart bo‘lmaydi.

Nega muhim: har bir epoch boshi workers ishga tushishi sabab sekinlashsa, GPU ma’lumotni kutishi mumkin. Kuchliroq karta bu bekor turish sababini yo‘qotmaydi.

Uch qadam: 1. DataLoader’ni bir marta, epoch siklidan oldin yarating. num_workers > 0 bo‘lganda persistent_workers=False va True bilan ikkita alohida run’ni solishtiring. Batch size, transforms va workers sonini o‘zgartirmang. 2. Birinchi va keyingi epochs uchun iterator yaratilishidan birinchi batch olinishigacha vaqtni o‘lchang. To‘liq epoch vaqtini ham alohida solishtiring: tezroq start butun training sezilarli tezlashishini kafolatlamaydi. 3. Epochs orasida host RAM va ma’lumotlar to‘g‘riligini tekshiring. Foyda kerak bo‘lsa va saqlanadigan workers hamda Dataset server xotirasiga sig‘sagina True’ni qoldiring.

Tuzoq: har epoch ichida DataLoader’ni qayta yaratish bu sozlamaning ma’nosini yo‘qotadi. Bu butun dataset cache’i ham, VRAM tejash ham emas: worker state saqlanadi. Dataset holatini epoch bo‘yicha o‘zgartirsangiz, yangilanish worker copies’ga qanday yetib borishini alohida tekshiring; asosiy process’da maydonga oddiy qiymat berish sinxronlash mexanizmi emas.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · PyTorch: https://docs.pytorch.org/docs/2.14/data.html

Jina Reranker v3.5: top_n=3 — «faqat uchtasini qayta ishlash» emas

Jina AI jina-reranker-v3.5 modelini 2026-yil 27-iyulda chiqardi. Bu 0.6B parametrli matnli listwise reranker: qidiruv nomzodlarini tartiblaydi, javob yozmaydi. E’lon qilingan context — 131K tokens gacha; weights, GGUF va MLX mavjud. Weights litsenziyasi — CC BY-NC 4.0, tijoriy foydalanish ruxsati emas.

Amaliy fakt: e’lon qilingan lokal rerank() metodida top_n scores hisoblanib, saralangandan keyin qo‘llanadi. 100 ta hujjatni top_n=3 bilan yuborsangiz, model qolgan 97 tasini o‘tkazib yubormaydi. Natijalar sonini kamaytirish asosiy GPU ishini o‘z-o‘zidan qisqartirmaydi.

Uch qadam: 1. Baseline belgilang: bir xil so‘rovlar, ma’lum relevant hujjatlar va dastlabki qidiruvdan 100 ta nomzod. Bir xil dtype va GPU’da dastlabki uch natija sifatini, latency va eng yuqori VRAM sarfini o‘lchang. 2. Yukni kamaytirish uchun faqat dastlabki 30 ta nomzodni yuborish bilan solishtiring: model.rerank(query, documents[:30], top_n=3). Ro‘yxat fayllarning tasodifiy tartibida emas, dastlabki qidiruv bo‘yicha saralangan bo‘lsin. 3. O‘lchovlarni takrorlang. Sifat yo‘qotilishi maqbul bo‘lsagina kirishni qisqartiring: kerakli hujjat dastlabki 30 talikdan tashqarida qolishi mumkin. Nomzodlar soni bilan birga uzunligini ham cheklang.

Xato: 0.6B har qanday context’da bir xil VRAM sarfini kafolatlamaydi. GPU’ni haqiqiy kirish uzunligi va parallel yuk bo‘yicha tanlang. Tijoriy joriy etish uchun litsenziyani Jina AI bilan alohida kelishing. Bu inference uchun maslahat, training uchun emas.

Loyiha sayti: https://verum-ai.uz

Manbalar / Источники: https://jina.ai/en-US/models/jina-reranker-v3.5 https://huggingface.co/jinaai/jina-reranker-v3.5/blob/main/modeling.py

AI 1000 ta yozuv so‘radi, 100 tasini oldi va «jami» dedimi?

Fakt: GitHub REST API’da per_page butun eksportni emas, sahifa hajmini belgilaydi. Rasmiy hujjatga ko‘ra, ko‘pchilik endpoints uchun maksimum — 100. Limitdan ko‘p so‘ralsa, GitHub qiymatni xatosiz kamaytiradi. Muvaffaqiyatli HTTP javob hisobot to‘liqligini isbotlamaydi.

Qanday qo‘llash kerak 1. Yig‘ishdan oldin endpoint, filtrlar va davrni belgilang. Uning per_page limitini tekshiring; sahifalarni o‘tishni per_page=1000 bilan almashtirmang. 2. Har bir muvaffaqiyatli javobdan keyin yozuvlarni saqlang va Link header’dagi rel="next" URL’iga o‘ting. Last havolasi bo‘lmasligi mumkin — bu keyingi sahifa yo‘q degani emas. 3. Natijada olingan sahifalar, dastlabki yozuvlar va noyob ID sonini ko‘rsating. Oddiy paginated list uchun tugash belgisi — next’siz muvaffaqiyatli oxirgi sahifa. Xato yoki rate limit bo‘lsa, eksportni «jami topildi» emas, qisman deb belgilang.

Tayyor prompt: Shu GitHub REST endpoint’dan ma’lumot yig‘: [URL]. Filtrlar: [shartlar]. Link rel="next" orqali sahifalarni o‘t, har birining natijasini saqla. Sahifalar, yozuvlar va noyob ID sonini hamda to‘xtash sababini ko‘rsat. Qisman eksportni to‘liq deb berma; so‘rovlar bajarilmagan bo‘lsa, ochiq ayt.

Tuzoq: barcha sahifalarni olish snapshot yaratmaydi: yig‘ish paytida ma’lumotlar o‘zgarishi mumkin. ID bo‘yicha takrorlarni olib tashlash yozuvlar tushib qolmaganini isbotlamaydi. Muhim hisobot uchun belgilangan davr bo‘yicha alohida solishtirish kerak. Loyiha sayti: https://verum-ai.uz

Источник / Manba · GitHub: https://docs.github.com/en/rest/using-the-rest-api/using-pagination-in-the-rest-api

GPU kutyapti, CPU esa band: threads sonini tekshiring

Fakt: har bir PyTorch jarayoni juda ko‘p threads ishga tushirsa, bir nechta jarayon CPU uchun raqobatlashadi. Bu CPU oversubscription: almashishlarga vaqt ketadi, ko‘proq parallelizm esa ko‘proq foydali ish degani emas.

Nega muhim: pipeline’ning CPU qismi ma’lumot tayyorlashga ulgurmasa, kuchliroq GPU sotib olish shu kutish sababini yo‘qotmaydi.

Amaliy qadamlar: 1. Vazifaga ajratilgan N vCPU budjeti va bir vaqtda ishlaydigan M jarayon sonini aniqlang. Faqat butun serverni emas, konteyner limitlarini ham hisobga oling. DataLoader va boshqa xizmatlar uchun zaxira qoldiring. 2. Har bir PyTorch jarayonida hisoblashdan oldin torch.set_num_threads(T) ni belgilang. Hujjatdagi boshlang‘ich qoida — T ko‘pi bilan N/M ning butun qismi; bu budjet, optimal tezlik va’dasi emas. Jarayonlar vCPU’dan ko‘p bo‘lsa, avval ularning sonini kamaytiring. 3. Qizdirishdan keyin bir xil ma’lumotlarda dastlabki rejim va kichikroq T qiymatlarini solishtiring: to‘liq batch vaqti, throughput va GPU kutishi. Sozlamani faqat o‘lchangan foyda bo‘lsa saqlang.

Xato: set_num_threads PyTorch’ning CPU intra-op parallelism’ini boshqaradi, CUDA threads yoki tokenizer/boshqa kutubxonalarning barcha oqimlarini emas. CPU yuqori yuklamasining o‘zi oversubscription isboti emas.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar · PyTorch: https://docs.pytorch.org/docs/2.14/notes/multiprocessing.html https://docs.pytorch.org/docs/2.14/generated/torch.set_num_threads.html

Qwen3.5-0.8B: kichik model ham cheksiz o‘ylab qolishi mumkin

Alibaba Qwen bu modelni 02.03.2026 da chiqargan — bugungi yangilik emas. Weights Apache 2.0 ostida ochiq; kirish — matn, rasm va video, chiqish — matn. E’lon qilingan context — 262 144 tokens. Gap Base emas, post-trained versiya haqida.

Fakt: ishlab chiquvchi ogohlantiradi: thinking mode’da aynan 0.8B tavsiya etilgan sampling parameters bilan ham boshqa Qwen3.5 modellarga qaraganda ko‘proq fikrlash sikliga tushadi. Kichik model qisqa javob yoki kam GPU-vaqt sarfini kafolatlamaydi.

Uch qadam: 1. Vazifangizni avval non-thinking’da tekshiring — bu modelning default rejimi. Sifat, generated tokens soni va to‘liq javobgacha vaqtni qayd eting. Thinking’ni faqat mavjudligi uchun yoqmang. 2. Reasoning kerak bo‘lsa, uni backend’ingiz parametrlari orqali yoqib, ayni topshiriqlarda solishtiring. Output tokens va so‘rov vaqtiga limit qo‘ying; qo‘llansa, takrorlarni ko‘rib, qotib qolgan generatsiyani bekor qilish uchun streaming ishlating. Streaming o‘zi siklni to‘xtatmaydi. 3. GPU tanlashdan oldin ishchi context va batch’da peak VRAM hamda latency’ni o‘lchang. Bekor qilish faqat client oynasini yopmay, serverdagi hisoblashni ham to‘xtatishini tekshiring. Thinking sifatni yaxshilamasa, non-thinking’da qoling.

Tuzoq: token budget’ni oshirish siklni faqat uzaytirishi mumkin. Rasmiy model card prototiplar va task-specific fine-tuning’ni ko‘zda tutadi; universal minimal VRAM bermaydi. Generatsiya limiti weights xotirasini kamaytirmaydi, kesilgan javobni esa tugallangan deb bo‘lmaydi.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar: https://huggingface.co/Qwen/Qwen3.5-0.8B https://github.com/QwenLM/Qwen3.5

AI .env’ni .gitignore’ga qo‘shdi — sir endi himoyalanganmi?

Fakt: .gitignore Git allaqachon kuzatayotgan fayllarga ta’sir qilmaydi. Shuning uchun coding-agentning «qoida qo‘shdim, endi xavfsiz» javobi yetarli emas: kalitlar bor fayl keyingi commit’ga ham kirishi mumkin.

Commit’dan oldin uch qadam: 1. Sirlar saqlanadigan faylning aniq yo‘lini belgilang. Repository ildizidagi .env uchun ildizdan bajaring: git ls-files -- .env Buyruq mazmunni emas, yo‘lni chiqaradi. .env satri chiqsa, fayl index’da bor: ignore qoidasining o‘zi yetmaydi.

2. Tayyorlangan fayllarning faqat nomlarini tekshiring: git diff --cached --name-only Ular orasida sirlar bor fayl bo‘lsa, commit’ni to‘xtating. «Tekshirish uchun» AI’dan fayl mazmunini chiqarishni so‘ramang.

3. Faylni kuzatishdan chiqarishni alohida kelishing. Sir allaqachon oshkor bo‘lgan bo‘lsa, avval uni bekor qiling yoki almashtiring; tarixni tozalashni avtomatik force push bilan emas, jamoa bilan hal qiling.

Tayyor prompt: Commit’dan oldin [yo‘l] kuzatilayotganini tekshir va faqat staged fayllar nomlarini ko‘rsat. Sirlarni o‘qima va chiqarma. Xavf bo‘lsa to‘xta. Alohida ruxsatsiz commit, push, fayl o‘chirish yoki tarixni qayta yozishni bajarma.

Tuzoq: birinchi buyruqning bo‘sh natijasi boshqa fayllar yoki eski commits’da sir yo‘qligini isbotlamaydi. .gitignore AI’ning faylni o‘qishini ham taqiqlamaydi — kirish huquqi alohida cheklanadi.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar: https://git-scm.com/docs/gitignore https://git-scm.com/docs/git-ls-files https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/removing-sensitive-data-from-a-repository

DDP epoch oxirida qotdimi? Batches sonini solishtiring

Fakt: distributed training’da bir rank boshqalardan oldin ma’lumotni tugatishi mumkin. Boshqa jarayonlar mos collective operations’ni kutishda qoladi. PyTorch DDP’da join() bor; throw_on_early_termination=True rejimi bir rank ma’lumotni tugatganda barcha ranks’da xato chiqaradi.

Nega muhim: aniq xato GPU-vaqtini kutishga sarflamaslikka va nomuvofiq ma’lumot oqimini tarmoq muammosidan ajratishga yordam beradi.

Uch qadam: 1. Har bir rank uchun oxirgi batch raqami va iterator tugaganini lokal logga yozing. Ayniqsa yozuvlarni filtrlashdan keyin amalda ishlangan batches sonini solishtiring. Bunday log uchun siklga yangi all_reduce qo‘shmang. 2. Qisqa tekshiruvda har bir rank’dagi butun training loop’ni with ddp.join(throw_on_early_termination=True): ichiga oling; ddp — DDP-modelingiz. Forward, backward va optimizer.step ichkarida qolsin. Exception’ni saqlab, tekshiruvni muvaffaqiyatsiz deb tugating; xatoni yashirmang. 3. Qadamlar soni farqi tasdiqlansa, sharding, sampler va lokal filtrlarni tekshiring. Tuzatgach, uzoq training’dan oldin test va batches solishtirishni takrorlang.

Tuzoq: oddiy join() uneven inputs bilan ishni davom ettira oladi, lekin SyncBatchNorm yoki o‘zingizning all_reduce kabi qo‘shimcha collectives’dan bexabar. Ular bo‘lsa, hujjat throw_on_early_termination=True ni talab qiladi. Bu fail-fast: ma’lumotni tuzatmaydi va har qanday qotishni bartaraf etmaydi.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · PyTorch: https://docs.pytorch.org/docs/2.14/generated/torch.nn.parallel.DistributedDataParallel.html

Nemotron 3 Nano 4B: FP8 — butun model FP8 degani emas

NVIDIA modelni 16.03.2026 da chiqargan; bu tahlil, bugungi yangilik emas. Matn → matn, context 262K gacha, weights NVIDIA Nemotron Open Model License asosida ochiq. BF16, FP8 va GGUF Q4_K_M mavjud; asosiy ko‘rsatilgan til — English.

Fakt: rasmiy FP8 checkpoint selective quantization ishlatadi. To‘rtta Attention layer va ulardan oldingi to‘rtta Mamba layer BF16’da saqlangan; barcha Mamba layer’lardagi Conv1D ham BF16. Demak, FP8 belgisi har bir komponent BF16’ga nisbatan aynan ikki baravar kam xotira olishini anglatmaydi.

Qanday qo‘llash kerak: 1. Formatni engine va GPU’ga moslang: baseline uchun BF16, alohida taqqoslash uchun rasmiy FP8 yoki GGUF Q4_K_M. Rasmiy FP8 checkpoint’ni barcha qismlarni bir xil dtype’ga o‘tkazib «hammasi FP8»ga aylantirmang. 2. Bir xil prompts, context, batch va javob limitida warm-up’dan keyin peak VRAM va latency’ni o‘lchang. O‘z vazifalaringizda javob sifati va tool arguments to‘g‘riligini tekshiring; thinking mode bir xil bo‘lsin. 3. GPU’ni 4B/FP8 nomiga emas, butun inference’ning eng yuqori xotira sarfiga zaxira qo‘shib tanlang. Cache va runtime buffers’ni hisobga oling. Model card har qanday workload uchun universal minimal VRAM’ni bermaydi.

Tuzoq: NVIDIA tanlangan benchmarks’da FP8 uchun 100% median accuracy recovery bildirgan. Bu muayyan testlar medianasi, har bir javob sifati teng bo‘lishiga va’da emas. RU/UZ uchun o‘z testingiz kerak; fine-tuning xarajatlari bu inference testi bilan o‘lchanmaydi.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar · NVIDIA: https://huggingface.co/blog/nvidia/nemotron-3-nano-4b https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16

AI «tasodifiy» havola yaratdi — uni himoyalangan deb bo‘ladimi?

Fakt: Python’ning standart random generatori security tokens uchun emas, modellashtirish uchun yaratilgan. Parolni tiklash havolasi uchun secrets so‘rang: tartibsiz ko‘ringan satr hali kriptografik jihatdan oldindan aytib bo‘lmasligini anglatmaydi.

Uch qadam: 1. AI’dan faqat token uzunligi tekshiruvini emas, token yaratiladigan joyni topishni so‘rang. U yerda random.choice bo‘lsa, butun tiklash mexanizmini emas, aynan generatorni almashtiring.

2. URL-safe token uchun tasodifiy baytlar sonini aniq belgilang: import secrets token = secrets.token_urlsafe(32) Bu yerda 32 — satr uzunligi emas, tasodifiy baytlar soni. Qisqa havola uchun natijani kesmang.

3. Test muhitida hayot siklini tekshiring: amaldagi token qabul qilinsin, muddati o‘tgani rad etilsin, muvaffaqiyatli tiklashdan keyin qayta ishlatish taqiqlansin. «Satrlar har xil» tekshiruvi generator xavfsizligini isbotlamaydi.

Tayyor prompt: Bu Python kodida password-reset token yaratilishini tekshir. Random emas, secrets.token_urlsafe(32) ishlat. API kontraktini saqla. Amal qilish muddati va bir martalik foydalanish testlarini qo‘shib, bajar. Natijalarni token qiymatlarisiz ko‘rsat; production’ni o‘zgartirma.

Cheklov: secrets butun reset flow uchun emas, tasodifiylik uchun javob beradi. Xavfsiz saqlash, amal qilish muddati va urinishlar cheklovi kerak. Haqiqiy tokenlarni AI chatiga yoki loglarga yubormang.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar: https://docs.python.org/3/library/secrets.html https://cheatsheetseries.owasp.org/cheatsheets/Forgot_Password_Cheat_Sheet.html

MIG: GPU-Util’dagi N/A — nol yuklama emas

Fakt: MIG mode’dagi A100/A30’da NVML va nvidia-smi utilization metrikalarini alohida MIG devices’ga bog‘lashni qo‘llab-quvvatlamaydi. Shuning uchun CUDA vazifasi ishlayotganida ham N/A ko‘rinishi mumkin. NVIDIA MIG monitoring uchun DCGM’ni tavsiya qiladi.

Nega muhim: dashboard «ma’lumot yo‘q»ni 0% bilan almashtirsa, band bo‘lim bo‘shdek ko‘rinadi. Bunday grafik asosida server bekor turibdi yoki GPU’ni o‘chirish kerak degan qaror chiqarib bo‘lmaydi.

Uch qadam: 1. nvidia-smi -L bajaring: GPU, MIG profile va bo‘lim UUID’sini vazifangizga ajratilgan resurs bilan solishtiring. Bu konfiguratsiyani o‘zgartirish emas, ko‘rish buyrug‘i. 2. Metrika yig‘uvchida N/A’ni nol emas, missing/null sifatida saqlang. «Past yuklama» va «telemetriya mavjud emas» alerts’ini ajrating. 3. MIG metrikalari uchun mos NVIDIA DCGM versiyasini sozlang. Qisqa test yuklamasida aynan kerakli instance’ning vaqt qatori o‘zgarayotganini tekshiring; uni ilova ishlashi, masalan tokens/s bilan solishtiring.

Cheklov: mavjud metrikalar GPU, driver va DCGM versiyasiga bog‘liq. Bu yerda A100/A30 haqida gap ketmoqda: cheklovni avtomatik ravishda barcha avlodlarga tatbiq qilmang. Dashboard’da chiroyli foiz ko‘rish uchun MIG’ni o‘chirmang — bu resurslar taqsimotini o‘zgartiradi.

Loyiha sayti: https://verum-ai.uz

Источник / Manba: https://docs.nvidia.com/datacenter/tesla/mig-user-guide/610/getting-started-with-mig.html#monitoring-mig-devices

Nemotron Parse v1.2: eski prompt ishlaydi — ammo yomonroq

NVIDIA bu OCR/VLM modelini 17.02.2026 da chiqargan — bugungi yangilik emas. Kirish: rasm + prompt; chiqish: matn, sinflar va bounding boxes. Weights NVIDIA Nemotron Open Model License asosida ochiq. Bu hujjat parser’i, universal chatbot emas.

Fakt: v1.2 da to‘rtinchi task token majburiy: rasmlar ichidagi matn ajratilsinmi? v1.1 dagi eski prompt xato bermaydi: runtime uni tekshirmaydi, lekin NVIDIA sifat sezilarli pasayishidan ogohlantiradi. Demak, «so‘rov o‘tdi» — migratsiya uchun yetarli test emas.

Uch qadam: 1. Model bilan birga processor va task prompt’ni rasmiy misol asosida yangilang. Rasmlar ichidagi matnni o‘tkazib yuborish uchun: </s><s><predict_bbox><predict_classes><output_markdown><predict_no_text_in_pic> 2. Ichki foto yoki chizmalardagi yozuvlar muhim bo‘lsa, oxirgi token’ni <predict_text_in_pic> bilan almashtiring. Oddiy matn, jadval va rasm bor bitta sahifada ikkala rejimni tekshiring; tushib qolgan qismlar va o‘qish tartibini asl nusxa bilan solishtiring. 3. Keyin latency va peak VRAM’ni o‘lchang: avval batch=1, so‘ng ishchi batch. Rasmlardagi keraksiz matnni tashlab ketish generatsiyani qisqartiradi, weights hajmini emas. Rasmiy misol — CUDA/BF16; A100/H100 minimal konfiguratsiya emas, sinov qurilmalari sifatida ko‘rsatilgan.

Cheklov: bu model card umumiy context limit, minimal VRAM va sonli benchmark natijalarini bermaydi. GPU’ni faqat «1B dan kam parametr»ga qarab tanlamang; xato yo‘qligi aniq OCR isboti emas.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · NVIDIA: https://huggingface.co/nvidia/NVIDIA-Nemotron-Parse-v1.2

AI fayl nomini qidirib, ortiqcha natija topyaptimi?

Fakt: Python regex’da nuqta standart holatda yangi qator belgisidan tashqari istalgan belgini anglatadi. Shuning uchun re.fullmatch("invoice.pdf", name) nafaqat invoice.pdf, balki invoiceXpdf’ni ham qabul qiladi. Kod xatosiz ishlaydi, ammo saralash noto‘g‘ri.

Uch qadam: 1. Vazifani aniqlang: aynan matn mos kelishi kerakmi yoki regex kerakmi? Aniq nom uchun name == target, matn ichidan aynan bo‘lakni izlash uchun target in name oddiyroq. 2. Regex zarur bo‘lsa, kiritiladigan oddiy matn bo‘lagidagi maxsus belgilarni re.escape(target) bilan ekranlang. Butun nom mosligi uchun: re.fullmatch(re.escape(target), name) is not None 3. AI’dan testni bajarishni so‘rang: target = invoice.pdf bo‘lsa, invoice.pdf o‘tsin, invoiceXpdf va invoice.pdf.bak esa o‘tmasin. Lokal Python testida bu variant faqat birinchi nomni qabul qildi.

Tayyor prompt: Bu Python-koddagi qidiruvni tekshir: foydalanuvchi regex emas, aniq nom beradi. Oddiy taqqoslashni afzal ko‘r; regex kerak bo‘lsa, faqat oddiy matn bo‘laklarini ekranla. Bitta mos va ikkita o‘xshash, lekin mos bo‘lmagan holatni test qil. Haqiqiy natijani ko‘rsat, fayllarni o‘zgartirma.

Tuzoq: re.escape — pattern uchun, re.sub’dagi almashtirish satri uchun emas. Butun murakkab regex’ni ekranlash ataylab qo‘yilgan operatorlarni ham oddiy belgilarga aylantiradi.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · Python: https://docs.python.org/3/library/re.html#re.escape

CUDA Graph: nega saqlangan javoblarning hammasi oxirgisiga aylandi?

Fakt: torch.cuda.CUDAGraph qo‘lda ishlatilganda har bir replay ayni output tensor’ni qayta yozadi. Har batch’dan keyin results.append(y) qilinsa, ro‘yxat mustaqil natijalarni emas, havolalarni saqlaydi. Oxirida ularning hammasi so‘nggi javobni ko‘rsatishi mumkin — CUDA xatosisiz.

Nega muhim: inference tezlashadi, ammo sifatni baholash uchun predictions sezdirmay buziladi. GPU tezligini solishtirishdan oldin natijalar saqlanib qolishini tekshiring.

Uch qadam: 1. Capture qilingan graph output’i qayerda saqlanishini toping. Bu natija keyingi replay’dan so‘ng ham kerakmi? 2. Kerak bo‘lsa, capture tashqarisida, replay’dan keyin va navbatdagi ishga tushirishdan oldin nusxa oling: graph.replay() results.append(y.clone()) Bu yerda graph allaqachon capture qilingan, y — uning output’i, results — ro‘yxat. Kirish replay’dan oldin yangilanadi. Bu parcha replay va clone uchun bitta CUDA stream ishlatilishini nazarda tutadi. 3. Ikki xil kirish bering. Saqlangan outputs’ni ayni kirishlardagi oddiy eager inference bilan solishtiring va ikkinchi replay’dan keyin birinchi natija o‘zgarmaganini tekshiring.

Tuzoq: clone qo‘shimcha VRAM va nusxalash vaqtini sarflaydi. Outputs’ni cheksiz yig‘mang; ishlovdan keyin bo‘shating. Bir nechta streams uchun aniq bog‘liqliklar kerak — clone’ning o‘zi race condition’ni bartaraf etmaydi.

Loyiha sayti: https://verum-ai.uz

Источник / Manba · NVIDIA: https://docs.nvidia.com/dl-cuda-graph/troubleshooting/numerical-errors.html#output-tensor-reuse

Kimi K2.5: ikkita RTX 4090 — butun server emas

Moonshot AI’ning Kimi K2.5 modeli 2026 yilga tegishli, bugungi yangilik emas: kirishda matn, rasm va video, chiqishda matn; context 256K, Thinking/Instant rejimlari. Weights Modified MIT asosida ochiq; rasmiy API ham bor.

Fakt: Moonshot deployment guide’da ikkita RTX 4090’dagi LoRA SFT natijasi Intel 8488C, «1.97T RAM» va «200G swap» bilan birga berilgan. Bu KTransformers ishlatadigan CPU+GPU tizimi misoli, oddiy ikki kartali PC’da modelni o‘qitish va’dasi emas.

Nega muhim: bu MoE modelida jami 1T parametr, faol qismi 32B. Faol parametrlar kamligi qolgan weights’ni saqlash zaruratini yo‘qotmaydi; GPU tejalishi butun server arzon degani emas.

Xariddan oldin uch qadam: 1. Stack versiyasi va vazifani belgilang: inference, LoRA SFT yoki full fine-tuning. Bir vazifa natijasini boshqasiga ko‘chirmang. 2. Aynan o‘z versiyangiz qo‘llanmasini oching. KTransformers 0.7.0.post4’da tekshirilgan matnli LoRA misoli boshqacha: training uchun 8× RTX 5090, inference uchun 4×, ikkita AMD EPYC 9355 va taxminan 1.5 TiB RAM. Bu universal minimum emas, reference konfiguratsiya. 3. Smetaga faqat VRAM emas, CPU, RAM, weights va checkpoints uchun disklarni kiriting. Avval tanlangan qo‘llanma bo‘yicha saqlash va resume’ning qisqa testini bajaring; RAM, VRAM va qadam vaqtini o‘lchang.

Cheklov: e’lon qilingan 44.55 tokens/s sizning workload’ingizga emas, muayyan eski SFT misoliga tegishli. Turli versiyalar ko‘rsatmalarini aralashtirmang. Biz bu training’ni bajarmadik; raqamlar hujjatlardan olingan.

Loyiha sayti: https://verum-ai.uz

Источники / Manbalar: https://huggingface.co/moonshotai/Kimi-K2.5 https://github.com/MoonshotAI/Kimi-K2.5/blob/master/docs/deploy_guidance.md https://github.com/kvcache-ai/ktransformers/blob/main/.github/release/examples/kimi-k25/README.md

AI barcha yozuvlarni tekshirdi — lekin yozuvlar yo‘qmidi?

Fakt: Python’da all([]) qiymati True. Shuning uchun AI yozgan «barcha qatorlar tekshiruvdan o‘tdi» kodi bo‘sh eksportni ham tasdiqlashi mumkin. Bu Python xatosi emas: xato topilmagani ma’lumot borligini isbotlamaydi.

Uch qadam: 1. Shartni belgilang: bu hisobot uchun kamida bitta yozuv kerak. Bo‘sh eksport — alohida «ma’lumot yo‘q» natijasi, «hammasi tekshirildi» emas. 2. Tayyor boolean natijalar ro‘yxatida element borligini alohida tekshiring: ok = bool(checks) and all(checks) Hisobotda tekshirilgan yozuvlar sonini ham ko‘rsating. 3. AI’dan testlarni bajarishni so‘rang. Bizning lokal sinovimizda: [] → False, [True, True] → True, [True, False] → False.

Tayyor prompt: Eksportni tekshiruvchi ushbu Python-kodni tekshir. Shart bo‘yicha bo‘sh to‘plam muvaffaqiyatli tekshiruv hisoblanmaydi. «Ma’lumot yo‘q», «xatolar bor» va «hammasi o‘tdi» holatlarini ajrat. Bo‘sh to‘plam, barcha yozuvlar to‘g‘ri va bitta xato yozuv uchun testlarni bajar. Haqiqiy natija va tekshirilgan yozuvlar sonini ko‘rsat.

Ehtiyot bo‘ling: yuqoridagi misol generator uchun emas, ro‘yxat uchun: hatto bo‘sh generator’da ham bool(...) == True. Oqimda haqiqatda o‘qilgan yozuvlar sonini hisoblang. Vazifa bo‘yicha bo‘sh to‘plamga ruxsat bo‘lsa, uni avtomatik taqiqlamang.

Manba: https://docs.python.org/3/library/functions.html#all Verum AI sayti: https://verum-ai.uz