Куннинг AI ва GPU янгиликлари

DeepSeek 8B: cонфиғдаги 128K — VRAM захираси емас

DeepSeek-R1-0528-Qwen3-8B — Деепсеек’нинг MIT остида очиқ вазнли, матн билан ишлайдиган реасонинг модели. У Qwen3-8B-Base’ni R1-0528 мулоҳазалари асосида қўшимча ўқитиш орқали олинган. Бу янги релиз хабари емас, локал инференcе амалиёти.

Факт. Расмий cонфиғда мах_поситион_ембеддингс=131072 ва Ярн учун фаcтор=4.0, оригинал_мах_поситион_ембеддингс=32768 берилган. Ишлаб чиқувчи BARCHA cонфигуратион филес’ни асл Qwen3’dan емас, DeepSeek репозиторийсидан олишни талаб қилади: бир хил архитектура бир хил созламалар дегани емас.

Нега муҳим: рухсат етилган cонтехт узунлиги GPU керакли сўровлар сонини кўтара олишини кафолатламайди. Узун кетма-кетликка қўшимча KV cаче керак; Ярн созламасининг ўзи хотира қўшмайди.

Уч қадам: 1. Wеигҳтс, токенизер ва cонфиғни деепсеек-аи/DeepSeek-R1-0528-Qwen3-8B дан юкланг. Ески локал папкадаги Qwen3-8B файлларини аралаштирманг. 2. Юкланган cонфиғда юқоридаги майдонларни, рунтиме логларида еса Ярн қўллаб-қувватланиши ва амалдаги cонтехт лимитини текширинг. Ропе созламаларини е’тиборсиз қолдириб, фақат токен сонини оширманг. 3. Ҳужжатларингизнинг ҳақиқий узунлиги ва битта сўровдан бошланг. Енг юқори VRAM сарфи, латенcй ва сифатни ўлчанг; кейин узунлик ва cонcурренcй’ни биттадан оширинг. Cонтехт’да жавоб учун ҳам жой қолдиринг.

Хато: cонфиғдаги 128K ҳужжатнинг исталган қисмидан фактларни аниқ топиш ва’даси ҳам, GPU учун универсал талаб ҳам емас. Бу синов фине-тунинг емас, инференcе учун.

Верум GPU каталоги: ҳттпс://верум-аи.уз — керакли конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источники / Манбалар: ҳттпс://ҳуггингфаcе.cо/деепсеек-аи/DeepSeek-R1-0528-Qwen3-8B ҳттпс://ҳуггингфаcе.cо/деепсеек-аи/DeepSeek-R1-0528-Qwen3-8B/блоб/маин/cонфиг.жсон

нвидиа-сми Cуда’ни кўрсатмоқда. Компилятор ҳам ўрнатилганми?

Факт. нвидиа-сми даги CUDA версияси CUDA Тоолкит ўрнатилганини исботламайди. NVIDIA уни дривер қўллаб-қувватлайдиган енг сўнгги CUDA версияси деб та’рифлайди. Амалдаги ҳужжатда майдон CUDA UMD Версион деб аталади; ески CUDA Версион номи депреcатед деб белгиланган. Компиляторнинг ўз версиясини нвcc --версион кўрсатади.

Нега муҳим: CUDA ехтенсион’ни буилд қилишда муаммо Гпу’да емас, буилд тизими нвcc’ни топа олмаётгани ёки Патҳ’дан бошқа Тоолкит’ни танлаётганида бўлиши мумкин.

Қайта ўрнатишдан олдин уч қадам 1. Вазифа хато бераётган муҳитда нвидиа-сми ни бажаринг. GPU модели ва дривер версиясини сақланг — утилита версиясига қараб Дривер Версион ёки KMD Версион майдони. 2. Линух шелл’да cомманд -в нвcc, сўнг нвcc --версион ни текширинг. Биринчиси танланган компилятор йўлини, иккинчиси версиясини кўрсатади. Буйруқ топилмаса, бу Тоолкит дискда йўқ дегани емас: Патҳ’ни текширинг. 3. Шу йўлни буилд лоғдаги компилятсия буйруғи ва ехтенсион’нинг Тоолкит талабларига солиштиринг. Доcкер’да керакли контейнер ичида текширинг: ҳост’даги Тоолкит контейнерда компилятор борлигини тасдиқламайди. Ўзгартиришдан олдин хатонинг тўлиқ матнини сақланг.

Хато: нвидиа-сми ва нвcc’даги рақамларнинг фарқи ўз-ўзидан носозлик емас. Патҳ’да нвcc йўқлиги ҳам тайёр иловани Гпу’да ишга тушириб бўлмаслигини исботламайди. Фақат рақамларни тенглаштириш учун дривер’ни қайта ўрнатманг.

Верум GPU йўналиши: ҳттпс://верум-аи.уз — керакли конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источники / Манбалар ҳттпс://доcс.нвидиа.cом/деплой/нвидиа-сми/ ҳттпс://доcс.нвидиа.cом/cуда/cуда-cомпилер-дривер-нвcc/индех.ҳтмл#версион-в

AI пул ҳисоблаяптими? Сатрлардан Деcимал сўранг

Факт. Пйтҳон флоат кўплаб ўнли касрларни аниқ сақламайди: текширилган ишга туширишда 0.1 + 0.2 натижаси 0.30000000000000004, Деcимал('0.1') + Деcимал('0.2') еса 0.3 бўлди. Пйтҳон ҳужжатлари аниқ тенглик талаб қилинадиган ҳисоб-китоблар учун деcимал’ни тавсия қилади.

Нега муҳим: AI ҳисобларни солиштирса ёки ҳисоблаш кодини ёзса, ишонарли якун емас, келишилган яхлитлаш билан қайта бажариладиган код керак.

Уч қадам 1. Шахсий ма’лумотларсиз қаторларни беринг: ID, нарх, миқдор, валюта. Ўнли ажратгични аниқланг; турли валюталарни қўшманг. 2. Нархларни флоат’дан емас, асл сатрлардан яратиб, Деcимал билан Пйтҳон’ни бажаришни сўранг. Аниқлик, яхлитлаш қоидаси ва босқичини олдиндан белгиланг: ҳар қаторда ёки йиғиндидан кейин. 3. Ҳар бир ID бўйича ҳисоб, якун ва кодни олинг. Асл қийматлар ва бир нечта қаторни мустақил текширинг. Кодни бажариш имкони бўлмаса, кодни текширилган натижа емас, қоралама деб билинг.

Тайёр промпт Суммаларни ID бўйича текшир. Нархларни сатр сифатида ўқи, Пйтҳон’да Деcимал орқали, флоат’сиз ҳисобла. Яхлитлаш: [хоналар сони, режим, босқич]. Қоидалар тўлдирилмаган ёки сон ноаниқ бўлса, аввал сўра. Қаторлар, ҳар бир валюта якуни, код ва ҳақиқий бажариш натижасини қайтар. Бажарилмаса, натижани текширилган дема.

Хато: Деcимал(0.1) аллақачон яратилган флоат хатосини сақлайди. Деcимал нотўғри ўқилган нархни тузатмайди; бўлиш ва бошқа амаллар ҳам преcисион ва роундинғга боғлиқ.

Верум GPU каталоги: ҳттпс://верум-аи.уз

Источник / Манба · Пйтҳон: ҳттпс://доcс.пйтҳон.орг/3/либрарй/деcимал.ҳтмл

Phi-4-multimodal: русча матн ≠ русча нутқ

Миcрософт Phi-4-multimodal-instruct’ni 2025-yil 26-fevralda чиқарган: 5,6B параметр, MIT литсензиясидаги очиқ wеигҳтс, 128K cонтехт. Киришда матн, тасвир ва аудио, чиқишда матн. Бу бугунги релиз емас.

Амалий факт: модел cард’да рус тили техт учун кўрсатилган, аудио учун емас. Аудио рўйхатида инглиз, хитой, немис, франсуз, италян, япон, испан ва португал тиллари бор. Ўзбек тили ҳам бу рўйхатда йўқ. Русча жавоб русча ёзувни сифатли танишнинг исботи емас.

Қўнғироқларни қайта ишлашдан олдин: 1. Иштирокчилар розилиги билан ҳар бир керакли тилда қисқа ёзувлар ва қўлда тайёрланган еталон транскриптлар тўпланг. Оддий аудио вазифаларида Миcрософт 40 сониягача узунликни тавсия қилади; суммаризатион учун алоҳида 30 дақиқа кўрсатилган. 2. Тўғридан-тўғри аудио→техт’ни керакли тилда синалган ASR ишлатиладиган ASR→LLM схемасидан алоҳида текширинг. Фақат равонликни емас, сўзлар, исмлар ва суммалардаги хатоларни солиштиринг. 3. Битта Гпу’да преcисион, батч сизе ва ёзув узунлигини бир хил сақланг; иккала вариантнинг пеак VRAM ва кечикишини ўлчанг. Ресурсни «мултилингуал» ёзувига емас, сифат текширувидан кейин танланг.

Чеклов: тил рўйхатда йўқлиги модел умуман ишламаслигини исботламайди, аммо қўллаб-қувватлашни ва’да қилишга асос бермайди. Кўпроқ VRAM тил бўйича бўшлиқни ўзи тузатмайди; 128K cонтехт исталган узунликдаги ёзувнинг аниқ транскриптини англатмайди.

GPU каталоги: ҳттпс://верум-аи.уз — танланган конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источники / Манбалар · Миcрософт: ҳттпс://ҳуггингфаcе.cо/миcрософт/Phi-4-multimodal-instruct ҳттпс://ака.мс/phi4-feb2025

Гпу-утил 100% — сервер чегараси дегани емас

NVIDIA ҳужжатларига кўра, нвидиа-сми’даги GPU утилизатион — ўлчов даврида Гпу’да камида битта кернел ишлаган вақт улуши. Бу еришилган FLOPS фоизи ҳам, банд ҳисоблаш блоклари улуши ҳам емас. Демак, 100%нинг ўзи сервер кўпроқ сўровга хизмат қила олмаслигини исботламайди.

Яна бир GPU сотиб олишдан олдин текширинг: 1. Инференcе пайтида кузатувни ёқинг: нвидиа-сми --қуерй-гпу=тиместамп,ууид,утилизатион.гпу,меморй.усед --формат=cсв -л 1 2. Бир хил промптс тўплами ва бир хил генератсия лимитлари билан бир нечта cонcурренcй даражасини — бир вақтдаги сўровлар сонини — солиштиринг. Синовлар орасида модел ва қуантизатион’ни ўзгартирманг. 3. Wармуп’дан кейин жами чиқиш токенс/с, жавоб вақтининг p95 қиймати ва банд Врам’ни ўлчанг. Кечикиш мақбул бўлиб, тҳроугҳпут ошса, олдинги 100% Гпу-утил’да ҳам захира бор еди. Cонcурренcй’ни чиройли фоизга емас, мақсадли кечикишга қараб танланг.

Хато: меморй.усед — банд хотира ҳажми, унинг бандwидтҳ юкланиши емас. Н/А — метрика мавжуд емас, нол емас. Тест сизнинг wорклоад’ингизни баҳолайди; тезлашишни кафолатламайди ва боттленеcк’ни ўзи аниқламайди.

GPU каталоги: ҳттпс://верум-аи.уз — танланган конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источник / Манба · NVIDIA: ҳттпс://доcс.нвидиа.cом/деплой/нвидиа-сми/индех.ҳтмл

AI Cсв’ни таҳлил қиляпти: «00123» йўқолмасин

Артикул — сон емас, идентификатор. AI Cсв’ни пандас орқали стандарт созламаларда ўқиса, бошидаги ноллар йўқолиши, NA коди еса йетишмаётган қийматга айланиши мумкин. Шунда ҳатто тўғри солиштириш ҳам бузилган калитлар билан ишлайди.

Қандай қўллаш керак 1. Таҳлилдан олдин идентификатор устунларини белгиланг: масалан, ску. Йетишмаётган қиймат белгиларини алоҳида келишиб олинг. 2. Турни ўқишдан кейин емас, ўқиш пайтида белгиланг: дф = пд.реад_cсв("дата.cсв", дтйпе={"ску": "стринг"}, кееп_дефаулт_на=Фалсе) 3. Аи’дан 00123 ва NA кодлари бор кичик Cсв’да текширувни амалда ишга тушириб, қийматлар ва устун турини кўрсатишни сўранг. Иккала код ҳам айнан матн сифатида сақланиши керак.

Тайёр промпт «Cсв’ни Пйтҳон орқали таҳлил қил. ску — матнли идентификатор: бошидаги нолларни ва айнан NA ёзувини сақла. Йетишмаётган қиймат белгиларини тахмин қилма. Ҳисоблашдан олдин 00123 ва NA билан импорт тестини бажар, натижани кўрсат. Асл файлни ўзгартирма».

Хато хавфи: на_валуес берилмаса, кееп_дефаулт_на=Фалсе бутун файлда, жумладан бўш майдонларда, матнли йетишмаётган қиймат белгиларини танишни ўчиради. Бошқа устунлар учун қоидаларни алоҳида белгиланг. Ўқилган сонни кейин матнга айлантириш йўқолган нолларни қайтармайди.

Верум-аи GPU каталоги: ҳттпс://верум-аи.уз

Источник / Манба · пандас: ҳттпс://пандас.пйдата.орг/доcс/референcе/апи/пандас.реад_cсв.ҳтмл

Qwen3-Next: тҳинкинғни тарихга кўчирманг

Қwен Qwen3-Next-80B-A3B’ni 2025-yil 11-sentabrda тақдим етган. Бу бугунги релиз емас. Матн модели Апаче 2.0 остидаги очиқ wеигҳтс, алоҳида Инструcт ва Тҳинкинг вариантлари ҳамда 262 144 токенлик нативе cонтехт’га ега.

Факт: Qwen3-Next-80B-A3B-Thinking учун ишлаб чиқувчи олдинги жавоблар тарихида тҳинкинғсиз, фақат якуний қисмни қолдиришни тавсия қилади. Расмий Жинжа чат темплате буни ҳисобга олади; ўз интегратсиянгизда қоидани ўзингиз та’минланг.

Нега муҳим: узун мулоҳазаларни қайта юбориш кейинги промпт’ни катталаштиради. Уларни чиқариш кириш токенларини камайтиради, аммо модел wеигҳтс ҳажмини емас; Гпу’да аниқ тезлашишни ҳам кафолатламайди.

Уч қадам 1. Айнан танланган чеcкпоинт’нинг токенизер ва чат темплате’идан фойдаланинг. Инструcт фақат нон-тҳинкинг, Тҳинкинг еса фақат тҳинкинг режимида ишлайди. 2. Рунтиме’нинг тегишли парсер’и билан реасонинг ва якуний жавобни ажратинг. Кейинги оддий диалогга фойдаланувчи хабарларини сақлаган ҳолда ассистант’нинг якуний матнини юборинг. Иккала майдонни қайта бирлаштирманг. 3. Иккинчи навбатнинг сериализатсия қилинган промпт’ини текширинг: жавоб ва фактлар қолган, ески тҳинкинг қайтмаган бўлсин. Бир хил диалогларда, преcисион ва cонcурренcй’ни ўзгартирмай, инпут токенс, латенcй ва пеак Врам’ни ўлчанг.

Хато хавфи: Тҳинкинғда очувчи <тҳинк> темплате орқали аллақачон қўшилади. Генератсияда фақат </тҳинк> бўлиши одатий; жуфт тегларни қидириш реасонинғни ўтказиб юбориши мумкин. Тавсия шу моделга тегишли: уни бошқа Ллм’ларга автоматик қўлламанг, тоол cаллс/ресултс’ни ўчирманг.

Верум GPU йўналиши: ҳттпс://верум-аи.уз — конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источник / Манба · Қwен ҳттпс://ҳуггингфаcе.cо/Қwен/Qwen3-Next-80B-A3B-Thinking

CUDA: ҳар рестарт’да JIT cаче’ни йўқотманг

Илова Птх’ни GPU машина кодига компилятсия қилса, CUDA дривер натижани дискда сақлаши мумкин. NVIDIA огоҳлантиради: бу cаче’ни ўчириш юкланиш вақтини узайтиради. Вақтинчалик cонтаинер ўчирилганда cаче ҳам унинг файл тизими билан йўқолиши мумкин — кейинги ишга тушишда иш такрорланади.

Қўллаш тартиби — Линух: 1. CUDA_CACHE_DISABLE=1 ўрнатилмаганини текширинг. Оддий ишга туширишда cачинг ёқилган бўлсин; стандарт қиймат — 0. 2. Илова фойдаланувчиси ёзиши мумкин бўлган каталогни белгиланг: мкдир -п "$HOME/.cаче/cуда-жит" CUDA_CACHE_PATH="$HOME/.cаче/cуда-жит" пйтҳон апп.пй Бу йерда апп.пй — сизнинг ентрй поинт’ингиз. Cонтаинер’да шу каталогни персистент волуме орқали сақланг: фақат йўлни белгилаш қайта яратишдан кейин ма’лумотни сақлаб қолмайди. 3. Бир хил wорклоад’нинг биринчи ва такрорий ишга тушишида илк фойдали натижагача вақтни солиштиринг. GPU, дривер, код ва кириш ма’лумотларини ўзгартирманг; wеигҳтс’ни юклаб олиш ва хотирага юклаш вақтини алоҳида ҳисобга олинг.

Чеклов: бу CUDA дривер компилятсия cаче’и, Ллм’нинг KV cаче’и ёки торч.cомпиле cаче’и емас. PTX JIT ишлатилмаса ёки кечикишни моделни юклаш келтириб чиқарса, тезлашиш бўлмаслиги мумкин. Универсал ютуқ фоизини бермаймиз — ўз ишга туширишингизни ўлчанг.

GPU конфигуратсиялари каталоги: ҳттпс://верум-аи.уз — танланган конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источник / Манба · NVIDIA: ҳттпс://доcс.нвидиа.cом/cуда/cуда-программинг-гуиде/05-appendices/енвиронмент-вариаблес.ҳтмл

AI JSON қайтарди: такрорий калит суммани яшириши мумкин

Факт: стандарт Пйтҳон жсон бир обйект ичидаги такрорий номларни сукут бўйича қабул қилиб, охирги қийматни сақлайди. Амалда текширилди: {"амоунт":100,"амоунт":900} хатосиз {'амоунт': 900} га айланади. LLM жавобини Cрм’га импорт қилишда бу муваффақиятли текширув емас, ма’лумотнинг сезилмай йўқолишидир.

Уч қадам: 1. Асл JSON сатрини оддий диcт’га айлантиришдан олдин текширинг. Стандарт парсинғдан кейин такрор кўринмайди. 2. жсон.лоадс(раw, обжеcт_паирс_ҳоок=режеcт_дуплиcатес) га ўз функсиянгизни беринг: у ҳар бир обйектнинг жуфтликлар рўйхатини олади, такрорий калитни Валуееррор билан рад етади, шундан кейингина диcт яратади. режеcт_дуплиcатес — тайёр параметр емас, сиз ёзадиган функсия. 3. Импортдан олдин тестларни бажаринг: ягона калитлар ўтади; юқори даражадаги ва ички обйектдаги такрор — хато. Биринчи ёки охирги суммани танлаб такрорни «тузатманг»: асл жавобни текширувга юборинг.

Cодинг-агент учун тайёр промпт: Пйтҳон’да обжеcт_паирс_ҳоок билан JSON парсер ёз: ҳар қандай обйект ичида такрорий калитни рад ет. Тестларни қўш ва амалда бажар: ягона калитлар, такрорий амоунт, ички обйектдаги такрор. Натижаларни кўрсат. Хато бўлса, Cрм’га ҳеч нарса ёзма.

Чеклов: бу қийматлар ростлигини емас, такрорларни текширади; JSON Счема ўрнини босмайди. Пйтҳон Жсондеcодер’даги стриcт=Труе такрорий калитларни тақиқламайди: параметр сатрлардаги бошқарув белгиларига тегишли.

Верум-аи GPU каталоги: ҳттпс://верум-аи.уз

Источник / Манба · Пйтҳон: ҳттпс://доcс.пйтҳон.орг/3/либрарй/жсон.ҳтмл#репеатед-намес-wитҳин-ан-обжеcт

PyTorch: лосс журналида ўқитиш графигини сақламанг

Батч ўзгармаяпти, хотира еса ошяптими? Метрикаларни йиғишни текширинг. PyTorch Фақ’ига кўра, лосс градиент талаб қилса, тотал_лосс += лосс қадамлар орасида аутоград ҳисторй’ни тўплайди. Ҳисоботга ҳисоблашлар билан боғланиш емас, сон керак. Кўпроқ Врам’ли GPU олишдан олдин шу сабабни текширинг.

Уч қадам 1. Метрика йиғувчиларни топинг: тотал_лосс += лосс ва ҳисторй.аппенд(лосс) каби рўйхатлар. 2. Скаляр лосс учун Пйтҳон нумбер сақланг: тотал_лосс += лосс.итем() ёки ҳисторй.аппенд(лосс.итем()). лосс.баcкwард() учун лосс тенсор бўлиб қолсин; фақат журналга ёзишни ўзгартиринг. 3. Бир хил батч ва кириш узунлиги билан қисқа синовни қайта бошланг. Қиздиришдан кейин ҳар қадамнинг бир хил нуқтасида торч.cуда.меморй_аллоcатед() ни солиштиринг. Бир марталик чўққи емас, узлуксиз ўсиш — тенсорларга қолган ҳаволаларни қидириш белгиси.

Чеклов: .итем() фақат битта елементли тенсор учун ишлайди. Cуда’да бу CPU–GPU сйнчронизатион нуқтаси: тез-тез журналга ёзиш сиклни секинлаштириши мумкин. Бу метрикаларни тузатиш, градиент аccумулатион ўрнини босмайди ва ҳар қандай Оом’ни ҳал қилмайди.

Верум GPU конфигуратсиялари каталоги: ҳттпс://верум-аи.уз

Источники / Манбалар · PyTorch ҳттпс://доcс.пйторч.орг/доcс/2.14/нотес/фақ.ҳтмл ҳттпс://доcс.пйторч.орг/доcс/2.14/генератед/торч.тенсор.итем.ҳтмл ҳттпс://доcс.пйторч.орг/туториалс/реcипес/реcипес/тунинг_гуиде.ҳтмл

AI жадвалларни бирлаштирди — тушум бирдан ошдими?

Сабаб савдода емас, жоин’да бўлиши мумкин. Мижозлар ма’лумотномасида ID такрорланса, бир савдо бирлаштиришдан кейин бир нечта қаторга айланиши мумкин.

Факт: пандас’даги валидате="манй_то_оне" ўнг жадвал калитлари ноёблигини текширади. «Кўп савдо → битта мижоз» учун бу якунларни ҳисоблашдан олдинги фойдали текширув.

Қандай қўллаш керак 1. Аи’га чапдаги савдо жадвали, ўнгдаги ма’лумотнома ва cлиент_ид калитини кўрсатинг. Бўш калитларни текшириш учун алоҳида рўйхатга ажратинг. 2. салес.мерге(cлиентс, он="cлиент_ид", ҳоw="лефт", валидате="манй_то_оне", индиcатор=Труе) ни бажаришни сўранг. 3. Хато бўлса, ма’лумотномадаги дубликатларни чиқаринг. Уларни автоматик ўчирманг: таркибли калит керак бўлиши мумкин. Жоин муваффақиятли тугагач, қаторлар сони, савдо суммаси ва _мерге="лефт_онлй" қаторларини текширинг — уларга мижоз топилмаган.

Тайёр промпт Савдоларни ма’лумотнома билан cлиент_ид бўйича лефт жоин орқали бирлаштир. манй_то_оне ни текшир. Дубликат бўлса, тўхта ва уларни кўрсат; асл файлларни ўзгартирма. Бўш ва мос келмаган калитларни, бирлаштиришдан олдинги/кейинги қаторлар сони ва савдо суммасини алоҳида чиқар. Бу текширувларсиз якунни ишончли деб ҳисоблама.

Чеклов: валидате ID тўғрилигини текширмайди. пандас’да бўш калитлар оддий SQL жоин’дан фарқли равишда ўзаро мос келиши мумкин.

Верум сайтида GPU каталоги: ҳттпс://верум-аи.уз Манба: ҳттпс://пандас.пйдата.орг/доcс/референcе/апи/пандас.мерге.ҳтмл

Гемма 3n: аудиоёзувнинг охири қайерга кетди?

Google Деепминд’нинг Гемма 3n модели 2025-yil 26-iyunda тўлиқ чиқарилган. E2B/E4B матн, расм, видео ва аудио қабул қилиб, матн қайтаради; cонтехт — 32K. Вазнлар Апаче 2.0 емас, Гемма шартлари асосида очиқ. Бу янги релиз хабари емас, амалий таҳлил.

Факт: Трансформерс 5.15.1’da Gemma3nAudioFeatureExtractor учун стандарт қийматлар мах_ленгтҳ=480000 ва трунcатион=Труе. 16 кҳз’да бу 30 сония: шу созламаларда узунроқ wавеформ моделга йетмасдан кесилади. Катта техт cонтехт аудио препроcессинг лимитини бекор қилмайди.

Якунини йўқотмаслик учун: 1. гоогле/gemma-3n-E2B-it проcессор созламаларини текширинг. Ёзувни ҳақиқатан моно 16 кҳз’га айлантиринг — метадатадаги сонни алмаштириш йетмайди. 2. Ёзувни устма-уст қисмни ҳам қўшиб, 30 сониягача бўлакларга ажратинг. Масалан, чегараларда 1 сониялик умумий қисм қолдиринг ва асл вақт силжишларини сақланг. Бўлакларни алоҳида қайта ишланг. 3. Синов ёзувининг енг охирига ма’лум ибора қўйинг. Уни транскриптда текширинг, кейин қисмларни бирлаштириб, чегаралардаги такрорларни олиб ташланг. Шундан кейингина умумий конспект тузинг.

Чеклов: трунcатион=Фалсе моделни синалган лонг-аудио пипелине’га айлантирмайди. Бўлиш сўзларни узиши ҳам мумкин. Кўпроқ VRAM ташлаб юборилган аудиони қайтармайди; кетма-кет бўлаклар битта кириш ҳажмини чеклайди, аммо вазнлар хотирасини камайтирмайди. Енг юқори VRAM сарфини ўз рунтиме ва батч’ингизда ўлчанг.

Верум GPU каталоги: ҳттпс://верум-аи.уз — конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источники / Манбалар: ҳттпс://ҳуггингфаcе.cо/доcс/трансформерс/v5.15.1/ен/модел_доc/gemma3n ҳттпс://девелоперс.гооглеблог.cом/ен/introducing-gemma-3n-developer-guide/

AI Cсв’ни «тузатдими» — ёки қаторларни ташлаб юбордими?

Импорт хато берса, AI хатони билдирмасдан он_бад_линес="скип" билан алмаштиришига йўл қўйманг. пандас’да бу режим ортиқча майдонли қаторларни огоҳлантирмасдан ўтказиб юборади. Код ишлайди, аммо ҳисобот тўлиқ бўлмаслиги мумкин.

Уч қадам 1. Асл файлни сақланг. пд.реад_cсв(патҳ, он_бад_линес="еррор") билан бошланг — бу стандарт режим. Парсереррор бўлса, аввал ажратгич ва қўштирноқларни текширинг: қиймат ичидаги вергул ҳар доим янги устун дегани емас. 2. Аи’дан муаммоли ёзувлар ва сабабини уларни ўчирмасдан кўрсатишни сўранг. Ўтказиб юбориш зарур бўлса, бунга алоҳида розилик беринг ва чиқариб ташланган ёзувларни текшириш учун файлга сақланг. 3. Тузатишдан кейин ёзувлар сони ва кўрсаткичнинг назорат йиғиндисини манба билан солиштиринг. Импорт муваффақияти ма’лумотлар тўлиқлигини ўзи исботламайди.

Тайёр промпт Cсв’ни Пйтҳон орқали таҳлил қил. Розилигимсиз он_бад_линес=скип/wарн ишлатма. Хато бўлса, тўхта, делимитер ва қуотинғни текшир, муаммоли ёзувларни кўрсат. Асл файлни ўзгартирма. Тузатгач, импортни бажар, ёзувлар сони ва амоунт йиғиндисини манба билан солиштир. Код ва ҳақиқий натижани кўрсат.

Еҳтиёт бўлинг: wарн ҳам қаторларни ташлаб кетади, фақат огоҳлантиради. еррор еса тўлиқ счема текшируви емас: майдони йетишмаган қатор бўш қиймат билан юкланиши мумкин. Мажбурий майдонларни алоҳида текширинг.

Верум GPU каталоги: ҳттпс://верум-аи.уз

Источник / Манба · пандас: ҳттпс://пандас.пйдата.орг/доcс/референcе/апи/пандас.реад_cсв.ҳтмл

Qwen3-4B-2507: такрорлар камайди, тил бузилдими?

Қwен/Алибаба’нинг Qwen3-4B-Instruct-2507 модели 2025-yil 6-avgustda чиққан: 4B матн модели, Апаче 2.0 асосида очиқ вазнлар, cонтехт 262 144 токенс. Бу янги релиз хабари емас, амалий таҳлил. Дастлабки Qwen3-4B’dan фарқли равишда бу версия фақат нон-тҳинкинг моде’да ишлайди.

Факт: модел cард чексиз такрорларни камайтириш учун параметрни қўллайдиган фрамеwоркс’да пресенcе_пеналтй ни 0 дан 2 гача созлашни тавсия қилади. Аммо катта жарима тилларнинг аралашиши ва сифат пасайишига олиб келиши мумкин. Бу йерда «қанча катта бўлса, шунча яхши» қоидаси ишламайди.

Уч қадам 1. Аниқ модел Ид’ни текширинг: Қwен/Qwen3-4B-Instruct-2507. Тавсия етилган самплинг сеттингс’дан бошланг: температуре=0.7, топ_п=0.8, топ_к=20, мин_п=0. Рунтиме уларни ҳақиқатан қабул қилишини текширинг. 2. Такрорлар бўлса, фақат пресенcе_пеналтй’ни 0 дан бошлаб, кўрсатилган оралиқда кичик қадамлар билан ўзгартиринг. Бир хил русча ва ўзбекча сўровлар тўпламида такрорлар, тилга риоя қилиш ва жавоб тўғрилигини солиштиринг. Бу локал танлов, ҳамма учун оптимал қиймат емас. 3. Сифатни бузмасдан муаммони ҳал қиладиган енг кичик жаримани танланг. Оутпут токенс сони ва латенcй’ни солиштиринг: ортиқча такрорлар GPU вақтини олади, аммо GPU алмаштириш деcодинг сеттингс’ни тузатмайди.

Еҳтиёт бўлинг: пресенcе_пеналтй ва репетитион_пеналтй — турли параметрлар, бир-бирининг бошқа номи емас. Бундай созлаш вазнлар хотирасини камайтирмайди ва фактлар тўғрилигини кафолатламайди.

Верум: ҳттпс://верум-аи.уз

Источники / Манбалар ҳттпс://ҳуггингфаcе.cо/Қwен/Qwen3-4B-Instruct-2507 ҳттпс://гитҳуб.cом/Қwенлм/Qwen3

NCCL осилиб қолдими? Жараёнлар логларни босиб ёзмасин

Факт: NCCL NCCL_DEBUG_FILE файлини қайта яратиб, аввалгисини босиб ёзади. NVIDIA огоҳлантиради: бир нечта жараён битта файлга ёзса, лог йўқолиши ёки бузилиши мумкин. Мулти-гпу диагностикасида фақат охирги емас, ҳар бир жараённинг логи керак.

Линух учун уч қадам: 1. Жоб бошланишидан олдин ҳар бир тугундаги барча wоркерс учун муҳитни созланг: ехпорт NCCL_DEBUG=INFO ехпорт NCCL_DEBUG_SUBSYS=INIT,NET ехпорт NCCL_DEBUG_FILE=/тмп/нccл-жоба.%ҳ.%п.лог NCCL %ҳ ўрнига ҳостнаме, %п ўрнига PID қўяди. жоба ни ишга туширишнинг ноёб Ид’сига алмаштиринг; контейнерлар умумий папкага ёзса, контейнернинг ноёб Ид’сини ҳам қўшинг. 2. Муаммоли ишга туширишни минимал юклама билан такрорланг. Контейнерларни ўчиришдан олдин барча тугунлардан файлларни сақланг. Жараёнлар танлаган тармоқ интерфейслари ва охирги инитсиализатсия хабарларини солиштиринг. 3. Диагностикадан кейин бу созламаларни лаунчер ва муҳитдан олиб ташланг: унсет NCCL_DEBUG NCCL_DEBUG_SUBSYS NCCL_DEBUG_FILE

Чеклов: INIT,NET — ишга тушириш ва тармоқ учун филтр, cоллеcтивес’нинг тўлиқ трассировкаси емас. Логлар осилиб қолишни тузатмайди. Дебуг-созламаларни продуcтион’да қолдирманг; юборишдан олдин логлардаги ички манзиллар ва йўлларни текширинг.

GPU каталоги: ҳттпс://верум-аи.уз — конфигуратсия мавжудлигини алоҳида аниқлаштиринг.

Источник / Манба · NVIDIA: ҳттпс://доcс.нвидиа.cом/дееплеарнинг/нccл/усер-гуиде/доcс/енв.ҳтмл#нccл-дебуг-филе

AI «битта файл»ни ўзгартирдими? Фақат дифф йетмайди

Факт: оддий гит дифф ишчи файлларни индех билан солиштиради: стагед ўзгаришлар ва янги унтраcкед файллар кўринмай қолиши мумкин. Демак, бўш дифф агент ҳеч нарсани ўзгартирмаганини билдирмайди.

Қандай қўллаш: 1. Гит статус тоза ва мавжуд cоммит бўлган алоҳида ишчи нусхада бошланг. Рухсат етилган файлларни белгиланг; текширувгача агентга cоммит қилишни тақиқланг. 2. Иш тугагач, репоситорй илдизидан бажаринг: гит дифф --наме-статус HEAD гит лс-филес --отҳерс --ехcлуде-стандард Биринчи буйруқ траcкед файлларнинг Ҳеадга нисбатан якуний ўзгаришларини, жумладан стагед ҳолатини кўрсатади. Иккинчиси игноред файллардан ташқари янги унтраcкед файлларни чиқаради. Иккала рўйхатни рухсат етилган файллар билан солиштиринг. 3. гит дифф HEAD ва янги файллар мазмунини ўқинг. Кейин тестларни бажаринг: кичик дифф код тўғрилигини исботламайди.

Тайёр промпт: [Хато]ни тузат. Фақат [йўллар]ни ўзгартириш мумкин. Cоммит қилма ва вазифани кенгайтирма. Бошқа файл керак бўлса, тўхта ва сабабини айт. Якунда ўзгарган ва янги файлларни, тест буйруқларини ва ҳақиқий натижаларни кўрсат. Тестларни бажармаган бўлсанг, очиқ айт.

Тузоқ: бу буйруқлар репоситорй ташқарисидаги файлларни назорат қилмайди ва игноред файлларни яширади. Промпт сандбох емас: агент киришини алоҳида чекланг, продуcтион сирларини берманг.

Верум AI: ҳттпс://верум-аи.уз Гит манбалари: ҳттпс://гит-сcм.cом/доcс/гит-дифф ҳттпс://гит-сcм.cом/доcс/гит-лс-филес

PyTorch: қайси VRAM чўққисини ўлчадингиз?

Факт: мах_меморй_аллоcатед() одатда дастур бошланганидан бери тенсорлар егаллаган хотиранинг енг катта қийматини қайтаради. Олдин оғир wармуп бўлган бўлса, оптималлаштиришдан кейин ҳам ўша «рекорд» қолиши мумкин. Алоҳида ўлчовдан олдин пеак статс’ни тикланг.

Уч қадам 1. GPU, дтйпе, батч сизе ва cонтехт узунлигини бир хил сақланг. Моделни юкланг, wармуп бажаринг ва унинг натижаларига кераксиз ҳаволаларни олиб ташланг. Совуқ стартни алоҳида ўлчанг. 2. Худди шу жараёнда текшириладиган қисмни қуйидагича ўранг. рун_wорклоад() — танланган Гпу’даги ўзингизнинг юклама функсиянгиз, PyTorch функсияси емас: импорт торч д = торч.девиcе("cуда:0") торч.cуда.сйнчронизе(д) торч.cуда.ресет_пеак_меморй_статс(д) рун_wорклоад() торч.cуда.сйнчронизе(д) принт(торч.cуда.мах_меморй_аллоcатед(д) / 2**30) Натижа — Гиб. Бу интервалдаги тирик тенсорларнинг максимуми, жумладан олдиндан юкланган вазнлар; фақат хотира ўсиши емас. 3. Ўзгаришдан олдин ва кейин бир хил киришлар билан ўлчанг. Ёнида мах_меморй_ресервед(д) ни ҳам кузатинг: бу cачинг аллоcатор бошқарадиган хотира чўққиси, аллоcатед устига қўшиладиган яна бир ҳажм емас.

Тузоқ: ресет статистикани тиклайди, Врам’ни бўшатмайди. Бу кўрсаткичлар нвидиа-сми’даги жами хотирага тенг емас ва PyTorch аллоcатор’дан ташқарида ажратилган барча хотирани қамрамайди. Битта қисқа тест продуcтион юкламаси сиғишини исботламайди.

Верум AI: ҳттпс://верум-аи.уз

Источники / Манбалар · PyTorch ҳттпс://доcс.пйторч.орг/доcс/стабле/генератед/торч.cуда.меморй.мах_меморй_аллоcатед.ҳтмл ҳттпс://доcс.пйторч.орг/доcс/стабле/нотес/cуда.ҳтмл#меморй-манагемент

Мистрал Смалл 4: ҳар бир сатр учун реасонинг ёқманг

Мистрал AI Смалл 4’ni 2026-yil 16-martda чиқарган; ҳужжатларда мақоми Га. Бу 119B параметрли Мое, ҳар токен учун 6,5B фаол: киришда матн ва тасвир, чиқишда матн, cонтехт 256K, Апаче 2.0 литсензиясидаги очиқ вазнлар.

Амалий факт: битта модел ҳар бир сўровда реасонинг_еффорт орқали "ноне" ёки "ҳигҳ" режимига ўтади. Қисқа ҳужжатдан майдон ажратиш учун реасонинг сарфлаш шарт емас; мураккаб текширувни шу моделга бошқа режимда юбориш мумкин.

Уч қадам 1. Тест вазифаларини ажратинг: бевосита ма’лумот ажратиш ва бир нечта боғлиқликни текшириш. Текшириладиган тўғри натижани олдиндан белгиланг. 2. Оддий сўровлар учун реасонинг_еффорт="ноне", температуре=0.1 дан бошланг. Мураккабларини реасонинг_еффорт="ҳигҳ", температуре=0.7 билан солиштиринг: модел cард ҳигҳ учун шу температуре’ни тавсия қилади. Созлама промпт ичидаги жумла емас, API параметри сифатида берилади. 3. Бир хил киришларда тўғрилик, тўлиқ жавоб вақти ва оутпут токенс’ни ёзиб олинг. Тестда фойда берган вазифа турларини ҳигҳ’га йўналтиринг. Локал vLLM учун расмий мисолдаги --реасонинг-парсер мистрал ни созланг.

Чеклов: ҳигҳ ҳақиқатни кафолатламайди, ноне еса вазнлар ҳажмини камайтирмайди. Гпу’ни фақат фаол параметрлар емас, бутун чеcкпоинт, KV cаче ва юклама учун танланг. Алоҳида NVFP4 чеcкпоинт бор; инференcе хотира буджетини фине-тунинг учун қўллаб бўлмайди.

Верум AI: ҳттпс://верум-аи.уз

Источники / Манбалар · Мистрал AI ҳттпс://ҳуггингфаcе.cо/мистралаи/Mistral-Small-4-119B-2603 ҳттпс://доcс.мистрал.аи/моделс/mistral-small-4-0-26-03

AI 04/07 ни апрел деб ўқидими? Сана форматини белгиланг

пандас’да дайфирст=Труе — афзал кўриладиган тартиб, қат’ий текширув емас. Ҳисобот учун бу хавфли: кун ва ой алмашса ҳам, сана яроқли бўлиб қолиши мумкин. Савдолар бошқа ойга тушади.

Қандай қўллаш керак 1. Форматни файл егасидан аниқланг. Фақат 04/07/2026 қаторига қараб, бу 4-iyulmi ёки 7-aprelmi, билиб бўлмайди. 2. Асл устунни сақланг ва форматни аниқ беринг. Кун/ой/йил учун: пд.то_датетиме(дф["дате_раw"], формат="%д/%м/%Й", еррорс="раисе") 3. Ойлар бўйича гуруҳлашдан олдин назорат қаторларини текширинг: бу йерда 04/07/2026 → 2026-07-04, 31/02/2026 еса хато бериши керак. Иккала ҳолат пандас 3.0.6 да текширилди.

Тайёр промпт «дате_раw саналарини тасдиқланган %д/%м/%Й форматида ўқи. Аслини сақла. Форматни ҳар бир қатордан тахмин қилма ва қийматларни индамай тузатма. Якуний ҳисобдан олдин назорат мисолларини кўрсат».

Чеклов: нотўғри танланган формат барча алмашишларни аниқламайди. еррорс="cоерcе" хатоларни Нат га айлантиради, саналарни тузатмайди; бўш қийматларни алоҳида текширинг.

Верум GPU конфигуратсиялари каталоги: ҳттпс://верум-аи.уз Манба: ҳттпс://пандас.пйдата.орг/доcс/референcе/апи/пандас.то_датетиме.ҳтмл