Главные новости ИИ и GPU за день

PyTorch: настройка памяти есть, а эффекта нет?

Вы добавили max_split_size_mb из совета про нехватку GPU-памяти, но ошибка осталась. Прежде чем перебирать значения, проверьте, какой механизм выделяет память в вашей программе.

Документация PyTorch уточняет: max_split_size_mb ограничивает дробление крупных блоков только у native allocator. При backend cudaMallocAsync этот параметр игнорируется. Крутить его в таком режиме — всё равно что регулировать отключённый кран.

После import torch добавьте в саму проблемную программу строку print(torch.cuda.memory.get_allocator_backend()). Она покажет активный backend. Если увидите cudaMallocAsync, не тратьте время на подбор max_split_size_mb. Важно проверить именно процесс с вашей задачей, а не отдельный Python с другими настройками.

Это убережёт от бессмысленных экспериментов. Даже для native документация советует этот параметр как крайнюю меру при нехватке памяти и большом количестве неактивных разделённых блоков; возможна потеря скорости.

Сначала проверьте, действует ли настройка в вашем режиме, потом подбирайте значение.

Granite 4.1 3B: multilingual — не любой язык

Вы выбираете небольшую модель для русско-узбекского бота и видите слово multilingual. У IBM Granite 4.1 3B, выпущенной 29 апреля 2026 года, сначала стоит проверить языки, а уже потом подбирать GPU.

В официальной карточке перечислены поддерживаемые языки, но русского и узбекского среди них нет. IBM также предупреждает: качество многоязычных ответов может отличаться от английских. Это не доказательство, что модель совсем не понимает ваш язык, но и не основание обещать клиентам одинаковую точность.

Для первого теста возьмите 20 обезличенных обращений с заранее отмеченным намерением. Добавьте пары «Отмените заказ» / «Заказ не отменяйте» и «Buyurtmani bekor qiling» / «Buyurtmani bekor qilmang». Проверьте, различает ли модель отмену и запрет отмены. Считайте ошибки отдельно по каждому языку при одинаковых настройках; это предложенный тест, а не измеренный результат Granite.

Если качество вас устраивает, переходите к замерам скорости и VRAM под нужное число одновременных запросов. Не выбирайте сервер только по размеру модели. Двадцать обращений — лишь первый фильтр, не подтверждение готовности к работе с клиентами.

Сначала проверьте модель на языке клиентов, потом выбирайте GPU под нагрузку.

ИИ собрал ZIP: архив цел, а все ли файлы на месте?

Вы попросили ИИ собрать отчёт, таблицу и график в один архив. ZIP открывается, помощник пишет «проверено». Но целостность архива и полнота результата — разные проверки.

В Python метод ZipFile.testzip() читает файлы внутри ZIP и проверяет их контрольные суммы CRC и заголовки. Если повреждений не найдено, он возвращает None. Список того, что вы заказали, ему неизвестен. В нашем тесте архив без chart.png прошёл эту проверку: оставшиеся файлы были исправны.

Дайте помощнику с доступом к файлам отдельное условие приёмки: В ZIP должны быть summary.txt, data.csv и chart.png. После создания заново открой именно итоговый архив. Выполни testzip(), сверь namelist() с этим списком. Покажи отсутствующие, лишние и повторяющиеся имена. Не объявляй готовность при расхождениях; если не можешь запустить проверку, скажи об этом.

Задайте ожидаемый список до упаковки, а не составляйте его из готового ZIP. Даже полный набор имён не доказывает, что внутри правильные данные: содержание файлов проверяется отдельно.

Проверяйте не только то, что архив читается, но и то, что он содержит обещанное.