Blenderast
tg2 тыс. подписчиков
Открыть пост ↗
Вице-президент Microsoft написал "диспетчер задач" для видеопамяти
Скотт Хансельман выпустил gputaskman — открытую утилиту, которая в терминале показывает, какой именно процесс съел видеопамять. Диспетчер задач Windows с 2017 года умеет сообщать, что занято, например, 15 ГБ VRAM, но не говорит кем. gputaskman закрывает этот пробел: в стиле htop он выводит процессы, а верхняя панель отслеживает утилизацию, частоты, температуру и энергопотребление. Отдельный фокус — локальный ИИ: утилита распознает загруженную LLM, ее квантизацию, веса и оценивает стоимость KV-кэша, поддерживая Ollama, LM Studio и llama.cpp. Работает на Windows, Linux, WSL и Apple Silicon, с NVIDIA и AMD. Написана на Python, есть портативная сборка, последняя версия — 0.4.0. Хансельман называет проект ранним и экспериментальным, а разбивку по ИИ — оценочной.
Для Linux и MacOS уже существует
Скотт Хансельман выпустил gputaskman — открытую утилиту, которая в терминале показывает, какой именно процесс съел видеопамять. Диспетчер задач Windows с 2017 года умеет сообщать, что занято, например, 15 ГБ VRAM, но не говорит кем. gputaskman закрывает этот пробел: в стиле htop он выводит процессы, а верхняя панель отслеживает утилизацию, частоты, температуру и энергопотребление. Отдельный фокус — локальный ИИ: утилита распознает загруженную LLM, ее квантизацию, веса и оценивает стоимость KV-кэша, поддерживая Ollama, LM Studio и llama.cpp. Работает на Windows, Linux, WSL и Apple Silicon, с NVIDIA и AMD. Написана на Python, есть портативная сборка, последняя версия — 0.4.0. Хансельман называет проект ранним и экспериментальным, а разбивку по ИИ — оценочной.
Для Linux и MacOS уже существует
nvtop, он отлично показывает, сколько памяти занял процесс, но не объясняет, что именно этот процесс делает.
1 картинка
Новый список