GPU Taskman Çıktı: VRAM ve Yapay Zeka Bellek Takibi

Bilgisayar donanımı ve yazılım dünyasında ekran kartı bellek tüketimini daha hassas bir şekilde takip etme ihtiyacı, Microsoft ve GitHub bünyesinde görev yapan Scott Hanselman’ın yeni bir açık kaynaklı yardımcı program geliştirmesini sağladı. Standart işletim sistemi araçlarının sunduğu temel verilerin ötesine geçerek işlem bazlı GPU belleği istatistikleri sağlayan bu yeni araç, özellikle yerel yapay zeka modelleri çalıştıran kullanıcıların sistem kaynaklarını derinlemesine incelemesine olanak tanıyor.

Microsoft/GitHub Başkan Yardımcısı ve Teknik Personel Üyesi Scott Hanselman, 3 Kasım tarihinde yaptığı duyuruyla GPU Taskman (gputaskman) adlı projesini paylaştı. Temel olarak işlem bazlı VRAM (ekran kartının üzerindeki özel video belleği) takibi, GPU telemetrisi ve yerel yapay zeka model bellek tüketimi sunan bu terminal tabanlı yardımcı program, sistem yöneticileri ile geliştiricilerin işini kolaylaştırmayı hedefliyor. Yazılım; işletim sistemi GPU sayaçlarını, işlem meta verilerini, model dosyalarını, çalışma zamanı günlüklerini ve yerel API’leri tek bir ekranda birleştiriyor.

GPU Taskman Nasıl Çalışır ve Hangi Özellikleri Sunar?

Geliştirilen bu araç, masaüstü oluşturma süreçleri, web tarayıcıları, oyunlar ve yapay zeka uygulamaları gibi farklı iş yüklerini birbirinden ayırt edebiliyor. Projenin GitHub belgelerine göre desteklenen yapay zeka modellerini, mimarisini, kuantizasyonunu, parametre sayısını, model ağırlıklarını ve KV-önbellek (yapay zeka dil modellerinde üretim hızını artıran anahtar-değer önbelleği) gereksinimlerini belirleyebilen yazılım; llama.cpp, Ollama ve LM Studio gibi popüler yapay zeka çalışma zamanlarını ve uygulamalarını doğrudan tanıyabiliyor. Ayrıca model ağırlıklarına ayrılan belleği, KV önbelleğinden ve hesaplama tamponlarından ayırmaya yardımcı oluyor.

Standart Windows Görev Yöneticisi işlem bazlı GPU belleği istatistikleri sağlar ancak bu araç terminal tabanlı ve çok daha ayrıntılıdır. Aşırı VRAM baskısı, uygulamaların sistem belleğine bağımlılığı artınca takılmalara yol açabileceği için bu detaylı izleme büyük önem taşır.

GPU Taskman teknik özellikleri

v0.3.5 Sürümüyle Gelen Yenilikler ve Sistem Gereksinimleri

Yazılımın en güncel sürümü olan v0.3.5, 10 Kasım tarihinde yayınlandı ve ek yeteneklerle geldi. Linux üzerinde Intel GPU desteği, CPU ve sistem RAM izleme ile ek kayıt seçenekleri bu sürümle birlikte kullanıma sunuldu. MIT lisansı altında dağıtılan program, PyPI veya GitHub üzerinden indirilebiliyor. Bunun yanı sıra Python gerektirmeyen taşınabilir Windows sürümleri de x64 ve ARM64 mimarileri için ayrı ayrı sağlanıyor ve imzasız olarak sunuluyor.

İlk çalıştırma esnasında internet erişimi gerektiren aracın çalışması için minimum Python 3.11+ sürümü ile desteklenen bir GPU sürücü yapılandırması gerekiyor. Windows 10 ile Windows 11 işletim sistemlerinde NVIDIA ve AMD ekran kartlarının yanı sıra Linux, WSL ve Apple Silicon işlemcili macOS sistemleri de desteklenen platformlar arasında yer alıyor.

Kullanım Uyarıları ve Deneysel Sınırlar

Bununla birlikte, aracın sunduğu bazı veriler konusunda dikkatli olunması gerekiyor. Proje geliştiricisi Scott Hanselman, GPU erişimli sistem RAM kullanımının her zaman VRAM taşması anlamına gelmediğini ve yazılımın oyun dokularını tam olarak tanımlayamayacağını vurguluyor. Ayrıca bazı modele özgü değerlerin doğrudan ölçülen VRAM tahsisleri yerine tahmini olduğu belirtiliyor.

AMD cihazlarda Vulkan ve ROCm iş yüklerinin henüz test edilmediği ifade edilirken, yazılımın kendisi hâlâ deneysel aşamada bulunuyor ve bazı izleme özellikleri doğrulama gerektiriyor. Öte yandan bulut hizmetleri, saf CPU ve saf NPU iş yükleri bu aracın kapsamı dışında kalıyor.