Kalkulator

VRAM modelu

Dobierz wymagany VRAM na podstawie liczby parametrów, kwantyzacji i planowanej długości kontekstu.

Parametry modelu (mld) Precision Bufor KV/cache (%) Dodatkowy margines (%)

Wagi modelu