ローカルLLM GPU・VRAM計算機

モデルとGPUを選ぶと、量子化別の速度と必要VRAMを比較できます。

モデル

GPU構成

選択中GeForce RTX 409024GB / 1,008GB/s

GPU仕様を調整
GB
GB/s
入力長を変更
tokens
tokens

量子化別比較

モデルとGPUを選び、「計算する」を押してください。