本文へ移動
ローカルAI構成ナビ
ダーク
LLMメモリ計算機
LLMメモリ計算機
モデル規模と利用条件から、必要なメモリ容量の目安を計算します。
モデルと実行条件
使う条件を選び、必要量の目安を出します。
モデル規模
7B(70億パラメータ)
32B(320億パラメータ)
70B(700億パラメータ)
カスタム
量子化方式
4bit
INT8
FP16 / BF16
コンテキスト長
4,096 tokens
8,192 tokens
32,768 tokens
131,072 tokens
処理の種類
推論
学習・調整
同時利用人数
人
バッチサイズ
実行環境
NVIDIA GPU VRAM
Mac 統合メモリ
CPU / システムRAM
詳細係数を調整
アーキテクチャ係数
オーバーヘッド係数
必要メモリを計算
リセット
入力すると結果を表示します
条件を入力して計算します。入力値は保存されません。
結果は目安です