ローカルモデル

ローカル LLM 探索

Ollama や llama.cpp でローカル実行可能な29件のオープンウェイトモデル。VRAM やアーキテクチャでフィルタして、手元のハードウェアに合うモデルを探せます。

API モデルへ API コスト計算機

オープンウェイト

パラメータ既知

VRAM 推計あり

クラウドプロキシ

VRAM 分布

≤8 GB

8–16 GB

16–32 GB

32–64 GB

64+ GB

モデル	アーキテクチャ	パラメータ数	精度	最小 VRAM	量子化
mixtral-8x22B-Instruct-v0.1 ollama	Mixtral	141B	FP16	339.9 GB	FP16, INT8, INT4
mistral-large-instruct-2407 ollama	Mistral	123B	FP16	296.7 GB	—
Llama-3.3-70B-Instruct meta_llama	Llama	70B	FP8	85.5 GB	FP8
llama2:70b ollama	Llama	70B	FP16	169.5 GB	—
llama3:70b ollama	Llama	70B	FP16	169.5 GB	—
mixtral-8x7B-Instruct-v0.1 ollama	Mixtral	47B	FP16	114.3 GB	FP16, INT8, INT4
internlm2_5-20b-chat ollama	InternLM2	20B	FP16	49.5 GB	—
Llama-4-Maverick-17B-128E-Instruct-FP8 meta_llama	Llama	17B	FP8	21.9 GB	FP8
Llama-4-Scout-17B-16E-Instruct-FP8 meta_llama	Llama	17B	FP8	21.9 GB	FP8
llama2:13b ollama	Llama	13B	FP16	32.7 GB	—
codegeex4 ollama	CodeGeeX	9B	FP16	23.1 GB	—
Llama-3.3-8B-Instruct meta_llama	Llama	8B	FP8	11.1 GB	FP8
llama3.1 ollama	Llama	8B	FP16	20.7 GB	—
llama3:8b ollama	Llama	8B	FP16	20.7 GB	—
codegemma ollama	CodeGemma	7B	FP16	18.3 GB	—
codellama ollama	CodeLlama	7B	FP16	18.3 GB	—
llama2 ollama	Llama	7B	FP16	18.3 GB	—
llama2-uncensored ollama	Llama	7B	FP16	18.3 GB	—
llama2:7b ollama	Llama	7B	FP16	18.3 GB	—
mistral-7B-Instruct-v0.1 ollama	Mistral	7B	FP16	18.3 GB	—
mistral-7B-Instruct-v0.2 ollama	Mistral	7B	FP16	18.3 GB	—
vicuna ollama	Vicuna	7B	FP16	18.3 GB	—
deepseek-coder-v2-base ollama	DeepSeek	—	FP16	—	—
deepseek-coder-v2-instruct ollama	DeepSeek	—	FP16	—	—
deepseek-coder-v2-lite-base ollama	DeepSeek	—	FP16	—	—
deepseek-coder-v2-lite-instruct ollama	DeepSeek	—	FP16	—	—
llama3 ollama	Llama	—	FP16	—	—
mistral ollama	Mistral	—	FP16	—	—
orca-mini ollama	Orca	—	FP16	—	—

29 件

アーキテクチャフィルタ

クラウドプロキシ経由のモデル

これらの Ollama エントリはクラウドプロキシ経由のルートです（ローカル推論ではありません）。VRAM 推計やローカルモデルのフィルタ対象から除外しています。

モデル	アーキテクチャ	パラメータ数
deepseek-v3.1:671b-cloud ollama	DeepSeek	671B
gpt-oss:120b-cloud ollama	GPT	120B
gpt-oss:20b-cloud ollama	GPT	20B
qwen3-coder:480b-cloud ollama	Qwen	480B

VRAM 推計について

VRAM 推計は params × bytes_per_param × 1.2 + 1.5 GB（KV キャッシュバッファ）の式を使用しています。実際の要件は推論エンジン、バッチサイズ、コンテキスト長によって異なります。モデルルーティングガイドでコスト最適化戦略を確認するか、計算機で API コストを見積もるか、ローカル vs クラウドの費用比較でどちらが適しているか確認してください。