CASE 09 ｜ ローカル AI の使い分け
社内のデータを社外に出さないために、Mac mini 1台でローカル AI を動かしています。 複数のモデルを実際の業務の問題で比べ、用途ごとに使い分けています。
要点：株式会社Koinobori が自社で運用している、ローカル AI（ローカル LLM）の使い分けの事例です。 Mac mini（M4・メモリ32GB）1台で、社内の仕組みや定時の処理に使う AI を動かし、社外の AI には送りません。 機械の検査は全部通るのに、中身が崩れるモデルがあると実測で分かったため、用途ごとにモデルを決めています。 数字の計算は AI にさせず、プログラムに任せています。
WHY — なぜこうしているか
REASON 01
営業のデータなど社内のデータを、社外の AI サービスに送らずに済ませるため、社内の1台の中で AI を動かしています。
REASON 02
大きな設備を用意しなくても、Mac mini 1台でどこまで実務をこなせるかを、実際に動かして確かめています。
REASON 03
評判や大きさで選ばず、自社の実際の業務の問題を同じ条件で解かせて、結果を見て決めています。
ARCHITECTURE — 構成
社内の仕組みや定時の処理から頼まれた仕事は、Mac mini の中でローカル AI の実行環境が受け、用途に合うモデルに振り分けます。結果は社内のチャットなどに返ります。
社内の処理
社内の自動応答
定時の処理
Mac mini の中
Ollama が、用途で4つに振り分ける
普段の短い応答
→ 小さいモデル（4B）
速さを優先
品質が要る文章・分類
→ 中くらいのモデル（14B）
質を優先
軽い下処理
→ 7B
うまくいかなければ14Bでやり直す
検索
→ 検索用のモデル（埋め込み）
文章を数値に直して探す
結果
社内のチャットなどへ
文面や分類の結果が返る
社外の AI には送らない：営業データなど社内のデータは、この1台の中だけで扱います。
使っている技術
qwen3:14b
9.3GB
品質が要る文章・分類
qwen2.5:7b
4.7GB
軽い下処理（だめなら14Bでやり直す）
gemma3:4b
3.3GB
短い応答の既定
bge-m3 ／ nomic-embed-text
検索用の埋め込み
TEST 1 — 実測 2026年8月17日
社内のチャットに毎日流す短い紹介文を、同じ指示・同じ4題で4つのモデルに書かせました。機械の検査は、決められた形式（JSON）で書けたか、字数に収まったかの2つです。
形式と字数の検査は通るので、機械だけでは中身の崩れが分かりません。人が中身を読んで比べる必要があります。1日1回の処理なので、速さより質で選びました。
TEST 2 — 実測 2026年8月21日
qwen3:14b
7/8
平均の所要時間：平均139秒
qwen2.5:7b
6/8
平均の所要時間：約6秒
gemma3:4b
3/8
平均の所要時間：約4秒
4B は、税込からの逆算や率の計算を間違えました。速さは約4秒と最も速い一方で、数字の問題には向きません。
DECISIONS — 決めたこと
小さなモデルは、税込からの逆算や率の計算を間違えました。勤務時間などの計算はプログラムが行い、AI には一言の文面だけを書かせます。
字数は指示しても守られません。上限はプログラム側で切ります。
1日1回の処理なので、16秒かかっても質の良いモデルを選びました。すぐ返したい用途には、小さいモデルを使います。
性能が最良だった大きなモデル（35B・約22GB）は、強みが活きる処理が無く、常駐すると他と同居できないため削除しました。使っていないモデルも消し、置き場は64GBから17GBに減りました（2026年8月21〜22日）。
MORE
※ 本ページは、当社が自社の業務のために作った仕組みの事例紹介です。
KOINOBORI ECOSYSTEM
ここ
株式会社Koinobori
コーポレート — 法人研修・教材制作・AI支援
koinobori.co.jp
NOBORIBA® 研修サービス
研修事業 — 講師ネットワーク約160名・年間62名が登壇
noboriba.jp
NOBORIBA® ビジネス交流会
SES × 異業種 — 東京で唯一の朝開催 交流会
noboriba.net
totonoe.tech
Web ツール集 — 文字・お金・単位・IT・AI・教養
totonoe.tech