Mac miniを常時稼働のAIサーバーにする前夜計画書の穴4つとモデル切り替えの設計

公開: 2026-09-22

明日、Mac mini(メモリ32GB)が届く。24時間動かしておくローカルAIサーバーにする。

構築手順は先にAIに書かせた。着手前に1行ずつ確かめたところ、そのまま流すと止まる箇所が4つあった。この記事は、その4つと、32GBの制約をどう受けるかの設計を、手を動かす前の時点で残しておくものだ。実測は明日以降に追記する。

ケーブルだけが用意された机

構成

Mac miniを常時稼働の司令塔にする。エージェント(OpenClaw)とローカルLLMの実行エンジン(Ollama)をここに置き、各サービスの操作もここから行う。画像・動画の生成のようにGPUが要る仕事だけ、LAN内のWindows(RTX 5070 Ti)で動くComfyUIへ投げる。

構成図

指示はDiscordから出す。LLMはローカルで動かすので、APIの従量課金は発生しない。

AIが出した計画書は、見出し・表・コピペ用コマンドまで揃っていた。確かめた結果が次の表だ。

計画書の穴4つ

1つずつ直し方を書いておく。

HomebrewのインストールURL。 ドメインだけで切れていた。正しくはHomebrew公式に載っている次の形になる。

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

OpenClawのパッケージ名。 計画書はスコープ付きの名前を書いていたが、公式の名前と一致しない。パッケージ名と設定ファイルの形式は、当日に公式READMEで確かめてから入れる。設定ファイルも手で書かず、対話式の初期設定(onboard)に任せてから差分だけ直す。

sudoでbrew upgradeを許可する設定。 Homebrewはroot権限での実行を拒否する。そもそもsudoが要らない。パスワードなしのsudoを許すのは、再起動のように本当にroot権限が要るコマンドに絞る。

32Bモデル2つの常駐。 次の章で扱う。

もう1つ、brew install docker で入るのはCLIだけで、Docker本体は入らない。Docker Desktopかcolimaを別に入れる。

Qwen2.5の32Bは、4bit量子化で1つ約20GBある。macOSはGPUに回せるメモリを物理メモリの一部に制限しているので、 32GBのマシンに2つ同時に置くことはできない。1つでも、入力を長く取ると余裕がなくなる。

ここで小さいモデルに逃げるのではなく、同時に載せない前提で運用を組むことにした。

モデル切り替えの流れ

# Ollamaの設定(見込み)
OLLAMA_MAX_LOADED_MODELS=1   # 同時に載せるのは1モデルまで
OLLAMA_NUM_PARALLEL=1        # 並列リクエストでメモリを食わせない

載せ替えは2、3秒程度を見込んでいる。常時稼働のサーバーなので急ぎの仕事は少なく、数秒の待ちは許容できる。人が「今どちらのモデルか」を意識しなくて済むことのほうが価値が大きい。

ただし、ここは見込みでしかない。 約20GBをSSDから読み直すので、実際の秒数は測るまで分からない。入力の長さ(num_ctx)も8k〜16kあたりから始めて、メモリの余りを見ながら決める。

エージェントには各サービスのTokenを渡すことになる。ローカルLLMが指示を取り違えたときに、被害が大きくならない順に渡す。

結果はこの記事に追記する。