MacでOllamaを使うとき、Dockerで動かすか、macOS用アプリを直接インストールするかで迷うことがあります。環境をまとめやすいDockerにも利点がありますが、ローカルAIの実行ではGPUを使えるかを先に確認したいところです。
この記事は公式ドキュメントに基づく構成選びの解説です。実機の速度比較やベンチマークは実施していません。
macOSのDocker DesktopとGPU
Ollamaの公式FAQは、macOSのDocker DesktopではGPUアクセラレーションを利用できないと説明しています。コンテナが起動して応答を返していても、MacのGPUを使って推論しているとは限りません。Ollama公式FAQ
Macでの推論を目的に導入するなら、まずmacOS向けの直接インストールを候補にします。コンテナで構成を統一する必要がある場合は、その運用上の利点とGPU利用の制約を比較して選びます。
直接インストールの対応環境は、Ollama公式のmacOSページによるとmacOS Sonoma(v14)以降で、Apple Mシリーズ(CPUとGPU)またはx86(CPUのみ)です。x86のMacでは、直接インストールでもGPUでの推論は対象外になります。Ollama公式：macOS
実際のモデル配置は ollama ps で確認する
導入方法だけで判断せず、モデルを実行した状態で次のコマンドを確認します。
ollama ps公式FAQでは、PROCESSOR欄の100% GPUはGPUへの配置、100% CPUはシステムメモリへの配置、CPU/GPUの両方の表示は分割配置を示すとされています。表示結果を記録すると、構成の違いを調べる手がかりになります。表示の読み方
比較するときは、Macの機種とメモリ容量、Ollamaのバージョン、モデル名・量子化、入力文とコンテキスト設定を揃えます。初回のモデル読み込みと、その後の応答生成も分けて記録してください。
外付けSSDを買う前に、困っている場所を分ける
モデルファイルの保存容量が足りない場合と、回答の生成が遅い場合では、確認する場所が異なります。保存先の変更はモデルファイルを置く場所の話で、Docker DesktopのGPU利用制約を解消する設定ではありません。
容量が足りないなら、まず不要なOllamaモデルの整理を確認します。複数のモデルを保管するために容量を増やしたい場合は、外付けSSDとモデル保存の考え方が次の検討先です。
速度が気になるなら、先に実行環境とPROCESSOR欄を確認し、Ollamaが遅いときの切り分けへ進みます。「遅いからSSDを追加する」と決める前に、何を改善したいかを特定すると機材を選びやすくなります。
Dockerを使うなら、UIと推論の置き場所を分けて考える
Web UIをコンテナで管理することと、Ollamaによる推論をコンテナ内で実行することは別の選択です。UIだけをDockerで管理し、OllamaをMac上で直接動かす構成も検討できます。
ただし、UIからMac上のOllamaへ接続する方法は使うUIとDockerの設定に依存します。接続先と公開範囲は、その製品の公式手順で確認してください。
MacでローカルAIを始める際は、直接インストールで動作を確認し、必要になった段階でDockerを取り入れる順序が考えられます。構成を変えたら同じ条件で計測し、管理のしやすさと推論時の挙動を判断材料にします。
