ローカルAIクラスタ構成案 mac mini + SBC 3台 + NAS
Mac miniを管理ノード、3台のSBCをエッジノードとしてLLM推論・OCR・映像フレーム選別を分担するローカルAIクラスタ構成案。k3sで管理し、NASにモデルとデータを保管する。
ollama 1 本
「ollama」の付いた記事
「ollama」の付いた記事
Mac miniを管理ノード、3台のSBCをエッジノードとしてLLM推論・OCR・映像フレーム選別を分担するローカルAIクラスタ構成案。k3sで管理し、NASにモデルとデータを保管する。