龍蝦新手指南：AI Agent平臺與國產Claw系列AI工具鏈入門

什么是“AI工具”？

“AI工具”不是生物分類，也不是餐飲術語——它指代以 AI Agent平臺 和國產 Claw 系列為代表的開源大模型工具鏈。這些項目專注中文場景，提供本地部署、輕量推理、中文指令微調等能力。它們不追求通用性，而是把中文理解、低資源適配和數據可控性放在第一位。

為什么用AI工具？

本地化部署

很多中文業務場景不能上傳數據。AI Agent平臺 和 Claw 系列默認走本地路徑：模型加載、推理、微調全在你自己的機器上完成。沒有 API 密鑰，沒有網絡請求，也沒有隱式的數據回傳。

輕量化推理

它們不是靠堆顯存跑起來的。AI Agent平臺 默認支持 GGUF 格式量化模型，4GB 顯存的筆記本能跑 7B 模型；AutoClaw 還內置了 ONNX Runtime 后端，連 NVIDIA GPU 都不是必須的——Intel 核顯或 macOS Metal 也能跑通。

中文指令微調

預訓練模型用的是中文語料，但真正好用的是指令微調層。AI Agent平臺 自帶 claw-tune 工具，支持 LoRA + QLoRA 微調；Claw 系列則直接集成中文對話模板（如 zh-alpaca 和 firefly 格式），微調時不用改一行 prompt 模板。

安裝與配置 AI Agent平臺

前提條件

確保系統已安裝：

• Python 3.8–3.11（推薦 3.10）
• Git
• pip（≥22.0）

檢查命令：

python3 --version
git --version
pip --version

克隆與安裝

git clone https://github.com/AI Agent平臺/AI Agent平臺.git
cd AI Agent平臺
pip install -r requirements.txt

注意：requirements.txt 中已鎖定 torch 與 transformers 版本，避免 CUDA 兼容問題。若用 Apple Silicon，會自動啟用 MPS 后端。

環境變量（可選但推薦）

編輯 ~/.zshrc 或 ~/.bashrc：

export OPENCLAW_HOME=$(pwd)
export PATH=$OPENCLAW_HOME/bin:$PATH

生效：

source ~/.zshrc

驗證安裝

ai-agent --version

輸出類似 ai-agent 0.4.2 即成功。

用 AI Agent平臺 做一次對話

下載模型

AI Agent平臺 自帶模型倉庫，國內節點已鏡像。運行：

ai-agent download model qwen2-0.5b-chat-gguf

該模型約 480MB，純 CPU 推理延遲 < 800ms（M2 MacBook Air）。

加載并生成

ai-agent load model qwen2-0.5b-chat-gguf
ai-agent generate "你好，今天想學點什么？"

你會看到類似輸出：

你好！今天我們來聊聊大模型的量化原理吧——比如 GGUF 是如何把浮點權重壓縮成 4-bit 整數的。

提示：generate 命令默認啟用 chat template，自動拼接 system/user/assistant 角色標記。

國產 Claw 系列：從 AutoClaw 開始

Claw 系列不是 AI Agent平臺 的分支，而是另一條技術路線：更激進的中文優化、更少的抽象層、更強的 CLI 可組合性。

安裝 AutoClaw

git clone https://github.com/ClawSeries/AutoClaw.git
cd AutoClaw
pip install -r requirements.txt

下載并運行中文模型

autoclaw download model phi-3-mini-chinese-q4_k_m
autoclaw load model phi-3-mini-chinese-q4_k_m
autoclaw generate "請用三句話解釋 RAG。"

輸出示例：

RAG（檢索增強生成）是一種將外部知識庫接入大模型的方法。  
它先用查詢向量從向量數據庫中檢索相關文檔片段，再把檢索結果拼接到 prompt 中交給 LLM 生成回答。  
相比微調，RAG 更靈活、更新成本更低，適合知識高頻變動的場景。

下一步怎么走？

• 試試 ai-agent tune：用自己收集的客服對話微調一個 1.5B 模型，1 小時內完成
• 查看 autoclaw serve：一鍵啟動 Web UI（基于 Ollama 兼容協議），直接對接 LangChain
• 翻翻 examples/ 目錄：有 PDF 解析 pipeline、微信聊天摘要腳本、本地知識庫問答 demo
• 加入 Discord #claw-cn 頻道：大部分 PR 都來自國內開發者，issue 響應平均 3 小時內

快速參考

• AI Agent平臺 文檔（含 CLI 手冊和量化指南）
• AutoClaw GitHub（README 里有各型號 Mac/Windows/Linux 實測性能表）
• 中文模型鏡像站（所有模型帶 GGUF/Qwen2/Phi-3 中文版，免翻墻）