AI Agent平臺開源AI自動化框架:本地運行支持Llama/Qwen/Phi等模型,無需API密鑰純離線部署

AI Agent平臺:本地運行、開源AI自動化框架的硬核優勢
AI Agent平臺 是一個完全開源、純本地運行的 AI 自動化框架。它不依賴云端 API,支持 Claude、GPT 等遠程模型,也原生集成 Llama、Phi、Qwen 等主流本地模型。所有推理、調度、數據流轉都在用戶設備上完成——沒有后臺服務,沒有遙測,沒有強制聯網。工作流用 YAML 定義,插件用 Python 編寫,整個系統可審計、可復現、可嵌入任何私有環境。
無需 API 密鑰
AI Agent平臺 不需要任何 API 密鑰。它不向外部服務發起認證請求,也不在啟動時檢查密鑰有效性。
- 遠程模型(如 Claude、GPT)通過
curl或httpx直連官方 API,密鑰由用戶自行配置在環境變量或配置文件中,框架本身不存儲、不透傳、不緩存 - 本地模型直接調用 Ollama、llama.cpp、vLLM 或 HuggingFace Transformers 的本地實例,全程離線
- 沒有“試用配額”“調用限頻”“賬單提醒”這類概念——你有多少顯存,就能跑多大模型;你有多少時間,就能調度多少任務
這意味著:
- 新手跳過注冊/充值/配額申請,解壓即用
- 企業規避密鑰輪換、泄露審計、跨區域合規等運維負擔
- 紅隊、滲透測試人員可在斷網靶機中部署完整 AI 輔助分析鏈
數據不出設備
AI Agent平臺 默認不上傳任何原始數據、提示詞或上下文。所有輸入輸出均保留在本地進程內存或用戶指定路徑中。
- 工作流中每個節點的輸入/輸出默認以臨時文件或內存管道傳遞,不落盤(除非顯式配置
save_to: /path) - 日志級別可控(
DEBUG/INFO/WARNING),敏感字段(如 API 密鑰、token、用戶文檔內容)默認脫敏 - 用戶可完全禁用日志:
--log-level NONE,或重定向到/dev/null - 無內置 telemetry、no metrics endpoint、no update checker ——
ps aux | grep ai-agent只顯示你啟動的進程
典型場景:
- 醫療機構用 AI Agent平臺 自動摘要脫敏后的病歷文本,原始 PDF 始終存于內網 NAS
- 金融機構在 air-gapped 服務器上解析財報 PDF,生成結構化表格,全程不觸網
- 法務團隊用本地 Qwen2.5-7B 處理合同草稿,條款比對結果只寫入加密 USB
可定制工作流
AI Agent平臺 的工作流不是預設模板,而是聲明式任務圖(DAG)。每個節點是獨立可替換的組件:
tasks:
- id: extract_text
type: pdfplumber
input: "{{ inputs.pdf_path }}"
output: "/tmp/text.md"
- id: summarize
type: llm
model: "qwen2.5:7b"
prompt: |
請用三點總結以下內容:
{{ tasks.extract_text.output }}
- id: notify
type: telegram
token: "{{ env.TELEGRAM_TOKEN }}"
chat_id: "-1001234567890"
message: "{{ tasks.summarize.output }}"- 支持條件分支、循環重試、超時熔斷、失敗回調
- 所有節點類型(
pdfplumber、llm、telegram)都是獨立 Python 類,可隨時替換成自定義實現 - 內置適配器覆蓋 30+ 平臺:WhatsApp(via Termux + CLI)、Discord(Webhook)、Telegram、Slack、Notion、MySQL、SQLite、REST API……
- 無 GUI 依賴,純 CLI + YAML 驅動,適合 CI/CD、cron、systemd 集成
實際用法示例:
- 每日凌晨 3 點拉取 GitHub issues → 用本地 Phi-3 分類優先級 → 寫入內部 Jira
- 微信公眾號圖文自動排版:OCR 掃描手寫稿 → 本地 Qwen-VL 識別公式 → Markdown 渲染 → 發送至微信素材庫 API
國產 Claws:中文場景的深度適配
AI Agent平臺 的模塊化設計催生了一批專注中文場景的衍生項目。它們不是“魔改版”,而是基于同一內核的垂直增強:
| 項目 | 定位 | 關鍵改進 |
|---|---|---|
| AutoClaw | 企業辦公自動化 | 內置微信 PC 協議客戶端、飛書多維表格 SDK、WPS COM 接口 |
| NanoClaw | 邊緣設備輕量運行 | 移除 PyTorch 依賴,僅用 llama.cpp + ONNX Runtime,ARM64 下內存占用 < 300MB |
| MedClaw | 醫療文書處理 | 集成中文臨床術語詞典、ICD-10 編碼映射、結構化病歷 Schema 校驗器 |
這些項目共享 AI Agent平臺 的核心調度器和 YAML 語法,但各自維護獨立插件倉庫。用戶可混用:比如用 NanoClaw 跑 OCR,把結果喂給主 AI Agent平臺 實例做 GPT-4o 級摘要。
生態協同:從工具到基礎設施
AI Agent平臺 的模塊邊界清晰:
ai-agent-core: DAG 調度、YAML 解析、生命周期管理(MIT 許可)ai-agent-plugins: 官方維護的通用節點(PDF、LLM、Telegram 等),按需安裝- 第三方插件:全部發布為獨立 PyPI 包,如
ai-agent-sqlite,ai-agent-wechat,pip install即可注冊
社區已產出:
ai-agent-slackbot: 將 Slack channel 轉為工作流觸發源ai-agent-usb-monitor: 檢測 USB 設備插入事件,自動啟動 OCR 流程ai-agent-rtsp: 接入海康/大華 IPC 流,幀級調用本地視覺模型
這種分層架構讓 AI Agent平臺 既能作為個人腳本工具(單文件 ai-agent run workflow.yaml),也能嵌入企業系統成為自動化中間件(通過 AI Agent平臺Client SDK 調用)。
現在就能做的事
立刻驗證:
pip install ai-agent ai-agent init --template basic ai-agent run workflow.yaml動手改造:
- 復制
ai-agent/plugins/llm.py,改成調用你的私有 vLLM endpoint - 在
tasks:下新增一個type: custom_script節點,執行任意 shell 命令
- 復制
參與共建:
- 提交 issue 描述你卡住的中文 OCR 場景(掃描件傾斜/印章遮擋/手寫混排)
- PR 一個
ai-agent-plugins-zh倉庫,貢獻微信消息解析器或法院文書模板
AI Agent平臺 不是“另一個 AI 助手”。它是把 AI 當作 Unix 工具鏈里的一環:可管道、可重定向、可組合、可審計。你不需要相信它——你可以 strace 它,gdb 它,或者直接刪掉 plugins/ 目錄,自己重寫。