本地 LLM API 代理服务，提供多 Provider 转发、内容安全审计等功能。

功能特性

• 🔄 多 Provider 转发 - 百炼、OpenRouter、NVIDIA NIM
• 🔒 内容安全审计 - 两层审核机制（恶意指令 + 敏感内容）
• 📊 请求统计 - 实时统计请求数、错误率、告警数
• 📝 日志记录 - 所有请求 JSONL 格式存档

快速开始

查看代理状态

llm-proxy-ctl.sh status

启动代理

llm-proxy-ctl.sh start

停止代理

llm-proxy-ctl.sh stop

重启代理

llm-proxy-ctl.sh restart

查看实时日志

llm-proxy-ctl.sh logs

Provider 配置

代理支持以下 Provider 路径前缀：

使用示例

# 通过代理调用百炼 API
curl http://127.0.0.1:18888/bailian/chat/completions \
  -H "Authorization: Bearer $BAILIAN_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen-plus", "messages": [{"role": "user", "content": "Hello"}]}'
# 通过代理调用 OpenRouter
curl http://127.0.0.1:18888/openrouter/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "anthropic/claude-3-opus", "messages": [{"role": "user", "content": "Hello"}]}'
# 通过代理调用 NVIDIA NIM
curl http://127.0.0.1:18888/nvd/chat/completions \
  -H "Authorization: Bearer $NVIDIA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "meta/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Hello"}]}'

健康检查

HTTP 端点

# 健康状态
curl http://127.0.0.1:18888/health
# 统计数据
curl http://127.0.0.1:18888/stats

健康检查响应

{
  "status": "ok",
  "stats": {
    "total_requests": 1234,
    "total_responses": 1200,
    "blocked": 5,
    "warnings": 12,
    "errors": 34
  },
  "uptime": 3600,
  "rules_loaded": {
    "layer1": 6,
    "layer2": 3,
    "whitelist": 2
  }
}

内容安全审计

两层审核机制

第一层：恶意指令检测

• 危险系统命令（rm -rf /、mkfs、dd 等）
• 提权操作（sudo su、chmod u+s）
• SQL 注入/删除
• 数据外泄（curl -d @、nc -e）
• 后门/反弹 shell

第二层：敏感内容检测

• 个人身份信息（身份证、手机号、邮箱）
• 银行卡/信用卡号
• 敏感关键词

规则配置

规则文件：{baseDir}/scripts/content-filter-rules.json

{
  "layer1_malicious": {
    "enabled": true,
    "rules": [
      {
        "id": "CMD-001",
        "name": "危险系统命令",
        "severity": "critical",
        "patterns": ["rm\\s+-rf\\s+[/~]", "mkfs\\.", "dd\\s+if=.of=/dev/"]
      }
    ]
  },
  "layer2_sensitive": {
    "enabled": true,
    "rules": [...]
  },
  "whitelist": ["已授权的.操作"]
}

日志文件

日志格式

{
  "timestamp": "2026-03-17T12:34:56.789",
  "request_id": "abc12345",
  "provider": "bailian",
  "path": "/chat/completions",
  "status": 200,
  "duration_ms": 1234,
  "alerts": [],
  "request_size": 256,
  "response_size": 1024
}

常见问题

端口被占用

# 查看占用端口的进程
lsof -i :18888
# 终止进程
kill -9 
# 或重启代理（会自动清理）
llm-proxy-ctl.sh restart

代理无响应

# 检查健康状态
curl http://127.0.0.1:18888/health
# 重启代理
llm-proxy-ctl.sh restart

查看错误日志

tail -100 ~/.openclaw/logs/llm-proxy/service.log

核心文件

注意: 代理服务需要 Python 3.6+ 和网络连接。