LLMLing 服务器使用指南

资源管理

• 加载和管理不同类型的资源：
  • 文本文件（PathResource）
  • 纯文本内容（TextResource）
  • CLI 命令输出（CLIResource）
  • Python 源代码（SourceResource）
  • Python 可调用结果（CallableResource）
  • 图像（ImageResource）
• 支持资源热重载/自动重新加载
• 资源处理管道
• 基于 URI 的资源访问

工具系统

• 注册和执行 Python 函数作为 LLM 工具
• 支持 OpenAPI 基础的工具
• 入口点发现工具
• 工具验证和参数检查
• 结构化工具响应

提示管理

• 静态提示带有模板支持
• 动态提示来自 Python 函数
• 文件基底提示
• 提示参数验证
• 提示参数自动补全

多种传输选项

• 标准输入输出通信（默认）
• 服务器发送事件（SSE）用于 Web 客户端
• 支持自定义传输实现

使用方法

在 Zed 编辑器中使用

在你的 settings.json 中添加 LLMLing 作为上下文服务器：

{
  "context_servers": {
    "llmling": {
      "command": {
        "env": {},
        "label": "llmling",
        "path": "uvx",
        "args": [
          "mcp-server-llmling",
          "start",
          "path/to/your/config.yml"
        ]
      },
      "settings": {}
    }
  }
}

在 Claude Desktop 中使用

在你的 claude_desktop_config.json 中配置 LLMLing：

{
  "mcpServers": {
    "llmling": {
      "command": "uvx",
      "args": [
        "mcp-server-llmling",
        "start",
        "path/to/your/config.yml"
      ],
      "env": {}
    }
  }
}

手动启动服务器

直接从命令行启动服务器：

# 使用最新版本
uvx mcp-server-llmling@latest

编程使用方法

方法一：程序化使用

from llmling import RuntimeConfig
from mcp_server_llmling import LLMLingServer

async def main() -> None:
    async with RuntimeConfig.open(config) as runtime:
        server = LLMLingServer(runtime, enable_injection=True)
        await server.start()

asyncio.run(main())

方法二：使用自定义传输

from llmling import RuntimeConfig
from mcp_server_llmling import LLMLingServer

async def main() -> None:
    async with RuntimeConfig.open(config) as runtime:
        server = LLMLingServer(
            config,
            transport="sse",
            transport_options={
                "host": "localhost",
                "port": 8000,
                "cors_origins": ["http://localhost:3000"]
            }
        )
        await server.start()

asyncio.run(main())

方法三：资源配置

resources:
  python_code:
    type: path
    path: "./src/**/*.py"
    watch:
      enabled: true
      patterns:
        - "*.py"
        - "!**/__pycache__/**"

  api_docs:
    type: text
    content: |
      API 文档
      ------

配置说明

# 服务器配置示例
server:
  host: "0.0.0.0"  # 服务绑定的主机地址
  port: 8000        # 服务监听的端口

# 资源管理配置
resources:
  max_connections: 100  # 允许的最大连接数
  timeout: 30s          # 连接超时时间

MCP 协议支持

• 支持设备间的通信协议，实现设备间的数据交互和控制。
• 提供多种数据传输方式：如设备状态查询、命令下发等操作。

通过以上配置和使用方法，您可以轻松集成和管理 LLMLing 服务器，满足不同场景下的需求。