探索
Grey Swan

Grey Swan

一个集成MongoDB的MCP服务器,专为记录和分析LLM安全挑战而设计,支持Grey Swan Arena竞赛中的AI安全测试。
2分
0
2025-04-28 10:02:24
概述
工具列表
内容详情
替代品

什么是 Grey Swan LLM 安全挑战 MCP 服务器?

这是一个基于MongoDB的工具,用于记录和跟踪AI系统中的安全漏洞。它可以帮助研究人员更好地理解和应对潜在的安全风险。

如何使用 Grey Swan LLM 安全挑战 MCP 服务器?

通过简单的命令行操作,您可以创建测试会话、记录对话历史、添加安全挑战等。

适用场景

适用于AI安全研究人员、开发人员以及任何希望评估和改进AI系统安全性的团队。

主要功能

mongo_model创建或更新组织标识符,用于标识您的测试会话。
mongo_thread创建或更新包含安全挑战的对话线程。
mongo_message记录用户和助手的消息,包括安全标志。
mongo_query_models查询数据库中的组织标识符。
mongo_query_threads根据标签或类别查询对话线程。
mongo_query_messages查询特定对话中的消息,支持筛选安全标志。

优势与局限性

优势
易于使用且功能强大
支持多种查询选项以满足不同需求
提高安全研究效率
局限性
需要安装Node.js和MongoDB
对初学者可能有一定学习曲线

如何使用

克隆代码仓库通过Git克隆MCP服务器代码到本地。
安装依赖运行npm install以安装所需依赖。
配置环境变量创建.env文件并设置MongoDB连接字符串和端口号。
启动MongoDB确保MongoDB服务已启动。
启动MCP服务器运行node build/index.js启动服务器。

使用案例

记录注入攻击演示如何记录一个具体的注入攻击尝试。
查询特定线程根据标签查询相关的对话线程。

常见问题

1
如何开始一个新的测试会话?首先使用mongo_model创建一个组织标识符。
2
如何记录用户输入?使用mongo_message记录用户的每条输入。

相关资源

官方文档详细的使用指南和技术说明。
GitHub 代码库开源代码和贡献指南。
精选MCP服务推荐
安装
复制以下命令到你的Client进行配置
注意:您的密钥属于敏感信息,请勿与任何人分享。
AIbase
AIbase是一个专注于MCP服务的平台,为AI开发者提供高质量的模型上下文协议服务,助力AI应用开发。
简体中文
热门MCP服务
热门MCP分类
热门标签