ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

完全离线运行AI渗透测试:pentest-ai-agents 本地模型部署教程(Ollama+vLLM)

完全离线运行AI渗透测试:pentest-ai-agents 本地模型部署教程(Ollama+vLLM) 完全离线运行AI渗透测试pentest-ai-agents 本地模型部署教程OllamavLLM【免费下载链接】pentest-ai-agentsTurn Claude Code into your offensive security research assistant. Specialized AI subagents for authorized penetration testing plan engagements, analyze recon, research exploits, build detections, audit STIGs, and write reports.项目地址: https://gitcode.com/gh_mirrors/pe/pentest-ai-agentspentest-ai-agents 是一个包含 50 个专业 AI 子智能体的开源项目可把 Claude Code 变成你的AI渗透测试研究助手——规划渗透项目、分析侦察数据、研究漏洞利用、编写检测规则与报告。本文教你如何通过Ollama 和 vLLM 本地模型部署让整个工作流完全离线运行无云端 API、无数据外传、无订阅费用。 核心提示pentest-ai-agents 的每个智能体本质上是纯 Markdown 系统提示词agents/ 目录下的.md文件唯一的 Claude 专属部分是文件头部的 YAML frontmatter。这意味着它可以运行在任何支持系统提示词的本地大模型上。一、为什么要本地模型部署 AI 渗透测试渗透测试工作天然涉及敏感数据客户内网 IP、扫描结果、凭据、业务细节。把这类数据发给云端 API可能违反保密协议NDA、规则协议ROE或客户禁用第三方 AI的政策详见 docs/DATA-PRIVACY.md。本地模型部署有四大优势摘自 docs/LOCAL-SETUP.md优势说明数据不出机器客户数据、扫描结果全部留在本地无 API 调用、无遥测无关键词过滤本地模型不会因 exploit、vulnerability 等词汇拒绝回答无供应商锁定云厂商改条款、关停服务都不影响你的工具链无订阅成本硬件投入后持续成本只有电费即使完全不用大模型每个智能体文件也可以当离线方法论文档直接阅读cat agents/exploit-guide.md方法论部分依然可用。二、部署前准备获取 pentest-ai-agents先安装智能体文件只需拷贝.md文件无需 Python 依赖# 克隆仓库 git clone https://gitcode.com/gh_mirrors/pe/pentest-ai-agents cd pentest-ai-agents ./install.sh --global或一行安装./install.sh --global --lite # --lite 模式让建议型智能体走轻量模型更省资源装好后用 db/doctor.sh 体检一下本机缺失哪些底层安全工具nmap、nuclei 等再用 install.sh 的--tools参数一键补齐。三、Ollama 部署个人开发者首选推荐Ollama 是本地大模型部署最简单的方式官方文档 docs/LOCAL-SETUP.md 将其列为推荐方案。第 1 步安装 Ollama 并拉取模型curl -fsSL https://ollama.ai/install.sh | sh # 按显卡显存选择模型 ollama pull llama3.1:70b # 质量最佳需 40GB 显存 ollama pull deepseek-r1:32b # 推理能力强20GB 显存 ollama pull llama3.1:8b # 轻量入门8GB 显存即可第 2 步模型选型速查表模型显存需求速度适合场景Llama 3.1 70B40GB中完整方法论、复杂攻击链分析Qwen 2.5 72B40GB中强推理、代码能力强DeepSeek R1 32B20GB快推理任务、攻击链规划Llama 3.1 8B8GB快快速查询、基础方法论Mistral Large24GB中通用场景⚠️官方建议专业渗透测试工作请使用 70B 参数模型。小模型会遗漏复杂攻击链的细节命令语法可靠性也较低。第 3 步多 GPU 配置可选OLLAMA_NUM_GPU2 ollama serve # 指定 GPU 层数 CUDA_VISIBLE_DEVICES0,1 ollama serve # 指定具体显卡四、vLLM 部署团队与生产环境的最快方案对于团队使用或高吞吐场景vLLM 是官方推荐的推理服务器它提供经过优化的 OpenAI 兼容 API端口 8000pip install vllm python -m vllm.entrypoints.openai.api_server \ --model meta-llama/Meta-Llama-3.1-70B-Instruct \ --tensor-parallel-size 2 \ --port 8000部署完成后所有支持 OpenAI 兼容接口的客户端只需指向http://localhost:8000/v1即可Ollama 则指向http://localhost:11434/v1。 除了 Ollama 和 vLLMLM Studio带 GUI 的本地模型管理器默认端口 1234也是可选项适合不想碰命令行的用户。五、如何调用本地模型驱动智能体本地部署后有两种使用方式方式 1通过 OpenCode 等终端工具体验最完整OpenCode后更名 Crush是开源终端 AI 编码工具具备与 Claude Code 相同的核心工具bash、文件读写、grep 等且原生支持 Ollama 本地模型go install github.com/opencode-ai/opencodelatest export OPENAI_BASE_URLhttp://localhost:11434/v1Claude Code 也可通过设置ANTHROPIC_BASE_URL指向本地兼容端点。方式 2直接提取系统提示词最灵活、纯离线每个智能体文件的 frontmatter 之后就是完整系统提示词可粘贴到任何 LLM 界面awk BEGIN{found0} /^---$/{found; next} found2{print} agents/recon-advisor.md例如 agents/recon-advisor.md 就是一位侦察分析专家——粘贴 Nmap 输出给它它会帮你按优先级排序攻击面并推荐下一步命令参考 examples/example-nmap-analysis.md 的示例输出。 注意脱离 Claude Code 使用会失去自动路由描述任务自动分派到对应智能体需要手动指定智能体但方法论指导效果不变。六、硬件配置参考档位显卡内存存储效果入门8BRTX 3060 12GB / 4060 8GB16GB20GB基础方法论、简单分析推荐32-70BRTX 4090 24GB / 2×RTX 309032GB100GB完整方法论、可靠命令语法最优70B2×A100 80GB64GB200GB接近云 API 水平、完整攻击链推理Apple 用户M1 Pro/Max 可流畅跑 8BM2 Ultra192GB 统一内存可跑 70BM3 Max 跑 32B 速度不错。七、云 vs 本地如何选择维度云端 Claude Code本地 Ollama/vLLM模型质量顶级70B 模型表现良好小模型一般隐私数据发往云端完全不出机器内容策略部分安全词汇可能被过滤无过滤成本每月 20-100 美元仅硬件成本部署耗时5 分钟30-60 分钟自动路由内置子智能体路由需手动调用Tier 2 执行完整支持完整支持同样的 bash/工具权限结论高安全等级项目、保密协议严格 → 选本地追求极致效果、做 CTF 或个人学习 → 云端更省心。八、常见问题 FAQQ1本地模型输出质量明显下降怎么办智能体输出质量高度依赖模型能力。复杂任务威胁建模、检测工程、报告生成建议优先 70B 模型或参考 docs/TOKEN-OPTIMIZATION.md 精简提示词把算力留给关键推理。Q2智能体是离线的吗是。所有智能体是纯 Markdown 文件不含代码、不发起网络请求、不收集遥测见 docs/DATA-PRIVACY.md。数据流向与未安装本项目时完全一致。Q3Tier 2 执行型智能体本地能用吗可以。它们依赖的是 bash 和工具权限本地方案同样支持。所有执行型智能体都内置强制范围校验scope-guard每个命令执行前都会要求你确认——安全模型见 docs/TIER2-EXECUTION.md。总结通过本文的三步走——安装智能体 → 部署 Ollama/vLLM → 接入本地端点你就拥有了一个完全离线的 AI 渗透测试研究助手。本地模型部署不仅解决了敏感数据出域的核心痛点还消除了订阅费用与供应商锁定。记住两点即可获得最佳体验70B 模型起步、始终在授权范围内测试务必签署书面 ROE详见 DISCLAIMER.md。更多文档docs/AGENT-GUIDE.md智能体使用指南、docs/CUSTOMIZATION.md自定义智能体、INSTALL.md完整安装与排错。【免费下载链接】pentest-ai-agentsTurn Claude Code into your offensive security research assistant. Specialized AI subagents for authorized penetration testing plan engagements, analyze recon, research exploits, build detections, audit STIGs, and write reports.项目地址: https://gitcode.com/gh_mirrors/pe/pentest-ai-agents创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表