尧图网页设计 
AI 应用大模型CLIRAG【免费下载链接】gaianet-nodeInstall, run and deploy your own decentralized AI agent service项目地址https://gitcode.com/GitHub_Trending/ga/gaianet-node点击查看免费下载本指南以仓库中的 README-ar.md阿拉伯语文档内容与主 README.md 一致为核心脉络结合本仓库内的 CLI 脚本、安装脚本、默认配置 等源码级材料系统讲解如何在 Mac、Linux 或 Windows WSL 上安装、初始化、启动、停止一个 GaiaNet 节点以及如何通过gaianet config子命令更新节点配置。读完本文你将能够独立完成一个自带 RAG检索增强生成能力的去中心化 AI Agent 节点的完整生命周期管理并理解每个命令背后的组件构成与原理。快速上手一条命令部署你的 AI Agent 节点GaiaNet 的定位是让每个人都能运行自己的去中心化 AI Agent 服务项目描述见 README.md。部署默认节点软件栈只需在 Mac、Linux 或 Windows WSL 终端中执行一条命令curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash安装完成后按照屏幕提示设置环境路径命令行会以source开头。随后依次执行三个核心命令完成节点生命周期gaianet init # 初始化节点下载模型文件与向量数据库文件 gaianet start # 启动节点 gaianet stop # 停止节点其中gaianet init会根据$HOME/gaianet/config.json中指定的模型文件和向量数据库文件进行下载与准备由于这些文件体积较大可能需要数分钟。gaianet start成功后脚本会在控制台打印出节点的官方地址形如... ... https://0xf63939431ee11267f4855a166e11cc44d24960c0.us.gaianet.network在浏览器中打开该地址即可查看节点信息并与节点上的 AI Agent 对话。安装指南install.sh 的安装过程与可选参数除了通过 release 版本安装外也可以直接从仓库main分支拉取安装脚本执行curl -sSfL https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh | bash一次典型的安装过程输出如下来自原文档的示例输出[] Downloading default config file ... [] Downloading nodeid.json ... [] Installing WasmEdge with wasi-nn_ggml plugin ... Info: Detected Linux-x86_64 Info: WasmEdge Installation at /home/azureuser/.wasmedge Info: Fetching WasmEdge-0.13.5 ... Installation of wasmedge-0.13.5 successful WasmEdge binaries accessible The WasmEdge Runtime wasmedge version 0.13.5 is installed in /home/azureuser/.wasmedge/bin/wasmedge. [] Installing Qdrant binary... * Download Qdrant binary ... * Initialize Qdrant directory [] Downloading the rag-api-server.wasm ... [] Downloading dashboard ...从这段输出可以看到默认节点软件栈的组成默认配置文件config.json与节点标识文件nodeid.jsonWasmEdge 运行时及其wasi-nn_ggml 插件用于在本地运行 GGUF 格式的 LLMQdrant 二进制作为向量数据库承载 RAG 知识库rag-api-server.wasm即 LlamaEdge API Server 的 RAG 版本提供 OpenAI 兼容的推理接口dashboard即节点内置的 Web 管理/聊天界面。默认情况下节点安装在$HOME/gaianet目录。也可以指定备选安装目录curl -sSfL https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh | bash -s -- --base $HOME/gaianet.alt从 install.sh 源码install.sh#L53-L69可以看出安装脚本还支持更多参数完整能力如下参数说明--config Url指定配置文件config.json的下载地址--base Path指定 GaiaNet 基础目录默认$HOME/gaianet--reinstall重新安装并下载全部依赖--upgrade升级已安装的节点--backup File将当前配置备份到指定文件--migrate File从指定备份文件安装并迁移配置--tmpdir Path指定临时目录默认$gaianet_base_dir/tmp--ggmlcuda [11/12]安装指定 CUDA 版本的 GGML 插件可选值 11、12用于 GPU 加速--enable-vector安装 vector 日志聚合器--version打印安装器版本号--help打印帮助信息安装脚本还明确了平台支持仅支持 Linux、macOS 以及 Windows 用户需在 WSL 中运行见 install.sh 中sed_in_place等函数对平台的判断。初始化节点gaianet init 做了什么执行初始化命令gaianet init一次典型的初始化输出如下原文档示例[] Downloading Llama-2-7b-chat-hf-Q5_K_M.gguf ... ... [] Downloading all-MiniLM-L6-v2-ggml-model-f16.gguf ... ... [] Creating default collection in the Qdrant instance ... * Start a Qdrant instance ... * Remove the existed default Qdrant collection ... * Download Qdrant collection snapshot ... ... * Import the Qdrant collection snapshot ... * Recovery is done successfully可见init主要做三件事下载对话模型chat model的 GGUF 文件、下载向量化模型embedding model的 GGUF 文件、在 Qdrant 中创建并恢复default向量集合快照下载 导入。说明原文档示例输出中的模型Llama-2-7b-chat-hf-Q5_K_M、all-MiniLM-L6-v2是历史版本的输出示例。当前仓库默认的 config.json 已更新为 Qwen3-4B 对话模型与 Nomic-embed-text-v1.5 向量化模型仓库测试用例 tests/chat.hurl 中即对Qwen3-4B进行断言验证。config.json 是初始化的依据init命令完全依据$HOME/gaianet/config.json执行。仓库根目录的 config.json 是当前默认配置字段含义如下{ address: , description: The default GaiaNet node config with a Llama-3.2-3B-Instruct model., domain: gaia.domains, llamaedge_chat_port: 9068, llamaedge_embedding_port: 9069, llamaedge_port: 8080, chat: https://huggingface.co/second-state/Qwen3-4B-GGUF/resolve/main/Qwen3-4B-Q5_K_M.gguf, chat_name: Qwen3-4B, chat_ctx_size: 16384, chat_batch_size: 128, chat_ubatch_size: 128, prompt_template: qwen3-no-think, reverse_prompt: , system_prompt: You are a helpful AI assistant. Please answer questions as clearly and concisely as possible., embedding: https://huggingface.co/gaianet/Nomic-embed-text-v1.5-Embedding-GGUF/resolve/main/nomic-embed-text-v1.5.f16.gguf, embedding_name: Nomic-embed-text-v1.5, embedding_ctx_size: 8192, embedding_batch_size: 8192, embedding_ubatch_size: 8192, snapshot: , embedding_collection_name: default, qdrant_limit: 1, qdrant_score_threshold: 0.5 }关键字段速览chat/chat_name对话模型 GGUF 文件 URL 与模型名chat_ctx_size/chat_batch_size/chat_ubatch_size对话模型的上下文长度、批大小与微批大小当前默认 16384 / 128 / 128embedding/embedding_name向量化模型 URL 与名称embedding_ctx_size/embedding_batch_size/embedding_ubatch_size向量化模型的上下文与批大小当前默认 8192prompt_template对话模型的提示词模板当前为qwen3-no-thinksystem_prompt系统提示词snapshotQdrant 向量集合的快照 URL为空则初始化为空集合embedding_collection_name向量集合名称默认defaultqdrant_limit/qdrant_score_thresholdRAG 检索返回的最大结果数与最小得分阈值当前默认 1 / 0.5domain节点使用的 GaiaNet 域名llamaedge_port/llamaedge_chat_port/llamaedge_embedding_port三个服务端口RAG 服务 8080、对话服务 9068、向量化服务 9069。使用预置配置或自定义配置除了默认配置gaianet init还支持指定预置配置或自定义配置文件 URL。例如用 llama-3 8B 模型 伦敦指南知识库初始化节点gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json从 CLI 脚本 源码gaianet#L1265-L1271可见gaianet init --help中列出的预置配置名目前包括default、paris_guide、mua、gaia同时也可以直接传入指向你自己config.json的 URL让节点按你期望的状态初始化。如果需要初始化安装在备选目录的节点gaianet init --base $HOME/gaianet.alt启动节点gaianet start 的组件与原理执行启动命令gaianet start一次典型的启动输出如下原文档示例[] Starting Qdrant instance ... Qdrant instance started with pid: 39762 [] Starting LlamaEdge API Server ... Run the following command to start the LlamaEdge API Server: wasmedge --dir .:./dashboard --nn-preload default:GGML:AUTO:Llama-2-7b-chat-hf-Q5_K_M.gguf --nn-preload embedding:GGML:AUTO:all-MiniLM-L6-v2-ggml-model-f16.gguf rag-api-server.wasm --model-name Llama-2-7b-chat-hf-Q5_K_M,all-MiniLM-L6-v2-ggml-model-f16 --ctx-size 4096,384 --prompt-template llama-2-chat --qdrant-collection-name default --web-ui ./ --socket-addr 0.0.0.0:8080 --log-prompts --log-stat --rag-prompt Use the following pieces of context to answer the users question.\nIf you dont know the answer, just say that you dont know, dont try to make up an answer.\n----------------\n LlamaEdge API Server started with pid: 39796这条wasmedge命令揭示了 RAG 服务的底层形态值得逐段拆解--dir .:./dashboard将 dashboard 目录挂载为 Web UI 资源--nn-preload default:GGML:AUTO:模型文件名预加载对话模型到神经网络后端--nn-preload embedding:GGML:AUTO:模型文件名预加载向量化模型--model-name两个模型的名称逗号分隔--ctx-size 4096,384对话模型与向量化模型各自的上下文长度--prompt-template llama-2-chat对话提示词模板--qdrant-collection-name defaultRAG 检索使用的 Qdrant 集合--web-ui ./启用内置 Web 聊天界面--socket-addr 0.0.0.0:8080服务监听地址与端口--rag-promptRAG 检索后的上下文注入提示词如果不知道答案就直说不知道不要编造。从 CLI 脚本 源码可以进一步确认gaianet start实际拉起的不止一个进程Qdrant 实例在 6333 端口运行gaianet 中create_collection函数通过lsof -Pi :6333检测端口占用对话服务通过llama-api-server.wasm启动监听llamaedge_chat_port当前默认 9068带--include-usage等参数gaianet#L494-L503RAG 服务通过rag-api-server.wasm启动监听llamaedge_port8080向量化服务通过嵌入模型启动监听llamaedge_embedding_port9069gaia-nexus负责节点注册与域名/公网地址对接gaianet#L921-L929frpcfrp 客户端按 frpc.toml 将本地 8080 端口反向代理到 GaiaNet 公共域名serverAddr、subdomain、deviceId等字段。启动后脚本还会用 curl 自检/v1/chat/completions接口针对 tool 类与非 tool 类提示词模板分别构造请求直到返回 200 才确认服务就绪gaianet#L537-L556。仓库中的 tests/chat.hurl 同样覆盖了GET /v1/models与POST /v1/chat/completions含错误的模型名容错场景两个端点的回归验证。如果只想在本地使用节点不暴露到任何 GaiaNet 公网域名gaianet start --local-only也可以启动安装在备选基础目录中的节点gaianet start --base $HOME/gaianet.alt从源码看gaianet start还支持--force-rag在snapshot为空时强制启动 RAG 服务与--wait val等待 gaia-nexus 就绪的秒数等参数可在 gaianet#L1273-L1281 查看完整帮助。停止节点gaianet stop典型输出[] Stopping WasmEdge, Qdrant and frpc ...从源码看stop实际会终止 WasmEdge、Qdrant、gaia-nexus 与 frpc 四类进程gaianet#L1150-L1156。停止安装在备选目录的节点gaianet stop --base $HOME/gaianet.alt更新配置gaianet config 子命令使用gaianet config子命令可以更新 config.json 中定义的关键字段。注意更新配置后必须重新运行gaianet init使新配置生效。例如更新chat字段对话模型 URLgaianet config --chat-url https://huggingface.co/second-state/Llama-2-13B-Chat-GGUF/resolve/main/Llama-2-13b-chat-hf-Q5_K_M.gguf更新chat_ctx_size字段对话上下文长度gaianet config --chat-ctx-size 5120原文档给出了gaianet config --help的完整输出全部选项如下$ gaianet config --help Usage: gaianet config [OPTIONS] Options: --chat-url url Update the url of chat model. --chat-ctx-size val Update the context size of chat model. --embedding-url url Update the url of embedding model. --embedding-ctx-size val Update the context size of embedding model. --prompt-template val Update the prompt template of chat model. --port val Update the port of LlamaEdge API Server. --system-prompt val Update the system prompt. --rag-prompt val Update the rag prompt. --rag-policy val Update the rag policy [Possible values: system-message, last-user-message]. --reverse-prompt val Update the reverse prompt. --domain val Update the domain of GaiaNet node. --snapshot url Update the Qdrant snapshot. --qdrant-limit val Update the max number of result to return. --qdrant-score-threshold val Update the minimal score threshold for the result. --base path The base directory of GaiaNet node. --help Show this help message对照当前仓库的 CLI 脚本gaianet#L1237-L1263config子命令还新增了更多可更新字段可在实际版本中直接使用--chat-batch-size val/--chat-ubatch-size val对话模型批大小与微批大小--embedding-batch-size val/--embedding-ubatch-size val向量化模型批大小与微批大小--chat-port val对话服务端口--embedding-port val向量化服务端口--context-window val上下文窗口大小。这些参数与 config.json 中的chat_batch_size、chat_ubatch_size、embedding_batch_size、embedding_ubatch_size、llamaedge_chat_port、llamaedge_embedding_port等字段一一对应改动后同样需要重新执行gaianet init才能生效。延伸阅读与进一步探索docker/README.mdDocker 部署方式包含 CPU 版 Dockerfile 与 CUDA 11/12 版本Dockerfile.cuda11、Dockerfile.cuda12CHANGES.md节点发行版本的变更记录可据此了解 CLI 与底层组件的演进utils/registry用于节点注册的 Wasm 组件及其源码Rust 编写见 utils/registry/src/main.rsfrpc.tomlfrp 反向代理配置模板serverAddr、subdomain、deviceId等字段testschat.hurl、embeddings.hurl、rag.hurl等 HTTP 接口测试用例可用于验证启动后的节点 API多语言版本README-cn.md、README-ja.md、README-tr.md 等。至此你已经掌握了 GaiaNet 节点的安装、初始化、启动、停止与配置更新的完整运维链路安装脚本负责部署 WasmEdge Qdrant RAG/WASM 服务栈init负责拉取模型与恢复向量集合start负责拉起 Qdrant、LlamaEdge API Server、gaia-nexus 与 frpc 并完成自检config则提供了一条免手改 JSON 的配置热更路径。Enjoy it!赞分享AI 应用大模型CLIRAG【免费下载链接】gaianet-nodeInstall, run and deploy your own decentralized AI agent service项目地址https://gitcode.com/GitHub_Trending/ga/gaianet-node点击查看免费下载相关推荐Civitai Referral Program v2 工程实现深度解析数据模型、结算清算与防刷设计Civitai Referral Program v2 工程实现深度解析数据模型、结算清算与防刷设计 本文基于 referral program reviewAI 应用大模型CLIRAGGaiaNet 节点部署实战基于 gaianet-node 的一键安装、初始化与 RAG 配置管理GaiaNet 节点部署实战基于 gaianet node 的一键安装、初始化与 RAG 配置管理 本指南以 README ru.md https://linAI 应用大模型CLIRAGThree.js 节点材质完全解析MeshLambertNodeMaterial 的 Lambert 光照实现与 WebGPU 使用指南Three.js 节点材质完全解析MeshLambertNodeMaterial 的 Lambert 光照实现与 WebGPU 使用指南 本文围绕 ThreeAI 应用大模型CLIRAG上一篇5步实现3D模型到Minecraft的终极转换指南ObjToSchematic完全解析下一篇Switch大气层系统终极指南从新手到高手的完整教程创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 GaiaNet 节点部署实战指南：安装、初始化、启动与配置管理
AI 应用大模型CLIRAG【免费下载链接】gaianet-nodeInstall, run and deploy your own decentralized AI agent service项目地址https://gitcode.com/GitHub_Trending/ga/gaianet-node点击查看免费下载本指南以仓库中的 README-ar.md阿拉伯语文档内容与主 README.md 一致为核心脉络结合本仓库内的 CLI 脚本、安装脚本、默认配置 等源码级材料系统讲解如何在 Mac、Linux 或 Windows WSL 上安装、初始化、启动、停止一个 GaiaNet 节点以及如何通过gaianet config子命令更新节点配置。读完本文你将能够独立完成一个自带 RAG检索增强生成能力的去中心化 AI Agent 节点的完整生命周期管理并理解每个命令背后的组件构成与原理。快速上手一条命令部署你的 AI Agent 节点GaiaNet 的定位是让每个人都能运行自己的去中心化 AI Agent 服务项目描述见 README.md。部署默认节点软件栈只需在 Mac、Linux 或 Windows WSL 终端中执行一条命令curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash安装完成后按照屏幕提示设置环境路径命令行会以source开头。随后依次执行三个核心命令完成节点生命周期gaianet init # 初始化节点下载模型文件与向量数据库文件 gaianet start # 启动节点 gaianet stop # 停止节点其中gaianet init会根据$HOME/gaianet/config.json中指定的模型文件和向量数据库文件进行下载与准备由于这些文件体积较大可能需要数分钟。gaianet start成功后脚本会在控制台打印出节点的官方地址形如... ... https://0xf63939431ee11267f4855a166e11cc44d24960c0.us.gaianet.network在浏览器中打开该地址即可查看节点信息并与节点上的 AI Agent 对话。安装指南install.sh 的安装过程与可选参数除了通过 release 版本安装外也可以直接从仓库main分支拉取安装脚本执行curl -sSfL https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh | bash一次典型的安装过程输出如下来自原文档的示例输出[] Downloading default config file ... [] Downloading nodeid.json ... [] Installing WasmEdge with wasi-nn_ggml plugin ... Info: Detected Linux-x86_64 Info: WasmEdge Installation at /home/azureuser/.wasmedge Info: Fetching WasmEdge-0.13.5 ... Installation of wasmedge-0.13.5 successful WasmEdge binaries accessible The WasmEdge Runtime wasmedge version 0.13.5 is installed in /home/azureuser/.wasmedge/bin/wasmedge. [] Installing Qdrant binary... * Download Qdrant binary ... * Initialize Qdrant directory [] Downloading the rag-api-server.wasm ... [] Downloading dashboard ...从这段输出可以看到默认节点软件栈的组成默认配置文件config.json与节点标识文件nodeid.jsonWasmEdge 运行时及其wasi-nn_ggml 插件用于在本地运行 GGUF 格式的 LLMQdrant 二进制作为向量数据库承载 RAG 知识库rag-api-server.wasm即 LlamaEdge API Server 的 RAG 版本提供 OpenAI 兼容的推理接口dashboard即节点内置的 Web 管理/聊天界面。默认情况下节点安装在$HOME/gaianet目录。也可以指定备选安装目录curl -sSfL https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh | bash -s -- --base $HOME/gaianet.alt从 install.sh 源码install.sh#L53-L69可以看出安装脚本还支持更多参数完整能力如下参数说明--config Url指定配置文件config.json的下载地址--base Path指定 GaiaNet 基础目录默认$HOME/gaianet--reinstall重新安装并下载全部依赖--upgrade升级已安装的节点--backup File将当前配置备份到指定文件--migrate File从指定备份文件安装并迁移配置--tmpdir Path指定临时目录默认$gaianet_base_dir/tmp--ggmlcuda [11/12]安装指定 CUDA 版本的 GGML 插件可选值 11、12用于 GPU 加速--enable-vector安装 vector 日志聚合器--version打印安装器版本号--help打印帮助信息安装脚本还明确了平台支持仅支持 Linux、macOS 以及 Windows 用户需在 WSL 中运行见 install.sh 中sed_in_place等函数对平台的判断。初始化节点gaianet init 做了什么执行初始化命令gaianet init一次典型的初始化输出如下原文档示例[] Downloading Llama-2-7b-chat-hf-Q5_K_M.gguf ... ... [] Downloading all-MiniLM-L6-v2-ggml-model-f16.gguf ... ... [] Creating default collection in the Qdrant instance ... * Start a Qdrant instance ... * Remove the existed default Qdrant collection ... * Download Qdrant collection snapshot ... ... * Import the Qdrant collection snapshot ... * Recovery is done successfully可见init主要做三件事下载对话模型chat model的 GGUF 文件、下载向量化模型embedding model的 GGUF 文件、在 Qdrant 中创建并恢复default向量集合快照下载 导入。说明原文档示例输出中的模型Llama-2-7b-chat-hf-Q5_K_M、all-MiniLM-L6-v2是历史版本的输出示例。当前仓库默认的 config.json 已更新为 Qwen3-4B 对话模型与 Nomic-embed-text-v1.5 向量化模型仓库测试用例 tests/chat.hurl 中即对Qwen3-4B进行断言验证。config.json 是初始化的依据init命令完全依据$HOME/gaianet/config.json执行。仓库根目录的 config.json 是当前默认配置字段含义如下{ address: , description: The default GaiaNet node config with a Llama-3.2-3B-Instruct model., domain: gaia.domains, llamaedge_chat_port: 9068, llamaedge_embedding_port: 9069, llamaedge_port: 8080, chat: https://huggingface.co/second-state/Qwen3-4B-GGUF/resolve/main/Qwen3-4B-Q5_K_M.gguf, chat_name: Qwen3-4B, chat_ctx_size: 16384, chat_batch_size: 128, chat_ubatch_size: 128, prompt_template: qwen3-no-think, reverse_prompt: , system_prompt: You are a helpful AI assistant. Please answer questions as clearly and concisely as possible., embedding: https://huggingface.co/gaianet/Nomic-embed-text-v1.5-Embedding-GGUF/resolve/main/nomic-embed-text-v1.5.f16.gguf, embedding_name: Nomic-embed-text-v1.5, embedding_ctx_size: 8192, embedding_batch_size: 8192, embedding_ubatch_size: 8192, snapshot: , embedding_collection_name: default, qdrant_limit: 1, qdrant_score_threshold: 0.5 }关键字段速览chat/chat_name对话模型 GGUF 文件 URL 与模型名chat_ctx_size/chat_batch_size/chat_ubatch_size对话模型的上下文长度、批大小与微批大小当前默认 16384 / 128 / 128embedding/embedding_name向量化模型 URL 与名称embedding_ctx_size/embedding_batch_size/embedding_ubatch_size向量化模型的上下文与批大小当前默认 8192prompt_template对话模型的提示词模板当前为qwen3-no-thinksystem_prompt系统提示词snapshotQdrant 向量集合的快照 URL为空则初始化为空集合embedding_collection_name向量集合名称默认defaultqdrant_limit/qdrant_score_thresholdRAG 检索返回的最大结果数与最小得分阈值当前默认 1 / 0.5domain节点使用的 GaiaNet 域名llamaedge_port/llamaedge_chat_port/llamaedge_embedding_port三个服务端口RAG 服务 8080、对话服务 9068、向量化服务 9069。使用预置配置或自定义配置除了默认配置gaianet init还支持指定预置配置或自定义配置文件 URL。例如用 llama-3 8B 模型 伦敦指南知识库初始化节点gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json从 CLI 脚本 源码gaianet#L1265-L1271可见gaianet init --help中列出的预置配置名目前包括default、paris_guide、mua、gaia同时也可以直接传入指向你自己config.json的 URL让节点按你期望的状态初始化。如果需要初始化安装在备选目录的节点gaianet init --base $HOME/gaianet.alt启动节点gaianet start 的组件与原理执行启动命令gaianet start一次典型的启动输出如下原文档示例[] Starting Qdrant instance ... Qdrant instance started with pid: 39762 [] Starting LlamaEdge API Server ... Run the following command to start the LlamaEdge API Server: wasmedge --dir .:./dashboard --nn-preload default:GGML:AUTO:Llama-2-7b-chat-hf-Q5_K_M.gguf --nn-preload embedding:GGML:AUTO:all-MiniLM-L6-v2-ggml-model-f16.gguf rag-api-server.wasm --model-name Llama-2-7b-chat-hf-Q5_K_M,all-MiniLM-L6-v2-ggml-model-f16 --ctx-size 4096,384 --prompt-template llama-2-chat --qdrant-collection-name default --web-ui ./ --socket-addr 0.0.0.0:8080 --log-prompts --log-stat --rag-prompt Use the following pieces of context to answer the users question.\nIf you dont know the answer, just say that you dont know, dont try to make up an answer.\n----------------\n LlamaEdge API Server started with pid: 39796这条wasmedge命令揭示了 RAG 服务的底层形态值得逐段拆解--dir .:./dashboard将 dashboard 目录挂载为 Web UI 资源--nn-preload default:GGML:AUTO:模型文件名预加载对话模型到神经网络后端--nn-preload embedding:GGML:AUTO:模型文件名预加载向量化模型--model-name两个模型的名称逗号分隔--ctx-size 4096,384对话模型与向量化模型各自的上下文长度--prompt-template llama-2-chat对话提示词模板--qdrant-collection-name defaultRAG 检索使用的 Qdrant 集合--web-ui ./启用内置 Web 聊天界面--socket-addr 0.0.0.0:8080服务监听地址与端口--rag-promptRAG 检索后的上下文注入提示词如果不知道答案就直说不知道不要编造。从 CLI 脚本 源码可以进一步确认gaianet start实际拉起的不止一个进程Qdrant 实例在 6333 端口运行gaianet 中create_collection函数通过lsof -Pi :6333检测端口占用对话服务通过llama-api-server.wasm启动监听llamaedge_chat_port当前默认 9068带--include-usage等参数gaianet#L494-L503RAG 服务通过rag-api-server.wasm启动监听llamaedge_port8080向量化服务通过嵌入模型启动监听llamaedge_embedding_port9069gaia-nexus负责节点注册与域名/公网地址对接gaianet#L921-L929frpcfrp 客户端按 frpc.toml 将本地 8080 端口反向代理到 GaiaNet 公共域名serverAddr、subdomain、deviceId等字段。启动后脚本还会用 curl 自检/v1/chat/completions接口针对 tool 类与非 tool 类提示词模板分别构造请求直到返回 200 才确认服务就绪gaianet#L537-L556。仓库中的 tests/chat.hurl 同样覆盖了GET /v1/models与POST /v1/chat/completions含错误的模型名容错场景两个端点的回归验证。如果只想在本地使用节点不暴露到任何 GaiaNet 公网域名gaianet start --local-only也可以启动安装在备选基础目录中的节点gaianet start --base $HOME/gaianet.alt从源码看gaianet start还支持--force-rag在snapshot为空时强制启动 RAG 服务与--wait val等待 gaia-nexus 就绪的秒数等参数可在 gaianet#L1273-L1281 查看完整帮助。停止节点gaianet stop典型输出[] Stopping WasmEdge, Qdrant and frpc ...从源码看stop实际会终止 WasmEdge、Qdrant、gaia-nexus 与 frpc 四类进程gaianet#L1150-L1156。停止安装在备选目录的节点gaianet stop --base $HOME/gaianet.alt更新配置gaianet config 子命令使用gaianet config子命令可以更新 config.json 中定义的关键字段。注意更新配置后必须重新运行gaianet init使新配置生效。例如更新chat字段对话模型 URLgaianet config --chat-url https://huggingface.co/second-state/Llama-2-13B-Chat-GGUF/resolve/main/Llama-2-13b-chat-hf-Q5_K_M.gguf更新chat_ctx_size字段对话上下文长度gaianet config --chat-ctx-size 5120原文档给出了gaianet config --help的完整输出全部选项如下$ gaianet config --help Usage: gaianet config [OPTIONS] Options: --chat-url url Update the url of chat model. --chat-ctx-size val Update the context size of chat model. --embedding-url url Update the url of embedding model. --embedding-ctx-size val Update the context size of embedding model. --prompt-template val Update the prompt template of chat model. --port val Update the port of LlamaEdge API Server. --system-prompt val Update the system prompt. --rag-prompt val Update the rag prompt. --rag-policy val Update the rag policy [Possible values: system-message, last-user-message]. --reverse-prompt val Update the reverse prompt. --domain val Update the domain of GaiaNet node. --snapshot url Update the Qdrant snapshot. --qdrant-limit val Update the max number of result to return. --qdrant-score-threshold val Update the minimal score threshold for the result. --base path The base directory of GaiaNet node. --help Show this help message对照当前仓库的 CLI 脚本gaianet#L1237-L1263config子命令还新增了更多可更新字段可在实际版本中直接使用--chat-batch-size val/--chat-ubatch-size val对话模型批大小与微批大小--embedding-batch-size val/--embedding-ubatch-size val向量化模型批大小与微批大小--chat-port val对话服务端口--embedding-port val向量化服务端口--context-window val上下文窗口大小。这些参数与 config.json 中的chat_batch_size、chat_ubatch_size、embedding_batch_size、embedding_ubatch_size、llamaedge_chat_port、llamaedge_embedding_port等字段一一对应改动后同样需要重新执行gaianet init才能生效。延伸阅读与进一步探索docker/README.mdDocker 部署方式包含 CPU 版 Dockerfile 与 CUDA 11/12 版本Dockerfile.cuda11、Dockerfile.cuda12CHANGES.md节点发行版本的变更记录可据此了解 CLI 与底层组件的演进utils/registry用于节点注册的 Wasm 组件及其源码Rust 编写见 utils/registry/src/main.rsfrpc.tomlfrp 反向代理配置模板serverAddr、subdomain、deviceId等字段testschat.hurl、embeddings.hurl、rag.hurl等 HTTP 接口测试用例可用于验证启动后的节点 API多语言版本README-cn.md、README-ja.md、README-tr.md 等。至此你已经掌握了 GaiaNet 节点的安装、初始化、启动、停止与配置更新的完整运维链路安装脚本负责部署 WasmEdge Qdrant RAG/WASM 服务栈init负责拉取模型与恢复向量集合start负责拉起 Qdrant、LlamaEdge API Server、gaia-nexus 与 frpc 并完成自检config则提供了一条免手改 JSON 的配置热更路径。Enjoy it!赞分享AI 应用大模型CLIRAG【免费下载链接】gaianet-nodeInstall, run and deploy your own decentralized AI agent service项目地址https://gitcode.com/GitHub_Trending/ga/gaianet-node点击查看免费下载相关推荐Civitai Referral Program v2 工程实现深度解析数据模型、结算清算与防刷设计Civitai Referral Program v2 工程实现深度解析数据模型、结算清算与防刷设计 本文基于 referral program reviewAI 应用大模型CLIRAGGaiaNet 节点部署实战基于 gaianet-node 的一键安装、初始化与 RAG 配置管理GaiaNet 节点部署实战基于 gaianet node 的一键安装、初始化与 RAG 配置管理 本指南以 README ru.md https://linAI 应用大模型CLIRAGThree.js 节点材质完全解析MeshLambertNodeMaterial 的 Lambert 光照实现与 WebGPU 使用指南Three.js 节点材质完全解析MeshLambertNodeMaterial 的 Lambert 光照实现与 WebGPU 使用指南 本文围绕 ThreeAI 应用大模型CLIRAG上一篇5步实现3D模型到Minecraft的终极转换指南ObjToSchematic完全解析下一篇Switch大气层系统终极指南从新手到高手的完整教程创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考