尧图网站建设 
Khoj 如何接入 GCP Vertex AI 使用 Claude 与 Gemini 模型【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj如果你自托管了 Khoj又想通过 Google Cloud 的 Vertex AI 来调用 Anthropic 的 Claude 或 Google 的 Gemini 系列模型而不是直接使用各家的 API key就需要在 Khoj 管理面板中额外配置一条指向 Vertex AI 的 AI Model API并基于它创建对应的 Chat Model。整个过程不改动 Khoj 源码全部通过管理面板完成。适用前提你在使用自托管的 Khoj使用 Khoj Cloud 的话无需本文操作它自带预配置模型Khoj 服务器已在本机运行管理面板可通过http://localhost:42110/server/admin/访问你拥有 GCP 项目并且已在 Vertex AI 上启用了 Claude 或 Gemini 模型服务。相关文档GCP Vertex AI 接入说明、管理面板字段说明。登录管理面板使用安装时设置的KHOJ_ADMIN_EMAIL和KHOJ_ADMIN_PASSWORD登录http://localhost:42110/server/admin/。两个容易踩的坑来自安装文档请用localhost访问管理面板不要用127.0.0.1否则会报 CSRF 错误如果在 Khoj 前面挂了负载均衡或反向代理需设置环境变量KHOJ_ALLOWED_DOMAINyour-internal-ip-or-domain未设置时默认取KHOJ_DOMAIN否则可能出现 CSRF Trusted Origin 或 Unset Cookie 错误。准备 GCP 服务账号凭据在 GCP 控制台创建一个 Service Account并下载其凭据格式选择json。将这个 json keyfile 做 Base64 编码。文档给出的示例命令base64 -i service_account_credentials_keyfile.json其中service_account_credentials_keyfile.json替换为你实际下载的 keyfile 路径尖括号为文档占位符不要原样复制。命令输出的 Base64 字符串就是下一步要填入的 Api Key。文档还建议出于安全考虑可以把凭据放在环境变量中在运行时做 Base64 编码注入避免明文 keyfile 长期留在磁盘上。创建指向 Vertex AI 的 AI Model API在管理面板打开 AI Model API 的新增页面http://localhost:42110/server/admin/database/aimodelapi/add填写NameGoogle Vertex或你偏好的友好名称Api Key上一步得到的 Base64 编码后的 json keyfileApi Base Urlhttps://{MODEL_GCP_REGION}-aiplatform.googleapis.com/v1/projects/{YOUR_GCP_PROJECT_ID}两个占位符按文档说明替换MODEL_GCP_REGION模型可用的区域例如文档示例中us-east5可用于 ClaudeYOUR_GCP_PROJECT_ID你的 GCP 项目 ID可在 Google Cloud 控制台的 dashboard 页面查到。创建 Chat Model继续在管理面板创建 Chat Modelhttp://localhost:42110/server/admin/database/chatmodel/add字段如下Nameclaude-3-7-sonnet20250219文档示例值Vertex Model Garden 上任意可用的 Claude 或 Gemini 模型名都可以Model TypeAnthropicClaude 模型或GoogleGemini 模型Ai Model API选择上一步创建的 Google Vertex 那条 APIMax prompt size60000请替换成你所选模型的实际最大 prompt 值Tokenizer不设置。注意 Max prompt size 要与模型文档中定义的上下文上限一致超出限制可能导致输入被静默截断或直接失败。选择模型并验证接入打开你的设置页http://localhost:42110/settings在 chat model 下拉框中选择刚创建的模型发起一次对话能收到该模型的回复即说明 Vertex AI 链路打通。文档没有给出固定的成功日志或输出样例可用的验证方式就是模型能被选入设置页、且实际对话有正常响应。排查常见问题文档针对接入 Vertex AI 列出的故障现象与处理方式Permission Denied确认服务账号拥有Vertex AI User角色且相关 API 已在你的 GCP 项目中启用。Region 报错核对目标模型是否支持你选的区域部分 Claude 或 Gemini 模型被限制在特定区域如us-east5或us-central1。prompt 超限将 Max prompt size 调整为模型文档中的实际上限超限时可能静默失败或截断输入。提前测试凭据在把 key 填入 Khoj 之前文档建议先向 Vertex AI 发一个简单的 curl 请求验证 key 是否可用以便尽早定位鉴权问题。文档没有给出 curl 的具体样例需要自行按 Vertex AI 的调用方式构造。边界与下一步本文仅适用于自托管用户Khoj Cloud 用户可直接使用平台预配置模型不需要走这条配置路径。配好第一个 Vertex 模型后若还想让意图识别、联网搜索等中间步骤也用它可以在 ServerChatSettings 的Default字段中指定默认 chat model自托管时无需设置Advanced字段。若以上步骤仍无法连通文档建议在 Khoj Discord 社区提问。【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Khoj 如何接入 GCP Vertex AI 使用 Claude 与 Gemini 模型？
Khoj 如何接入 GCP Vertex AI 使用 Claude 与 Gemini 模型【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj如果你自托管了 Khoj又想通过 Google Cloud 的 Vertex AI 来调用 Anthropic 的 Claude 或 Google 的 Gemini 系列模型而不是直接使用各家的 API key就需要在 Khoj 管理面板中额外配置一条指向 Vertex AI 的 AI Model API并基于它创建对应的 Chat Model。整个过程不改动 Khoj 源码全部通过管理面板完成。适用前提你在使用自托管的 Khoj使用 Khoj Cloud 的话无需本文操作它自带预配置模型Khoj 服务器已在本机运行管理面板可通过http://localhost:42110/server/admin/访问你拥有 GCP 项目并且已在 Vertex AI 上启用了 Claude 或 Gemini 模型服务。相关文档GCP Vertex AI 接入说明、管理面板字段说明。登录管理面板使用安装时设置的KHOJ_ADMIN_EMAIL和KHOJ_ADMIN_PASSWORD登录http://localhost:42110/server/admin/。两个容易踩的坑来自安装文档请用localhost访问管理面板不要用127.0.0.1否则会报 CSRF 错误如果在 Khoj 前面挂了负载均衡或反向代理需设置环境变量KHOJ_ALLOWED_DOMAINyour-internal-ip-or-domain未设置时默认取KHOJ_DOMAIN否则可能出现 CSRF Trusted Origin 或 Unset Cookie 错误。准备 GCP 服务账号凭据在 GCP 控制台创建一个 Service Account并下载其凭据格式选择json。将这个 json keyfile 做 Base64 编码。文档给出的示例命令base64 -i service_account_credentials_keyfile.json其中service_account_credentials_keyfile.json替换为你实际下载的 keyfile 路径尖括号为文档占位符不要原样复制。命令输出的 Base64 字符串就是下一步要填入的 Api Key。文档还建议出于安全考虑可以把凭据放在环境变量中在运行时做 Base64 编码注入避免明文 keyfile 长期留在磁盘上。创建指向 Vertex AI 的 AI Model API在管理面板打开 AI Model API 的新增页面http://localhost:42110/server/admin/database/aimodelapi/add填写NameGoogle Vertex或你偏好的友好名称Api Key上一步得到的 Base64 编码后的 json keyfileApi Base Urlhttps://{MODEL_GCP_REGION}-aiplatform.googleapis.com/v1/projects/{YOUR_GCP_PROJECT_ID}两个占位符按文档说明替换MODEL_GCP_REGION模型可用的区域例如文档示例中us-east5可用于 ClaudeYOUR_GCP_PROJECT_ID你的 GCP 项目 ID可在 Google Cloud 控制台的 dashboard 页面查到。创建 Chat Model继续在管理面板创建 Chat Modelhttp://localhost:42110/server/admin/database/chatmodel/add字段如下Nameclaude-3-7-sonnet20250219文档示例值Vertex Model Garden 上任意可用的 Claude 或 Gemini 模型名都可以Model TypeAnthropicClaude 模型或GoogleGemini 模型Ai Model API选择上一步创建的 Google Vertex 那条 APIMax prompt size60000请替换成你所选模型的实际最大 prompt 值Tokenizer不设置。注意 Max prompt size 要与模型文档中定义的上下文上限一致超出限制可能导致输入被静默截断或直接失败。选择模型并验证接入打开你的设置页http://localhost:42110/settings在 chat model 下拉框中选择刚创建的模型发起一次对话能收到该模型的回复即说明 Vertex AI 链路打通。文档没有给出固定的成功日志或输出样例可用的验证方式就是模型能被选入设置页、且实际对话有正常响应。排查常见问题文档针对接入 Vertex AI 列出的故障现象与处理方式Permission Denied确认服务账号拥有Vertex AI User角色且相关 API 已在你的 GCP 项目中启用。Region 报错核对目标模型是否支持你选的区域部分 Claude 或 Gemini 模型被限制在特定区域如us-east5或us-central1。prompt 超限将 Max prompt size 调整为模型文档中的实际上限超限时可能静默失败或截断输入。提前测试凭据在把 key 填入 Khoj 之前文档建议先向 Vertex AI 发一个简单的 curl 请求验证 key 是否可用以便尽早定位鉴权问题。文档没有给出 curl 的具体样例需要自行按 Vertex AI 的调用方式构造。边界与下一步本文仅适用于自托管用户Khoj Cloud 用户可直接使用平台预配置模型不需要走这条配置路径。配好第一个 Vertex 模型后若还想让意图识别、联网搜索等中间步骤也用它可以在 ServerChatSettings 的Default字段中指定默认 chat model自托管时无需设置Advanced字段。若以上步骤仍无法连通文档建议在 Khoj Discord 社区提问。【免费下载链接】khojYour AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.项目地址: https://gitcode.com/GitHub_Trending/kh/khoj创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考