ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

Gemini 3.1 Pro重磅登场!ARC-AGI-2、SWE-Bench、Terminal-Bench 三项基准实测,小白也能轻松掌握,速收藏!

Gemini 3.1 Pro重磅登场!ARC-AGI-2、SWE-Bench、Terminal-Bench 三项基准实测,小白也能轻松掌握,速收藏! 1. 从三项基准看 Gemini 3.1 Pro 到底强在哪Gemini 3.1 Pro 发布后讨论度最高的不是参数规模而是 ARC-AGI-2、SWE-Bench Verified、Terminal-Bench 2.0 这三项基准的分数变化。ARC-AGI-2 从上一代的 31.1% 直接跳到 77.1%SWE-Bench Verified 拿到 80.6%Terminal-Bench 2.0 是 68.5%。这三个数字分别对应三种完全不同的能力抽象推理、真实仓库修 bug、终端环境下的多步操作。如果你刚接触大模型评测很容易被这些英文缩写劝退。我用一句话解释ARC-AGI-2 考的是「没见过的新规则能不能自己推出来」SWE-Bench 考的是「给你一个 GitHub issue 能不能真的改对代码」Terminal-Bench 考的是「在命令行里连续执行多步任务会不会中途翻车」。它们不是选择题题库而是接近真实工作流的任务集。这篇内容面向想自己动手复现评测结果的读者。我会把三项基准的跑分思路拆开给出可复制的调用配置并说明如何通过 TaoToken 统一 Key 和 API 通道接入 Gemini 3.1 Pro避免在多个平台之间来回切换。你不需要有评测框架开发经验只要能跑 Python 脚本、会改 JSON 配置就能跟着走一遍。先说结论三项基准里SWE-Bench 和 Terminal-Bench 对「工具调用 长上下文」的依赖最重ARC-AGI-2 更看纯推理。Gemini 3.1 Pro 保持 100 万 token 上下文窗口支持工具调用、结构化输出和 JSON 模式这三点正好是跑 SWE-Bench 类任务的基础设施。速度方面平均输出约 114 token/秒比前代略慢但在长任务里稳定性比峰值速度更重要。我实测下来真正影响复现成功率的不是模型本身而是三件事Base URL 有没有配对、模型 ID 有没有写错、评测脚本里的超时和重试有没有设够。下面按「先接通、再跑分、后排障」的顺序展开。2. TaoToken 前置准备统一 Key 与 API 通道在跑任何基准之前先把调用通道固定下来。原因很简单三项基准的评测脚本通常需要成百上千次请求如果每次换平台都要改代码里的 endpoint 和鉴权方式调试成本会翻倍。TaoToken 的作用是提供一个统一的 API 入口让你用同一套 Key 和 Base URL 调用包括 Gemini 3.1 Pro 在内的多个模型。你需要准备的东西只有两样一个可用的 API Key以及正确的 Base URL。官网地址是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 入口是 https://taotoken.net/api 。注意 API 地址后面不加任何查询参数保持干净。获取 Key 的路径在控制台的 API Keys 页面https://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi_keysutm_campaignrewrite 。进去之后新建一个 Key复制出来先存到环境变量里不要直接硬编码进脚本。我习惯这样写export TAOTOKEN_API_KEYsk-你的实际key export TAOTOKEN_BASE_URLhttps://taotoken.net/api这样做的另一个好处是后面无论用 OpenAI SDK、Anthropic SDK 还是自己写的 requests 请求都从环境变量读取换机器时不用改代码。模型 ID 这块要特别小心。Gemini 3.1 Pro 在不同通道里的命名可能带后缀比如 preview 版本。跑基准时建议先用模型对话页面确认当前可用的准确 IDhttps://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。把 ID 记下来后面配置里逐字对照大小写和连字符都不能错。如果你打算长期跑评测或做 Agent 类任务可以考虑 Coding Plan它更适合高频、长时间的编码与工具调用场景https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding_planutm_campaignrewrite 。短期复现三项基准的话按量调用就够了。前置准备做到位后面 90% 的 401 和 404 报错都能提前避免。我见过太多人卡在第一步其实是 Key 复制时带了空格或者 Base URL 多写了一个斜杠。3. 可复制配置三项基准的调用参数与 settings 片段这一节给出可以直接抄的配置。三项基准的评测脚本结构不同但底层调用方式一致所以先统一客户端配置再分别设置任务参数。先看通用的 Python 客户端初始化。用 OpenAI 兼容方式调用最省事import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], ) MODEL_ID gemini-3.1-pro-preview # 以模型列表页实际ID为准 def chat(messages, temperature0.0, max_tokens8192): resp client.chat.completions.create( modelMODEL_ID, messagesmessages, temperaturetemperature, max_tokensmax_tokens, ) return resp.choices[0].message.contenttemperature 设 0.0 是为了让基准结果可复现评测场景不需要创造性。max_tokens 给到 8192 起步SWE-Bench 类任务输出补丁可能更长可以调到 16384。如果你用的是支持 settings.json 的工具链比如某些 Agent 框架配置片段长这样{ provider: openai-compatible, base_url: https://taotoken.net/api, api_key_env: TAOTOKEN_API_KEY, model: gemini-3.1-pro-preview, temperature: 0.0, max_tokens: 16384, timeout: 120, max_retries: 3 }timeout 和 max_retries 这两项在跑 Terminal-Bench 时尤其重要因为多步终端任务单次耗时可能超过 60 秒默认超时太短会大量失败。三项基准的参数差异用表格对照更清楚基准关键参数建议值说明ARC-AGI-2temperature0.0纯推理禁止采样随机性ARC-AGI-2max_tokens4096输出推理链即可SWE-Benchmax_tokens16384补丁可能较长SWE-Bench工具调用开启需要读文件、跑测试Terminal-Benchtimeout180多步命令耗时长Terminal-Benchmax_retries3网络抖动重试工具调用这块Gemini 3.1 Pro 支持 function callingSWE-Bench 和 Terminal-Bench 都依赖它。开启方式是在请求里传 tools 参数具体 schema 按你的评测框架来。如果框架已经封装好确认它走的是 OpenAI 兼容格式即可。还有一个容易忽略的点结构化输出。SWE-Bench 需要模型输出统一格式的补丁Terminal-Bench 需要结构化的命令序列。Gemini 3.1 Pro 支持 JSON 模式在请求里加 response_format 可以强制输出 JSON减少解析失败。配置写完后先别急着跑全量。用一条最简单的请求验证通道是否通再进入下一节。4. 验证请求与成功结果逐项跑通三项基准先做最小验证。发一条请求确认能拿到回复result chat([ {role: user, content: 回答一个词11等于几} ]) print(result)如果返回正常文本说明 Key、Base URL、模型 ID 三件套都对。如果报错直接跳到第 5 节对照排查。通道通了之后逐项验证三项基准。ARC-AGI-2 最简单因为它不需要工具调用本质是给模型一组输入输出示例让它推断规则并给出新输入的答案。你可以先手动构造一个小样例prompt 下面是几组输入输出示例 输入 [[1,2],[3,4]] 输出 [[1,2],[3,4]] 输入 [[5,6],[7,8]] 输出 [[5,6],[7,8]] 请推断规则并给出 输入 [[9,10],[11,12]] 的输出。只输出结果。 print(chat([{role: user, content: prompt}]))这个样例规则是恒等映射用来验证模型是否按格式输出。真实 ARC-AGI-2 任务复杂得多但验证流程一样喂示例、取答案、和标准答案比对。跑官方评测集时把每条任务的示例和测试输入拼进 prompt收集输出后统一算准确率。SWE-Bench 的验证要复杂一层因为它需要模型在真实仓库里定位问题并生成补丁。最小验证方式是挑一个已知的小 issue把仓库结构、相关文件内容、issue 描述一起给模型要求它输出 unified diff 格式的补丁。成功的结果应该是一段能 apply 的 diff而不是自然语言解释。如果模型只输出「我认为应该修改某函数」这种描述说明工具调用或格式约束没配好。Terminal-Bench 验证的是多步终端操作。最小样例是给一个任务描述比如「在当前目录创建一个 test 文件夹在里面新建 a.txt 并写入 hello」观察模型是否输出正确的命令序列。成功结果是可执行的命令列表且顺序正确。这里要重点看模型会不会在中途丢失上下文Gemini 3.1 Pro 的 100 万 token 窗口在这类任务里是优势。三项都跑通后你会得到一组自己的实测数字。注意个人复现的绝对分数通常低于官方公布值因为评测环境、重试策略、超时设置都不同。重点不是追平 77.1% 或 80.6%而是确认你的调用链路稳定、结果可复现。跑分过程中建议记录每次请求的耗时和 token 消耗。Gemini 3.1 Pro 定价是每百万输入 token 2 美元、输出 12 美元跑全量基准前先估算成本避免意外超支。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth跑基准时最容易撞上的几类报错我按出现频率排一下并给出对照处理方式。401 Unauthorized 基本只有一个原因Key 不对。检查三处——环境变量有没有真正 export 成功用echo $TAOTOKEN_API_KEY确认、Key 复制时有没有带首尾空格、Key 有没有被控制台禁用。还有一种隐蔽情况脚本里同时存在硬编码的旧 Key 和环境变量实际用的是旧的那个。搜一遍代码里的sk-前缀确保只有一处来源。local proxy failed 这类报错通常和网络层有关。先确认 Base URL 写的是 https://taotoken.net/api 没有多余路径。然后检查本机是否有其他网络工具在拦截请求。如果你在容器里跑确认容器能正常访问外网。这个报错和模型本身无关纯粹是请求没发出去。reading choices 报错一般出现在解析响应时典型信息是KeyError: choices或NoneType has no attribute choices。原因通常是返回体不是标准 OpenAI 格式或者请求被中间层改写。处理方式先把原始响应打印出来看结构确认是不是走了错误的 endpoint。另一个常见原因是模型 ID 写错服务端返回了错误对象而不是正常 completion。OAuth 相关报错多出现在用 Anthropic SDK 或 Claude Code 类工具时。如果你用 OpenAI 兼容方式调用一般不会碰到。真遇到时确认鉴权方式选的是 API Key 而不是 OAuth 流程Base URL 指向 API 入口而非其他路径。再补两个非报错但影响结果的坑。一是超时设置太短Terminal-Bench 任务跑到一半被掐断表现为结果不完整但没有异常。把 timeout 调到 180 秒以上。二是重试策略缺失网络抖动导致偶发失败被计入错误率拉低分数。加上 max_retries3 并做指数退避。排查时养成一个习惯先发最小请求确认通道再跑单条任务确认逻辑最后才跑全量。这样出问题时能快速定位是通道层、逻辑层还是数据层。6. 接入文档与后续调用入口三项基准跑通后你手里就有了一套可复用的调用配置。后续想验证其他模型只需要改 MODEL_ID其余配置不动。这就是统一通道的价值——评测代码和模型解耦。需要查更细的接口参数、鉴权方式、错误码说明看接入文档https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。文档里有完整的请求示例和字段说明比对着改配置更快。想快速对比不同模型在同一 prompt 下的表现直接用模型对话页面不用写代码https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。把 ARC-AGI-2 的样例粘进去切换模型看输出差异这是最省事的横向验证方式。如果你要长期跑编码类或 Agent 类任务Coding Plan 在高频调用下更划算https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding_planutm_campaignrewrite 。短期复现基准的话按量调用配合 API Keys 页面管理就够了https://taotoken.net/console/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi_keysutm_campaignrewrite 。最后留一个实用技巧把三项基准的最小验证脚本存成一个文件每次换模型或换 Key 时先跑一遍。三分钟内就能确认通道是否正常比直接跑全量再排查省事得多。评测这件事稳定复现比追高分更有价值。
返回列表