你见过同一个模型在“惜字如金”与“侃侃而谈”之间无缝切换吗？不重训、不微调、不挂 LoRA——同一个权重文件，同一个 prompt，唯一变的是命令行里的一个数字。输出立刻从 67 词变成 171 词，从一段紧凑短答变成带小节的完整长文。权重一个字节都没动，模型却像换了副面孔。这个把戏背后，是表征工程（Representation Engineering）近年来最锋利的一次落地：把“行为”从权重里剥离出来，变成一张可被运行时读取的“性格地图”。离线用 100 对 prompt 在每一层隐藏层上各提取一条 4096 维方向向量，汇聚成一份不到 700 KB 的二进制文件；运行时把它读进 GPU，在注意力输出或 FFN 输出上做一次投影改写。“语气”“详细度”“话题”这些本该由训练阶段写死的属性，从此变成推理命令行上随时可拨的旋钮。真正迷人的是它的成本结构。传统上，改行为 = 改权重：微调全量参数或挂 LoRA，每个行为都要存一份几 GB 的权重副本，想切回原样还得重新加载。而在这里，换行为 = 换文件——一次离线提取，换来运行时的即时切换，成本从“重训一个模型”降到“重启一次推理”。同一份权重、同一张推理图，服务 N 种风格。用 README 的原话说：这不是微调，而是一次低秩的运行时编辑（a low-rank runtime edit）。先讲清楚为什么“行为”可以被表示成一个向量方向，再解耦那条正交投影公式的几何语义，然后带着你走读 DS4 里 CPU、CUDA、Metal 三个后端的注入实现，收尾再把方向提取工具链和 Sweep 参数评估逐段看穿。1. 表征工程与隐藏层向量干预：行为为什么可以被“一个方向”表示
你见过同一个模型在“惜字如金”与“侃侃而谈”之间无缝切换吗？不重训、不微调、不挂 LoRA——同一个权重文件，同一个 prompt，唯一变的是命令行里的一个数字。输出立刻从 67 词变成 171 词，从一段紧凑短答变成带小节的完整长文。权重一个字节都没动，模型却像换了副面孔。这个把戏背后，是表征工程（Representation Engineering）近年来最锋利的一次落地：把“行为”从权重里剥离出来，变成一张可被运行时读取的“性格地图”。离线用 100 对 prompt 在每一层隐藏层上各提取一条 4096 维方向向量，汇聚成一份不到 700 KB 的二进制文件；运行时把它读进 GPU，在注意力输出或 FFN 输出上做一次投影改写。“语气”“详细度”“话题”这些本该由训练阶段写死的属性，从此变成推理命令行上随时可拨的旋钮。真正迷人的是它的成本结构。传统上，改行为 = 改权重：微调全量参数或挂 LoRA，每个行为都要存一份几 GB 的权重副本，想切回原样还得重新加载。而在这里，换行为 = 换文件——一次离线提取，换来运行时的即时切换，成本从“重训一个模型”降到“重启一次推理”。同一份权重、同一张推理图，服务 N 种风格。用 README 的原话说：这不是微调，而是一次低秩的运行时编辑（a low-rank runtime edit）。先讲清楚为什么“行为”可以被表示成一个向量方向，再解耦那条正交投影公式的几何语义，然后带着你走读 DS4 里 CPU、CUDA、Metal 三个后端的注入实现，收尾再把方向提取工具链和 Sweep 参数评估逐段看穿。1. 表征工程与隐藏层向量干预：行为为什么可以被“一个方向”表示
)
