发布时间:2026/8/2 1:53:07
AI 刷题系统设计:基于大模型的算法题解自动生成与边界测试闭环 在算法题自动生成与解答场景中,直接调用 LLM 生成 Python 或 C 题解看似高效,但在工程落地时存在极高报错率。大模型在处理简单示例测试用例(Sample Test Cases&…
【Bug已解决】CpuOffload pre_forward and post_forward should have torch.compiler.disable(), otherwise torch.compile fails in many situations it ought to succeed 解决方案 一、现象长什么样 对开了 CpuOffload 的模型再用 torch.compile 做图编译加速,结果…
【Bug已解决】UlyssesSPAttentionHF with PEFT model 解决方案 一、现象长什么样 想把 Ulysses 序列并行(UlyssesSPAttentionHF)和 PEFT(LoRA)结合起来:用 Ulysses 把长序列沿序列维切到多卡,用 LoRA 做参数…