ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

WaterSearch: A Quality-Aware Search-based Watermarking Framework for Large Language Models

WaterSearch: A Quality-Aware Search-based Watermarking Framework for Large Language Models 文章总结与翻译一、主要内容该研究针对大型语言模型(LLMs)文本水印技术中存在的可检测性与文本质量权衡问题,提出了一种基于搜索的水印框架WaterSearch。核心思路是通过种子池动态管理实现并行多样化生成,在句子层面联合优化文本分布保真度与水印信号特征,同时配套鲁棒性强的句子级检测方法。核心背景现有LLM水印方法多通过扰动token生成概率嵌入信号,但增强水印可检测性的同时会导致下游任务性能下降,尤其在短文本生成、低熵输出(如代码补全)等场景中问题突出。技术框架生成阶段:输入提示后,并行生成1个无水印文本和k-1个不同种子的水印文本,利用KV缓存复用降低计算开销,通过加权指标(语义/词汇相似度+水印信号强度)选择最优文本块拼接生成最终结果。检测阶段:采用χ²假设检验实现块级验证,结合Fisher组合概率测试聚合各块结果,对插入攻击、同义词替换、改写攻击等具有强抗性。实验结果在3个主流LLM(Qwen-2.5-7B-Instruct、Llama-2-7B-chat、InternLM-7B-chat)和10个任务上,平均性能较现有方法提升51.01%(水印可检测性保持95%);短文本生成场景性能提升47.78%,低熵场景提升36.47%;计算开销可控,并
返回列表