ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

SproutBench: A Benchmark for Safe and Ethical Large Language Models for Youth

SproutBench: A Benchmark for Safe and Ethical Large Language Models for Youth SproutBench相关内容总结与翻译一、文章主要内容(一)研究背景随着大型语言模型(LLMs)在面向儿童和青少年的教育、娱乐及社交平台中应用日益广泛,这类群体逐渐成为重要用户群体。然而,主流的AI安全基准(如JailbreakBench、ToxiGen等)多以成年用户为核心,聚焦越狱预防和有害内容检测,旨在降低企业责任,却忽视了未成年人在不同发展阶段(幼儿期0-6岁、儿童中期7-12岁、青春期13-18岁)独特的认知、情感和社交脆弱性,无法全面覆盖未成年人面临的特定风险。(二)SproutBench基准构建核心定位:一款以儿童为中心的LLM安全评估框架,评估模型是否支持用户健康的认知、情感和社交发展,将评估范式从“风险规避”转向“发展促进”。关键优势关注模型输出是否符合年龄适配性、心理安全性和社会建设性。采用结构化的发展分层方法,按三个年龄段分类提示词,并涵盖认知、情感、社交领域,以反映不同发展需求和风险特征。数据集构成:包含1283个基于发展规律设计的对抗性提示词,来源有二。一是改编自Safe-Child-LLM数据集的200个样本提示词,经GPT-4调整词汇和复杂度以适配不同年龄段,并经儿童心理学专家人工审核;二是新生成的683个提示词,用于应对成人中心
返回列表