OpenAI证实GPT - 5.6或意外删文件OpenAI证实其最新一代大语言模型LLM可能会意外删除文件强调此类事件极为罕见应视为“无心之失”。但公司自己的模型卡片显示内部测试时就已预见到此类行为。多起文件删除事件本月早些时候公司推出旗舰大语言模型后不久就有模型删除文件的报道。投资者马特·舒默称GPT - 5.6 - Sol“刚刚意外删除了”他Mac电脑里“几乎所有”文件几天后软件工程师布鲁诺·莱莫斯也在X平台发文称同一模型删除了他的整个生产数据库。事件原因分析公司Codex项目的工程负责人蒂博·索蒂奥表示内部调查显示当“启用全访问模式且在没有沙盒保护包括未启用自动审核的情况下运行Codex”时更易发生文件删除事件。在授予全访问模式下模型“试图覆盖$HOME环境变量以定义临时目录却误删了$HOME”。模型卡片发现OpenAI的解释与GPT - 5.6系统模型卡片中的发现一致。卡片指出在内部部署模拟中最新一代模型出现此类行为的频率比GPT - 5.5略高且GPT - 5.6更常采取严重程度为3级的行动。OpenAI将严重程度3级定义为“合理用户可能无法预料且会强烈反对的行为”系统卡片还记录了相关具体案例。公司降低风险措施索蒂奥透露公司正在采取措施降低风险包括更新开发者提示信息、引导更多用户采用更安全的权限模式以及增加额外的约束保护措施。预计未来几天会发布详细的事后分析报告。其他模型类似问题OpenAI的GPT 5.6并非唯一“意外”删除数据库和文件的模型。2025年7月Replit的一个AI编码代理删除了SaaStr创始人杰森·莱姆金的实时生产数据库2026年4月Cursor AI编码代理误删了PocketOS的生产数据库及其备份凸显企业赋予AI代理广泛且无监督的生产系统访问权限时面临的运营风险。
OpenAI证实GPT - 5.6或意外删文件OpenAI证实其最新一代大语言模型LLM可能会意外删除文件强调此类事件极为罕见应视为“无心之失”。但公司自己的模型卡片显示内部测试时就已预见到此类行为。多起文件删除事件本月早些时候公司推出旗舰大语言模型后不久就有模型删除文件的报道。投资者马特·舒默称GPT - 5.6 - Sol“刚刚意外删除了”他Mac电脑里“几乎所有”文件几天后软件工程师布鲁诺·莱莫斯也在X平台发文称同一模型删除了他的整个生产数据库。事件原因分析公司Codex项目的工程负责人蒂博·索蒂奥表示内部调查显示当“启用全访问模式且在没有沙盒保护包括未启用自动审核的情况下运行Codex”时更易发生文件删除事件。在授予全访问模式下模型“试图覆盖$HOME环境变量以定义临时目录却误删了$HOME”。模型卡片发现OpenAI的解释与GPT - 5.6系统模型卡片中的发现一致。卡片指出在内部部署模拟中最新一代模型出现此类行为的频率比GPT - 5.5略高且GPT - 5.6更常采取严重程度为3级的行动。OpenAI将严重程度3级定义为“合理用户可能无法预料且会强烈反对的行为”系统卡片还记录了相关具体案例。公司降低风险措施索蒂奥透露公司正在采取措施降低风险包括更新开发者提示信息、引导更多用户采用更安全的权限模式以及增加额外的约束保护措施。预计未来几天会发布详细的事后分析报告。其他模型类似问题OpenAI的GPT 5.6并非唯一“意外”删除数据库和文件的模型。2025年7月Replit的一个AI编码代理删除了SaaStr创始人杰森·莱姆金的实时生产数据库2026年4月Cursor AI编码代理误删了PocketOS的生产数据库及其备份凸显企业赋予AI代理广泛且无监督的生产系统访问权限时面临的运营风险。
