关掉训练开关,Daybreak会话照样进训练
OpenAI 通知 Trusted Access 成员,自 11 月 29 日起 Daybreak Blue 网络安全会话数据将用于模型训练,此前这类会话完全排除在训练之外,引发反弹后公司承诺另设退出选项。
- 01THE OLD RULE:此前 Daybreak Blue 会话完全排除在训练之外。
- 02THE EMAIL:OpenAI 发邮件通知成员,11 月 29 日起改规则。
- 03THE PUSHBACK:成员反弹后,第二封邮件承诺单独退出选项。
WHAT HAPPENED发生了什么
OpenAI 通知 Trusted Access 项目成员,自 11 月 29 日起,Daybreak Blue 网络安全会话数据将用于模型训练。Daybreak Blue 是 Trusted Access for Cyber 项目的安全层级,面向通过审核的安全研究员,模型在安全工作上的拒绝更少,适合漏洞分析、恶意软件研判与事件响应。
变化的关键在默认值。此前 Daybreak Blue 会话完全排除在训练之外,哪怕用户打开了通用的模型改进开关,也不会进训练。现在规则反过来,个人账号的 Daybreak 会话可以用于改进模型,哪怕用户关掉了通用开关。
反弹来得很快。成员反对后,OpenAI 发出第二封邮件,承诺为 Daybreak 会话另设退出选项。但这份承诺目前只停留在邮件里,公开帮助页没有写清退出选项何时上线、默认开还是关、由谁来启用。
THE OVERRIDE关掉的开关,挡不住例外条款
用户对训练开关的理解一直很简单,关掉就是不进训练。Daybreak Blue 的新规则打破了这个理解,通用开关继续管普通会话,但 Daybreak 会话单列一条例外。开关还在,边界换了地方。
这对安全研究员的影响格外直接。他们粘贴的东西,可能是未公开漏洞、攻击链、正在调查的客户系统结构。这些内容一旦进训练,泄露风险不是抽象的,是具体的职业风险。
PATCH NOT POLICY第二封邮件,是补丁不是政策
OpenAI 的第二封邮件承诺单独退出选项,算是对反弹的回应。但承诺与政策之间还差关键细节,退出选项何时上线,默认状态是什么,历史会话算不算在内,没有一项写清楚。
在细节落地之前,研究员的理性选择只有一个,按新规则已生效来行动。11 月 29 日之前,把敏感工作移出 Daybreak Blue,或者默认它会被用于训练。等退出选项上线再改习惯,等于把风险敞口留给过渡期。
TWO TIERS企业账号与个人账号,待遇已经分叉
这次变化只针对个人账号的 Daybreak 会话。Business、Enterprise、Edu 与 API 平台服务按默认不用于训练,普通会话继续由用户的通用设置决定。分叉的边界,就是账号类型。
对机构来说,这意味着采购与合规要分开谈。个人研究员的席位与企业席位,在训练政策上已经不是同一套规则,混用两种席位的研究团队,先要把数据流向理清楚。
SIGNAL JUDGMENT训练开关的例外,比开关本身重要
Tokenta Signal 判断:OpenAI 这次改的不是一个开关,是开关的可信度。例外条款可以存在,但必须在生效前写清退出方式,否则用户只能按最坏情况行动。
WHAT REMAINS UNCERTAIN还有什么不确定
EVIDENCE证据
原文确认 OpenAI 通知 Trusted Access 成员,自 11 月 29 日起 Daybreak Blue 会话数据将用于模型训练,此前这类会话完全排除在训练之外,成员反弹后公司承诺另设退出选项。
PRIMARY SOURCES原始来源
- Abijita:OpenAI Daybreak Blue Sessions May Be Used for Training
https://www.abijita.com/openai-daybreak-blue-training-data/ - Oossa:OpenAI plans to train on Daybreak Blue session data
https://oossa.com/en/openai-plans-to-train-on-daybreak-blue-session-data