OpenAI 发布社区安全报告和新的青少年保护措施,加强 ChatGPT 的暴力预防
对话产品的安全要求在从「拒答」走向「更早介入」和「对外报告」。
// 要点
- OpenAI 扩大 ChatGPT 的暴力预防保护措施,并更早介入。
- 同时推出新的青少年保护措施,并承诺今后公开发布安全报告。
开发者视角这条我只看到了官方摘要(原文页面拒绝抓取),细节要等报告本身。但方向很清楚:面向大众的对话产品,标准正从「模型拒答就算安全」变成「要能识别风险、提前介入、定期公开」。哪怕产品只面向成年人,我也会先补一条风险升级路径:命中高风险内容时转人工、留记录,而不是只靠模型自己拒绝。