
前沿资讯
1758097897更新
0
导读: 萨姆·奥特曼(Sam Altman)发表署名文章,介绍了OpenAI在隐私、自由与青少年安全三方面的原则与取舍。保护用户隐私是最重要的底线/尊重成年用户的使用自由/青少年群体安全优先于自由和隐私。
9月17日消息,OpenAI首席执行官萨姆·奥特曼(Sam Altman)发表了一篇署名文章,围绕“隐私、自由与青少年安全”三大原则,介绍了OpenAI在相关问题上的最新思考与行动。
奥特曼指出,保护用户隐私是最重要的底线。随着人们越来越多地在对话工具中谈及个人隐私问题,这类交互正变得比以往任何科技产品都更加敏感。他认为,用户和AI的对话内容应当获得和医生、律师沟通时同等级别的保护。
为此,OpenAI正在开发更高级的安全功能,以确保用户数据即便对其内部员工也不可见。不过,仍会保留少数例外情况,例如涉及严重滥用或可能危及生命、社会安全的风险。
在隐私之外,奥特曼强调的第二个原则是尊重成年用户的使用自由。在他看来,成年用户应当被当作成年人对待,只要不涉及伤害他人或公共安全,使用边界就应该尽可能宽松。例如,若成年用户明确提出主动进行暧昧聊天,系统也可以得到相应回应。
第三个原则则专门面向未成年人。奥特曼直言,在青少年群体中,安全优先于自由和隐私。为此,OpenAI正在研发年龄预测系统,将自动区分未成年人和成年人,一旦存在疑问,就会默认归入未成年人保护模式。在某些国家或场景下,可能还会要求提供身份证明。
对未成年人,系统会设置更多限制,比如不会提供暧昧对话,也不会在任何情况下探讨自残相关内容。若系统检测到用户存在自残倾向,还会尝试联系家长,必要时甚至会通知相关部门。
奥特曼承认,隐私、自由与青少年保护之间存在天然冲突,不同人也会有不同看法。但他强调,这些决定都是在广泛地咨询各类专家意见后作出的,OpenAI希望能以透明的方式让公众理解其决定。
参考资料:https://openai.com/index/teen-safety-freedom-and-privacy/