OpenAI发布重要公告，详细介绍了其在网络安全领域的多项关键进展，涵盖资助计划、赏金计划及整体安全举措的升级，彰显其在迈向通用人工智能（AGI）过程中对安全保障的关注。

网络安全资助计划升级，鼓励创新研究

OpenAI表示，于两年前启动的网络安全资助计划，目前已审核超千份申请，资助了28个研究项目，在提示注入、安全代码生成等关键领域积累了宝贵经验。

为进一步推动人工智能与网络安全科学发展，该计划现扩大征集范围，重点关注的领域包括软件补丁，即借助人工智能的力量来检测和修补漏洞；训练数据隐私，致力于增强对私人训练数据意外暴露的抵御能力；检测与响应，提升对高级持续性威胁的检测和应对水平；安全集成，提高人工智能与安全工具集成的精准度和可靠性；智能体安全，增强人工智能智能体抵御复杂攻击的韧性。

为了鼓励更多创新想法的涌现，OpenAI还推出了微型资助，为研究人员提供API信用额度，助力他们快速将创新的网络安全构想转化为可测试的原型，积极推动人工智能与网络安全科学的协同发展。

漏洞赏金计划拓展，激励安全研究

OpenAI的安全漏洞赏金计划迎来重大升级。一方面，大幅提高漏洞赏金上限，从20000美元提升至100000美元，用以奖励那些具有特殊关键影响力的安全发现。另一方面，推出限时奖金促销活动，在特定期间内，符合要求的研究人员可获额外赏金，具体标准和时间期限可在漏洞赏金计划页面查看。OpenAI希望借此激励更多安全研究人员，共同守护其基础设施与产品安全。

多维度强化安全举措，构建坚固防线

开源合作与研究共享方面：OpenAI表示正在积极与研究人员、从业者展开合作，在开源安全研究方面已取得丰硕成果。与各界专家携手提升模型能力，在代码安全等领域取得显著进展，在公共基准测试中成绩优异，还将披露开源软件代码漏洞，推动整个网络安全社区共同进步。

先进技术驱动安全防御方面：OpenAI正利用自身AI技术打造先进网络防御体系，开发智能检测方法。AI驱动的安全智能体可增强威胁检测与响应能力，为安全团队提供精准情报，高效应对复杂网络攻击。同时，与SpecterOps合作开展持续对抗性红队测试，通过模拟攻击强化系统防御能力，主动识别漏洞并提升应对策略。

打击恶意行为，保障技术安全方面：OpenAI持续监控并打击恶意行为者对其技术的滥用企图，面对威胁不仅自我防御，还与其他实验室共享策略，携手行业与政府力量，确保AI技术安全开发与部署。在新兴AI智能体安全保障方面，积极应对提示注入等挑战，构建统一框架实现实时管控。此外，在未来AI项目中，以安全为核心，采用零信任架构等先进实践，从基础层面筑牢安全防线。

OpenAI表示，随着AI技术快速发展，保障安全的责任愈发重大。目前其每周服务全球超4亿用户，保护系统、知识产权和数据安全是重中之重。未来，OpenAI将继续秉持积极主动、透明负责的态度，通过严格测试、合作研究等方式，确保AGI安全、有益发展。

参考资料：https://openai.com/index/security-on-the-path-to-agi/