让开发者看到了光:OpenAI 在其 API 中引入了结构化输出功能

前沿资讯 1723023490更新

0

      今日凌晨,OpenAI 在其 API 中引入了结构化输出功能,这一更新可以提高模型生成的输出与开发者提供的 JSON 模式的匹配度,确保输出的准确性和可靠性。通过这项功能,开发者可以更精确地控制模型的行为,实现对模型输出结果的深度定制,从而简化与外部系统的交互流程,提高开发效率和产品质量。

      结构化输出功能允许开发者指定一个 JSON 对象格式,模型将根据这个格式生成响应。开发者不再需要担心模型会遗漏必填键或生成无效的枚举值。OpenAI 表示,这一功能确保了模型生成的响应始终符合用户提供的 JSON 模式,从而提高了响应的类型安全,简化了提示词,并且明确了模型拒绝的机制。

      在实际应用中,结构化输出功能极大地提升了与外部工具和 API 的交互效率。开发者可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函数,模型将智能地选择输出一个包含调用这些函数参数的 JSON 对象。这使得模型能够更准确地与外部工具和 API 进行交互,为开发者提供了更大的灵活性和控制力。

      OpenAI 还在 API 中引入了两种形式的结构化输出:一种是通过工具进行的函数调用,另一种是响应格式的新选项。开发者可以通过 json_schema 参数提供 JSON 模式,当启用严格模式时,模型的输出将严格符合提供的模式。此外,OpenAI 的 Python 和 Node SDK 也已更新,支持结构化输出的原生功能。开发者只需提供 Pydantic 或 Zod 对象,OpenAI 的 SDK 就会自动处理数据类型转换和 JSON 响应的解析。

      值得一提的是,在对复杂 JSON 模式的评估中,新模型 gpt-4o-2024-08-06 获得了 100% 的满分,而之前的 gpt-4-0613 得分不到 40%。结构化输出功能不仅提高了输出的准确性,还大大降低了输出成本。输入价格为 2.5 美元 / 100 万 token,输出价格为 10 美元 / 100 万 token,使得新模型在成本上更具优势。

      许多开发者表示,结构化输出功能是他们期待已久的功能,它极大地简化了开发流程,提高了开发效率。一位开发者在社交媒体上表示:“这个新功能简直是开发者的福音,感觉我的项目又要迎来新的春天了!”

      结构化输出功能的应用范围广泛,从动态生成用户界面、分离最终答案与推理过程,到从非结构化数据中提取结构化数据等,都能提供更加精准、高效的支持。这一功能的将为各类应用场景提供更加智能、个性化的服务体验。