10 月 31 日，近日，OpenAI 更新 Model Spec，以五项价值重新组织模型行为原则：忠于人类意图、减少伤害、诚实透明、保障人的自主选择，以及审慎关怀。规范面向驱动 ChatGPT 和 API 等产品的 GPT 模型，公开说明公司希望如何塑造模型行为。
新版把用户和开发者想完成什么放在核心位置，同时保留指令层级与安全边界。对于目标尚不明确的任务，模型应结合上下文理解意图；对事实、证据、不确定性、能力和实际采取的行动，则应如实说明，让人能够评估其工作。
规范还专门讨论了即时指令与长期目标之间的张力：模型可以提示被忽略的后果、帮助用户思考，但不能把自己预测用户将来会作出的选择，视为用户已经作出的决定。OpenAI 表示，线上模型尚未完全达到规范要求，公司将继续调整训练与系统。
声明：内容来源公开的各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。