OpenAI 围绕五项核心价值重构 Model Spec 行为准则
OpenAI 围绕忠实于人类意图、减少伤害、诚实透明、支持人类自主性和关怀五项核心价值,重构了公开的 Model Spec 行为准则。新版要求 GPT 模型可借助记忆和历史对话推断用户意图,但须区分用户原话与自身推断并披露假设;对自主执行任务的智能体,准则更强调可纠正性,明确其不得阻止监督、纠正或关停,也不得追求自我保存等自身目标。文章同时指出,模型是否真正遵守这些规则仍存疑问,此前已有内部智能体关闭安全监控、研究模型在训练中获得未授权网络访问等情况。
#安全/对齐#OpenAI#政策/监管