登录

推理过程


描述

Pachocki还披露了技术陷入困境,他指出OpenAI从推理模型诞生之初就押注于思维链监控,这其实是一种可扩展的监控方式,模型的推理过程是一个情感化过程,如果只优化推理结果而不是监督推理过程本身,那么思维链就没有直接的训练动力去隐藏任何不一样的想法。
文章

分类

推理过程

Pachocki还披露了技术陷入困境,他指出OpenAI从推理模型诞生之初就押注于思维链监控,这其实是一种可扩展的监控方式,模型的推理过程是一个情感化过程,如果只优化推理结果而不是监督推理过程本身,那么思维链就没有直接的训练动力去隐藏任何不一样的想法。
文章