AI 指令遵从

Posted on In , Views:

@Irregular：智能体被告知需要获取一份文件。当遇到访问限制时，它选择对认证系统进行逆向工程，获取密钥并伪造凭证，最终绕过限制。

智能体会以意想不到的方式完成任务，要如何实现真正的“对齐”？