C'Daily

WHAT'S PAST IS PROLOGUE

@Irregular:智能体被告知需要获取一份文件。当遇到访问限制时,它选择对认证系统进行逆向工程,获取密钥并伪造凭证,最终绕过限制。

智能体会以意想不到的方式完成任务,要如何实现真正的“对齐”?

@Aditya Agarwal: It was very clear that we will never ever write code by hand again. It doesn’t make any sense to do so.
代码已无须手写,我所擅长的技能不再稀缺;与此同时龙虾智能体已在构建社交网络,看似很傻,但细想之下,这和互联网上的人类也没有区别。我早期职业生涯的功能和形式都在由人工智能取代。我很开心,同时也深感难过和困惑。

Read more »

Meta 的 AI 研究员 Summer Yue 在使用 OpenClaw 处理邮件时,智能体突然不受控的批量删除邮件。讽刺的是 Summer Yue 自己研究的就是 AI 安全与对齐。所有指令在测试环境运行良好,但切换到真实环境却完全失效。问题出在“上下文压缩”:现实收件箱中邮件过多,触发了系统的自动压缩,进而导致部分核心指令被清理。

Read more »

@jokieliu:Revolution begins with yourself. An egg broken from the outside is food; broken from the inside, it’s new life.

Read more »

最近开源的智能体系统 OpenClaw 爆火,可与常见即时通讯软件集成,作为随时在线的个人助理。软件最初名为 Clawdbot,后因版权问题改名 Moltbot,最新又更名 OpenClaw。

Read more »
0%