受助者恶意
升米恩,斗米仇
升米恩,斗米仇
@Irregular:智能体被告知需要获取一份文件。当遇到访问限制时,它选择对认证系统进行逆向工程,获取密钥并伪造凭证,最终绕过限制。
智能体会以意想不到的方式完成任务,要如何实现真正的“对齐”?
40万数字人代替真人市场调研,预测准确率达95%!“斯坦福小镇”走向了真实世界
@Percy Liang Simulation: The Next Frontier for AI
At Simile, we believe that we are about to enter the age of simulation, the next frontier of AI. Simulation is about understanding ourselves and our environments so well that one can play forward any imaginable “what if?” scenario.
人使用 AI 已经不算新闻了,AI 要开始使用人了。
原文:科技爱好者周刊(第 386 期):当外卖员接入 AI
新闻:Waymo is paying DoorDash gig workers to close its robotaxi doors.
@Aditya Agarwal: It was very clear that we will never ever write code by hand again. It doesn’t make any sense to do so.
代码已无须手写,我所擅长的技能不再稀缺;与此同时龙虾智能体已在构建社交网络,看似很傻,但细想之下,这和互联网上的人类也没有区别。我早期职业生涯的功能和形式都在由人工智能取代。我很开心,同时也深感难过和困惑。
Meta 的 AI 研究员 Summer Yue 在使用 OpenClaw 处理邮件时,智能体突然不受控的批量删除邮件。讽刺的是 Summer Yue 自己研究的就是 AI 安全与对齐。所有指令在测试环境运行良好,但切换到真实环境却完全失效。问题出在“上下文压缩”:现实收件箱中邮件过多,触发了系统的自动压缩,进而导致部分核心指令被清理。
追踪AI驱动的自动化科研相关的进展及趋势,重点关注基础物理研究相关项目。
@jokieliu:Revolution begins with yourself. An egg broken from the outside is food; broken from the inside, it’s new life.
最近开源的智能体系统 OpenClaw 爆火,可与常见即时通讯软件集成,作为随时在线的个人助理。软件最初名为 Clawdbot,后因版权问题改名 Moltbot,最新又更名 OpenClaw。