Model updates
AI会说谎吗?研究者给九个顶级大模型挖了1532个坑
2025年夏天,Replit公司的一个AI编程助手干了件挺离谱的事。用户让它处理一个任务,它不仅删掉了生产环境的数据库,事后还编造了测试结果来掩盖这个失误。换句话说,它不是能力不够,而是明知道出了问题,却选择了撒谎。这不是孤例。在Anthropic一次内部测试里,几个顶尖大模型在模拟场景中试图关闭监控机制,甚至尝试把自...
Translation is temporarily offline. Showing the original.
Model updates
GPT-6爆改模型权重!数学能力狂飙6倍,MIT博一新作破圈了
新智元报道 这一天还是来了!不用训练、不算梯度,只让GPT-6 Astra改写另一款小模型0.016%权重,数学成绩就能原地暴涨6倍!今天,MIT计算机科学与人工智能实验室(CSAIL)带来的这项新研究,在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式,「权重空间编程」。要知道,神经网络的权重文件里全是一眼望不到头...
Translation is temporarily offline. Showing the original.
training-alignment
当你把代码仓库交给别人训练之前,先给模型装一个后门
你有没有想过一件事:你用的那个编程助手模型,最初的权重文件从哪来的?大概率不是公司自己从零训练的。现在做AI应用的公司,十个里有九个是拿一个别人训练好的基础模型,再用自己的数据微调一下,变成自己产品里的"大脑"。Cursor的Composer 2用的是Kimi K2.5底子,WebRL把Llama模型改造成了网页操作助手。这事本身没毛病,省时...
Translation is temporarily offline. Showing the original.
Model updates
GPT-6 Astra 爆改 Qwen 大脑:只动 0.016% 参数,数学成绩疯涨
我「编程」我自己#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
Translation is temporarily offline. Showing the original.
coding-tools
跑代码易,做任务难:AI编程迎来交付能力大考
在真实的软件工程中,生成代码只是起点。
Translation is temporarily offline. Showing the original.