Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型?
据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。”
这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。
克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。
他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。
而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。
克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。
数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。
克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。
“当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
相关文章:
相关推荐:
- 美国制裁七年成笑话!华为首款鸿蒙台式机首次公开亮相:彻底告别Windows和Linux
- 半场玉昆01河南纳萨里奥建功奥斯卡侯永永破门无效VAR屡介入
- 中国男篮出线形势:战中国台北成生死战 4种情况赢球晋级输球出局
- 今秋发布!微软正式官宣Windows 11 26H2:2分钟完成更新、硬件要求没变化
- 男子血管狭窄75%,2年后恢复通畅,他的7个习惯值得借鉴
- 游侠晚报:win11获神助攻? 卡普空晒图鬼武者收藏版
- 纪录之战!梅西明晨冲击11大纪录,历史射手王+6届助攻+助攻王!
- 官方:纳帅辞去德国主教练一职;将与克洛普展开正式接触
- 湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚
- 纪录之战!梅西明晨冲击11大纪录,历史射手王+6届助攻+助攻王!
- 仅14MB!树莓派5纯CPU也能跑AI:离线指令毫秒级响应
- 首搭第六代骁龙8超级至尊版!一加16安兔兔跑分出炉 超538万
- 国产CPU杀入工厂!海光1000发布:
- 《烈火战车》在PS3模拟器中首次实现每秒/70帧运行!
- 男人必看!为什么说中年女人“如狼似虎”,你招架的住吗?
- 超频三GT360 Max ARGB水冷首发999元:全铝CNC高光铠甲、4英寸大屏
- 750元 微星推出PRO MP161E6便携显示器:预留VESA孔位 支持三脚架安装
- 首搭第六代骁龙8超级至尊版!一加16安兔兔跑分出炉 超538万
- 41岁C罗:我肯定会打进1000球才退役 有媒体想杀我但根本没法做到
- 10月8日发售!“吹哥”大作《沉星之序》发售日预告片
- 529GB《模拟火车世界7》未发先破 D加密防线失守!
- 官方!阿森纳抽签晋级,中国女足2
- 自本泽马以来,姆巴佩是首位西甲前5轮打入6球的皇马球员
- 中国女硕士韩国遇害后续,凶手被扒是老师,囚禁折磨5天残忍杀害
- 蓝厂首款Pro Max旗舰!vivo X500 Pro Max四配色外观公布
- 前国脚:足协出事我乐得蹦高!恨之入骨希望他们死 必须落井下石
- 累积4黄停赛,泰山外援泽卡将缺席本周六客战西海岸的比赛
- 1499元!网易有道OpenPods开售:全球首款iPhone专属Agent耳机
- 厚度远超外界前预估!我国稀土、钨、锡等14种矿产储量居世界第一:AI智能找矿系统发布
- 白宫发了一张图,全世界哭笑不得