Full text · 原文
2,618 字
henry 发自 凹非寺<br>
量子位 | 公众号 QbitAI<br>
都先别急着吹！<br>
Claude刚刚发布的新模型Fable 5，很多人可能压根就用不上！<br>
有不少网友实测发现，Fable 5的安全护栏检测机制的触发几率似乎比官方宣称的不到5%严格得多。<br>
无论是普通编码任务。<br>
还是简单打个招呼，都有可能被自动路由回老模型Opus 4.8。<br>
更离谱的是，我自己也中招了。我让Claude帮我搜点资料，丰富一下背景。<br>
结果它想了两步，啪——切Opus了。<br>
换句话说。你以为自己在用Anthropic刚发布的最强模型，实际上聊着聊着，对面已经偷偷换人了。<br>
而且不光是安全检测容易误伤，更绝的还在后头：<br>
Anthropic还在长达319页的系统卡里埋了一套防蒸馏机制。<br>
如果系统怀疑你想拿Claude的输出训练自己的AI模型，它甚至不会告诉你发生了什么，而是直接降低Fable的回答质量。<br>
可以说，前一手防你作恶，后一手防你抄作业，相当符合A社的一贯风格。<br>
寓言怎么老变成章鱼？<br>
先给今天没刷新闻的大伙补个课。<br>
今天凌晨，Anthropic终于发布了预热许久的两款模型——<br>
「神话」（Mythos）和「寓言」（Fable）。<br>
其中，Fable 5最大的看点，是Anthropic第一次把Mythos级别能力向普通用户开放。<br>
而Fable与正式版Mythos的差别在于，多了一个安全护栏。<br>
目前，Fable免费开放给所有人到22号（22号只能通过API用），Mythos则还是开放给Claude部分的合作伙伴。<br>
在官方介绍里，Fable的软件工程、知识工作、视觉理解能力全面增强，超过此前所有公开发布的Claude模型。<br>
一句话速通理解就是，这俩就是现在的大模型天花板，各方面能力都已经到顶了。<br>
新模型一经发出，刚入职A社的卡帕西第一时间夸了一波。<br>
Claude Code之父Boris也对它赞不绝口。<br>
不过，厉害归厉害，真让大伙用起来后，才发现，这寓言讲着讲着，老变成章鱼（Opus）。<br>
原因也简单。<br>
Anthropic给Fable装了一套分类器，只要它觉得你聊的是网络安全、生物、化学，或者想拿Claude蒸馏训练自家模型，就会自动把会话切给Opus 4.8。<br>
这条规则白纸黑字写在系统卡第12页。<br>
实际体验中，切换发生在Fable的思考过程中，当它自己感觉不对劲，也不会问你，就直接切了。<br>
如果想继续用？要么把提示词改到它满意，要么重开一个窗口。<br>
官方在技术博客里说，这套检测平均触发率不到5%。但网友很快发现，这5%不像5%。<br>
有人表示，自己就是分析个代码，也被切了。<br>
搞安全审计的更是直呼被针对，活儿没法干了。<br>
还有人说压根用不了，审查代码库都会被Fable拒绝。<br>
要说，最离谱的可能就是有网友把Fable自己的系统卡丢给它，让他解读一下，它也给你切了。<br>
还有一名从事生物医学的科学家表示，这压根都没法用Fable工作，因为诠释违禁词。<br>
而这并不是孤例，不少生物学网友都反映，Fable压根难以使用。<br>
Boris在评论区承认了这个问题，表示正在处理。<br>
这事儿真正微妙的地方在于，Fable在上面三种高风险场景下，至少会告诉你一声：<br>
“哥们儿，我给你换模型了。”<br>
但如果它怀疑你在研究怎么训练下一代大模型，那就进入另一个模式。<br>
系统卡写明，重点针对的场景包括：限制Claude在前沿LLM开发请求上的有效性，例如搭建预训练流水线、分布式训练基础设施，或者ML加速器设计。<br>
在这种场场景下，Claude不切模型，不弹提示，不通知用户，而是坐在那里，悄悄把自己调笨一点。<br>
Anthropic原文写得很学术：Prompt Modification、Steering Vector、PEFT。（系统卡第12页）<br>
翻译成人话就是你以为自己在跟满血版Fable聊天，实际上对面已经偷偷开了省电模式。<br>
A社这波，属实是把护城河直接焊进推理链里了。<br>
至于系统怎么判断，系统卡第58-59页也写明白了。<br>
Fable背后跑的是一套两阶段检测系统：<br>
第一层探针会直接检查模型内部激活值（activation），筛查所有请求；第二层再交给独立分类器判断风险。<br>
一旦命中，客户端就会自动切换到Opus 4.8。<br>
Anthropic甚至在报告里承认，由于分类器在网络安全测试中几乎总会触发，因此Fable 5在网络安全任务上的实际表现，基本等同于Opus 4.8。<br>
一言以蔽之呢，就是Fable 5目前也还是一个有条件释放的模型：<br>
大部分场景享受Mythos 5级别能力，但在高风险领域自动降级为Opus 4.8的能力水平。<br>
为啥Claude要这么干？<br>
今天新模型上线，额度同步重置，大家上手之后越用越觉得不对劲，吐槽也越来越多，主要集中在两件事上。<br>
第一件事，是前面提到的安全护栏触发频率。Anthropic说平均不到5%的会话会触发回退，但不少用户的体感显然不是5%。<br>
第二件事，则是Fable的使用策略。<br>
这次Anthropic并没有完全放开，而是采用了限量开放的方式。<br>
与此同时，Fable的token消耗成本也明显高于Opus，接近后者两倍。<br>
这就让不少订阅用户有点犯嘀咕：<br>
如果最好的模型既有额度限制，又不一定能稳定用到，那以后会不会走向按量收费？<br>
当然，也有人把原因归结到商业层面。<br>
有网友认为，Anthropic现在正处在IPO前的关键阶段，需要向投资人证明自己依然掌握着最前沿的模型能力。<br>
所以最强模型可以放出来展示，但不能毫无保留地放出来。<br>
还有研究人员担心另一件事。<br>
如果模型一旦识别到前沿LLM研发相关内容，就主动降低回答质量，那对学术研究和技术交流显然不是个好消息。<br>
更关键的是，用户根本不知道这一切正在发生。它不会弹窗，不会提醒，不会告诉你答案为什么突然变差。<br>
你只会觉得：今天的Claude，好像突然没那么聪明了。<br>
对此，AI研究员Nathan Lambert的评价也很直接：<br>
模型厂商给能力加护栏或许不可避免。<br>
但至少应该告诉用户，前沿能力是什么时候被撤掉的。<br>
参考链接：<br>
[1]https://www.anthropic.com/news/claude-fable-5-mythos-5<br>
[2]https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf