吓破全球的最强AI大模型Mythos被指夸大:数千个漏洞徒有虚表

凤凰网科技 ifeng
Document Text 1,391 characters
快科技4月13日消息,前几天Anthropic发布了Claude Mythos Preview大模型,它被称为最强的AI大模型,因为太过强大,A社表示不会开放给大家使用。<br> 他们认为这个模型对全球是一次冲击,因此推出了Project Glasswing计划,联合亚马逊AWS、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、NVIDIA和Palo Alto等公司及机构展开小范围使用,保护关键的软件安全。<br> 这个大模型的影响有多大呢,发布之后美联储、英国央行等全球金融机构都分别召集专家研究Mythos可能产生的影响,毕竟AI太强的话,金融安全要是顶不住就麻烦大了。<br> Anthropic目前目前公布的Mythos能力主要是寻找安全漏洞,他们还举了几个例子,比如OpenBSD这种以安全著称的系统被Mythos发现了一个长达27都没被人类发现的安全漏洞。<br> 那问题来了,Mythos真的有宣传的这么强吗?Tomshardware网站日前还真研究了一番,但结果跟Anthropic宣传的不太一样,所谓的发现几千个安全漏洞不过是夸张宣传罢了。<br> 根据他们的内容,Anthropic报告的所谓数千个漏洞数字,实际基于仅198份人工审计报告约90%准确率的外推,其余数千份报告未经人工验证。<br> 在针对超过7000个开源软件堆栈的测试中,Mythos发现约600个可致崩溃的漏洞,其中经验证归类为严重的仅约10个。<br> 就算是他们发现了这么多漏洞,实际上很多被标记的许多漏洞存在于老旧、遗留软件中,或在现有纵深防御机制下无法实际利用。<br> 此外,Red Hat的独立分析指出,被标记的大量问题属于功能缺陷而非安全漏洞,安全从业者面临的核心挑战是从海量结果中筛出真正危险的项目。<br> 总的来说,Anthropic宣传的Mythos能发现数千个漏洞这事从数字上看是真的,但这些漏洞的价值远没有他们宣传的那么大,而且很多漏洞都是当前环境下没啥威胁的,真正称得上严重程度的就没多少。<br> 另外还要说明的一点,Mythos被宣传的太强从而暂时不开放给公众的说法也是言过其实,微软和亚马逊的云平台都已经开放了使用,只是价格超级贵罢了,Anthropic不开放使用估计还是跟成本有关。<br> 最最后,尽管Anthropic目前有开发者公认最强的编程大模型,但是最近也降智严重,口碑也在下滑,而且这家公司经常会以AI太强会超过或者影响人类的营销噱头来宣传。<br> 他们这几年来几乎每年都要传播几次AI有了自己的意识之类的说法,跟OpenAI的CEO奥特曼整天把已经实现了AGI的营销挂在嘴头上是半斤八俩,时不时用这些东西来刺激下大家,刷刷存在感。<br> “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。<br> Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
Metadata
Publisher 凤凰网科技
Site ifeng
Date N/A
CMS Category 媒体报道
Keywords 漏洞 虚表 安全漏洞 全球 实际 软件 问题 报告 核心 金融机构 思科 机构 谷歌 摩根 大通 审计报告 范围 编程 功能 大家 东西 大量 关键 标记 专家 人工 人类 开源 堆栈 数字 防御机制 无法 利用 模型 结果 海量 苹果 博通 从业者 英国 基金会 公司 准确率 开发者 产生 噱头 内容 能力 科技 经验 环境 价值