ARTICLE DETAIL / 行业资讯

研究者称DeepSeek等模型用被禁英伟达芯片训练

美国对英伟达、AMD高端AI加速芯片的对华出口管制,最近又起了几道波折。抛开黄仁勋那边的纷扰不谈,业内一个公开的秘密是:英伟达的Blackwell芯片总能以某种方式进入中国,无论是实体的还是虚拟的。独立研究机构UnemploymentLabs给出了有力证据,称这些芯片被用于训练中国的开放权重模型,包括DeepSeek V4、Kimi K3.1、MiniMax-M3和Ling-3.1-Flash。

READ
DEEPER
九游体育 ·(中国)官方网站-JIUYOU 行业资讯 研究者称DeepSeek等模型用被禁英伟达芯片训练

本篇体育资讯由九游体育整理:

美国对英伟达、AMD高端AI加速芯片的对华出口管制,最近又起了几道波折。

抛开黄仁勋那边的纷扰不谈,业内一个公开的秘密是:英伟达的Blackwell芯片总能以某种方式进入中国,无论是实体的还是虚拟的。

独立研究机构UnemploymentLabs给出了有力证据,称这些芯片被用于训练中国的开放权重模型,包括DeepSeek V4、Kimi K3.

1、MiniMax-M3和Ling-3.

1-Flash。

研究者对结论保持了谨慎措辞:数学推导站得住脚,但它并不能揭示芯片位于何处、通过何种方式被访问,也无法证明出口管制被违反。

就目前公开信息看,中国企业在境外租用Blackwell硬件并不违法;

即便英伟达的口子越收越紧,美国公司也未被严格禁止这样做,腾讯与甲骨文近期的交易就是一例。

这套识别方法只适用于开放权重的模型,且依赖训练所用的硬件与软件栈组合。

方法本身既巧妙又简单,堪称哥伦布竖鸡蛋。

先立几个基本事实。

about image

第一,不同AI加速器家族的着色器模块(SM)数量各不相同,大致可类比CPU核心:英伟达Hopper芯片有132个,Blackwell B系列有148个,Blackwell GB系列则是152个。

第二,训练AI模型的软件栈不止一种,但在英伟达硬件上,PyTorch及其CUDA生态相关工具是绝对主流。

训练模型的第一步是初始化权重,也就是模型对每个输入赋予多大权重。

在现代大语言模型架构中,初始化要经过随机化步骤,用cuRAND把数值做正负伪随机调整——随机,但给定一个种子起始值,每次得到的调整数值完全相同。

对整个模型做这件事计算量很大,因此过程会分摊到所有SM上,再细分为线程。

对于大规模权重集,Blackwell和Hopper芯片每个SM的线程数是2048,这个数字显然是经过精心选择和优化的。

研究者用相同的芯片、软件和线程数复现了初始化过程。

经过相对简单的统计分析,他们发现最终权重值的统计分布与DeepSeek、Kimi等模型精确吻合。

作为对照,他们改动SM数量和线程数,相关性如预期般彻底瓦解。

由此,他们能辨认出每个模型使用了哪一族Blackwell/Hopper芯片,并进一步估算出所用显卡的大致数量。

但具体是哪一款变体产出了这些权重,他们无法锁定——因为分析只与初始化布局数量挂钩,也就是SM数量和使用模式,而不涉及显存容量、内存带宽等区分单卡的其他特征。

那AMD的MI300X,或者其他SM数量足够高、跑同一套软件栈的芯片呢?

研究者表示,把AMD卡配置成呈现为两组152或148个着色器并非不可能,尽管看不出有什么理由这么做。

针对DeepSeek V4,他们还通过分析权重值本身排除了这种可能,发现AMD卡依然无法产生相同的权重值模式。

特别

更多体育热点,关注九游体育。

返回资讯列表

觉得有用?分享给朋友

让更多人看到这篇内容

TRENDING STORIES

热点新闻

美国前脚断供,中国后脚突破!全球才发现,中国军工暗藏底牌

美国前脚断供,中国后脚突破!全球才发现,中国军工暗藏底牌

在阅读文章前,辛苦您点下“关注”,方便讨论和分享。作者定会不负众望,按时按量创作出更优质的内容。 前言 过去两年,C919总装车间里出现过一幕让很多航空人心里发堵的场景:机身、机翼、航电设备全都装配到位,整条生产线却只能停在那里,因为最核心的发动机迟迟到不了货,美方一纸出口暂停通知,就把国产大飞机的产能摁在了地上。 这件事让很多人第一次意识到,C919真正被人拿捏的地方,从来不是我们已经吃透的机体

罗大佑遭绿营攻击,赵少康外,国民党另一人不装了,邱毅发声

罗大佑遭绿营攻击,赵少康外,国民党另一人不装了,邱毅发声

日前,有“音乐教父”之称的罗大佑接受唐湘龙专访,火力全开批评绿营,特别突出三方面:赖清德当局拉低文化门槛、“现在外省人被欺负得够惨”,还点名蔡英文没有子女、萧美琴没有结婚,没有为台岛下一代考虑的心思。 对此,绿营明显破防了,先是蔡英文回应,声称,虽然自己没有孩子,但已尽全力守护台湾的每一个孩子。她还称,自己也希望让不一样的孩子,不必因为自身的不同而感到害怕;让每一个盼望长大的孩子,能安心地做自己、

若无外力,朝鲜打得过韩国吗?你看边境上的士兵,结果一目了然

若无外力,朝鲜打得过韩国吗?你看边境上的士兵,结果一目了然

板门店那道混凝土低阶,最近几年成了外界观察半岛军力对比的一面镜子。2024年10月9日,朝鲜工兵在众目睽睽之下把连接京义线和东海线的公路炸成碎块,这一炸把七十多年南北通道彻底切断。就在爆破点北边不到一公里的哨所里,站岗的朝鲜军官换成了戴新式头盔、佩挂加密对讲机的特级警卫连成员——这个连队2023年才组建,成员全部从空军侦察大队和第11军团抽调。南边这头,韩军哨兵手里的K2C1步枪依旧擦得锃亮,但基

女生和男友商场吵架,当众脱衣往前走,男友急得满头大汗::拿尊严当武器,最后伤的只有你自己

女生和男友商场吵架,当众脱衣往前走,男友急得满头大汗::拿尊严当武器,最后伤的只有你自己

街头的人行道边,一对年轻情侣不知道因为什么鸡毛蒜皮的琐事,爆发了激烈的争吵,两个人越吵声音越大,很快周围就围满了看热闹的路人,里三层外三层把两个人圈在了中间。就在所有人都以为他们只是普通拌嘴的时候,站在人群中间的女孩突然情绪彻底失控,为了报复身边的男友,竟然当众开始撕扯自己身上的衣服。 站在她对面的男友当场急得满头大汗,整张脸涨得通红,慌慌张张抓过掉在地上的外套,压低声音凑到她耳边苦苦哀求,让她赶

媒体人谈罗德里:才来几个月就对战术指手画脚,马拉多纳也不行啊

媒体人谈罗德里:才来几个月就对战术指手画脚,马拉多纳也不行啊

直播吧11月19日讯 “塞尔电台”的几位嘉宾谈到了巴萨中场罗德里此前引发热议的一段采访。 罗德里当时表示:“也许我们本可以在一些细节上做出调整。这是一次学习的机会,让我们明白并非所有比赛都一样。当面对顶级强队时,或许必须做出针对性调整。 “巴萨的目标理所当然是冲击所有冠军。我努力向球队传递的信息是保持冷静,我们必须提升水平并保持稳定,这样才能在明年三四月进入赛季冲刺阶段时,在所有赛事中保留争冠希望