雖然 NVIDIA H20 加速器在 7 月恢復出口,但因中國監管機構以數據安全為由表達疑慮,使 H20 幾乎全面遭到封殺,目前中國 AI 產業正轉向翻新使用二手 NVIDIA GPU,以應對突如其來的替代需求。
市場消息傳出,因官方已全面封殺 H20,隨著中國企業將 A100、H100 顯卡拆解、重組成「低成本、高效能」的客製化推論系統,導致業界對兩款舊顯卡需求激增。
AI 推論(AI Inference)所需的算力比 AI 訓練還低,即使在經過重新配置的硬體上,仍可高效運行,這也是 2020 年推出的 A100 之所以仍具價值的原因。
A100 採用 NVIDIA Ampere 架構,搭載最高 80GB HBM2e 記憶體與 2 TBps 頻寬,雖然沒有達到 Hopper 架構的極致效能,但憑藉大容量記憶體與成熟 CUDA 軟體生態,對推論任務仍有效。
至於 H100 配備 HBM3 記憶體,AI 訓練效能比 A100 高達六倍。相比之下,中國降規板 H20 雖針對推論優化,但被閹割過度,其 AI 效能僅 H100 的約 1/3 至 1/7,在 FP64 超算運算中更是慢超過 30 倍。也因此,二手 A100 可能都比全新 H20 更具有吸引力。
不過,目前 NVIDIA 則陷入矛盾中,因為華府對 H20 祭出出口限制,導致公司認列 55 億美元庫存減損;另一方面,輝達 GPU 卻仍是推動中國 AI 熱潮的核心,而如今的灰色市場可能侵蝕利潤,拖慢新架構的推廣。
對中國來說,灰色市場同樣成為隱憂,資料中心每使用一塊二手 H100,意味又少了一個使用昇騰(Ascend)加速器的機會,恐延緩本土投資的進展。而中國 AI 產業則是等待政治與技術障礙解除的同時,盡可能延長舊款NVIDIA 硬體的使用壽命。
(首圖來源:科技新報)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:湾仔区)
钛媒体集团旗下科技投行“潜在投资”,经过对中国创投市场创业数据的梳理,对主流投资机构及创业项目的深度走访,利用取样分析,数据综合分类,深度面访,多维度比对等手段制作完成了这...[详细]
” 乐播足球也在做足球周边产品售卖,目前有T恤、帽子等产品,总销售额在七八十万左右。...[详细]
“对于创业公司来说,获得BAT投资不是万能药,也不能说是毒药,大部分的成功与失败跟BAT的投资没有太大关系。...[详细]
而挂牌上市能增加公司的融资能力,解决企业资金的需求。...[详细]
在采访中,关于创业,我还问了Joe两个问题: ——创业最重要的思维方式是什么? ——你一方面要很自信,你要不断朝着你的目标走,不管遇到什么挫折。...[详细]
document.writeln('关注创业、电商、站长,扫描A5创业网微信二维码,定期抽大奖。...[详细]
由于充电桩的不普及,新能源汽车普遍面临着里程焦虑和充电问题,而稀缺的资质牌照同样是分时租赁汽车想要扩大规模的最大障碍。...[详细]
当然,纪中展依然认为知识付费天花板过低,他认为资讯比知识学习本身更有付费的可能。...[详细]
但不能否认,《罗辑思维》的论点、对某个历史事件、人物娓娓道来,艺术范儿十足,但是,一个人的能量还是有限的,在后期《罗辑思维》中,“死磕”这个词经常在罗胖的嘴中出现。...[详细]
甚至还有乘客忍不住在站台自拍了起来。...[详细]