史上最快Transformer芯片诞生,英伟达地位或将不保!
就在前几天,芯片初创公司Etched宣布完成1.2亿美元的A轮融资,
并且在同一天发布了世界上第一个基于Transformer架构的专用芯片“Sohu”。
据说,这款芯片在跑Llama 70B时,
每秒可生成高达500000个token的输出,相当于可以在两秒内写完一本《水浒传》
而这样的成绩:
是8张英伟达B200的10倍;是8张英伟达H100的20倍。
换句话说,1张Sohu约等于10张英伟达B200;或者20张英伟达H100。
更关键的地方在于,
不管是OpenAI的GPT系列,还是谷歌的PaLM,又或者是Facebook的LLaMa,
眼下几乎所有头部AI公司都在使用Transformer架构。
这意味着,Sohu芯片将可以大幅降低极大多数AI企业的运营成本。
而据Etched创始人透露,目前已经有匿名客户预订了数千万美元的硬件。
讲到这里,如果你觉得还不够震撼,那么我们再换个角度,
试想一下,如果AI模型一夜之间速度提高20倍且成本降低,将会发生什么?
实话讲,这样的革命性产品的影响,我很难想象,
所以只好借用Etched官方的话:
“就Transformer而言,Sohu是有史以来最快的芯片,没有任何芯片能与之匹敌!”
大家都知道,放眼全球,半导体行业多年来一直被英伟达和超微垄断,
自打AI火爆全球之后,两家企业那是赚得盆满钵满,
尤其是英伟达,前不久市值一度超越3.3万亿美元,超过微软成为全球第一。
而这一次,Etched如同神兵天降,必然会对半导体行业格局带来不小的影响。
但令人我怎么也想不到的是:
在这家一鸣惊人的芯片企业背后,站着的居然是两个00后“辍学”青年。
作为两位创始人之一,Gavin Uberti(加文-乌贝蒂)是个“数学怪”,
不仅高中时就拿下了美式数学竞赛冠军,并且在2020年顺利考入了哈佛。
和Gavin Uberti一样,Etched另外一位创始人华裔小伙Chris Zhu(克里斯-朱)也是个“天才”,
读书期间,就在哈佛和麻省理工担任教员和辅导员了。
2022年初,Gavin选择休学一年,跑出去给人打工,
在知名机器学习公司OctoML担任软件工程师期间,Gavin注意到Arm指令集中的一个bug,会大大降低处理器的工作效率。
这一发现,让Gavin萌生了创业的念头。
于是,他拉上Chris Zhu以及另一位校友,正式成立了Etched,并押注了Transformer专用芯片这一领域。
这里有个非常关键的信息:
那就是在Etched成立的时候,ChatGPT还没有问世,
并且市面上大多生成模型用的都是U-Net、CNN之类的架构,基于Transformer架构的大模型几乎没有。
但这两位小哥愣是坚信——Transformer大模型将会统治世界,
并且,他们还在Etched官网写到:
“如果未来Transformer消失或被取代了,我们就会死;但如果它继续存在,我们就会是有史以来最大的公司。”
毫无疑问,从目前来看,他们赌赢了,
并且,随着融资越来越顺利,手里的筹码越来越多,属于Etched“疯狂时代”或将加速上演!
英伟达(NVIDIA)这个生涩的单词源于拉丁语Invidia,意为“嫉妒”。用这个“坏词”命名自家公司,的确体现了这家初创企业的反叛精神。
英伟达与微软作为硬件软件领域的“巨头”,近期正围绕全球市值“一哥”的位置展开激烈的较量。
苹果CEO库克此前也表示,Vision Pro是目前最先进的电子设备,它将是苹果的一个转折点,未来十年Vision Pro将会取代iPhone的地位。
近期,美股科技继续狂飙,“芯片巨头”英伟达坐上“全球市值一哥”的王座。
受益于公司在AI领域的深耕细作带来的积极影响,百度2024年第一季度的财务表现较为可观。
金斯瑞旗下传奇生物西达基奥仑赛成为首个且唯一获FDA批准用于多发性骨髓瘤二线治疗的BCMA CAR-T产品。