英伟达在AI芯片市场的主导地位激发了其他公司设计自己的芯片。尽管从头开始设计芯片具有挑战性,需要数年时间,成本高昂,而且常常以失败告终,但人工智能的巨大潜力促使业内人士冒险一试。
在此背景下,两位前谷歌工程师共同创立了MatX。他们利用在谷歌的经验,找出现有人工智能芯片的局限性,致力于开发新的、更高效、更低成本的芯片,旨在提高大型语言模型的训练和运行效率。 MatX 自信地预测其芯片的性能至少比Nvidia 的GPU 好十倍。该公司已成功筹集2500万美元资金。
人工智能时代的到来改变了风险投资对芯片行业的态度。尽管NVIDIA等巨头也在快速发展,但市场对于专门为大语言模型设计的芯片仍然充满期待。
以下为翻译内容
大约25年后,感觉硅谷终于再次成为“硅谷”。
英伟达已成为人工智能软件芯片市场的主导者,促使其他公司决定设计自己的芯片。历史告诉我们,这往往是充满灾难的努力。从头开始设计芯片需要数年时间和数亿美元,而且大多数尝试都会失败。然而,人工智能的巨大前景促使人们认为这是一次必要的尝试。
迈克·冈特(Mike Gunter)和雷纳·波普(Reiner Pope)就是这样的两位探险家。他们创立了MatX,设计专门用于处理大型语言模型所需数据的芯片。大型语言模型,例如OpenAI的ChatGPT和谷歌的Gemini,是各种人工智能应用的基础,它们需要大量昂贵的芯片才能运行。如果一家公司能够制造出更便宜、更快、更适合人工智能的芯片,那么它将在不断扩大的人工智能软件世界中占据极其有利的地位。
冈特和波普此前曾在Alphabet 旗下的谷歌工作。冈特负责设计运行人工智能软件的硬件芯片,而波普则负责编写人工智能软件。多年来,谷歌一直致力于开发TPU(张量处理单元),这是一种专门为人工智能设计的芯片。然而,MatX 高管表示,这些芯片是在大型语言模型变得普遍之前设计的,对于当前的任务来说效率不够。 “在谷歌,我们正在努力让大型语言模型运行得更快,并取得了一些进展,但我们总是遇到困难,”波普说。 “内部关于芯片改进的想法很多,很难只关注它们。”这就是我们选择离开公司的原因。”
英伟达在AI芯片市场占据主导地位有些偶然。它最初生产旨在加速视频游戏和某些计算机设计任务的GPU 芯片。这些芯片擅长同时处理大量小任务,正好适合运行人工智能软件,其性能大大超过英特尔等公司制造的其他类型芯片。
Nvidia 在其GPU 芯片上划分资源块,以适应广泛的计算任务,包括芯片内的数据传输。这些设计决策似乎更适合满足过去计算时代的需求,而不是当前人工智能的快速发展,从而导致一定的性能权衡。 MatX 的创始人认为,这些额外的资源在人工智能新时代增加了不必要的成本和复杂性。相比之下,MatX采取了全新的设计方法,开发了一款只有一个大型处理核心的芯片,旨在尽快完成乘法运算——,这是大型语言模型的主要任务。 MatX全力以赴,自信其芯片能够训练大型语言模型,输出结果至少比Nvidia的GPU好十倍。 Pope 表示:“Nvidia 的产品非常强大,对于大多数公司来说都是正确的选择,但我们认为我们可以做得更好。”
MatX 已筹集2500 万美元资金,最新一轮融资由人工智能行业投资者Nat Friedman 和Daniel Gross 领投。 MatX 位于加利福尼亚州山景城,距离硅谷的诞生地—— 肖克利半导体实验室仅几英里。目前,数十名员工正在研究计划于明年推出的芯片。 “MatX 的创始人代表了人工智能的一种趋势,”格罗斯说,“他们正在将大公司开发的一些最好的想法商业化,因为这些公司太慢了,而且太官僚化了。”
如果人工智能软件继续沿着目前的发展道路发展,对高成本计算的需求将急剧增加。据估计,目前正在研究的每个模型的训练成本约为10亿美元,未来模型的训练成本可能达到100亿美元。 MatX预计,只要能拿下OpenAI、Anthropic PBC等主要人工智能公司,其业务就会蓬勃发展。 “这些公司的经济模式与典型公司有很大不同,”冈特说。 “他们把所有的钱都投资在计算资源上,而不是人力资源上。如果这种趋势不改变,他们最终会耗尽资金。”
在硅谷,芯片公司随处可见。芯片初创公司有数十家,甚至惠普、IBM、Sun Microsystems等计算机巨头也生产自己的芯片。然而,近年来,英特尔利用其在个人电脑和服务器市场的主导地位击败了许多竞争对手,而三星和高通则在智能手机芯片市场占据主导地位。这导致投资者避开芯片初创公司,认为它们比软件公司成本更高、周期更长、风险更大。 MatX 的投资者之一、芯片行业专家Rajiv Khemani 回忆道:“2014 年左右,我拜访了一些风险投资公司,他们要求所有懂芯片的合伙人离开。 “我面前的人不知道我在说什么。”
然而,人工智能的兴起改变了风险与回报的平衡。亚马逊、谷歌和微软等资源丰富的公司已经开始投资设计自己的芯片,专门用于执行人工智能任务。几年前,Groq、Cerebras Systems等初创公司登场,推出了大量专用于人工智能的芯片。但这些产品是在大型语言模型实现技术突破并开始主导人工智能领域之前设计的。这迫使初创公司适应人们对大型语言模型突然产生的兴趣,并快速调整他们的产品。 MatX 可能代表了另一波初创公司从头开始为大型语言模型构建专用芯片的浪潮。
进入芯片行业的挑战之一是设计和制造新芯片需要三到五年的时间。与此同时,英伟达也不会停滞不前。它本月刚刚发布了更快的GPU 芯片。初创公司必须预测技术趋势和竞争对手的举动,不能犯任何可能导致生产延误的错误。软件公司通常需要重写代码才能在新芯片上运行,这是一个成本高昂且耗时的过程,并且只有在能够从变革中获得显着收益的情况下才会进行此类转变。一条经验法则是,新芯片的性能必须至少比前一代芯片好10 倍,才能说服客户重写所有代码。
格罗斯认为,我们仍处于构建基础设施的早期阶段,该基础设施将支持人工智能成为计算的主导形式。 “我认为我们正处于芯片周期的早期阶段,与其他行业的发展相比,它的发展显得黯然失色。”如果格罗斯是对的,几乎可以肯定新的芯片巨头将会诞生。
[免责声明]本文来源于网络,不代表本站立场,如转载内容涉及版权等问题,请联系邮箱:3801085100#qq.com,#换成@即可,我们会予以删除相关文章,保证您的权利。