网站首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

新闻中心

关于必一运动

公司概况 核心优势 核心团队 发展历程

联系我们

官方微信 官方微博
主页 > 新闻中心

必一运动全球科技巨头纷纷布局自研AI芯片

发布时间:2024-02-16 09:51浏览次数: 来源于:网络

  B体育在这场AI芯片竞赛中,亚马逊似乎占据了先机,已拥有两款AI专用芯片训练芯片Trainium和推理芯片Inferentia,谷歌则拥有第四代张量处理单元 (TPU)。相比之下,微软等还在很大程度上依赖于英伟达、AMD和英特尔等芯片制造商的现成或定制硬件。

  同样在这周,微软发布了一系列芯片相关招聘信息,其中一则写道,“我们正在寻找一名首席设计工程师在充满活力的微软AISoC(人工智能芯片及解决方案)团队中工作必一运动。”据称,该团队正在研究“能够以极其高效的方式执行复杂和高性能功能的尖端人工智能设计”。换句话说,微软某种程度上已把自己的未来寄托在人工智能开发机构OpenAI的一系列技术上,想要制造出比现成的GPU(图形处理器)和相关加速器更高效的芯片来运行这些模型。

  当下,英伟达还是当之无愧的“AI算力王者”,A100、H100系列芯片占据金字塔顶尖位置,是ChatGPT这样的大型语言模型背后的动力来源。然而,不管是为了降低成本,还是减少对英伟达的依赖、提高议价能力,科技巨头们也都纷纷下场自研AI芯片必一运动。

  粗略统计,微软、谷歌、亚马逊这3家公司已经推出或计划发布8款服务器和AI芯片。

  粗略统计,微软、谷歌、亚马逊这3家公司已经推出或计划发布8款服务器和AI芯片。弗雷斯特研究公司(Forrester)主管格伦奥唐奈(Glenn ODonnell)认为,“如果你能制造出针对人工智能进行优化的芯片,那么你就会取得巨大的胜利。”

  根据目前几家海外科技巨头在AI芯片方面的最新动作和进展,总体看来,在这场竞赛中,亚马逊似乎占据了先机,已拥有两款AI专用芯片训练芯片Trainium和推理芯片Inferentia,谷歌则拥有第四代TPU(张量处理单元)。相比之下,微软等还在很大程度上依赖于英伟达、AMD和英特尔等芯片制造商的现成或定制硬件。

  早在2013年,谷歌就已秘密研发一款专注于AI机器学习算法的芯片,并将其用在内部的云计算数据中心中,以取代英伟达的GPU。2016年5月,这款自研芯片公诸于世,即TPU。TPU可以为深度学习模型执行大规模矩阵运算,例如用于自然语言处理、计算机视觉和推荐系统的模型,其最初专为谷歌的超级业务云计算数据中心而生。

  2020年,谷歌实际上已在其数据中心部署了人工智能芯片TPU v4。不过直到今年4月4日,谷歌才首次公开了技术细节:相比TPU v3,TPU v4性能提升2.1倍。

  在谷歌发布TPU v4的技术细节后,英伟达也非常巧合地发布了一篇博客文章。在文章中,创始人兼CEO黄仁勋指出A100芯片是3年前发布的,最近发布的H100芯片提供的性能比A100高出四倍。

  目前,谷歌已将负责AI芯片的工程团队转移到了谷歌云,旨在提高谷歌云出售AI芯片给租用其服务器的公司的能力,从而与更大的竞争对手微软和亚马逊云科技(AWS)相抗衡。今年3月,生成式人工智能明星企业Midjourney选择了谷歌云,称其正在使用基于云的TPU来训练机器学习模型。

  从2013年推出首颗Nitro1芯片至今,AWS是最先涉足自研芯片的云厂商,已拥有网络芯片、服务器芯片、人工智能机器学习自研芯片3条产品线年初,科技媒体Information爆料亚马逊已经开始设计定制AI芯片。

  AWS自研AI芯片版图包括推理芯片Inferentia和训练芯片Trainium。2018年底,AWS推出自研AI推理芯片Inferentia,可以以低成本在云端运行图像识别、语音识别、自然语言处理、个性化和欺诈检测等大规模机器学习推理应用程序。

  “运行机器学习的速度和成本最理想的是深度学习是企业的竞争优势。速度优势将决定企业的成败,这种速度只能通过定制硬件来实现,Inferentia是AWS进入这个游戏的第一步。”研究机构Constellation Research的分析师霍尔格穆勒(Holger Mueller)在当时表示,谷歌在TPU基础设施方面有2-3年的领先优势。

  2020年底,AWS推出专用于训练机器学习模型的Trainium。“我们知道我们想继续提高机器学习训练的性价比,所以我们将不得不投资自己的芯片。”AWS首席执行官安迪贾西(Andy Jassy)在发布会当天称。

  2023年初,专为人工智能打造的Inferentia 2发布,将计算性能提高了三倍,加速器总内存提高了四分之一,吞吐量提高了四分之一,延迟提高了十分之一。Inf2实例(可通过芯片之间的直接超高速连接支持分布式推理)最多可支持1750亿个参数,这使其成为大规模模型推理的有力竞争者。

  在亚马逊、微软和谷歌这三家中,亚马逊是唯一一家在服务器中提供两种类型芯片(标准计算芯片和用于训练与运行机器学习模型的专用芯片)的云提供商,其在2015年收购以色列芯片设计公司Annapurna Labs为这些努力奠定了基础。

  今年5月初,亚马逊CFO布莱恩奥尔萨夫斯基(Brian Olsavsky)在财报电话会议上告诉投资者,该公司计划将支出从零售业务转移到AWS,部分原因是为了投资支持ChatGPT等应用所需的基础设施。亚马逊的一位发言人拒绝详细说明这笔钱将花在什么地方,但根据公司年报,其基础设施成本包括芯片。

  4月18日,科技媒体The Information报道称,微软正在秘密研发自己的AI芯片,代号雅典娜(Athena)。该芯片由台积电代工,采用5nm先进制程,计划最早于明年推出。

  这篇报道称,微软自2019年以来就一直在开发一款定制的专用芯片,用于为大型语言模型提供动力,目前已在测试阶段。Athena的首个目标是为OpenAI提供算力引擎,以替代昂贵的英伟达A100/H100。如果明年大规模推出,Athena将允许微软内部和OpenAI的团队同时训练和推理模型。

  SemiAnalysis的分析师迪伦帕特尔(Dylan Patel)表示,开发类似于雅典娜的芯片可能每年需要花费1亿美元左右,ChatGPT每天的运营成本约70万美元,大部分成本来源于昂贵的服务器,如果雅典娜芯片与英伟达的产品拥有同等竞争力,每个芯片的成本将可以降低三分之一。

  从微软本周公布的一系列招聘信息看,该公司对定制芯片的兴趣超越了AI加速器。据其寻找设计验证工程师的招聘帖,该职位所属的硅计算开发团队将研究针对云工作负载的SoC(系统级芯片,也称片上系统)设计,这表明微软正在考虑采用类似于亚马逊Graviton系列的定制处理器。

  微软还在微软云的硬件系统和基础设施部门招聘了一名DPU(数据处理单元)的硅工程师和一名封装设计工程师。这并不令人惊讶,因为微软在1月收购了DPU供应商Fungible。与此同时,后一个职位将负责“为各种数据中心产品领域”的“高性能计算芯片设计提供先进的封装解决方案”,这也表明微软的目标是跟随亚马逊的脚步,为各种计算应用构建定制芯片。

  Meta在采用AI友好的硬件系统方面历来进展缓慢,这阻碍了其与谷歌和微软等竞争对手保持同步的能力。直到2022年,Meta还主要使用CPU(中央处理器)和专为加速AI算法而设计的定制芯片组合来运行其AI工作负载。对于这类任务来说,CPU的效率往往不如GPU。后来,Meta取消了于2022年大规模推出定制芯片的计划,转而订购了价值数十亿美元的英伟达GPU。

  为了扭转局面,Meta已经在开发内部芯片,并于5月19日公布了AI训练与推理芯片项目,称其为“针对推理工作负载的内部定制加速器芯片系列”。“为了在我们的重要工作负载中获得更高水平的效率和性能,我们需要一个为模型、软件堆栈和系统硬件共同设计的定制解决方案必一运动。”Meta基础设施副总裁亚历克西斯比约林(Alexis Bjorlin)在接受采访时称。

  据介绍,MTIA芯片的功耗仅为25瓦,占英伟达等市场领先供应商芯片功耗的一小部分,并使用了RISC-V(第五代精简指令处理器)开源架构。

  Meta称,它在2020年创建了第一代MTIAMTIA v1,基于7纳米工艺。在其设计的基准测试中,MITA芯片在处理 “低复杂性”和“中等复杂度”的AI模型时比GPU更高效。

  值得注意的是,Meta于5月初收购了英国AI芯片独角兽Graphcore的AI网络技术团队。Graphcore创始人奈杰尔图恩(Nigel Toon)曾公开表示,Graphcore不属于CPU、GPU和ASIC(专用计算芯片)中的任何一类,而是一款全新的,专为AI加速而生的处理器:既有极高的运算能力以处理高性能计算业务(HPC),又和GPU一样可编程,以满足不同的场景需求。

  “构建我们自己的硬件功能使我们能够控制堆栈的每一层,从数据中心设计到训练框架。”比约林说,“需要这种水平的垂直整合才能大规模突破人工智能研究的界限。”

下一篇:什么是AI必一运动官方网站芯片?为什么需要AI芯片?
上一篇:所谓的AI芯片到底指什么?B-Sports

咨询我们

输入您的疑问及需求发送邮箱给我们