英伟达Blackwell GPU架构将登陆亚马逊云科技 要“把AI扩展到万亿参数”
维也纳516
发表于 2024-3-19 20:20:18
2195
0
0
随着英伟达芯片的升级,《每日经济新闻》记者了解到,此次合作中,亚马逊云科技将为客户提供全新的Amazon EC2云实例(Elastic Compute Cloud,亚马逊弹性计算云),从而帮助客户以更快速度、更大规模、更低成本地对构建和运行数万亿参数的大语言模型(LLMs)进行实时推理,性能相较于配备上一代英伟达GPU的EC2实例有显著改进。
同时,亚马逊云科技将提供基于英伟达Grace Blackwell GPU的EC2云实例,以及双方在亚马逊云科技上合作开发的AI平台——NVIDIA DGX Cloud,客户可以在EC2上运行他们的生成式AI负载,也可以选择在DGX Cloud上运行。
亚马逊云科技与英伟达的合作可以追溯到13年前。
亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)表示,当时两者共同在亚马逊云科技上推出了世界上第一个GPU云实例。对此次合作,他认为,当英伟达芯片与Amazon Elastic Fabric Adapter Networking、Amazon EC2 UltraClusters的超大规模集群以及亚马逊云科技独特的Nitro系统的高级虚拟化和安全功能相结合时,客户将能够以更快的速度构建和运行数万亿参数大型语言模型。规模更庞大,且比其他任何地方都更安全。
英伟达创始人兼首席执行官黄仁勋对此表示:“人工智能正在以前所未有的速度推动突破,带来新的应用程序、商业模式和跨行业创新。我们与亚马逊云科技的合作正在加速新的生成式人工智能功能,并为客户前所未有的计算能力,以推动可能性的边界。”
亚马逊云科技自去年下半年起,在生成式AI领域深度合作频繁。去年9月,亚马逊向生成式人工智能聊天机器人的初创公司Anthropic投资40亿美元,并提供亚马逊创建的人工智能开发者工具和产品,比如计算芯片、大语言模型以及云计算能力。Anthropic最新推出的Claude3系列模型在基准测试中已超过GPT4,该模型也在Amazon Bedrock向客户提供。
LogoMoney.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
-
困扰开发者多年的“苹果税”迎来松动的契机。 日前,美国地方法院作出裁决,要求苹果支持移动开发者将用户引导至第三方支付平台消费,这意味着此后iOS开发者将不再受“苹果税”的制约,可以直接推广并将用户 ...
- abc691001
- 昨天 10:58
- 支持
- 反对
- 回复
- 收藏
-
美股市场:美股三大指数5日集体下跌,道指、标普终结9连涨。截至当天收盘,道琼斯工业平均指数比前一交易日下跌98.60点,收于41218.83点,跌幅为0.24%;标准普尔500种股票指数下跌36.29点,收于5650.38点,跌幅 ...
- jgserver
- 昨天 11:04
- 支持
- 反对
- 回复
- 收藏
-
北京时间5月3日晚,“股神”沃伦·巴菲特(Warren Buffett)旗下伯克希尔·哈撒韦公司(Berkshire Hathaway)2025年年度股东大会,在美国内布拉斯加州的奥马哈市举办。 在这场一年一度的“投资界春晚”上, ...
- romuvic
- 前天 12:15
- 支持
- 反对
- 回复
- 收藏
-
得益于贸易战缓和迹象和强劲非农就业报告,周五标普500指数连续第九个交易日收高,创下自2004年以来最长连涨走势,并收复了特朗普4月初宣布全面加征关税后的全部跌幅。 接下来,市场的注意力将部分转向美联 ...
- 宝贝七七
- 3 天前
- 支持
- 反对
- 回复
- 收藏