高通孟樸:当终端随时都能运行生成式AI,才会实现广泛应用
我爱霍启刚掖
发表于 2024-3-1 14:07:39
237
0
0
不过,目前生成式AI大模型主要运行在云端,需要强大的算力提供支撑,难以普及应用。高通中国区董事长孟樸在最近举办的MWC2024期间接受采访时表示,如果我们希望让更多人快捷、便利地享受到AI发展带来的新体验,让生成式AI惠及更多人,这就需要将AI技术引入最贴近用户的地方。因此,只有在我们触手可及的智能手机、移动PC和网联汽车等终端设备中,实现随时随地运行生成式AI功能,才能使终端与云端紧密融合,从而推动生成式AI的广泛应用。
在今年的MWC大会上,高通推出了全新的高通AI Hub,为开发者提供一个全面的AI预优化模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。目前,高通AI Hub能够为开发者提供超过75个主流的AI和生成式AI模型,包括大家比较熟悉的Stable Diffusion、ControlNet、Baichuan-7B等等,所有这些模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。开发者可以快速将这些模型无缝集成到应用程序之中,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。
为了服务更多的开发者,高通已经将这些优化模型同步上线到高通AI Hub、全球最大的代码托管平台GitHub以及AI开源社区Hugging Face。开发者注册登陆后,就可以在搭载高通平台的云托管终端上自行运行模型,还可以通过高通AI Hub提前获取新特性和AI模型,从而加快产品开发和升级的步伐,让用户获得全新的使用体验。此外,高通AI Hub后续还将持续增加新模型,同时还将支持更多平台和操作系统,不断丰富生成式AI应用开发生态,加速推动生成式AI在各类终端上的广泛应用。
此前,高通已经推出了公司首个专为生成式AI打造的移动平台——第三代骁龙8,支持在智能手机上运行100亿参数的AI大模型。同时,高通还专门面向AI PC推出了骁龙X Elite平台,支持在终端侧运行超过130亿参数的生成式AI模型。目前,包括小米14系列、iQOO12系列、荣耀Magic6系列、三星Galaxy S24系列、OPPO Find X7 Ultra等在内,已经有超过10款搭载第三代骁龙8的智能手机上市,而搭载骁龙X Elite的更多AI PC也将于今年晚些时候上市。所有这些,为生成式AI在终端上的应用提供了广泛的硬件基础,让更多消费者都能随时随地享受到生成式AI带来的创新体验。
孟樸进一步指出,随着芯片算力的提升和软件的持续优化,以及在生成式AI应用持续发展的过程中AI模型不断精简,未来12个月到18个月,生成式AI将从目前的骁龙8系列旗舰手机广泛扩展到骁龙7系列甚至骁龙6系列的产品上,而广大消费者也将体验到更加丰富的各种生成式AI功能。展望未来,高通也将继续致力于拓展终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。
LogoMoney.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表LogoMoney.com立场,且不构成建议,请谨慎对待。
-
美股市场:纽约股市三大股指4月30日涨跌不一。截至当天收盘,道琼斯工业平均指数比前一交易日上涨141.74点,收于40669.36点,涨幅为0.35%;标准普尔500种股票指数上涨8.23点,收于5569.06点,涨幅为0.15%;纳斯 ...
- joey791216
- 前天 11:57
- 支持
- 反对
- 回复
- 收藏
-
美国总统特朗普近日在接受媒体采访时表示,他第二个任期不仅治理美国,也治理全世界。 特朗普于4月24日接受了《大西洋》(The Atlantic)月刊采访,这段专访于4月28日发布。 “第一次当总统时,我要做两 ...
- lfancn
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
东风有限回应武汉工厂关停事宜 据第一财经,4月29日,东风汽车有限公司证实,该公司武汉工厂目前正常运行,后续也不会关停。东风有限称,该公司将在东风与日产母公司的支持下平稳有序发展,持续加速向新能源 ...
- king19831101
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
当地时间周四,美股三大股指集体收涨,其中道指和标普500指数实现“八连涨”。不过,三大股指均在尾盘出现小幅跳水。 苹果、亚马逊于周四美股盘后公布了最新业绩,尽管业绩有所超出预期,但仍有令市场不满 ...
- jiangu12
- 昨天 10:28
- 支持
- 反对
- 回复
- 收藏