“加速一切”,NVIDIA CEO 黄仁勋在 COMPUTEX 开幕前发表主题演讲
发布时间:2024-6-3 18:49
发布者:eechina
黄仁勋详细介绍了推动新工业革命的全新半导体、软件和系统,它们将为新型数据中心、工厂、消费级设备、机器人等提供助力;并强调了降低成本和可持续增长的重要性。![]() NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 大会开幕前发表主题演讲,他表示:“生成式 AI 正在重塑行业,并为创新和增长带来新机遇。” “今天,我们正处于计算领域重大转变的最前沿,”黄仁勋表示,“人工智能和加速计算的交汇将重新定义未来。” 6500 多名行业领导者、媒体、企业家、游戏玩家、创作者和AI爱好者在台湾大学综合体育馆齐聚一堂,现场聆听黄仁勋的主题演讲。 ![]() NVIDIA 加速平台已经全面投入生产,不仅通过搭载 NVIDIA RTX 技术的 AI PC和消费级设备为游戏玩家和创作者带来全新体验,还支持企业利用 NVIDIA 全栈计算平台构建和部署的 AI 工厂。 “加速计算是计算行业的未来,”黄仁勋表示,“凭借 NVIDIA 在 AI 和加速计算领域的创新,我们正在创造更多可能,推动新一轮技术进步。” 观看主题演讲回放请访问:https://www.nvidia.cn/events/computex 每年更新路线图 黄仁勋分享了新半导体技术路线图,该路线图将每年更新。 他首次宣布了Rubin 平台,它将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。Rubin 将作为 Blackwell 的下一代平台。 “我们公司的更新节奏是以年为单位。我们的基本理念非常简单:打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破,”黄仁勋解释道。 NVIDIA 创意团队使用 NVIDIA Inception 初创计划成员提供的 AI 工具来创作 COMPUTEX 主题演讲,该工具基于 NVIDIA NIM 和 NVIDIA 加速计算。本次演讲演示了各种 demo,重点介绍了上述创新工具以及 NVIDIA 技术带来的变革性影响。 加速计算实现可持续增长 黄仁勋在演讲开始时表示,NVIDIA 正在降低将数据转化为智能的成本。 他强调:“加速计算能够实现可持续增长。” 他同时介绍了 GPU 和 CPU 组合如何实现高达 100 倍的加速计算,同时功耗仅增加三倍,每瓦性能比单独使用 CPU 提高 25 倍。 “买的越多,省的越多。” 他强调了这种方法可显著节约成本和能源。 业界携手 NVIDIA 打造 AI 工厂,助推新工业革命 领先的计算机制造商已经纷纷开始采用 NVIDIA GPU 和网络解决方案。永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、超微(Supermicro)、纬创(Wistron)和纬颖科技(Wiwynn)等企业正在打造基于NVIDIA技术的云、专用系统和边缘AI系统。 NVIDIA MGX 模块化参考设计平台加入了对Blackwell产品的支持,包括GB200 NVL2平台,该平台专为大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。 AMD 和英特尔均支持MGX架构,并首次计划推出基于他们自己CPU主机处理器的模块设计。任何服务器系统制造商都可以使用这些参考设计节省开发时间,并确保设计和性能的一致性。 采用Spectrum-X 的下一代网络平台 为了满足AI对高性能以太网网络平台日益增长的需求,黄仁勋宣布了每年推出新的 Spectrum-X产品的计划。 NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。Spectrum-X 能够加快 AI 工作负载的处理、分析和执行速度,进而加快 AI 解决方案的开发和部署速度。 率先采用 Spectrum-X 的 AI 云服务提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他们的 AI 基础设施因此而获得了超强的网络性能。 NVIDIA NIM 让数百万人成为生成式 AI 开发者 现在,全球 2800 万开发者都可以借助 NVIDIA NIM 轻松地创建生成式 AI 应用。NIM 是一种推理微服务,通过以经过优化的容器的形式提供模型,以部署在云、数据中心或工作站上。 NIM 还能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在 NIM 中运行 Meta Llama 3-8B 所能生成的加速基础设施 AI token 可以提升 3 倍。 ![]() Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技术合作伙伴正将 NIM 集成到他们的平台中,加快生成式 AI 部署到特定领域应用中的速度,例如copilots、代码助手、数字人虚拟形象等。从 Meta Llama 3 开始,在 Hugging Face上现已开始提供 NIM。 “今天我们在 Hugging Face上发布了全面优化的 Llama 3,”黄仁勋表示。“您可以在任何云中运行它。下载该容器,并将其存入数据中心,然后就可以托管,并提供给客户使用。” NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生 搭载 RTX 技术的 NVIDIA RTX AI PC 将通过 200 多款 RTX AI 笔记本电脑和 500 多款采用 AI 技术的应用和游戏彻底改变消费者的体验。 RTX 套件和为NVIDIA ACE 数字人平台最新推出的基于 PC 的 NIM 推理微服务,将进一步提高 AI 的可访问性。 另外,NVIDIA 还发布了搭载 RTX 的 AI 助手技术演示 G-Assist 项目,展示了针对 PC 游戏和应用的上下文感知辅助功能。 Microsoft 和 NVIDIA 正在一起帮助开发者将新的生成式 AI 功能加入到他们的 Windows 原生和 Web 应用程序中,使开发者能够通过 API 轻松访问由 RTX 加速的 SLM,作为 Windows Copilot Runtime 的一部分实现在设备上运行的 RAG 功能。 NVIDIA 机器人技术获得行业领导者的青睐 NVIDIA 正引领价值 50 万亿美元的工业数字化变革,各行各业都在采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本。NVIDIA 通过其开发者计划提供对 NIM 的访问权限,以促进 AI 创新。 领先的制造商们正在利用 NVIDIA 的技术改造他们的工厂。黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开发工具来实现增强的机器人设施。 “AI 的新一波浪潮是物理 AI。AI 能够理解物理定律,并与人类并肩作战,”黄仁勋表示,他强调了机器人和人工智能在未来发展中的重要性。 NVIDIA Isaac 平台为开发者构建 AI 机器人提供强大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超级计算机驱动的 AMR、工业机械臂和人形机器人。 “机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充道。 ![]() 全球电子行业领导企业正在将 NVIDIA 自主机器人技术集成到他们的工厂中,利用 Omniverse 中的模拟功能来测试和验证物理世界的新一代 AI。全球 500 多万台预编程机器人也在此行列中。 “机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋解释道。 黄仁勋强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。 IGX 平台上的 NVIDIA AI Enterprise与凌华科技(ADLINK)、研华科技(Advantech)、ONYX 等合作伙伴共同打造符合严格监管标准的边缘 AI 解决方案,以满足医疗技术等行业的关键需求。 最后,黄仁勋向 NVIDIA 合作伙伴再次表示感谢。 |
网友评论