登录社区云，与社区用户共同成长
邀请您加入社区
采用 NVIDIA Blackwell 架构的 NVIDIA GB200 NVL72 和 NVIDIA GB300 NVL72 系统是机架级超级计算机。它们采用 18 个紧密合的计算托盘、大型 GPU 网络和整体式高带宽网络设计。对于 AI 架构师和 HPC 平台运营商而言，挑战不仅仅在于机架和堆叠硬件，还在于将基础设施转变为面向最终用户的安全、高性能且易于使用的资源。机架级硬件拓扑与调度器抽象之
物理 AI (在基于物理性质的模拟环境中感知、推理和行动的 AI 系统) 正在改变团队设计和验证机器人和工业系统的方式，而这一切远早于任何产品交付到工厂车间。在大会上，NVIDIA 强调物理 AI 是机器人和的关键方向，在基于物理的环境中训练和验证策略。为使 NVIDIA Omniverse 更易于集成到现有应用中，NVIDIA 在现有平台的基础上增加了一个基于库的模块化架构。ovrtxovphy
MiniMax M2.7 的发布为流行的模型增加了增强功能，该模型专为代理式线束以及推理、ML 研究工作流程、软件、工程和办公室工作等领域的其他复杂用例而构建。MiniMax M2.7 的开源权重版本现已通过 NVIDIA 和整个开源推理生态系统提供。MiniMax M2 系列是稀疏混合专家 (MoE) 模型系列，专为提高效率和功能而设计。MoE 设计可保持较低的推理成本，同时保留 230B 参数
在这个过程中，零一万物基于 NVIDIA 软硬结合的技术栈，在功能开发、调试和性能层面，与 NVIDIA 团队合作优化，完成了在大模型的 FP8 训练和验证。在此基础上，零一万物团队进一步的设计了训练容错方案：由于没有 BF16 的 baseline 来检查千亿模型 FP8 训练的 loss 下降是否正常，于是，每间隔一定的步数，同时使用 FP8 和 BF16 进行训练，并根据 BF16 和 FP
过往，许多用户在将 TensorRT-LLM 集成到自身软件栈的过程中，总是希望能更好地了解 TensorRT-LLM 的 Roadmap。即日起，NVIDIA 正式对外公开 TensorRT-LLM 的 Roadmap ，旨在帮助用户更好地规划产品开发方向。近期，我们收到了许多用户的积极反馈，并表示，TensorRT-LLM 不仅显著提升了性能表现，还成功地将其应用集成到各自的业务中。这不仅有助
随着越来越多的团队从人形机器人启动转向特定任务的技能开发，对可重复开发工作流的需求也与日俱增。构建人形机器人仍然十分复杂，而且当今的开发流程仍然高度分散。因此，开发者在专注于构建机器人功能之前，会花费大量时间来配置机器人基础设施。虽然机器人社区已经开发出跨流程各个阶段的工具，但由于软件生态系统孤立、数据格式不兼容以及工具之间的手动集成，将它们连接到无缝工作流仍然是一项挑战。为解决这一问题，我们推出
构建 TensorRT 引擎可能需要几秒钟到几分钟的时间。大型强类型模型、深度策略搜索和全新 GPU SKU 上的冷定时缓存可能会让开发者、最终用户或 AI 智能体盯着冻结的终端，而不知道是否要等待、重试或终止该进程。大多数 NVIDIA TensorRT 集成在构建过程中不会报告任何内容，或者无法提前终止。在长时间运行的智能体工作流中，这会浪费 GPU 小时并导致会话卡顿。图 1. 用于 Ten
编码正成为长期运行的机器学习 (ML) 工作流程的实用运算符。他们可以检查资源库、设置运行时、解决构建问题、启动实验、监控执行、分析指标并汇总结果。对于研究而言，这一点很重要，因为有意义的指标通常只有在基本实验基础设施就绪后才会出现。是 Andrej Karpathy 的一个开源 Python 项目，用于自动化 AI 和 ML 模型训练。通过这种方法，将高层次的目标转化为假设，编辑和测试真实的代码
是一个开源分布式 SQL 引擎，可对超大型数据集快速运行交互式查询。在 NVIDIA GPU 上，Presto 可为分析查询工作负载提供峰值性能，并为用户和智能体提供低延迟。GPU 加速的 Presto 可降低分析工作负载的延迟，让您和智能体畅通无阻并尽可能快地进行迭代。本文将介绍如何使用单节点和多节点在扩展分析基准测试中高效执行多 GPU Presto。我们还强调了在与数据源搭配使用时对 NVI
NVIDIA DGX Spark以GB10超级芯片与128GB高速统一内存为核心算力底座，凭借轻量化、全流程、高性能的特性，系统性解决智能安防与工业智能方案研发过程中数据处理慢、模型迭代难、推理延迟高、落地验证繁琐等痛点。通过构建视频智能分析、设备预测性维护两大AI能力体系，全方位赋能安防智能化管控与工业数字化运维，为智慧城市、智能制造领域的轻量化AI研发与场景落地提供高性能、高可靠的标杆方案。后
