HomeAI随着开放物理 AI 模型走向主流,NVIDIA Cosmos 3 在基准测试中名列前茅

随着开放物理 AI 模型走向主流,NVIDIA Cosmos 3 在基准测试中名列前茅

NVIDIA 正在为其在人工智能开放标准方面的呼吁投入真正的力量,而其最新举措显示出这一推动如今已经深入到机器人、自驾车和机器视觉领域的程度。7 月,这家芯片制造商与超过200 家公司和组织一起签署了一封题为《开放权重与美国 AI 领导力》的公开信,主张 AI 领导力应当以开放系统在各个行业的广泛传播来衡量,而不是以单一旗舰模型来衡量。在这一承诺的基础上,NVIDIA 现已推出Cosmos 3,这是一系列新的开放物理 AI 模型,旨在帮助机器理解和预测现实世界中发生的事情,而不仅仅是描述摄像头所看到的内容。

要点速览

  • NVIDIA 与 200 多家企业和组织一起签署公开信,推动开放 AI 生态系统向前发展。
  • NVIDIA Cosmos 3 是一种新的开放物理 AI 基础模型,构建在混合 Transformer(mixture-of-transformers)架构之上。
  • Cosmos 3 家族涵盖三种规模:Super(64B)、Nano(16B)和 Edge(4B),分别面向不同的部署需求。
  • Cosmos 3 在多项独立基准测试中排名第一,包括 Artificial Analysis、PAIBench、Physics-IQ、RoboLab 和 VANTAGE-Bench。
  • 机器人、自主车辆和视觉 AI 领域的公司,以及不断扩大的 NVIDIA Cosmos 联盟,已经开始基于这一模型家族进行构建。

NVIDIA 加入推动开放物理 AI 生态系统的行列

对模型权重的开放访问,使开发者能够真正基于基础模型进行构建,而不仅仅是租用访问权限。NVIDIA 决定共同签署《开放权重与美国 AI 领导力》公开信,反映出一个在整个行业中日益获得认同的更广泛观点:正是 ciò che consente a chiunque di scaricare, esaminare, personalizzare ed eseguire modelli aperti sulla propria infrastruttura 让广泛的 AI 采用一开始就成为可能。

这一原则在那些单一通用模型无法胜任的领域尤为重要。物理 AI 是处理机器人、自主车辆以及在真实环境中运行的视觉系统的人工智能分支,正是这样的领域。每一次部署在本质上都是一个专业化问题,因为仓库机器人、配送车辆和工厂摄像头都需要对完全不同的物理条件进行推理。开放的世界模型为工程团队提供了灵活性,可以将一个共享的基础适配到这些截然不同的场景中,而不是每次都从零开始。

物理 AI 与其他 AI 系统的区别何在

物理 AI 必须理解和预测后果,而不仅仅是识别外观。这一差异正是世界模型存在的根本原因:它们被训练来学习物理环境的行为方式,预判接下来可能发生的事情,并根据这种预测找出合理的行动。

在实践中,这意味着世界模型可以生成关于物体如何运动和交互的物理上有依据的数据,模拟环境的未来状态,并为开发者提供一个基础,随后可以针对特定机器人、自动驾驶汽车或视觉系统进行微调。团队无需为每一个新用例收集海量真实世界视频,而是可以依靠世界模型仿真来生成合成训练数据,并在任何东西接触现实世界之前测试策略。NVIDIA 的 Omniverse 库是其 Agent Toolkit 的一部分,通过提供预构建的工具,用于搭建可用于仿真的环境,将这一点进一步扩展,使物理 AI 系统可以在真实部署前进行训练、测试和验证。

NVIDIA Cosmos 3:全新开放物理 AI 基础模型的内部解析

Cosmos 3 是 NVIDIA 对长期以来拖慢物理 AI 开发进度的碎片化问题的回应。开发者无需再为场景理解、数据生成和动作预测分别维护不同的模型,而是可以依赖一个能够处理这三项任务的开放模型家族。NVIDIA 将 Cosmos 3 描述为一个前沿的开放物理 AI 基础全能模型(omni-model),构建在混合 Transformer(mixture-of-transformers)架构之上,在一个系统中结合视觉推理、世界生成和动作预测。

这种灵活性正是关键所在。开发者可以将 Cosmos 3 用作视觉语言模型来解释场景,用作基于物理的世界模拟器来预测未来状态并生成大规模合成训练数据,或者将其作为为特定机器人或车辆构建专用世界动作模型的骨干。

面向各种部署需求的模型变体

Cosmos 3 家族提供三种规模,每一种都针对能力与硬件占用之间的不同平衡:

  • Cosmos 3 Super(64B)面向高保真世界建模。
  • Cosmos 3 Nano(16B)针对高效推理和后训练进行了优化。
  • Cosmos 3 Edge(4B)专为设备端视觉推理和机器人策略部署而设计。

Cosmos 3 Edge 足够轻量,可以在边缘 GPU 上运行。NVIDIA 表示,它可以部署在 NVIDIA RTX GPU、NVIDIA DGX 系统以及 NVIDIA Jetson 硬件(包括 Jetson Thor 平台)上。对于那些需要在机器人或车辆上直接运行推理,而不是将所有内容都回传数据中心的公司而言,这种覆盖范围至关重要。

跨任务的基准测试领先地位

在各类独立基准评估中,Cosmos 3 目前在 Artificial Analysis 上,作为开放权重模型在 generazione da testo a immagine e da immagine a video 方面排名第一,在 PAIBench 的世界生成任务上排名第一,并在 Physics-IQ 的图像到视频类别中名列前茅。针对机器人策略任务 specifically,它在 RoboLab 基准测试中位居榜首。根据 NVIDIA 的说法,Cosmos 3 Super 也是 VANTAGE-Bench 上视觉理解方面排名最高的开放模型。

这些排名使 Cosmos 3 成为任何构建开放物理 AI 模型的人可以真正参考的基准,而不仅仅是一项小众研究发布。NVIDIA 更广泛的物理 AI 技术栈则通过 Isaac GR00T(面向机器人)、Alpamayo(面向自动驾驶车辆)和 Metropolis(面向视觉 AI)来完善整体布局,这意味着 Cosmos 3 并非孤立运作,而是融入了一整套已经针对特定行业定制的工具之中。

行业采用与 NVIDIA Cosmos 联盟

机器人、自主车辆和视觉 AI 领域的公司已经在基于 NVIDIA Cosmos 进行构建,这表明该模型家族正在从演示阶段走向实际开发流程。在机器人领域,Doosan Robotics、LG Electronics、Samsung Electronics 和 Skild AI 是 NVIDIA 列出的采用者之一。在自动驾驶领域,理想汽车、Xiaomi 和 Afari 正在使用这一平台。对于为工业监控和智慧空间系统提供支持的视觉 AI 应用,Centific、Fogsphere、Linker Vision、Milestone Systems 和 Yuan 被列为基于 Cosmos 进行开发的公司。

为什么这种在三个截然不同产业中的扩散如此重要?这表明单一的开放基础模型确实可以作为共享基础设施,而不是只适用于某一个狭窄用例——这正是 NVIDIA 及其共同签署方在今年早些时候的公开信中所提出的论点。

NVIDIA Cosmos 联盟则是旨在保持这一势头的机制。它将 riunendo costruttori di modelli mondiali、sviluppatori di IA 和 leader dell’IA fisica 聚集在一起,以便将模型、研究和评估方法论带回开放生态系统。NVIDIA 最近将该联盟扩展到了日本,当地的机器人和制造业领导者计划加入,并开发面向工厂、物流、农业、建筑、医疗保健和交通运输等领域的开放世界模型。结合已经展开的行业采用,这一扩展表明,一个开放模型家族正在成为物理 AI 的共享基础,而不是某家公司的单一专有押注。

常见问题

什么是开放世界模型?它们为何重要?

开放世界模型可以在任何基础设施上下载、检查、修改和运行,这为开发者提供了定制能力,以便将物理 AI 应用专门化到特定机器人、车辆或视觉系统。

物理 AI 与其他类型的 AI 有何区别?

物理 AI 需要在真实物理环境中理解和预测后果,而不仅仅像典型视觉模型那样解释外观。

NVIDIA Cosmos 3 有哪些不同变体及其用途?

Cosmos 3 Super(64B)用于高保真世界建模,Cosmos 3 Nano(16B)用于高效推理和后训练,Cosmos 3 Edge(4B)则面向轻量级边缘 GPU 部署,包括运行 Jetson Thor 硬件的机器人。

NVIDIA Cosmos 联盟如何支持物理 AI 的发展?

它在全球范围内促进世界模型构建者和 AI 开发者之间的协作,并且最近扩展至日本,将当地的机器人和制造业领导者纳入其中,他们计划为从物流到医疗保健等多个行业开发开放世界模型。

{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”什么是开放世界模型?它们为何重要?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”开放世界模型可以在任何基础设施上下载、检查、修改和运行,这为开发者提供了定制能力,以便将物理 AI 应用专门化到特定机器人、车辆或视觉系统。”}},{“@type”:”Question”,”name”:”物理 AI 与其他类型的 AI 有何区别?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”物理 AI 需要在真实物理环境中理解和预测后果,而不仅仅像典型视觉模型那样解释外观。”}},{“@type”:”Question”,”name”:”NVIDIA Cosmos 3 有哪些不同变体及其用途?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Cosmos 3 Super(64B)用于高保真世界建模,Cosmos 3 Nano(16B)用于高效推理和后训练,Cosmos 3 Edge(4B)则面向轻量级边缘 GPU 部署,包括运行 Jetson Thor 硬件的机器人。”}},{“@type”:”Question”,”name”:”NVIDIA Cosmos 联盟如何支持物理 AI 的发展?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”它在全球范围内促进世界模型构建者和 AI 开发者之间的协作,并且最近扩展至日本,将当地的机器人和制造业领导者纳入其中,他们计划为从物流到医疗保健等多个行业开发开放世界模型。”}}]}

本文在人工智能协助下完成,由编辑团队审核。

RELATED ARTICLES

Stay updated on all the news about cryptocurrencies and the entire world of blockchain.

Featured video

LATEST