国际机器学习大会(ICML)的年度论文公布,揭示了人工智能研究的前沿方向。今年的参会论文显示,开放的通用模型和开源的AI基础设施已成为现代AI科学研究的基石。
NVIDIA在本届ICML上共有74篇论文被收录。其中,约2000篇论文引用了NVIDIA的GPU,而145篇论文则将NVIDIA Nemotron——一个包含开放数据集的开放模型系列——作为其新研究的基础。此外,还有数百篇论文借鉴了NVIDIA Cosmos、NVIDIA Isaac GR00T、BioNeMo及其他NVIDIA开放模型系列,这些研究涵盖了物理AI、机器人、自动驾驶汽车以及生物医学等领域。
塑造本年度研究的主题
视觉和视频生成、用于大型语言模型(LLMs)的强化学习、以及智能体训练和AI推理,是本年度论文中持续受到关注的几个主题,这反映了这些领域持续的投入。同时,也有一些新的研究领域崭露头角。
机器人世界模型引起了广泛关注,例如DreamDojo等论文在AI系统如何学习理解和在物理环境中行动方面取得了突破。DreamDojo通过人类视频学习物理世界的运行规律,并基于NVIDIA Cosmos开放通用模型,预测机器人在未曾训练过的环境中的物体处理和操作能力。这使得研究人员能够评估策略、规划动作以及远程操控虚拟机器人,从而在不承担高昂成本和风险的情况下加速开发进程。
NVIDIA BioNeMo开放模型及其研究成果,为生命科学领域的AI研究提供了动力,帮助研究人员深入理解蛋白质功能、分子行为和遗传密码。FLIP2等论文提出了用于评估AI预测蛋白质突变影响能力的公开基准。KERMT是BioNeMo系列中一个用于预测对药物发现至关重要的分子特性的新开放模型。
合成数据生成(SDG)在本届ICML上获得了特别的关注,多篇论文利用Nemotron和物理AI的开放数据集,这反映出研究人员在扩展模型训练规模时,正逐渐摆脱对人工标注数据的单一依赖。
开放的研究堆栈
开放的基础设施为研究人员提供了加速突破的工具。
论文表明,Nemotron正被更多地用作一个研究堆栈,而非仅仅是一个模型发布:它提供了开放的权重供评估,开放的数据集供训练和调整,以及开放的推理、工具使用、安全、数据整理和高效推理的“配方”。
除了模型本身,NeMo Curator及其支持的开放数据集为研究人员提供了可复现的数据集整理基础。SDG工具使得创建高质量的训练数据集成为可能,其规模和速度在几年前是难以想象的。
Cosmos 3系列开放的通用多模态模型,在让研究人员和开发者构建能够感知、推理、规划并能在物理世界中行动的机器人、自动驾驶汽车和视觉AI方面,带来了跨越式的发展。
此外,用于自动驾驶汽车开发的NVIDIA Alpamayo开放模型系列、用于机器人技术的NVIDIA Isaac GR00T,以及用于生物医学的NVIDIA BioNeMo,都在加速各行业的研发进程。
生态系统的蓬勃发展
这种势头不仅限于NVIDIA自身的研究实验室。
Basecamp Research开发了一种新的DNA基础模型EDEN,帮助研究人员解读和设计基因序列。
Merck & Co.公司利用KERMT来预测潜在药物分子在体内的行为,包括其有效性、安全性和可开发性。
Sakana AI在今年的ICML上展示了其直接基于Nemotron 3 Ultra构建的Fugu和Fugu-Ultra模型,利用这一开放基础模型,推动了其在AI研究自动化方面的工作。
KiloCode将Nemotron集成到其代码路由架构中,报告称代币成本降低了高达90%,这对于AI在生产环境中的部署经济性具有实际意义。
NAVER利用Nemotron架构开发了自己的模型,为韩语AI研究奠定了基础。
Together AI在其平台上托管Nemotron模型,为需要可靠、无缝访问开放推理的研究人员提供了便利。
Humanoid、LG电子、NEURA Robotics和Noble Machines正在采用NVIDIA Isaac GR00T模型,以加速其人形机器人的工业化部署。同时,1X、Agility、Agile Robots、Boston Dynamics、Hexagon Robotics和Mentee等公司正利用Cosmos世界模型、Isaac Sim和Isaac Lab构建下一代人形机器人,以加速其机器人的开发和验证。
您可以在Hugging Face上探索NVIDIA的开放模型。
您可以在7月10日星期五的ICML GenBio研讨会上,深入了解基因组学和生物学研究。