“动”起来的图片:NVIDIA Instant NeRF 将图像变为 3D 场景

2024-04-19 19:45:10     来源:

了解 AI 研究项目如何在数秒内帮助艺术家等用户用 2D 图像打造 3D 体验。

编者注:本文属于《解码 AI》系列栏目,该系列的目的是让技术更加简单易懂,从而解密 AI,同时向 RTX PC 用户展示全新硬件、软件、工具和加速特性。

想象一幅风光旖旎的画面,比如水畔的悬崖峭壁。即便只是 2D 图像,如此美景依旧令人心驰神往。如果同一画面能以 3D 效果展现,那么无需跋涉就能身临其境。

NVIDIA RTX 技术驱动的 AI 恰恰能让我们得偿所愿。创作者运用 Instant NeRF 便能在短短数秒之间将多组静态图像变为 3D 数字场景。

简单好用的辐射场

AI 模型 NeRF 全称为“神经辐射场”,可通过输入表现某个场景的 2D 图像并在其间执行插值,渲染完整的 3D 场景。NeRF 以神经网络的形式运行,后者是一种复制大脑组织形式的模型,常用于需要模式识别的任务。

NeRF 在运用空间位置和体积渲染的基础上,通过图像的相机位姿对场景的 3D 迭代进行渲染。这类模型的计算量往往很大,因此对渲染能力的要求很高,耗时也较久。

NVIDIA 近日的 AI 研究项目带来了破局之策。

Instant NeRF 使 NeRF 全面升级:通过 AI 加速的逆渲染,对光的现实表现形式进行估计,帮助研究人员运用从不同角度拍摄的 2D 图像构建 3D 场景。现在只需几秒即可生成场景,而且 3D 渲染成品的精细程度与 NeRF 模型的训练时长成正比。

在 2022 年的 SIGGRAPH 计算机图形会议上,NVIDIA 的研究人员发布了四个神经图形基础样例(以及预训练数据集,均属于 Instant-NGP 训练工具集)。人们可以借此用自己的数据创建 NeRF。这些研究人员凭借该项成果获得了最佳论文奖,《时代》周刊也将 Instant NeRF 评为了 2022 年度最佳发明。

Instant NeRF 不仅能够加快 NeRF 渲染,还可通过 NVIDIA RTX 和 GeForce RTX 台式电脑和笔记本电脑的 GPU 完成整个图像重建过程。虽然场景渲染时长取决于数据集规模、图像和视频源内容等多种因素,但 AI 训练并不需要服务器级或基于云的硬件。

NVIDIA RTX 工作站和 GeForce RTX PC 是满足 NeRF 渲染计算需求的理想之选。NVIDIA RTX 和 GeForce RTX GPU 配备专用的 AI 硬件加速器 Tensor Core,可为在本地运行生成式 AI 提供强大动力。

各就各位,整装待发,强势出击

开启 Instant NeRF 探索之旅,了解辐射场并以全新方式体验画面之美。

开发者和技术发烧友可以下载源代码库进行编译。非技术用户也可以从 GitHub 上下载 Instant-NGP 软件的 Windows 安装程序。

虽然此安装程序适用于多种 RTX GPU,但拥有最新架构的 GeForce RTX 40 系列和 NVIDIA RTX Ada Generation GPU 才能充分发挥它的实力。

https://images.nvidia.cn/cn/youtube-replicates/3TWxO1PftMc.mp4

《Instant NeRF 入门》指南在介绍功能的同时,也将引导用户完成全程操作,包括加载“NeRF Fox”等单个基础样例,以便了解可实现的效果。详细说明和类似上文的视频演示针对如何使用自定义数据创建 NeRF 进行了讲解,包括获取优质输入图像的方式、基于源代码编译代码库的技巧等。该指南也针对 Instant NeRF 图形用户界面的使用、场景参数优化、基于场景创建动画等内容进行了说明。

此外,NeRF 社区也分享了很多帮助用户入门的技巧和窍门,例如下方的直播和这篇技术博文。

https://images.nvidia.cn/cn/youtube-replicates/z3-fjYzd0BA.mp4

展示与讲述

数字艺术家运用 NVIDIA Instant NeRF 创作赏心悦目的场景,讲述耳目一新的故事。Instant NeRF 图库展示的视频片段都是独出心裁且引人入胜的典型范例,在任何网络浏览器上都能观看。

其中包括:

Through the Looking Glass,作者:Karen X. Cheng  James Perlman

一位钢琴家如往常一样正在练琴,但随后的画面却打破了平凡的日常。观众凝视着镜中的虚拟世界,只可远观却无法进入其中。除非采用非常手段,否则无法踏入一步。当观众跨过入口就会发现,这面镜子其实是一扇窗,连接着一个颠倒的现实世界,可以进入其中探索。哪边的世界才是真的呢?

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-karenx-v9-1280x680-1.mp4

Meditation,作者:Franc Lucent

Nico Santucci 的宅邸中有很多房间,当 Lucent 一行人走进其中一间之时,他就决定用那里构建 NeRF。编辑池塘的动态范围和反射引领这位艺术家踏上了未知的探索之旅。他们喜欢那种柔光和 NeRF 为房间营造梦幻氛围的方式,为冥想开辟了一片理想空间。与照片或视频相比,NeRF 定格的瞬间在沉浸感方面更胜一筹。

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-franc-lucent-meditation-1280x680-1.mp4

Zeus,作者:Hugues Bruyère

Bruyère 此前通过传统摄影测量(包括使用无反数码相机、智能手机、360 度相机和无人机)获得的数据是 Instant NeRF 渲染这些 3D 场景的基础。在 Instant NeRF 强大性能的加持之下,他通过在线图书馆、博物馆、虚拟现实体验和遗产保护项目等渠道参与文化遗产的保护和分享。这一 NeRF 是用 iPhone 拍摄的皇家安大略博物馆的照片数据集训练而成的。

https://blogs.nvidia.cn/wp-content/uploads/2024/04/studio-ai-decoded-hugues-zeus-1280x680-1.mp4

图像、视频、现实的层层递进

借助 AI 将图像变为 3D 场景已令人惊叹,但更神奇的是进行 3D 创作。

从 Instant NeRF 的一项最近更新开始,用户可以基于静态图像进行场景渲染,模拟置身虚拟环境之中,在 3D 空间里自由移动。用户只要在虚拟现实 (VR) 环境中戴上头显设备,就将完全置身新的世界,感受身临其境的体验。

其中蕴藏的潜力几乎是无穷无尽的。

举例而言,房屋中介可以创建并分享 3D 房产模型,升级虚拟看房体验;零售商可以通过一组图像和 RTX GPU 上运行的 AI 在网店中展示产品。这些 AI 模型能驱动创造力,让其他行业也能利用身临其境的 3D 体验。

使用 Instant NeRF 即可在 VR 中轻松清理场景,降低了高品质 NeRF 的创建难度。点击了解有关在 VR 中应用 Instant NeRF 空间的更多信息。

下载 Instant-NGP 开始创作之旅。您可在社交媒体上添加 #InstantNeRF 标签来发布作品。

生成式 AI 正改变各类游戏、视频会议和互动体验。请订阅《解码 AI》时事通讯,我们每周都会将新鲜资讯直接投递到您的收件箱。

 

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

图明索,直播间灯光的最佳选择
云鲸官宣于适为全球品牌代言人,4月26日将携手登陆天猫超级品牌日
凯东源再次中标深圳盐业项目
Testin云测聚焦数字化转型要点,助力企业数字化转型
普源精电深化产学融合及实验创新 亮相电子学科组工作年会
2024储能材料国际研讨会暨深圳国际石墨烯论坛在深圳圆满闭幕
华为王少森:拥抱智能时代,加速迈向高阶自智网络
随身携带的艺术品:PYNANA翡娜娜珠宝配饰手机壳
教育行业AI算力引擎“鸿华”问世,鸿合科技携手华为纵深布局“AI+教育”
学科网亮相第83届中国教育装备展,聚焦“数字赋能,上好每一堂课”
持续拓展CMOS黄金赛道,爱芯元智“黑光全彩”技术引领行业革新
实战演练防大震,匠心网络保畅通
AI赛道持续火爆 出门问问发售超额认购超100倍
联合国青年论坛边会在纽约召开,共议联合国17项可持续发展目标创新路径
真·端到端自动驾驶、多模态场景大脑、全新3D交互!商汤绝影系列原生态大模型即将亮相2024北京车展
美团等10余家生活领域头部应用完成鸿蒙核心版本开发,打造全场景智慧生活体验
99.99美金!全球最具性价比5G手机来袭!!!
洪亮团队在生信期刊JCIM发布最新成果,蛋白质工程迈入通用人工智能时代
英特尔助力企业释放AI潜力,加速创新
学会正确处理愤怒情绪!赛乐瑞Super-K,强劲心力应对挑战
不要小看情绪对健康的影响!若返畅络因,助益机体应对挑战
瑞健未来亮相第89届CMEF,抗衰科技新星“时光梭”引围观
莱复隆STEMAX:激活内源性干细胞,焕发青春“永动力”
赛乐瑞精倍莱:科技之力攻克衰老“男”题
精倍莱是什么?赛乐瑞奢享男士抗衰品,助力男性焕发源力
联想集团以全球联接力与科技创新点亮F1®联想中国大奖赛
考拉悠然CEO沈复民荣获“2023四川十大青年企业家”称号
正力新能发布170kWh产品,纯电MPV超长续航超1000公里
狮桥集团ABS发行利率首次进入“2%”时代,再创资本市场利率新低
Create 2024百度AI开发者大会:轻舸、扬楫公开课带你驾驭AI时代营销浪潮