SAM 3D Objects:给照片里的物体补出三维形状,遮罩决定先做哪一个

新模型猫目发布于 来源:SAM 3D Objects 官方仓库、示例与许可
用照片与对象遮罩生成可检查形状、纹理和布局的三维初稿,单图补全与实际测量有不同用途。
SAM 3D Objects:给照片里的物体补出三维形状,遮罩决定先做哪一个

为什么值得关注

先选出照片中的具体物体,再查看独立三维对象及其布局,为场景草拟和形态探索提供能继续判读的初稿。

适合谁:需要从照片收集三维参考、具备模型环境并愿意整理生成资产的技术美术、三维创作者与研究者

这次有哪些亮点

  • 单张图像结合对象遮罩,估计几何、纹理与布局
  • 分别提供单对象和多对象示例
  • 基础示例可导出高斯表示的splat.ply

使用前需要知道

官方本地前提为64位Linux及至少32GB显存NVIDIA GPU,检查点需申请认证;不可见表面来自估计,不保证尺度或游戏资产拓扑;代码与权重适用SAM License。

找三维参考时,手里往往只有一张照片:一把藤椅、一盆植物,或拥挤房间里的一件玩具。SAM 3D Objects 的用途,是让这些被选中的物体从平面图片变成带有形状、纹理与位置估计的三维对象。输入除了照片,还包括标出目标物体的遮罩;输出适合拿来查看形态、组织场景初稿,再决定哪里需要人工重做。

它与抠图不同:抠图主要处理可见轮廓,三维重建还要补出单张照片没有完整交代的表面。也正因为补全参与了结果,生成出来的背面不能直接当成原物体真实长相,更不等于一份具有准确尺寸的生产图纸。

先看清官方例子交付的是哪些东西

官方介绍图左侧给出一间儿童房,右侧则是城市街景。黄色引线把照片中的物体连接到三维对象,下方分别列出藤椅、花盆、玩具、自行车、房屋等独立素材。

SAM 3D Objects 官方概览:儿童房和街景照片中的物体,被对应到独立三维对象

官方论文概览图。看黄色引线与下排对象的对应关系:模型按物体预测几何、纹理与布局;它不是本文重建的房间,也不证明遮挡背面与实际物品完全一致。

这张图最有用的地方,是把“整幅画面看起来像三维”与“拿到各个对象”区分开。藤椅和花盆在原图里互相依靠环境关系,在输出展示中却可以作为独立对象查看。这使它更适合场景草拟、视觉素材探索与研究,而不是只生成一段绕着平面图片转动的视频。

同时,场景布局也是估计结果。物体被摆回相近位置,并不能说明椅子高度、墙面距离或城市建筑比例已经经过测量。需要与真实空间对齐时,还要有尺寸、更多观察或其他约束。

遮罩决定你到底要重建什么

仓库示例先加载儿童房照片,再加载一个对象的遮罩,随后把两者交给推理流程。遮罩不是装饰性的高亮,它限定这一次要处理的对象。照片里有许多东西,单物体任务不能只靠“这是儿童房”来决定该生成哪件家具。

如果只想为一把椅子准备粗模,应该先确认遮罩有没有把椅背、坐垫、椅腿包含进去,有没有混入旁边的玩偶。少选了椅腿或把两个物体选在一起,后面的模型就缺少清楚的对象范围。这里说明的是输入检查方法,不是本文跑过的一次成功重建。

多物体任务则需要进一步处理各个对象及其关系。官方另外提供多对象 notebook,儿童房动图展示的就是组合结果,不能把它解释成只给一个掩码就自动恢复整间房。

SAM 3D Objects 官方儿童房三维演示,展示物体组合在不同视角中的形状与布局

与概览中儿童房对应的官方演示。转动视角是为了检查几何和相互位置;原照片看不见的部分仍来自模型估计,不应把这段演示当成房间扫描记录。

可导出的三维表示,还要接上自己的工具

README 的最短示例将 output 的 gs 表示保存为 splat.ply,明确展示的是高斯表示的导出。想继续修改或放进引擎,需要先核对下游工具对这种表示的支持,不能只看到 .ply 后缀,就把它当作已经处理好拓扑、碰撞和材质的游戏网格。

对技术美术来说,值得检查的可以很具体:轮廓是否适合作为草模,换个视角后有没有不合理表面,对象之间是否穿插,是否值得继续整理。若任务是产品精确复刻或建筑测量,单图补全的前提就不够,应换成能提供更充分几何依据的采集方式。

SAM 3D 还包括面向人体网格的 SAM 3D Body。本文介绍的是 Objects;人物身体恢复、人体参数与对象重建不是可以任意互换的一条接口。官方有两者对齐的另一个示例,不代表每个对象任务都需要安装人体模型。

本地起步并不轻,先选对采用方式

官方 setup 当前列出的前提是 64 位 Linux 与至少 32GB 显存的 NVIDIA GPU,并涉及 PyTorch3D 等依赖。检查点需要在 Hugging Face 申请访问,获批后认证下载。这样的条件更适合有三维或模型工作环境的人,不能写成普通笔记本的一键出模型工具。

README 明确,模型检查点和代码适用 SAM License。它有自己的授权、再分发和用途条件,不能套用其他 SAM 项目或第三方插件的许可。官网演示可以帮助了解交互形态,实际可用范围仍应按入口显示核对。

如果你想把照片中的某件物品变成可从不同方向检查的三维初稿,SAM 3D Objects 提供了值得看的路径:先把对象选对,再判断补出的形状是否有用。把它放在创意草拟阶段,比把一次补全当成真实世界的完整复原,更能发挥这种模型的价值。

参考:官方仓库与儿童房示例 · 官方安装与检查点条件 · SAM License

原始资料:SAM 3D Objects 官方仓库、示例与许可

以上为编辑整理,功能、许可与使用条件以官方说明为准。

返回每日分享