苹果的Measure应用程序可能会通过AR获得即时自动的测量
Apple正在寻求将Apple AR技术添加到 iPhone 上的 Measure 应用程序中,使其更准确,并使用测量值自动注释对象。
引入 LiDAR 后,iPhone上的 Measure 应用程序变得有用且更加准确。现在,Apple 一直在研究引入其 Apple AR 技术,以使其更快、更准确。
将来,将 iPhone 相机对准某个物体可以自动在屏幕上显示其测量值通知。它将通过 AR 来实现,并且部分地通过机器学习对不同类型的对象来实现。
“基于对象分类的自动测量”是一项新公开的专利申请。它涉及如何确定您对哪个对象感兴趣,然后如何准确地测量它。
该专利申请特别广泛,包括“获得物理环境三维(3D)表示的设备、系统和方法”。生成的细节基于一系列不同的传感器和测量值,与“深度数据和光强度图像数据”有关。
“[这些] 根据 3D 表示生成与物理环境中的对象对应的 3D 边界框,”Apple 说,“根据 3D 边界框和 3D 语义数据对对象进行分类,并显示对象的测量值,其中对象的测量是使用根据对象的分类选择的多个特定于类的神经网络之一来确定的。”
首先,AR 将确定您对什么对象感兴趣。专利申请并没有详细说明该确定是如何进行的。不过,您可以推断它类似于人像模式识别您正在关注前景中的人的方式。
“在某些使用物理环境的语义标记的 3D 表示的实现中,对象检测和对象测量的生成得到了促进,”专利申请说。“一些实现对物理环境的 3D 点云进行语义分割和标记。”
然而,它决定了你对测量感兴趣和不感兴趣,这个未来的测量应用程序可能会使用“多种不同的技术”。
“在某些实现中,通过首先根据深度数据为对象生成 3D 边界框来测量对象,”Apple 说,“使用各种神经网络和此处描述的改进算法改进边界框。”
边界框可以从确定对象的基本宽度、高度和深度开始。然后,Measure 应用程序进一步尝试对物体进行分类,例如,它是椅子还是电视机。
“[例如,一个] 对象是使用机器学习技术(例如,神经网络)对不同对象类型进行不同类型的测量,”Apple 说。“[不同] 类型的测量可能包括椅子的座位高度、电视的显示直径、圆桌的桌子直径、矩形桌子的桌子长度等等。”
机器学习已经能够识别和分类对象,甚至可以从平面图像中识别。例如,Pixelmator Pro 等 Mac 图像编辑器使用它来自动标记图层。
苹果希望“训练”机器学习以适合测量特定对象。
“例如,可以训练一个模型并使用它来确定椅子类型对象的测量值(例如,确定座椅高度、手臂长度等),”Apple 说,“而另一个模型可能会被训练