欢迎关注微信公众号「Swift 花园」
关键技术
- 运动跟踪 (motion tracking) 使得手机理解和追踪它相对于世界的位置。
- 环境理解 (environmental understanding) 使得手机可以侦测各种表面的尺寸和位置:水平的,竖直的,成一定角度的,比如地面,咖啡桌或者墙面。
- 光线评估 (light estimation) 使得手机可以估计环境当前的光照条件。
ARKit
ARKit 3
ARKit 3 带给人们不可思议的体验。通过 People Occlusion,ARKit 3 知道人们和 AR 对象在哪里,并适当地遮挡 scene。ARKit 3 使用 Motion Capture 跟踪人们的运动,将其输入到 AR scene 中。它还可以同时跟踪最多三张人脸,支持 collaborative sessions 等等。
People Occlusion
现在 AR 内容能呈现在人们的身后和前面,使 AR 体验更加沉浸化。同时,在大多数环境能实现绿幕风格的效果。
Motion Capture
用一台相机实时捕捉人们的运动。通过将人们身体的位置和运动,理解为一系列关节和骨骼,您可以使用运动和姿势作为 AR 体验的输入 —— 将人们放置在 AR 的中心。
Simultaneous Front and Back Camera
现在,你可以在前置和后置摄像头上同时使用人脸和世界跟踪。例如,用户可以只使用他们的脸部,与后置摄像头的 AR 内容交互。
Multiple Face Tracking
现在 ARKit 人脸跟踪可以一次跟踪最多三张人脸,使用 iPhone X, iPhone XS, iPhone XS Max, iPhone XR 和 iPad Pro 的 TrueDepth 摄像头。该摄像头为 Memoji 和 Snapchat 等前置摄像头的体验提供能力。
Collaborative Sessions
通过多人之间的实时协作会话,您可以构建一个协作的 world map,让您更快地开发 AR 体验,让用户像进入多人游戏一样,更快地进入共享的 AR 体验。
其他改进
一次检测多达 100 幅图像,并自动地估计图像的物理大小。3D 对象检测更加稳定,因为对象在复杂环境中可以更好地被识别。现在,机器学习被用来更快地检测环境中的平面。
Reality Composer
Reality Composer 是一款针对 iOS 和 Mac 的功能强大的新应用,可以轻松创建交互式 AR 体验,而无需 3D 经验。可以使用 live linking ,在您的 Mac、iPhone 和 iPad 之间无缝地移动。 RealityKit 是一个全新的高级框架,包含 photo-realistic 渲染、相机特效、动画、物理等功能,专为 AR 而构建。
现在,任何人都可以快速地原型化和制作 AR 体验的内容,这些内容可以使用 Xcode 集成到应用程序中或者导出到 AR Quick Look 。Reality Composer 让您在 iOS 和 Mac 上构建动画和交互,以丰富您的 3D 内容。
Built-in AR Library
导入您自己的 USDZ 文件,或者利用内置 AR 库中数百个现成的虚拟对象。该库为各种 assets 利用 procedural content generation ,您可以自定义虚拟对象的大小、样式等。
Animations and Audio
增加移动、缩放等动画,比如虚拟对象的 “摆动” 或 “旋转”。当用户点击对象、靠近对象或触发其他触发器,您可以选择要进行的操作。您还可以利用 spatial audio 为您的 AR 场景添加真实感。
Seamless Tools
Reality Composer 被包含在 Xcode ,也是一款 iOS APP 。因此您可以在 iPhone 或 iPad 上 build 、 test 、 tune 和模拟 AR 体验。利用 live linking ,您可以在 Mac 和 iOS 之间快速切换,创建吸引人的复杂的 AR 体验。
Record and Play
有了 iOS 版的 Reality Composer,您可以记录 AR 体验运行位置的传感器和摄像机数据,然后在构建 APP 时在 iOS 上播放这些数据。
RealityKit
这个全新的高级框架是从头开始创建的,专门用于 AR ,包括 photo-realistic 渲染、相机特效、动画、物理等等。它还有一个 Swift API 。使用集成的 ARKit 、基于物理的渲染、变换和骨骼动画、 spatial audio 和刚体物理, RealityKit 使 AR 开发比以往任何时候都更快、更容易。
World-class Rendering RealityKit
使用基于物理的真实材质、环境反射、 grounding shadows 、 camera noise 、 motion blur 等,将虚拟内容与现实世界无缝融合,使虚拟内容与现实世界几乎无法区分。
Scalable Performance
RealityKit 利用最新的 Metal 特性充分利用 GPU ,充分利用 CPU 缓存和多核,提供难以置信的流畅的视觉效果和物理模拟。因为它自动地伸展每个 iOS 设备的 AR 体验的性能,所以您只需要创建一个 AR 体验。
Swift API
容易使用但功能强大的 RealityKit 使用 Swift 丰富的语言特性并提供完整的功能。因此您可以更快地构建增强现实体验,而无需抄模板代码。
Shared AR Experiences
RealityKit 使网络开发工作变得简单,例如保持一致的状态、优化网络流量、处理数据包丢失或 performing ownership transfers 。