Unity XRI 开发 Pico 4 MR 应用
00 分钟
2023-9-26
2023-12-31
category
AI summary
tags
password
summary
date
icon
status
字数统计
type
slug
orgsrc
URL
notion image
9 月 25 日 PICO 推出 2023 首届 XR 开发者挑战赛,希望通过比赛形式以促进 PICO MR/VR 内容生态繁荣以及拉动更多开发者关注 MR/VR 领域。参赛主题包括但不限于游戏、视频、运动、社交、生产力等领域,参赛要求只需要包括清晰阐明项目核心策略、清楚完整的设计、用户操作与体验流程、未来延展空间等,甚至可运行的程序 Demo 都不是必须的。
notion image
虽然可执行程序 Demo 不是必须的,但其实 PICO 已经提供了非常简单、容易上手的 SDK 和开发工具,本文就来演示如何利用 Unity 的 XRI(XR Interaction Toolkit)工具包快速搭建一个基于 PICO 4 视频透视(VST)的 MR 手势追踪交互项目

PICO Unity Integration SDK

https://developer-cn.pico-interactive.com/document/unity/
要开发一款可以在 PICO 平台上运行的应用,你可以选择 Unity 、 Unreal 这两个主流的 3D 引擎,或者基于 OpenXR 的原生 SDK,当然我们选择最容易上手的 Unity,下载 PICO Unity Integration SDK(目前版本 v2.3.0):
notion image
前期准备工作如下:
  1. 注册开发者账号,创建一个应用,以获取 APP ID;
  1. 在 PICO 设备上开启开发者模式,方法和 Android 手机一样;
  1. 安装 Unity 编辑器,并添加 Android Build Support 模块;
notion image
创建一个空白 3D 项目后,从本地导入下载的 PICO Unity Integration SDK,在菜单栏的 PXR_SDK 中选择 Platform Settings,并填入上面创建应用的 APP ID:
notion image
我们可以从 Package Manager 中看到本地安装的 PICO SDK,它依赖于 XRI 2.0.0 版本,但可以在 XRI 中升级到最新版本(v2.4.3 ,已经是 Release 而不是 Preview 版本了):
notion image
为了更好地使用 XRI 提供的样例资产,导入 Starter Assets 和 Hands Interaction Demo,同时还需要安装 XR Hands:
notion image
导入样例之后,可以 HandsDemoScene 拖入场景中,路径如下:
notion image

PXR_Manager

https://developer-cn.pico-interactive.com/document/unity/about-pxr-manager/
PICO SDK 中另一个重要部分是 PXR Manager,它集成并管理 PICO 的所有设备能力,包括我们需要的手势追踪视频透视
notion image
在导入的 HandsDemoScene 中,为 Main Camera 对象添加 PXR_Manager 组件,并勾选 Hand Tracking 选项:
notion image
notion image
连接 PICO 设备(已开启开发者选项),编译并运行当前的场景,就可以在设备中看到 VR 场景下的 XRI 样例中的手势交互组件了:
notion image

开启 VST

https://developer-cn.pico-interactive.com/document/unity/seethrough/
根据官方文档开启视频透视效果(以下步骤均在 Main Camera 对象操作):
  1. 在 PXR_Manager 中勾选 Video Seethrough;
  1. 设置 Main Camera 的 Clear Flags 选项为 Solid ColorBackground 设置为 000000
  1. 为 Main Camera 创建新的 C# 脚本组件如下:
 开启 VST 的 C# 脚本
开启 VST 的 C# 脚本
开启 VST 后的效果如下:

一些小问题

按照以上步骤就可以快速完成在 PICO 4 上的 MR + 手势/手柄交互启动项目了,但是目前还存在两个小问题:
  • PICO SDK 的手势追踪似乎还不能和 XRI 的抓取(Grab)交互相兼容,可以用手柄的侧握键实现对 XR Grab Interactable 对象的远程和直接抓取操作,但手势不行;官方有提供 HandTracking 的 Demo 项目,但并不是基于 XRI 的。
  • 不知道出于什么交互设计的考虑,系统将五指并拢朝前绑定为校准画面的手势(如下图),这跟很多自然手势操作存在冲突,比如下面这个滚动菜单的操作,已经触发校准开始读秒了……这一设计可以说是非常恼人了!
系统级校准手势
系统级校准手势
手势操作的误判
手势操作的误判

总结

总体来说,PICO 为开发者提供方便的 SDK 和详尽的文档,可以非常快速地进行 MR + 手势交互的 Unity 项目开发,并且也能够非常方便的在设备上进行测试,PICO 4 也提供了效果非常不错的彩色透视效果。
当然这次的 XR 挑战赛并不强制要求一定要有可运行的程序,如果你有 好的XR 应用创意和想法,也可以马上直接报名!

参考