在浏览器中复刻 visionOS 交互 | 键盘
00 分钟
2023-8-25
2023-12-31
category
AI summary
tags
password
summary
date
icon
status
字数统计
type
slug
orgsrc
URL
✨ 这是《Lets Hack Vision Pro》系列的第一篇,本系列将会基于 WebXR 复刻苹果 visionOS 交互。你可以在(最好是支持手势识别的 VR )浏览器中访问 lets.hackvision.pro 体验。

visionOS 虚拟键盘

visionOS 的虚拟键盘设计方案有以下几个特点:
  • 可以通过手势直接输入(Direct Touch);
  • 当手指悬在按键上方时,将呈现点亮效果(Hover Effect),以提示用户;
  • 虽然理论上拥有无限空间,但 visionOS 虚拟键盘仍然采用和 iOS/iPadOS 一致的布局,以保持产间的体验一致性。
notion image
notion image

WebXR Device API

WebXR 基于 WebGL 的 3D 图形渲染能力,借助 XR 设备接口(Device API)可访问与虚拟现实(VR)和增强现实(AR)设备相关的输入(如头部位置、控制器位置等),实现通过 Web 技术开发 XR 应用。
THREE.js 是一个著名的 WebGL 3D 图形库,它提供了一个高级抽象来通过 WebGL 在浏览器中实现3D图形和动画。lets.hackvision.pro 将采用基于 THREE.js 封装的 A-Frame 框架,它的声明式语法设计、实体组件系统(Entity Component System,ECS)和 Apple 的 SwiftUI、RealityKit 非常类似。
notion image

WebXR 开发环境

WebXR 的开发环境只需要 Chrome 浏览器和由 Meta 开发的一款插件:Immersive Web Emulator,用来模拟 XR 设备和控制器,不仅可以模拟控制器的位置,还可以实现手势模拟、按键模拟等。基本上你可以在没有任何 XR 设备的情况下,仅用 Chrome 浏览器完成大部分开发。
notion image

1️⃣ 键盘布局

按照 visionOS 的键盘布局,保留 26 个字母 + 空格键 + Shift + Del,这里最难的其实是模拟 visionOS 真实的毛玻璃效果,仅通过普通材质的色彩+透明度,基本很难达到仿真的效果,但这里重点在于交互的实现,以后肯定会有更多模拟 visionOS UI 的 3D 素材出现。
v0
v0
v1
v1

2️⃣ Direct Touch

根据 WebXR Hand Input 定义的手部特征点追踪,可以获得每一帧食指指尖(index-finger-tip)的空间坐标,计算其与目标物体(按键)的距离,当距离小于一定阈值,判定为接触并触发 pressed 事件。
notion image
为按键添加触控响应效果:
notion image

3️⃣ Hover Effect

悬停点亮效果也可以通过计算食指指尖☝️和按键指尖的距离来估计,但这个距离如果太小无法起到提示用户的效果,如果太大又容易受到旁边按键的干扰。我们在这里利用 raycaster 的属性,重新定义射线的范围和指向,其中方向以上图的【8、9】两个点确定,范围设定在 10cm(far: 0.1)。
与射线交汇的对象(按键)通过监听 raycaster-intersected 事件来改变自身材质颜色并播放键盘声效,以实现 Hover Effect。
notion image

4️⃣ 输入与编辑功能

最后根据各按键绑定的触发事件,在预览窗口中实时呈现输入字母、大小写切换等功能:
notion image

在 VR 设备中访问

在支持手势追踪的 VR 设备浏览器中(需要在浏览器中打开 #webxr-hands 实验特性),访问 https://lets.hackvision.pro/keyboard
notion image