AIGC 在 XR 场景中的应用|Stable Diffusion 生成 Skybox
00 分钟
2023-8-31
2023-12-31
category
AI summary
tags
password
summary
date
icon
status
字数统计
type
slug
orgsrc
URL
本文介绍利用 Stable Diffusion 为 XR 生成内容的方法。
@BlockadeLabs 团队开发了一款文生图(text2image)的应用,可以直接在 VR 设备浏览器中基于用户描述生成各种风格的 360° 背景图(Skybox),用户可以通过绘制轨迹(ControlNet)实现对生成图像内容的进一步定制。
📺
视频
下面是简单绘制轨迹+提示词 windows of night city, raining night, colorful referections 生成的效果图:
ControlNet + prompt
ControlNet + prompt
效果图
效果图
目前免费额度只有每个月 15 次,或者可以开通付费 API(20 美元每月)。接下来介绍两种将 Stable Diffusion 引入 XR 场景的方案:
  • Stable Diffusion API
  • 本地部署 Stable Diffusion WebUI + API

Stable Diffusion & Dreambooth API

注册获取 API_KEY,使用model_id = 360-skybox-environment
notion image
目前 API 可能有点问题,会出现以下错误,只能等官方修复:
{"status":"error","messege":"Model not found"}

Stable Diffusion WebUI API

另一种方案基于本地部署 Stable Diffusion WebUI ,下载 360 Skybox 的 LoRA 模型(也可以在 civitai 上面检索其它可用的 LoRA 模型,包括基于 SD XL 1.0 版本的):
notion image
启动 stable-diffusion-webui 时开启 —-api 选项,在本地查看 API 文档:http://localhost:7860/docs
notion image

WebXR 应用调用 Stable Diffusion API

效果如下: