作品

2026年09月22日 至 2026年09月24日
硬件
AI
计算机视觉
Insta360 X5
Link 2
Qwen3-VL
OpenCV
FastAPI
WebSocket
React
PWA

在影石 Bold Maker 2026 智能影像挑战赛中完成的 AI 机位导演。用 Insta360 X5 看遍 360° 环境,通过本地评分与 Qwen3-VL 筛选拍摄方向,再引导转向、站位和姿势,由 Link 2 或手机完成拍摄。我负责后端、感知与评分算法、硬件接入和系统集成。

摄像奉行黑白黄相机吉祥物,搭配金黄色取景框与全景扫描背景
先看完整个现场,再告诉你值得拍的方向。

项目背景

拍人像时,难点常常发生在按下快门之前:哪里适合拍、相机朝哪边、人物站在哪里。只分析当前取景框,很容易错过摄影者身后的好背景。

摄像奉行(Bugyo) 是我与 何德铭(Deming He) 在 影石 Bold Maker 2026「AI + 影像产品开发」赛道共同完成的原型。头戴式 Insta360 X5 负责观察四周,手持 Link 2 或手机负责最终成像,手机 Web App 把系统的判断变成一次只需完成一个动作的拍摄引导。

封面以 GitHub 项目中的相机吉祥物为主体,配合取景框与全景扫描元素;下图是实际制作的头戴式原型。

演示视频

从探索到成片

  1. 探索:X5 采集 360° 全景,投影成多个透视候选,本地快层持续比较光线、背景干净度、空间和特殊构图。
  2. 叫停:发现值得拍的方向后,显示参考画面;视觉大模型比较 Top-K 候选,给出构图理由、站位与姿势建议。
  3. 转向:摄影者转动手持相机,SIFT / RootSIFT 背景匹配核对取景框是否对准目标背景。
  4. 站位与姿势:通过人体检测和手机端引导调整位置,Link 2 云台参与微调,再进入姿势提示与倒计时。
  5. 拍摄与回看:采集画面、检查质量,展示成片与组照结果。
选景:从全景中找到拍摄方向

把 AI 的介入点提前到寻找拍摄背景,让摄影者边走边看,发现合适的方向就停下来。

待机:连接设备,准备开始探索 待机:连接设备,准备开始探索
探索:持续观察四周,比较候选方向 探索:持续观察四周,比较候选方向
叫停:展示推荐方向和构图参考 叫停:展示推荐方向和构图参考
执行:让建议变成可完成的动作

手机端同步当前状态、预览和行动提示,串起转向、站位、姿势、倒计时与回看。

转向:确认相机对准推荐背景 转向:确认相机对准推荐背景
站位:引导被拍者进入构图位置 站位:引导被拍者进入构图位置
回看:展示拍摄结果 回看:展示拍摄结果
拍摄细节:姿势、倒计时与个人偏好

这些界面截图来自模拟演示,用于展示交互流程;不作为真机拍摄结果。

姿势提示:将拍摄方案转成当前动作 姿势提示:将拍摄方案转成当前动作
倒计时:确认准备后进入拍摄 倒计时:确认准备后进入拍摄
设置:调整个人拍摄偏好 设置:调整个人拍摄偏好

全景感知与候选方向

X5 一次采集四周环境,再把全景转换成普通取景框。下面的现场全景和八方向评测样本展示了这个过程:同一位置,不同朝向会产生不同的光线、背景和站位空间。

分数取自路演材料中的历史评测样本,用于解释系统如何比较候选方向,不代表人工审美评分或成片质量概率。点击图片可放大,并在同组样本间切换。

实景选景对比

另一组室外样本展示了选择背景时的取舍:比较空间是否足够、背景是否干净,以及主体位置附近是否存在干扰。

技术实现

模块实现与作用
全景感知OpenCV 读取 X5 UVC 全景,将等距柱状图投影为 8 / 12 个透视候选
候选筛选本地快层决定何时叫停;Qwen3-VL 比较候选并生成拍摄方案
拍摄执行Link SDK 云台桥接、SIFT / RootSIFT 背景匹配、HOG / YOLO 人体检测
流程编排Python + FastAPI Hub,以状态机和 WebSocket 协调感知、导演与执行模块
手机交互React + TypeScript + Vite PWA,同步预览、语音与可视化提示
演示与验证无硬件 mock 模式可走完整流程;真机通过设备自检另行验证

两台相机,各司其职

X5 负责环境感知,Link 2 负责取景与成像;手机作为遥控器和显示器,也提供备用成像路径。原型由主机协调设备、运行本地视觉处理,并调用云端视觉模型。

两台相机,各司其职

赛事展示海报

Bold Maker 2026 赛道一的项目海报,将环境感知、候选评分、AI 导演和设备分工放在一张图中。海报中的主视觉为概念示意,硬件照片展示的是实际原型。

查看完整海报

赛事展示海报

我的工作

我负责 后端、全景感知与评分算法、硬件接入、系统集成、BOM 和主要路演材料,将相机输入、AI 决策、背景匹配与拍摄状态机串成完整流程。何德铭负责手机端交互与品牌、产品文案、竞品研究和技术表达。

原型边界

当前版本需要 X5、Link 2 或手机以及一台主机。X5 的 UVC 模式无法提供 IMU,水平与转向检查依赖图像特征;云端模型存在网络延迟,因此本地快层负责及时叫停,模型随后生成方案。审美评分用于筛选候选方向,不代表成片质量概率。

后续方向是把能力下沉到影石 App、X5 单机流程或边缘开发板,减少使用时的设备负担。

查看源码、运行说明与赛事物料