萬萬沒想到,今年春天VR廠商們為“一雙手”卷起來了。
僅2022年上半年,就有四家VR巨頭對自家VR設備的手勢交互技術操刀改良。
4月20日,Meta旗下的VR頭顯OculusQuest2手勢交互版本迭代至2.0,解決了手部定位丟失的問題。4月13日,字節跳動旗下的VR品牌Pico宣布其兩款企業級VR頭顯可以通過定制的手部追蹤配件,提升手勢交互體驗。VR廠商HTC也在今年1月發布了一款新款腕式追蹤器,輔助預測用戶的手部位置。
OculusQuest?2手勢交互1.0版本和2.0版本在手部快速追蹤方面的對比
無論是裸手交互技術,還是手部追蹤配件,用于VR設備的手勢交互技術一直在不斷迭代。同時,不少VR企業還在嘗試尋找新的手勢交互方式,比如說VR手套。
5月6日,荷蘭VR手套制造商Manus宣布其新款采用磁力追蹤技術的VR手套QuantumMetagloves開啟預售。5月4日,國內動捕技術巨頭諾亦騰發布Hi52.0VR交互手套。而早在2021年11月,Meta就曾展現自家的VR觸感手套模型,分享自己在VR手勢交互方面的最新成果。
從左到右分別為Manus、諾亦騰、Meta的VR手套
不僅如此,蘋果、谷歌、微軟等一些潛在VR玩家還獲批多項與智能戒指有關的專利,試圖將智能戒指打造為下一代手勢交互的關鍵輸入設備。
手勢交互技術是最基礎也是最自然的交互方式,也是VR設備中主流的交互方式之一。一般來說,手勢交互是指通過數學算法來識別人類手勢的技術,包括圖像獲取、手勢追蹤、手勢識別與分析等多個過程。
沃爾瑪提交“山姆俱樂部”商標申請,涵蓋AR、VR等虛擬商品及服務:4月5日消息,美國零售巨頭沃爾瑪的子公司沃爾瑪阿波羅已于 3 月 30 日在美國提交了“山姆俱樂部”(Sam's Club)的商標申請,涵蓋了與虛擬、增強和混合現實體驗相關的廣泛娛樂服務,以及用于用戶交互和娛樂目的的虛擬環境。
據悉,商標申請內容包括虛擬現實內容和數據的電子傳輸、在線虛擬和增強現實環境,以及各種類別的虛擬商品,如電子產品、電器、家居裝飾、體育用品等,還包括虛擬和增強現實環境中的體能訓練與教育服務。今年2月,山姆會員店為涉及虛擬貨幣、加密貨幣和 NFT 的服務申請了商標。[2023/4/5 13:46:02]
其中,手部追蹤和手勢識別是手勢交互中較為關鍵的兩個步驟。手部追蹤是指準確地在VR頭顯中定位用戶雙手的位置,而如何精準地識別每個手指的動作,識別手的各種形態等屬于手勢識別。
手勢交互技術也暗藏巨大的市場空間。國際市場分析公司MarketsandMarkets發表報告稱,2024年“手勢識別和無觸碰感知”市場將達到340億美元。
VR設備的手勢交互技術有了哪些新玩法?廠商為何都在近期升級自家VR設備的手勢交互技術?VR設備的手勢交互技術發展究竟如何?
我們與諾亦騰CTO戴若犁、夢想綻放技術負責人史明以及HTC的技術負責人等多位行業人士深度交流后,試圖找到答案。
拋開手柄,VR游戲可以裸手玩
相較于其他移動設備,用于VR設備的手勢交互技術進步較為緩慢。比如說,從3dof到6dof經歷了近五年的發展時間,手柄交互到裸手交互仍處在初期階段。隨著技術不斷進步,裸手交互也開始在不少消費級VR頭顯上普及。
Meta曾在2019年發布手勢交互1.0版本,并將裸手交互引入OculusQuestVR頭顯,讓用戶可以直接在虛擬世界中看到自己的雙手,并進行一些簡單的交互操作。時隔2年后,OculusQuest2擁有了手勢交互2.0版本。
John Carmack宣布辭去Meta VR執行顧問一職:12月17日,前Meta CTO、傳奇程序員John Carmack在社交媒體上發文宣布辭去Meta VR執行顧問一職,結束其十年的VR旅程。John Carmack首先表達了對Quest 2這款產品的肯定,但仍表示當看到最終銷售的VR頭顯系統僅有5%的GPU利用率時令他非常痛苦,感覺自己被嚴重冒犯了。此外,John Carmack明確表達了對Meta運營效率低下以及公司內部斗爭嚴重情形的失望。[2022/12/17 21:51:01]
此次升級主要解決了兩大難題。一是解決了用戶雙手重疊時,手部追蹤困難的問題。在Quest2的手勢交互1.0版本中,當用戶的雙手相互阻擋或重疊時,系統很難識別用戶的手勢動作。二是在用戶快速揮動雙手時,系統也很容易丟失對于手部的追蹤。這兩種情況的發生都有可能會造成雙手從虛擬世界中突然消失。
Quest?2手勢交互1.0版本和2.0版本對比
至于是如何解決這兩項問題,Meta在其公告中說明,基于“重新設計的計算機視覺和機器學習方法”,新版本提高了手部跟蹤的性能可靠性。但自從版本更新后,我們看到不少用戶反饋到,盡管手勢交互功能有了更好的體驗,但是系統也出現了明顯的卡頓。
對此現象,戴若犁解釋到VR頭顯處理計算的能力本身就比較有限,而Meta基于計算機視覺獲取數據,并將一部分算力資源用來預測用戶手部位置,這種方案無疑將會為VR頭顯帶來較大的計算處理壓力,也是“系統卡頓”現象的主要原因。
HTC也在今年3月推出了新款的腕式追蹤器VIVEWristTracker,并且在去年年底升級自家的手部追蹤版本。據HTC官網信息介紹,當用戶將腕式追蹤器戴在手腕上時,即使在一段時間內雙手離開相機視野,系統也可以通過腕式追蹤器的高頻IMU數據和運動學模型預測手部的運動軌跡。
Web3社交網絡DSCVR完成900萬美元種子輪融資,Polychain Capital領投:7月25日消息,DFINITY 生態去中心化 Web3 社交網絡 DSCVR 完成 900 萬美元種子輪融資,本輪融資由 Polychain Capital 領投,Upfront Ventures、Tomahawk VC、Fyrfly Venture Partners、Shima Capital 和 Bertelsmann Digital Media Investments (BDMI) 參投。
DSCVR 首席執行官兼聯合創始人 Rick Porter 透露,其平臺用戶正在呈指數級增長,這筆最新融資將支持其加速路線圖、以及其他 Token 和 NFT 生態系統集成,并且推出治理工具幫助 DSCVR 社區成為去中心化自治組織。(Prnewswire)[2022/7/25 2:36:41]
HTC的相關負責人還向智東西分享到,相比VIVEFocus3控制器,VIVEWristTracker移除了按鈕、觸覺輸入等零部件從而縮小電池尺寸,將控制器變得更小更輕。據介紹,HTC的手腕追蹤器比VIVEFocus3控制器小85%,重量輕50%。
VIVEWristTracker腕式追蹤器
我們可以看到,Meta的裸手交互方案仍是計算機視覺為主,HTC的裸手交互方案則需要依靠腕式追蹤器等外設。前者能幫助用戶快速、有效地體驗裸手交互的樂趣,而后者通過慣性傳感器提高一定程度手勢交互的準確性和可靠性。面對不同的應用場景,不同廠商VR設備的裸手交互方案各有側重。
但裸手交互一定會給人們帶來更好地體驗嗎?戴若犁在采訪時說:“在技術成熟度尚未達到的時間點,將裸手交互這類人機交互新方式嵌入操作系統中,會給人們過高的期待。”
Bitfinex已開放VRA交易:據官方消息,Bitfinex已開放Verasity(VRA)交易。[2022/6/8 4:09:27]
“從操作成功率和觸感反饋來說,手柄在樂趣以及操作準確性上要遠勝裸手交互。”他解釋到,在人機交互領域,80%的操作準確性和100%的操作準確性給用戶帶來的交互體驗是完全不一樣的。
微軟亞洲研究院網絡圖形組首席研究員童欣曾在2017年接受媒體采訪時證實這一點。“當我手握手柄的時候,手柄不僅是一個輸入設備,同時也是輸出設備,它可以通過震動、力反饋給我一個輸出的反饋。而當我空手在空氣中揮舞的時候,我就失去了自己的輸出渠道。”
有限的計算消耗、較高的學習成本、較低的操作準確性等都是阻礙VR設備裸手交互技術發展的主要原因。但在交互體驗上,裸手交互也將會給VR內容生產者提供更多的發揮空間。不少VR設備中,裸手交互作為一種輔助的手勢交互方式。
大廠們爭著做的VR手套?B站100元搞定?
為了在裸手交互帶來的沉浸感和VR手柄提供的高準確性之間尋找到平衡點,VR廠商們又想出了另一種手勢交互方式——VR手套。
目前,VR手套存在比較多的形態,但是真正可以大規模量產和銷售的VR手套主要分為基于慣性傳感器和基于彎曲傳感器兩種類型。
不同于基于計算機視覺手勢交互的數據處理方式,以慣性傳感器為主的VR手套將通過傳感器收集大量的手部定位和手指交互的數據。而以彎曲傳感器為主的VR手套則測量精度較低,由于對于貼合程度的要求較高,其可穿戴設備的舒適度也較低。
我們有機會搶先體驗到Hi52.0VR交互手套。一副Hi52.0VR交互手套共有12個慣性傳感器,每只手佩戴六個無線傳感器,分布五個手指和手背上。同時該套裝還將配有一個數據收發器,可以插在電腦或者VR頭顯上傳輸數據。
區塊鏈跨境結算網絡開發商Velo Labs宣布與DeFi平臺EvryNet戰略合并:5月27日消息,基于區塊鏈的跨境結算網絡開發商Velo Labs宣布與DeFi平臺EvryNet戰略合并,溝通打造CeDeFi的未來。據悉,Velo Labs正在開發一個基于區塊鏈、合規優先的全球結算網絡,為個人和企業提供快速、安全和低成本的跨境支付。EvryNet的去中心化應用程序為投資者開啟了一個充滿新資產、投資機會和創新策略的世界。(prnewswire)[2022/5/27 3:44:57]
Hi52.0VR交互手套
打開傳感器、安裝傳感器、固定好手部追蹤器,選擇校準界面,Hi52.0VR手套的校準方式比我們想象的要復雜一些。
在體驗過程中,我們發現Hi52.0VR交互手套能提供較為精準的手勢識別過程,比如說手部的位置和手勢的變化基本都能實時顯示變化。據官網介紹,該設備的姿態計算幀率從180fps提升至500fps,研發人員還通過算法提高了一定的抗磁干擾程度。
諾亦騰研發人員正在校準Hi52.0VR交互手套
除此之外,研究人員也在嘗試不同的VR手套設計方案。
2021年11月,Meta公布了其研發7年的VR觸感手套原型,這款VR手套用微型氣閥取代了電機,通過復雜的控制系統調整手指上的充氣儀器,形成擬真壓力,從而模擬各種觸感。
Meta觸感手套
荷蘭VR手套開發商Manus的QuantumMetagloodsVR手套則是基于磁力追蹤技術打造而成。
與諾亦騰選擇用算法去減輕天然環境造成的磁干擾,保證追蹤穩定性的方案不同,通過磁力追蹤的手勢交互方案需要兩個設備協作完成,一個設備內設xyz三個方向的線圈,同時VR手套中也將內含一個線圈,兩個線圈將以高頻振動的方式產生磁力線,兩條磁力線互相切割,從而獲得手的位置變化。
盡管VR手套能提供較為準確的手勢動作捕捉,但VR手套的價格成本決定了其只能面向小部分極客玩家和商用市場。
據悉,Meta手套的原型成本約為5000美元,而Manus的QuantumMetagloods的預售價為9000美元,諾亦騰的Hi52.0VR交互手套,售價為9800元人民幣。
從左到右分別為Manus、諾亦騰、Meta的VR手套
Meta曾將研發VR觸感手套的項目描述為“登月計劃”。“當我們開始研發VR觸感手套時,我們希望打造一款可以大規模量產,消費者買得起的消費設備,讓人們在任何地方都能體驗到虛擬世界。”Meta的項目負責人說:“但這幾乎不可能。”
在調查的過程中,我們還發現B站上有不少UP主自制VR手套,這些價格的成本從100元到350元不等,部分VR手套甚至擁有力反饋功能。我們看到這些自制的VR手套可以用于一些簡單的VR游戲中,可以做出拿、捏、翻轉等一些簡單手勢動作,但其顯示延遲情況也較為明顯,時常會出現一些鬼畜場景。
B站UP主們嘗試自制VR手套
面對VR手套的巨大價格差距,一位從事VR手套的行業人士分析認為面向B端市場的VR手套成本主要在研發投入、零部件以及人力資源成本上,價格根據市場需求而定。這意味著可能做一幅普通VR手套的價格并不高,但做一副可以面向商用場景、提供準確精度的VR手套需要較高的成本。
盡管VR手套能兼顧VR設備的沉浸感和手勢交互的準確性,如何降低VR手套的價格將是VR手套發展必須要解決的難題。
想要擁有自由的“雙手”?
要從算法、工程、交互設計攻克難題
從裸手交互和VR手套交互兩種方式來看,VR設備的手勢交互技術發展正在不斷更新迭代,此前面臨的一些困境也逐步尋找到了解決方法。但整體而言,用于VR設備的手勢交互技術還存在不少難點。
到底是什么阻礙了我們扔掉VR手柄,無法采用新的手勢交互方式?國內VR頭顯奇遇系列的研發人員、夢想綻放的技術負責人史明在接受智東西采訪時給出了三個要點。
首先是算法層面。目前用于VR設備的手勢交互技術基本采用深度學習技術,因此研發過程中需要依賴大量的業務場景標注數據。而基于手勢的三維數據獲取成本高,并且難以保證數據質量和一致性。
手勢交互的關鍵點識別
其次,手勢交互技術在工程優化方面比較復雜。手勢交互技術需要以一個優異模型為前提,需要做小模型推理演繹。而推理過程中,研究人員既要保證算法的精確度,又要保證數據的實時高效性。
最后是在交互使用方面的設計。VR研發人員需要在設計手勢交互相關操作時規避視覺死角問題,同時還要為用戶提供較好的交互體驗。
關于手勢交互的設計這一點,曾擔任FacebookRealityLabs設計師劉曉雨也曾在采訪中提到手勢交互技術很容易在使用期間出現遮擋情況,設計手勢交互動作時還需要考慮用戶的學習成本。
除此之外,微軟亞洲研究院網絡圖形組首席研究員童欣還曾提到對于手勢識別而言,機器很難分清輸入狀態和非輸入狀態。與鍵盤的按鍵交互方式不同,機器很難去分辨你搖手的動作,是做出一個揮手的手勢,還是玩累了想要甩手休息。
總體而言,用于VR設備的手勢交互技術整體上主要面臨兩個方面的難題。一方面是哪一種手勢交互方式能兼顧沉浸感、準確性并且成本低,能用于所有的VR設備。另一方面是,如何根據VR設備的基礎配置打造出最適合這款設備的手勢交互功能。
可以預見的是,在裸手交互技術能獲得較高的精度、VR手套成本下降之前,手柄將仍是VR設備手勢交互的主流方案之一。
結語:手勢交互技術或成VR體驗升級關鍵
目前,用于VR設備的手勢交互總共分為三個方向:現有的手柄交互方式、正在逐步成為主流的裸手交互方式、和仍在小眾階段的外接可穿戴設備的交互方式。但值得注意的是,這三種交互方式并非替代關系,是可以實現共存。
在手機、電腦快速發展的時期,無論是鍵入,還是觸屏的交互模式,都曾給人們帶來新的交互體驗,手勢交互同樣會給VR設備體驗和VR內容生產帶來新的變化。
手勢交互的技術發展總會有無窮無盡的方向,但被時代所留下的手勢交互技術終究是少數,用于VR設備的手勢交互技術將會如何演進,或許時間能告訴我們答案。
在過去的十年里,網絡效應推動了Web2平臺的崛起,也奠定了其主導地位,同時激發了建設者和投資者的想象力。一些人認為網絡效應在Web3中會更加強大,而另一些人則認為Web3會扼殺網絡效應.
1900/1/1 0:00:00美國社交媒體公司推特周一宣布,該公司董事會已接受億萬富翁特斯拉創始人埃隆?馬斯克提出的收購交易,以及接受將推特私有化的提議.
1900/1/1 0:00:00在今年“投資界春晚”伯克希爾哈撒韋年度股東大會上,股神巴菲特再次解釋了他仍然不投資比特幣的原因。“我不知道未來一年,或5年、10年,比特幣價格是漲還是跌.
1900/1/1 0:00:00本文將主要從資產跨鏈橋的安全性出發,根據誰在驗證系統進行分類,并選取三個近期熱度較高的Trustless跨鏈橋,分別從各自的運行原理、團隊、投融資以及費用等,總結出優缺點.
1900/1/1 0:00:00頭條 ▌高盛:正在探索實物資產的代幣化金色財經報道,高盛表示,隨著投資銀行深入加密貨幣領域,它正在研究NFT,尤其是“實物資產的代幣化”.
1900/1/1 0:00:00加密貨幣的擁護者和對其感到好奇的人突然發現,資產管理巨頭富達將開始允許投資者將比特幣存入他們的401退休儲蓄賬戶里了。從稅收角度看,這似乎是個人以有利方式獲得這一新興資產類別的一種簡單方式.
1900/1/1 0:00:00