一隻鴨子機器人,讓我突然看懂了本地AI

來源: 更新:


距離NVIDIA的RTX Spark上市,已經過去33天。此前的文章裏,我已經簡單聊過它的性能表現。但在那之後,一個問題反而一直留在我腦子裏:

我們到底需要用本地部署的AI模型來做什麼?

和雲端大模型相比,本地模型的優勢其實已經不新鮮了——隱私得到保護,使用不依賴網絡,也不需要每次調用都付出額外的API成本。但這些優勢似乎還不足以成爲普通人非本地模型不可的理由。

直到上週,我去了一趟上海英偉達辦公室。現場用多臺RTX Spark筆記本電腦和RTX Spark 緊湊型桌面主機(SFF),部署本地模型並展示了多個落地Demo,讓我意識到本地AI的價值不是替代雲端大模型,而是讓AI向我們的日常生活再走一步。

我們在現場看到了華碩和機械革命的兩款RTX Spark緊湊型桌面主機

先說說遊戲吧。現場展示的幾款遊戲中,《伊莫》對本地模型的應用給我的印象最深。

這項功能放在了《伊莫》的家園系統裏,玩家可以通過語音指令,和自己放在家園裏小伊莫進行互動,命令他們去種植作物、建造設施、或是完成挖礦澆水這樣的簡單工作。

這些事情看起來並不複雜,但恰恰因爲任務範圍有限,一個本地小模型就足以支撐這樣的交互。玩家說一句話,伊莫就可以根據指令做出對應動作,也可以通過動作和表情回應玩家。

還可以讓它們到你眼前集合,分別“表演才藝”

從技術角度看,這或許只是一個並不複雜的AI應用;但從玩家體驗來說,它提供的是一種很直接的“情緒價值”——遊戲裏的夥伴開始真正聽懂你,並且可以爲你分擔一些瑣碎操作了。

這和幾年前大模型剛出現時很像。

一開始,我們也會問“AI到底能拿來幹什麼?”。但現在,人們已經在寫作、搜索、辦公、編程等使用場景中離不開AI了。本地AI也許同樣正處在這樣一個階段——技術已經準備好了,只是我們還沒有養成對應的使用習慣。

當本地模型不再被限制在“小伊莫”這樣的遊戲角色裏,它其實還能做更多事情。

由“特效小哥”團隊帶來了機器人Demo

現場的創作者中有人提到,他已經在用本地模型批量完成照片的基礎調色工作;對於像我這樣經常採訪錄音的人來說,也會通過本地模型對錄音文件進行轉寫、整理和關鍵詞分類。

但真正給我帶來啓發的,是現場的一個機器人Demo。

Microduck是Hugging Face今年推出的一個開源機器人。它能走路、踢球、滑行,摔倒後還能自己重新站起來,也可以通過強化學習訓練新的動作。

在現場,這隻鴨子的“大腦”並不在機器人身體裏,而是放在旁邊的一臺RTX Spark筆記本里。通過Wifi網絡,機器人把數據傳回來,本地模型負責處理和整理,最終讓機器人動起來。

這個過程最有意思的地方在於,它並沒有要求使用者先成爲機器人專家。

現場的一位工作人員告訴我,直到幾天前他也不瞭解機器人該怎麼玩,對機器人的電機等專業知識更是毫無瞭解。但他通過搭建工作流,讓本地小模型負責採集整理數據、大模型來分析並下達指令,給自己搭建出了一套“從零開始玩轉機器人”的流程。

這可能纔是本地AI最值得關注的地方。我之前思考的,都是本地模型能放進哪些已有的生活場景裏,但是在它的幫助下,我們其實能創造更多使用它的生活場景。比如在現場,還有另一個團隊帶來了一套教學授課的機械臂學習方案,同樣依託於本地模型實現。

所以現在回頭看,我覺得我們討論本地AI時,或許不應該一直糾結“它能跑多大的模型”,反而應該多去想想怎樣讓它適配到更多生活場景裏。

雲端大模型更像一個擅長思考的大腦,處理複雜的問題、進行長鏈路推理、幫助我們制定計劃。而本地小模型更像是與外界接觸的“神經末梢”,它負責聽見、看見、感知周圍的變化,處理那些不值得專門“問一次大模型”的瑣碎任務。

我們已經學會了把AI當做一顆外置大腦,隨着RTX Spark這樣的設備逐漸普及,它們對本地模型的支持,也一定會讓我們逐漸學會把AI當做另一隻手臂,去觸摸那些我們現在還未想象過的生活。

相關推薦
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Microsoft Edge 或 Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。
Scroll to Top