Ddavid
1 months ago
#AI
論文《General agents contain world models》證明任何能達成複雜多步驟目標的代理必須學習準確的環境預測模型,無論是否明確建模。強調世界模型是通用智能的基礎。Carlos E. Perez (@IntuitMachine) on X
掰噗~ 覺得
1 months ago
不要問, 很恐怖 (p-wave)
Ddavid
1 months ago @Edit 1 months ago
簡單來說,某個 AI 即便在設計上並沒有嘗試直接對其運作的世界進行建立模型(就像我們大腦會建構自己家中的模型以便更自在地活動、建構人際關係模型以更了解如何進對應退,即便我們並不會用一個「模型」去思考這些世界知識),但只要它在足夠複雜的案例上表現得足夠好,那事實上它一定用某種形式隱含了世界模型,並且這個世界模型是可以使用演算法提取出來的。
如果正確的話,這篇論文可能為通用 AI 到底需不需要世界模型(也就是對世界的認知)下了一個定論:要,即便設計者刻意不這麼做,夠聰明的 AI 實際上也已經以某種形式保存了世界模型。
而反過來說,就是既然一定會有,那設計者不刻意避開世界模型的概念可能會更好。
立即下載