大家都清楚,AI 大模型落地到金融、醫療、法律等垂直應用場景中最大的阻礙就一個:AI 輸出結果存在的“幻覺”問題無法匹配需要精準度的實際應用場景。如何解決呢?最近,@Mira_Network 推出了公共測試網,給了一套解決方案,我來說說咋回事:
首先,AI 大模型工具存在「幻覺」的情況,大家都能有所感知,原因主要有兩點:
1.AI LLMs 訓練資料不夠完整,儘管已有資料規模很龐大,但仍無法涵蓋一些小眾或專業領域的信息,這時候AI 傾向於做「創意補全」繼而導致一些即時性錯誤;
2、AI LLMs 工作本質上都依賴「機率採樣」,它是識別訓練資料中的統計模式和相關性,而並非真正「理解」,因此機率採樣的隨機性、訓練和推理結果的不一致性等都會導致AI 在處理高精度事實性問題存在偏差;
如何解決此問題呢?康乃爾大學ArXiv 平台上發布了一篇透過多個模型共同驗證提高LLMs 結果可靠性的方法。
簡單理解,就是先讓主模型產生結果,再整合多個驗證模型對此問題進行「多數決分析」,進而降低模型產生的「幻覺」。
在一系列的測試中發現,此方法可以將AI 輸出的準確率提高至95.6%。
既然如此,那肯定需要一個分散式的驗證平台來管理並驗證主模型和驗證模型的協作交互過程,Mira Network 就是這麼一個專門構建AI LLMs 驗證的中間件網絡,在用戶和基礎AI 模型之間構建了一個可靠的驗證層。
有了這套驗證層網路的存在,就可以實現包括隱私保護、準確率保障、可擴展設計、標準化API 介面等整合服務,可以憑藉減少AI LLMs 輸出幻覺來擴大AI 在各個細分應用場景的落地可能性,也是Crypto 分散式驗證網路能夠作用到AI LLMs 工程實現過程中的一次實踐。
例如,Mira Network 分享了幾個在金融、教育、區塊鏈生態的案例可以佐證:
1)Gigabrain 一個交易平台整合了Mira 後,系統可以加一環驗證市場分析和預測的準確性,過濾掉不靠譜的建議,可提高AI 交易訊號的準確性,讓AI LLMs 作用在DeFai 場景更可靠一些;
2)Learnrite 則利用mira 驗證AI 產生的標準化考試題目,讓教育機構能夠大規模利用AI 生成內容,同時不影響教育測驗的內容準確性,以維持嚴格的教育標準;
3)區塊鏈Kernel 專案利用了Mira 的LLM 共識機制將其整合到了BNB 生態系統當中,創建了去中心化驗證網路DVN,使得區塊鏈上執行AI 計算的準確性和安全性得到一定程度的保障。
以上。
其實,Mira Network 提供的是中間件共識網路服務,肯定不是讓AI 應用能力增強的唯一途徑,事實上,透過資料端的訓練增強,透過多模態大模型的交互增強,以及透過ZKP、FHE、TEE 等潛在密碼學技術的隱私計算增強等等都是可選路徑。但相較之下,Mira 的解決方案貴在落地實踐快,且直接見效。