由 Peter Thiel 旗下的 Founders Fund 領投、種子輪融資高達 8500 萬美元的?Sentient Labs,近日推出了全新的開源 AI 搜索框架——Open Deep Search(ODS)。該框架旨在為 AI 提供搜索、推理和驗證能力,從而緩解 AI 幻覺問題。
AI 幻覺(AI Hallucination)指的是 AI 模型生成看似合理但實際上錯誤的信息。例如:
? ? 編造不存在的論文或引用
? ? 混淆事實、因果關系或時間線
? ? 拼湊出看似可信但實際上錯誤的結論
這種現象的根本原因在于當前的 AI 模型主要依賴于訓練數據中的模式識別,而非真正理解和驗證信息的真實性。
ODS?是一個多工具協同的開源搜索代理系統,旨在為 AI 模型提供搜索、推理和驗證的能力。其核心組件包括:
? ? Open Search Tool(OST)
OST 能夠理解用戶意圖,智能生成搜索詞,深入互聯網抓取有效信息,并進行語義重排、過濾和聚合,從而提高搜索結果的質量和相關性。
? Open Reasoning Agent(ORA)
ORA 模擬人類的多步推理過程,能夠在信息不足時主動進行二次查詢,調用多種外部工具或插件,甚至生成并執行 Python 代碼,以解決復雜的邏輯或計算需求。
可解釋性:ODS 的每一步操作都是可見的,用戶可以回溯 AI 的推理鏈路和信息來源,從而提高系統的透明度和可信度。
可定制性:ODS 支持接入任意大語言模型和外部工具或插件,用戶可以根據需求自由定制推理規則,滿足不同的應用場景。
減少錯誤信息:通過交叉對比多個信源,主動進行二次查詢,避免僅憑關鍵詞匹配得出錯誤結論,ODS 能夠有效減少錯誤信息、虛假信息和誤導信息的傳播。
醫療領域:AI 模型可能會生成錯誤的診斷建議,導致嚴重后果。通過集成 ODS,醫療 AI 系統可以在生成診斷建議前,自動搜索最新的醫學研究和權威指南,驗證信息的準確性,從而提高診斷的可靠性。
金融領域:AI 模型可能會基于過時或錯誤的數據做出投資建議。ODS 可以幫助金融 AI 系統實時獲取最新的市場數據和分析報告,進行多方驗證,確保投資建議的準確性和時效性。
ODS 的推出標志著開源 AI 搜索技術的一次重大突破。它不僅提高了 AI 系統的透明度和可控性,還為開發者提供了強大的工具,以構建更可靠、更可信的 AI 應用。隨著 ODS 的不斷發展,我們有理由相信,開源 AI 將在未來的技術生態中發揮更加重要的作用。