Jev AI:System One 模型在自動化決策中的革命

  • Jev AI 是一種專門用於傳回類型化決策和機率而不是產生對話文字的模型。
  • 它基於 System 1 概念來執行快速試驗,與傳統的 LLM 相比,大大降低了延遲和成本。
  • 它實現了三個基本原語(選擇、得分和否決),使人工智慧能夠直接整合到程式邏輯中,而無需解析回應。

在黑暗的科技環境中,透過互連節點對結構化資料處理進行三維視覺化。

你可能習慣把人工智慧想像成那種能幫你寫詩或總結郵件的聊天機器人,但現在出現了一種完全繞過文字的新趨勢。 TypeSafe AI 推出了 Jev,這款工具打破了傳統模式,因為它不寫任何句子;它的目標是提供任何電腦程式都能輕鬆即時處理的技術和機率性決策。

想像一下,你有一個系統,可以處理成千上萬個請求,你不需要人工智慧來解釋為什麼某個工單是緊急的;你只需要它直接說「緊急:是」。 Jev 的定位正是如此,它填補了僵化的代碼和緩慢的語言模型之間的空白,提供了他們所謂的“系統一”模型,其靈感來自丹尼爾·卡尼曼關於快速、直覺思維的心理學理論。

如何使用 New Relic 監控效能
相關文章:
什麼是 New Relic 以及如何使用它來監控效能

Jev AI究竟是什麼?

二進制計算和量子態的技術示意圖,代表了人工智慧的基本邏輯。

與 GPT 或 Claude 等大型模型逐一釋放 token 來建構段落不同,Jev 的工作方式類似於智慧函數呼叫。你只需傳遞一個狀態(可以是 JSON、文字或清單)和一組預先定義的問題,模型就會傳回結構化的值。這意味著不會出現類型錯誤或格式問題,因為回應與你之前選擇的選項綁定。

該模型背後的架構採用了一種名為「校準決策強化學習」(RLCD)的特定訓練方法。其目標並非讓AI討人喜歡或令人信服,而是確保其機率判斷真實可靠且經過校準。如果Jev說他對某個答案有90%的把握,那麼這個數字應該反映出實際的準確率——這一點至關重要,因為軟體需要自主運行,而無需人工審核每一步。

三種基本工具:基本元素

專業等距可視化資料決策樹,節點採用磨砂玻璃效果,路徑採用明亮效果。

為了保持簡單高效,Jev 的 API 基於三種類型的問題,幾乎可以滿足任何分類需求:

  • 選擇: 它允許您從最多 255 個選項中選擇一個。它不僅會給出正確答案,還會提供所有選項的機率分佈圖和置信度評分。此外,它還包含一個「其他」選項,以防止模型強制給出錯誤答案。
  • 分數: 使用分級評分(2 到 10 分)來評估某事物。有趣的是,它返回的是小數(例如 1.4),這使您可以捕獲… 類別之間的細微差別 整數會忽略這一點。
  • Noul(布爾評估): 它是「是」或「否」的簡化版本,傳回介於 0 和 1 之間的機率。

Jev 最強大的功能在於它能一步到位地回答所有這些問題。如果您需要了解訊息類別、客戶的憤怒程度以及他們是否要求退款,Jev 可以同時給出這三個答案,因此添加更多問題幾乎不會影響回應時間。

性能、成本和細則

高速資料流經數位管道的抽象表示,象徵低延遲。

從數據來看,TypeSafe AI 的速度驚人,延遲僅70 到 500 毫秒。相比之下,目前主流的語言邏輯模型 (LLM) 可能需要幾秒鐘才能產生回复,Jev 的速度簡直快得不可思議。此外,價格也是其一大優勢:每百萬個輸入標記僅需0,042 美元,而且由於輸出不會產生新的文本,因此完全免費。

然而,這些數據僅供參考。許多基準測試是由 TypeSafe 團隊自行完成的,這可能會有一些偏差。儘管如此,零模式錯誤的承諾是切實存在的:Jev 不可能返回你未定義的格式,從數學角度來看,這消除了程式碼中複雜驗證的必要性。

Jev AI 的優點和缺點分別是什麼?

採用現代暗黑介面風格的互連幾何區塊所構成的抽象 API 閘道架構。

當您需要對大量非結構化資料進行重複性決策時,Jev 就是最佳選擇。它非常適合用於線索分配、內容審核、技術支援分診,甚至可以創建防護措施來監控其他大型 AI 模型的輸出。它在網頁導航方面也非常有用,無需螢幕描述即可決定頁面上應該點擊哪個元素。

然而,不要試圖用它來處理所有事情。 Jev 不適合聊天、程式設計或解釋其推理過程。它在數學運算和字元計數方面有明顯的局限性,並且無法很好地處理日期或十六進位值。此外,它缺乏世界知識;它只知道你在查詢狀態中輸入的內容。如果你需要複雜的推理或創造性的生成,你應該選擇像 Claude 或 GPT 這樣的系統 2 模型。

融入開發生態系統

對於程式設計師來說,整合非常簡單。官方提供了 JavaScript、TypeScript 和 Python 的 SDK,雖然目前還沒有 PHP 的 SDK,但只需一個簡單的 POST 請求即可。此外,Jev 已整合到 Vercel 的 AI Gateway 中,如果您已經在使用環境,這將大大簡化金鑰管理和計費流程。

使用 Jev 的一個非常巧妙的模式是創建決策級聯。首先,Jev 以低成本、高效率的方式過濾和分類請求;然後,確定性程式碼處理較為簡單的情況;只有當 Jev 指示置信度較低時,才會將請求升級到成本較高的推理模型或人工操作員。這可以優化預算並降低整體系統延遲。

這款工具重新定義了人工智慧與軟體之間的關係,將智慧視為基礎設施元件而非對話者。 Jev 透過消除文字生成並專注於機率校準,使機器能夠以極低的成本做出快速可靠的決策,從而為以往成本高昂或緩慢的自動化打開了大門。


在 Google 中將其新增為首選來源