谷歌的 Gemini 3 Ultra 是迄今為止向公眾發布的功能最強大的多模式人工智慧模型。它能夠同時即時處理和推理文字、圖像、視訊和音頻,開闢了以前模型無法實現的應用程式。經過兩週對我們可以探索的每項功能進行密集測試後,結論很明確:這是代際飛躍,而不是增量更新。

即時視訊理解

主要功能是即時視訊分析。在我們的測試中,Gemini 3 Ultra 可以觀看即時視訊並即時回答相關問題 - 識別物件、閱讀場景中的文字、追蹤運動以及推理正在發生的事情。我們將相機對準複雜的電路板,並要求其識別潛在的故障點。不到兩秒,它就正確地完成了。

我們還在更苛刻的場景下對其進行了測試。我們向它展示了一場現場國際象棋比賽,並要求它評估棋局並提出最佳走法。它正確地將位置識別為西西里防禦,評估了白方的優勢,並建議我們的國際象棋引擎確認客觀上最好的騎士犧牲。我們向它展示了一段烹飪視頻,並要求它識別洋蔥正確焦糖化的時刻。它標記了正確的幀,解釋了它所使用的顏色變化和紋理提示。

實際應用是顯而易見的。製造中的品質控制。即時運動分析。為視障使用者提供的輔助工具。醫學影像解讀。安全監控。在每種情況下,模型即時理解視訊(而不僅僅是靜態圖像)的能力都是使能能力。

編碼性能

在 SWE-bench 上,Gemini 3 Ultra 得分為 71%,是所有型號中最高的。它理解大型程式碼庫並做出有針對性的正確更改的能力非常出色。 Google 與 Android Studio 和 VS Code 的整合使其成為最無縫整合的 AI 編碼助理。

Gemini 3 Ultra 的編碼效能與競爭對手的差異不僅在於基準分數,還在於其解釋的品質。當它更改程式碼時,它會解釋原因,而不僅僅是更改內容。它確定錯誤的根本原因,而不是修補症狀。它建議架構改進以及立即修復。對於學習新程式碼庫的開發人員來說,這種解釋能力可以說比程式碼產生本身更有價值。

我們在一個特別具有挑戰性的場景中對其進行了測試:50,000 行 Python 程式碼庫中的生產錯誤,沒有文件。我們給了它錯誤訊息和存儲庫。在三分鐘之內,它就確定了根本原因——非同步資料庫連接池中的競爭條件——並提出了我們的高級工程師確認是正確的修復方案。這位工程師估計手動調試過程需要兩到四個小時。

與 Google 服務集成

與 Google 生態系統(搜尋、地圖、Gmail、日曆、雲端硬碟)的深度整合使 Gemini 3 Ultra 能夠存取其他型號所缺乏的即時資訊和個人背景。要求它「安排與上週專案電子郵件線程中的每個人的會議」實際上是有效且可靠的。

這種整合既是 Gemini 3 Ultra 的最大優勢,也是其最顯著的限制。對於深深嵌入Google生態系統的使用者來說,情境感知具有變革性——該模型知道你的日程安排、你的聯絡人、你最近的文件和你的位置,並且可以使用所有這些情境來給出真正有用的答案。對於不使用Google服務的用戶,或擔心該級別資料存取的隱私影響的用戶,整合的吸引力不那麼大。

谷歌一直謹慎地將資料存取限制為用戶控制和選擇加入,並且隱私控制比以前的Google產品更加精細。但基本的權衡——數據能力——是真實存在的,使用者應該有意識地做出這種權衡。

多模態推理:它的失敗之處

沒有完美的模型,Gemini 3 Ultra 的故障模式值得了解。它的視訊理解能力雖然令人印象深刻,但在快速運動時會顯著降低——它在處理動作移動速度快於幀採樣率的運動鏡頭時表現不佳。它的音訊理解對於語音來說非常出色,但對於音樂和環境聲音來說不太可靠。

更重要的是,該模型偶爾會在多模態推理中表現出自信錯誤——用與正確結論相同的語氣對圖像或影片提出錯誤的結論。這種「幻覺」問題並非 Gemini 3 Ultra 所獨有,但在多模式環境中尤其危險,使用者可能依賴模型來解釋他們無法輕鬆驗證自己的視覺訊息。

對於高風險應用——醫學影像、法律文件審查、財務分析——模型輸出的手動驗證仍然至關重要。 Gemini 3 Ultra 是一個強大的工具,而不是一個絕對可靠的神諭。

基準背景:數字的意義

Gemini 3 Ultra 在大多數主要基準測試中均處於領先地位:MMLU (91.8%)、MATH (86.1%)、HumanEval (96.4%) 和新的 VideoQA 基準測試 (78.3%)。這些數字很有意義,但應仔細解釋。基準衡量受控條件下具體的、明確定義的任務。現實世界的效能取決於特定的用例、提示的品質以及使用者解釋和驗證模型輸出的能力。

更有用的問題不是「哪個模型在基準測試中得分最高?」但「哪種模型對我的特定任務最有用?」對於多模式應用程式和 Google 生態系統用戶來說,Gemini 3 Ultra 是明確的答案。對於純文字任務,前緣模型之間的差異小於基準顯示的差異。

判決

Gemini 3 Ultra 是 Google 最令人印象深刻的人工智慧成就,也是多模式功能的真正進步。對於嵌入谷歌生態系統的用戶來說,它是最有用的人工智慧助理。對於建立多模式應用程式的開發人員來說,它是明確的選擇平台。對於其他人來說,這是重新考慮您正在使用哪些人工智慧工具以及您正在圍繞哪個生態系統建立工作流程的令人信服的理由。

Sources & Further Reading