TechSpace 鐵客空間

每日科技新聞新知、硬體開箱評測、賣場優惠!

微軟為了省 6 億美元想換掉 GPT?傳微軟 Copilot 考慮引進中國 Kimi K3 AI 模型

微軟為了省下高達 6 億美元的營運成本,傳出正評估在 Copilot 導入中國月之暗面推出的 Kimi K3 模型。這項舉動不僅引發業界熱議,更可能面臨美國政府的關切。
microsoft looking for chinas kimi k3 in copilot

2.8 兆參數的算力新星!Kimi K3 憑什麼讓科技巨頭心動?

雖然各類 AI 助手風行,甚至 AI 代理任務已開始起飛,Windows 中的 Copilot 在本來就不常被使用的陰影下,繼續被使用者放鳥。不過,即便如此,微軟仍然每一秒都在為其支付算力帳單。自從微軟將企業級 Copilot Cowork 服務轉為按照 Token 消耗量計費的模式後,尋找更便宜、效率更高的 AI 模型就成了內部工程師的核心任務。

過去 Copilot 主要依賴 OpenAI 的 GPT 系列以及 Anthropic 的 Claude 模型,雖然性能頂尖,但費用相當昂貴。為了打破這種高代價的依賴,微軟開始將目光投向來自中國的 open-weight(開放權重)模型,希望能藉此降低龐大的推理成本。

這次被微軟相中的,正是由中國 AI 初創公司月之暗面(Moonshot AI)所推出的 Kimi K3 模型,這款全新亮相的模型擁有高達 2.8 兆參數,主打前沿級別的智商與極高的推論效率。它不僅支援多模態輸入,還擁有高達 100 萬 Token 的超大上下文窗口,處理長篇大論的能力完全不輸歐美主流模型。

更重要的是,Kimi K3 在資料中心規模的硬體上運作效率極佳,透過將 896 個專家模型分發到大量 GPU 上,它大幅減少 KV 快取並針對記憶體使用進行最佳化。微軟內部團隊評估後發現,如果將部分 Copilot 的底層模型從 OpenAI 與 Anthropic 換成 Kimi K3,一年竟然能幫公司省下高達 6 億美元的費用!

雖然省錢很誘人,但這筆生意顯然沒那麼好做。首先,美國川普政府目前正強烈關注中國開源模型在美國的使用狀況,甚至有消息指出商務部考慮限制或禁運相關技術,微軟此舉無疑是在政策敏感區踩線。

另一方面,Kimi K3 雖然在硬體架構上省錢,但它的推論成本以開源模型來說並不便宜,且該模型傾向進行更深度的推理,反而可能會消耗更多 Token,再加上日前 Kimi K3 在測試中被發現曾自我識別為 Claude 的尷尬狀況,讓外界對其訓練資料的來源與純潔度產生疑慮。微軟最後是否會真的在 Azure 與 Copilot 深度整合 Kimi K3,還是只是拿來作為與 OpenAI 談判的籌碼,全世界都在盯著看。

快速 Q&A 整理

微軟為什麼考慮在 Copilot 中引進中國的 Kimi K3 模型?

主要原因在於節省成本。微軟內部評估,若將 Copilot 部分底層模型換成月之暗面的 Kimi K3,預計可省下高達 6 億美元的 AI 推理費用。

Kimi K3 是由哪一家公司開發的 AI 模型?

Kimi K3 是由中國 AI 獨角獸企業月之暗面(Moonshot AI)所開發的 2.8 兆參數開放權重模型。

採用 Kimi K3 模型可能會面臨哪些風險?

主要風險包括地緣政治與監管壓力,特別是美國政府對中國 AI 技術的限制政策;此外,該模型也面臨資料來源與 Token 消耗量較高的技術質疑。

微軟 Copilot 目前主要採用哪些 AI 模型?

Copilot 目前的核心技術主要依賴 OpenAI 的 GPT 系列模型以及 Anthropic 的 Claude 系列模型。

Kimi K3 模型的主要技術亮點是什麼?

Kimi K3 擁有 2.8 兆參數,支援多模態與 100 萬 Token 的上下文窗口,並透過 896 個專家模型分發技術大幅降低資料中心的記憶體消耗。

延伸閱讀

歡迎加入我們的 Facebook 粉絲團,隨時掌握最新消息!
喜歡看圖說故事的話,也可以追蹤 Instagram 專頁!
我們也有 Threads 可以隨時 follow!

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *