全球最小 AI 超級電腦問世：Tiiny AI Pocket Lab 登場，掌中裝置能執行 1200 億參數模型

Pocket Lab 掌中革命：全球最小 AI 超級電腦顛覆現有硬體框架

在 AI 與語言模型成為主流技術的今天，邊緣運算裝置雖逐漸普及，但硬體成本依然高不可攀，成為許多開發者與使用者的瓶頸。針對這樣的市場空缺，新創公司 Tiiny AI 推出了令人驚艷的產品：全球最小的 AI 超級電腦 Tiiny AI Pocket Lab。這款設備號稱僅手掌大小，重量不到 300 公克，卻能離線運行最高達 1200 億參數的語言模型，幾乎等同過去需仰賴數千美元伺服器或 GPU 的能力，現在可在你的桌上甚至口袋中實現。

Tiiny AI Pocket Lab 的核心架構建構在新一代 ARM v9.2 處理器之上，內含 12 核心 CPU，並整合了自家的異質計算模組，包含 SoC 與離散式神經處理器（dNPU）。整體推理效能可達 190 TOPS，這是許多桌上型 AI 模組難以企及的表現。更令人印象深刻的是，這樣的硬體僅需約 30 瓦 TDP、65 瓦平均功耗，展現極高能源效率。

裝置配備高達 80 GB 的 LPDDR5X 記憶體與 1TB SSD 儲存空間，足以支援複雜的模型部署與即時推理工作。在模型相容性方面，Pocket Lab 已支援包括 Llama、GPT-OSS、Mistral、DeepSeek、Phi 與 Qwen 等主流開源語言模型，能實現一鍵部署並完全脫離雲端依賴，無需網路即可運作。

為實現超大模型的本地推理能力，Tiiny AI 採用了兩項關鍵技術。首先是稱為 TurboSparse 的神經元稀疏啟動技術，它能在不犧牲模型智慧密度的情況下，顯著提升推理效率與資源分配。其次則是開源異質推理引擎 PowerInfer，該引擎已在 GitHub 上累積超過 8000 顆星，透過動態分配 CPU 與 NPU 的計算負載，大幅降低延遲並模擬出類伺服器等級的運算效能。兩者結合後，Pocket Lab 成為第一個能讓個人用戶在本地運行百億參數語言模型的微型裝置。

雖然 Tiiny AI 尚未公布 Pocket Lab 的正式開賣時間與零售價格，但已確認會在 CES 2026 展覽中進行全球首次公開展示。從目前釋出的技術資料來看，這款設備不僅針對 AI 模型訓練者與開發者設計，也可應用於教育、科研與創作者領域。無需依賴昂貴的伺服器租用費用與不穩定的雲端計算，讓 AI 真正回到「你手上的電腦」上。

Tiiny AI Pocket Lab 的出現，極可能成為邊緣 AI 裝置領域的革命性突破。它不只是在體積與功耗上遠勝傳統設備，更重要的是打破了模型部署門檻，讓原本需要專業設備才能運行的大型模型，變成了人人可擁有的工具。當 AI 計算能力不再受限於機房，而是掌握在個人手中，我們將迎來真正的分散式 AI 時代。

歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Threads 可以隨時 follow!