全球资源网科技频道台湾(前民眾日報資深記者 屈文峰)讯:今年初,加拿大多倫多的芯片小廠Taalas引起了全世界AI圈關注。有圈內人士認爲,它很可能會撬動英偉達主宰了多年的AI芯片市場。Taalas發佈了首款產品Taalas HC1芯片,這芯片意外實現了每秒12000 tokens的運算及推理速度,較英偉達的主力產品H200和B20GPU方案提升48倍能效。顯見,芯片市場已經快速逐漸走向專業化、小眾化甚至個人化,而且趨向訂製化的趨勢。
這裡我們要先解釋一下‘’Token‘’。Token 就像是 AI 理解文字的小積木。每一個字、詞或符號都會被變成一個 Token,然後轉換成數字給 AI 讀取。因為,AI 不能直接看懂文字,只能靠數字去‘’算出‘’下一個最可能會出現的詞。
當你輸入的每個字(輸入 Token)和AI回覆的每句話(輸出 Token)時都要計算電費。有些還有推理 Token(AI 思考時用的)或快取 Token(重複內容不重算),懂這些就能知道為什麼有時候用 AI 費用會變高。
而Taalas的技術和產品究竟有何特殊之處?又是否能當得起其自稱‘’世界上速度最快、成本和功耗最低的推理平台‘’呢?真相是,Taalas將模型直接‘’刻‘’在芯片上。
在研究了HC1的相關公開信息之後,我們發現,Taalas的技術路線,與目前市場主流的ASIC路線相比,極具顛覆性。所以,HC1堪稱為‘’精簡版‘’的ASIC(專業集成電路)。
這一技術路線通過爲特定應用場景所定製硬件設計,以追求極致能效和成本效益。雖然它的適用性、功能豐富度、可互換性,遠低於能覆蓋多場景的GPU(圖形處理器)。但是,野村證券預測,就在2026年時ASIC芯片的總出貨量可能會首次超過GPU。一切顯示,芯片的發展將朝向個體化、專業化發展。
Taalas奉行「The Model is The Computer」(這句話也是Taalas公司的slogan),可以理解爲,將傳統‘’在計算設備上運行模型‘’的模式,已經轉變爲‘’模型本身成爲計算設備‘’。與此同時,算力也擺脫了軟件束縛和編譯過程,數據幾乎不需要在內存和計算單元之間移動,‘’內存牆‘’由此消失,推理成本隨之大幅降低,推理速度則顯著提升吃,這也代表著新一代芯片以經朝向省電方向飛奔。
目前為止,Taalas公司已可通過結構化ASIC技術,將芯片定製週期縮短至兩個月。而且,因後市前景一片光明,Taalas總計已融資達2.19億美元。且,已打造出了這款擁有‘’極致的專業化、速度和能源效率‘’的產品。









