曾為英特爾、AMD和特斯拉工作的芯片設(shè)計(jì)師Jim Keller正試圖通過(guò)設(shè)計(jì)比英偉達(dá)更高效的芯片來(lái)降低人工智能（AI）應(yīng)用的價(jià)格，以期奪取部分市場(chǎng)份額。
Jim Keller現(xiàn)在是美國(guó)一家設(shè)計(jì)AI芯片的初創(chuàng)公司Tenstorrent的CEO，他在芯片設(shè)計(jì)圈以擔(dān)任過(guò)AMD Zen系列首席設(shè)計(jì)師而聞名，許多人認(rèn)為，在2010年代后期AMD努力跟上英特爾的步伐后，該系列將支持AMD東山再起。他也是開(kāi)發(fā)特斯拉自動(dòng)駕駛軟件Autopilot芯片的領(lǐng)軍人物。“他簡(jiǎn)直就是一個(gè)傳奇人物。”日本AI獨(dú)角獸Preferred Networks的芯片設(shè)計(jì)負(fù)責(zé)人Junichiro Makino說(shuō)。
Jim Keller表示，隨著AI的應(yīng)用擴(kuò)展到智能手機(jī)、電動(dòng)汽車(chē)和云服務(wù)，越來(lái)越多的公司正在尋找更便宜的解決方案，并補(bǔ)充說(shuō)“英偉達(dá)在很多市場(chǎng)上表現(xiàn)不佳，很多小公司不愿意為英偉達(dá)的高端圖形處理單元（GPU）支付2萬(wàn)美元”，而英偉達(dá)GPU被視為市場(chǎng)上最好的選擇。
Tenstorrent成立于2016年，正準(zhǔn)備在2024年底出售其第二代多用途AI芯片。該公司表示，在某些領(lǐng)域，它擁有比英偉達(dá)的AI GPU 更好的能效和處理效率。據(jù)Tenstorrent稱，其Galaxy系統(tǒng)比英偉達(dá)的DGX（AI服務(wù)器）效率高出三倍，價(jià)格便宜33%。
Jim Keller表示，這種情況可能出現(xiàn)的原因是該公司將不使用高帶寬存儲(chǔ)器（HBM），這是一種流行的先進(jìn)存儲(chǔ)芯片，能夠快速傳輸大量數(shù)據(jù)。HBM是生成式AI芯片的重要組成部分，在英偉達(dá)產(chǎn)品的成功中發(fā)揮了重要作用。然而，HBM也是AI芯片能耗巨大、價(jià)格高昂的罪魁禍?zhǔn)字弧?/p>
“即使是使用HBM的廠商，也在為它的成本和設(shè)計(jì)時(shí)間而苦苦掙扎。”Jim Keller表示，并補(bǔ)充說(shuō)他做出了不使用這項(xiàng)技術(shù)的決定。
在典型的AI芯片中，每次執(zhí)行一個(gè)過(guò)程時(shí)，GPU都會(huì)將數(shù)據(jù)發(fā)送到內(nèi)存。這需要HBM的高速數(shù)據(jù)傳輸能力。然而，Tenstorrent專(zhuān)門(mén)設(shè)計(jì)其芯片，以大幅減少此類(lèi)傳輸。
Jim Keller表示，通過(guò)這種新方法，公司的芯片設(shè)計(jì)可以在AI開(kāi)發(fā)的某些領(lǐng)域取代GPU和HBM。
他說(shuō)，該公司還在設(shè)計(jì)其產(chǎn)品，使其“盡可能具有成本效益”。他補(bǔ)充說(shuō)，該領(lǐng)域的許多其他公司也在尋找更好的存儲(chǔ)解決方案，但他更謹(jǐn)慎地承認(rèn)，要顛覆“龐大”的現(xiàn)有HBM行業(yè)需要數(shù)年時(shí)間。
Jim Keller預(yù)測(cè)，不會(huì)有一家公司取代英偉達(dá)，而是會(huì)有更多新玩家出現(xiàn)，填補(bǔ)這家美國(guó)公司尚未服務(wù)的各種AI市場(chǎng)。
Tentorrent芯片的主要特點(diǎn)是其100多個(gè)內(nèi)核中的每個(gè)內(nèi)核都有小型CPU，即“大腦中的大腦”。
通常，單個(gè)芯片內(nèi)核只有一個(gè)小型計(jì)算器和內(nèi)存，只負(fù)責(zé)解決單個(gè)給定任務(wù)。然而，Tenstorrent芯片的內(nèi)核將能夠自行“思考”，決定先處理哪些數(shù)據(jù)，或者是否放棄某些被認(rèn)為不必要的任務(wù)，從而提高整體效率。
Tentorrent表示，由于每個(gè)內(nèi)核都相對(duì)獨(dú)立，因此可以通過(guò)堆疊更多或更少的內(nèi)核來(lái)適應(yīng)更廣泛的應(yīng)用。例如，少量?jī)?nèi)核的芯片足以用于智能手機(jī)或可穿戴設(shè)備，而100顆芯片可以組合起來(lái)用于AI數(shù)據(jù)中心。
這種靈活性很重要，因?yàn)锳I如何開(kāi)發(fā)以及未來(lái)的用途仍是懸而未決的問(wèn)題。
Jim Keller說(shuō)，不可能預(yù)測(cè)出AI最佳應(yīng)用是什么。“我今天無(wú)法判斷這個(gè)數(shù)字是會(huì)更大還是更小。所以我們的策略是打造一種適合各種產(chǎn)品的技術(shù)。”他說(shuō)。 
