近期,科技界迎來了一項(xiàng)重大突破,Google在Cloud Next大會上震撼發(fā)布了其最新一代TPU AI加速器芯片——Ironwood。這款芯片的亮相,標(biāo)志著Google在人工智能硬件領(lǐng)域邁出了重要一步。
據(jù)Google Cloud副總裁Amin Vahdat介紹,Ironwood無疑是Google迄今為止打造的最為強(qiáng)大、高效且節(jié)能的TPU。其設(shè)計(jì)初衷是為了大規(guī)模支持那些需要深度思考和復(fù)雜推理的AI模型,為用戶帶來前所未有的性能體驗(yàn)。
在計(jì)算性能方面,Ironwood展現(xiàn)出了驚人的實(shí)力。其峰值算力高達(dá)4614 TFLOP,配備了高達(dá)192GB的專用RAM,以及7.4Tbps的超高速帶寬,確保了數(shù)據(jù)的流暢傳輸與處理。這些參數(shù)的提升,無疑為AI模型的運(yùn)行提供了強(qiáng)有力的支持。
不僅如此,Ironwood在芯片間互連(ICI)帶寬方面也取得了顯著進(jìn)步。與前代相比,其ICI帶寬提升了50%,達(dá)到了1.2Tbps,這一改進(jìn)使得分布式訓(xùn)練的效率得到了大幅提升。這對于需要大規(guī)模并行計(jì)算的AI任務(wù)來說,無疑是一個(gè)巨大的福音。
更令人矚目的是Ironwood的可擴(kuò)展性。Google Cloud為用戶提供了兩種配置選擇:256芯片和9216芯片。特別是9216芯片的集群部署方案,總功率接近10兆瓦,支持液冷散熱,通過創(chuàng)新的ICI網(wǎng)絡(luò)實(shí)現(xiàn)了超大規(guī)模AI工作負(fù)載的高效處理。這一特性使得Ironwood在應(yīng)對復(fù)雜AI任務(wù)時(shí),能夠展現(xiàn)出更加出色的表現(xiàn)。
作為Google AI超級計(jì)算機(jī)架構(gòu)的核心組件,Ironwood通過軟硬件的協(xié)同優(yōu)化,為生成式AI的發(fā)展注入了新的活力。它不僅能夠提升AI模型的訓(xùn)練速度和準(zhǔn)確性,還能夠推動AI技術(shù)向更復(fù)雜、更廣泛的應(yīng)用場景演進(jìn)。這對于推動人工智能技術(shù)的普及和發(fā)展,無疑具有深遠(yuǎn)的意義。