美國晶片新創公司Etched AI近日取得重大突破，成功將Transformer架構直接燒錄到晶片中，研發出全球首款專為Transformer推理而打造的伺服器。該伺服器效能遠超英偉達同類產品，可運行萬億參數模型，並具備即時語音代理、高效編碼與樹搜尋、多播推測解碼等多項功能，還配備了144GB HBM3E高頻寬記憶體。這項創新可望徹底改變Transformer架構的應用前景，為人工智慧領域帶來革命性變革。
文章底線重點：
美國晶片新創公司Etched AI成功將Transformer架構直接燒錄到晶片中，創造出了世界上最強大的專門用於Transformer推理的伺服器。這項技術可以運行萬億參數的模型，甩英偉達幾百條街。伺服器具備多項功能，包括即時語音代理、更好的編碼與樹搜尋能力、多播推測解碼功能，並配備144GB HBM3E。這項突破性技術將為Transformer架構的應用帶來新的可能性。
Etched AI的這項突破標誌著人工智慧硬體領域的飛躍，其強大的效能和豐富的功能將為許多應用場景帶來顯著提升，值得業界關注和期待。未來，我們或許將看到更多基於此技術的創新應用出現。