6月28日消息,今日,字節跳動火山翻譯團隊宣布推出LightSeq訓練加速引擎,并向全球開發者開源。
Transformer是自然語言處理、計算機視覺等AI技術領域最常用的基礎模型,被廣泛應用在機器翻譯、文本生成、文本摘要、圖像處理、時間序列預測等任務中。訓練和推理則是AI技術的兩個主要過程,相當于學習知識和解決問題。
據悉,LightSeq訓練加速引擎能夠支持Transformer的完整加速,從詞嵌入層、編碼層、解碼層,到最后的損失函數層,業內首次實現了全流程支持。而且LightSeq的訓練速度極快,相比主流的序列生成庫,LightSeq最快只需要三分之一的時間就能完成訓練。
根據公開報道,字節跳動現在已經開源了機器學習平臺Klever、聯邦學習平臺Fedlearner、高性能分布式訓練框架BytePS等重磅項目。
關鍵詞: 字節跳動
責任編輯:Rex_01