【時報記者任珮云台北報導】AMD宣布最新版本的AMD ROCm 6.2開源堆疊軟體現已釋出,為AMD Instinct系列加速器帶來顯著的效能與效率提升。
AMD ROCm 6開源軟體平台經過優化,可從AMD Instinct MI300加速器中提取最佳的高效能計算(HPC)和人工智慧(AI)工作負載效能,同時保持與業界軟體框架的相容性。ROCm包括一系列驅動程式、開發工具和API,從低階核心到最終使用者應用程式的GPU程式設計均可實現,並且可以根據您的具體需求進行自訂。在這個免費、開源且整合的軟體生態系統中開發、協作、測試和部署應用程式。設計完成後,軟體具有可移植性,可在不同廠商的加速器之間或在不同的GPU連接架構之間移動,所有這些都是在設備無關的情況下實現的。ROCm特別適合於GPU加速的高效能計算、人工智慧、科學計算和計算機輔助設計(CAD)。
AMD ROCm 6.2該版本的新增功能與優勢,包括:擴展vLLM支援:提升Instinct加速器的人工智慧推論能力;全新Bitsandbytes功能:通過提高記憶體效率與效能,增強AI訓練和推論;全新離線安裝程式建立器:簡化ROCm的安裝體驗;全新Omnitrace與Omniperf分析工具:通過效能分析和精簡的開發工作流程,革新AI和高效能運算的開發。更廣泛的FP8支援:在使用更少記憶體的情況下進行更高效的訓練,從而增強AI推論能力。
發表意見
當您使用本網站留言服務時,視為已承諾願意遵守中華民國相關法令及一切使用網際網路之國際慣例。若您是中華民國以外之使用者,並同意遵守所屬國家或地域之法令。
您同意並保證不得利用本留言服務從事侵害本公司或他人權益及相關違法或未經本公司事前同意之行為(以下簡稱禁止行為),否則您除應自負文責外,並同意本公司逕行移除或修訂您的留言內容或限制您的留言權利或封鎖您的帳號,絕無異議。前述禁止之行為,包括但不限於: