在人工智慧(AI)日漸蓬勃發展的今天,如何將訓練好的AI模型順利部署到邊緣裝置以發揮實際運算能力,是許多企業和開發者所面臨的重大挑戰。為解決痛點,恩智浦(NXP)與AI巨擘NVIDIA,在本屆NVIDIA GTC大會期間宣布達成重要合作,整合NVIDIA的TAO工具套件API至恩智浦的eIQ機器學習開發環境,為開發者提供一條高效、便捷的AI模型部署之路。

作為業界首家將NVIDIA TAO工具鏈直接內嵌至自家AI軟體平台的晶片供應商,意味著開發者在未來只需在恩智浦eIQ環境中操作,即可輕鬆存取NVIDIA豐富的AI模型資源庫,並透過TAO強大的模型微調和優化功能,針對特定應用場景對預訓練模型進行修改和最佳化,隨後再將調整後的模型無縫部署到恩智浦眾多邊緣運算產品之上,展現實際推理運算能力。

值得一提的是,TAO工具套件內建的Transfer Learning技術,可大幅減少AI模型從頭開始訓練的工作量,讓開發者只需較小的訓練資料集,即可有效調校既有模型做出所需修改,真正實現AI模型的高效重複利用。

本次恩智浦與NVIDIA的合作,不僅能夠加速邊緣AI部署的全流程,更有助於拓展AI的產業應用範疇。恩智浦資深副總Charles Dachs表示:「無論是工業、物聯網或其他新興應用領域,邊緣AI都將成為推動創新的關鍵動能。本次與NVIDIA的整合將讓我們的客戶能更高效地將AI模型應用於邊緣運算產品,大幅提升開發速度,擁抱智慧物聯的浪潮。」

NVIDIA則期待透過這項整合,進一步將先進的生成式AI模型推向邊緣運用。NVIDIA機器人與邊緣運算副總裁Deepu Talla說:「TAO提供的高效模型訓練和部署能力,加上恩智浦邊緣處理器的優異運算實力,勢必能催生更多創新應用的湧現。」半導體與AI兩大巨頭的跨界聯手,使人工智慧的創新能量加速在終端邊緣綻放光芒。

#NVIDIAGTC大會 #恩智浦 #邊緣運算 #TAO工具鏈