要點：
．高通計劃從2024年開始，在旗艦智能手機和PC上支持基於Llama 2的AI部署，賦能開發者使用驍龍平台的AI能力，推出激動人心的全新生成式AI應用。
．與使用普通雲端AI部署和服務相比，終端側AI部署能夠幫助開發者顯著降低成本，提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性，並實現個性化。
高通技術公司和Meta正在合作優化Meta Llama 2大語言模型直接在終端側的執行，僅需依賴雲服務。能夠在智能手機、 PC 、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型，將支持開發者節省大量成本，並為用戶提供更加可靠、可靠和個性化的體驗。
因此，高通技術公司計劃支持基於Llama 2的終端側AI部署，以賦能打造激動人心的全新AI應用。這將支持客戶、合作夥伴和開發者構建智能虛擬助手、生產力應用、內容創作工具和娛樂等等例子。這些由驍龍®賦能的全新終端側AI體驗，可在沒有網絡連接的區域、甚至是飛行模式下工作。
高通技術公司高級副總裁兼技術、規劃和邊緣解決方案業務總經理馬德嘉表示：“我們非常讚賞Meta對於AI技術採取的開放先行主導的策略。高通技術公司推動創新，通過將生成式AI引入為了將生成式AI有效地規模化延伸至主流市場，AI需要同時在雲端和邊緣設備上運行，例如智能手機、筆記本電腦、汽車和物聯網設備以太網終端。”
Meta與高通技術公司長期合作，共同推動技術創新，打造下一代頂級終端體驗。雙方目前在支持Llama生態系統方面的合作，覆蓋了研究和產品工程技術工作。依托終端側AI的領先力，高通技術公司在支持Llama生態系統方面具備獨特的優勢。公司擁有領先的邊緣側向佈局，其行業領先的AI硬件和軟件解決方案賦能了托盤億智能手機、汽車、XR頭顯與眼鏡、PC和物聯網等終端，為生成式AI的規模化擴展提供了機遇。
高通技術公司計劃從2024年開始，在搭載驍龍平台的終端上支持基於Llama 2的AI部署。現在開發者可以開始使用高通AI軟件棧面向終端側AI進行應用優化。高通AI軟件棧是一套支持在驍龍平台上更高效處理AI的專用工具，讓輕薄的小型終端也能支持終端側AI 。欲了解更多信息更新，請訂閱我們的月度開發者簡訊。
資料來源:Qualcomm
