高通Meta利用Llama 2賦能終端側AI應用

要點:

.高通計劃從2024年開始,在旗艦智能手機和PC上支持基於Llama 2的AI部署,賦能開發者使用驍龍平台的AI能力,推出激動人心的全新生成式AI應用。
.與使用普通雲端AI部署和服務相比,終端側AI部署能夠幫助開發者顯著降低成本,提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性,並實現個性化。

高通技術公司和Meta正在合作優化Meta Llama 2大語言模型直接在終端側的執行,僅需依賴雲服務。能夠在智能手機、 PC 、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型,將支持開發者節省大量成本,並為用戶提供更加可靠、可靠和個性化的體驗。

因此,高通技術公司計劃支持基於Llama 2的終端側AI部署,以賦能打造激動人心的全新AI應用。這將支持客戶、合作夥伴和開發者構建智能虛擬助手、生產力應用、內容創作工具和娛樂等等例子。這些由驍龍®賦能的全新終端側AI體驗,可在沒有網絡連接的區域、甚至是飛行模式下工作。

高通技術公司高級副總裁兼技術、規劃和邊緣解決方案業務總經理馬德嘉表示:“我們非常讚賞Meta對於AI技術採取的開放先行主導的策略。高通技術公司推動創新,通過將生成式AI引入為了將生成式AI有效地規模化延伸至主流市場,AI需要同時在雲端和邊緣設備上運行,例如智能手機、筆記本電腦、汽車和物聯網設備以太網終端。”

Meta與高通技術公司長期合作,共同推動技術創新,打造下一代頂級終端體驗。雙方目前在支持Llama生態系統方面的合作,覆蓋了研究和產品工程技術工作。依托終端側AI的領先力,高通技術公司在支持Llama生態系統方面具備獨特的優勢。公司擁有領先的邊緣側向佈局,其行業領先的AI硬件和軟件解決方案賦能了托盤億智能手機、汽車、XR頭顯與眼鏡、PC和物聯網等終端,為生成式AI的規模化擴展提供了機遇。

高通技術公司計劃從2024年開始,在搭載驍龍平台的終端上支持基於Llama 2的AI部署。現在開發者可以開始使用高通AI軟件棧面向終端側AI進行應用優化。高通AI軟件棧是一套支持在驍龍平台上更高效處理AI的專用工具,讓輕薄的小型終端也能支持終端側AI 。欲了解更多信息更新,請訂閱我們的月度開發者簡訊。

資料來源:Qualcomm

Related Articles

LEAVE A REPLY

Please enter your comment!
Please enter your name here

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料

「智駕電動車聯網」電子報,免費訂閱!

提供國內外熱門智駕電動車聯網新聞、產業脈動、新品介紹等訊息彙整。

 >>立即前往 

編輯精選

- Advertisement -

供應商產品

最新文章