五度易链-专注数据治理服务与产业数据应用领域

電話咨詢 在線咨詢 產品定制
電話咨詢 在線咨詢 產品定制
010-68321050

5G加持,混合AI架構釋放終端能力!

五度易鏈 2023-11-24 3524 0

專屬客服號

微信訂閱號

大數據治理

全面提升數據價值

賦能業務提質增效

5G或未來6G的連接,是實現混合AI架構的關鍵。當終端大模型判斷出現了終端無法處理的工作,可以通過5G連接,將數據上傳到云端進行運算,之后再將結果推回到終端。5G或6G的高速連接,能夠保障數據處理和結果反饋的實時性。如此一來,云端、邊緣云的訓練和計算資源,都將為終端大模型服務,保障了用戶體驗。

  雖然端側AI優勢明顯、端側大模型的布局熱度正酣,但終端芯片受到體積和功耗的限制,對于更大的模型和調優等重度負載并非最優解,更加高階或復雜的AI用例往往誕生于云端大模型。

  那么,當終端用戶偶爾需要超越端側大模型的功能時,該如何獲取?高通在《混合AI是AI的未來》白皮書中,提出了在云端和邊緣終端之間分配并協同處理AI工作負載的混合AI架構。這種架構可以根據模型和查詢需求的復雜度等因素,在云端和終端側之間分配處理負載。

  5G或未來6G的連接,是實現混合AI架構的關鍵。當終端大模型判斷出現了終端無法處理的工作,可以通過5G連接,將數據上傳到云端進行運算,之后再將結果推回到終端。5G或6G的高速連接,能夠保障數據處理和結果反饋的實時性。如此一來,云端、邊緣云的訓練和計算資源,都將為終端大模型服務,保障了用戶體驗。

  雖然6G尚未到來,但行業已經行至5G第二個階段的演進——5G Advanced(以下簡稱5G-A)。相比5G,5G-A可實現網絡能力的10倍提升,支撐10Gbps體驗、全場景物聯、通信感知一體、L4級別自動駕駛網絡、綠色ICT等業態,進一步開發和釋放5G的潛能。

  最新一代驍龍8 Gen 3集成的驍龍X75是業界首個5G Advanced-ready調制解調器及射頻系統,面向智能手機、移動寬帶、汽車、計算、工業物聯網、固定無線接入和5G企業專網等細分領域,提升網絡覆蓋、時延、能效和移動性體驗。在11月8日于烏鎮舉辦的“世界互聯網大會領先科技獎”頒獎典禮上,高通5G Advanced-ready調制解調器及射頻系統X75獲得“世界互聯網大會領先科技獎”。

  內生AI被視為5G-A的關鍵技術之一,使網絡更智能、靈活地按需提供功能。驍龍X75是業界首次在調制解調器及射頻系統中采用專用硬件張量加速器,將AI性能提升至前代產品的2.5倍以上。驍龍X75還引入了5G AI套件,為連接速度、移動性、鏈路穩健性等5G性能和特性的優化提供更大空間。

  5G-A的加持,除了讓手機、PC等終端能夠高效運行大模型,也為大模型進入XR(虛擬現實、增強現實等)、汽車等終端帶來更多可能。5G-A提供的萬兆體驗,能夠更有力地支撐VR/AR和車聯網等需要高帶寬、低時延的應用。例如微軟基于云流媒體和第二代驍龍XR2芯片平臺,在XR終端側運行先進的算法,實現了將Windows體驗安全傳輸到Meta Quest設備,用Azure遠程渲染MR終端內容等用例,更有效地融合了XR云端和客戶端內容。

  混合AI架構以及5G+AI的協同工作,也為開發者在本地和云上的無縫開發大模型相關應用帶來便利。今年9月,微軟將AI助手Copilot接入Windows11,將生成式AI引入更多應用程序。微軟Windows和設備副總裁帕萬·達武魯里在2023驍龍峰會表示,終端側AI促進了客戶端和云端之間的平衡,將使開發人員能夠使用本地和云計算編寫混合AI應用。“未來,我們需要一個能夠模糊云端和邊緣端芯片界限的操作系統,在合適的地方使用合適的芯片,從而實現最佳體驗。這將讓Windows成為一個跨應用、內容和圖形的編排系統。”

  萬物互聯,萬物智能。AIGC提升了終端的智能上限,而5G-A和未來的6G拓展了智能的觸達范圍,兩者將一起為終端的使用和交互體驗帶來更多可能。


本文為本網轉載,出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內容的真實性,如涉及侵權,請權利人與本站聯系,本站經核實后予以修改或刪除。

評論

產業專題

申請產品定制

請完善以下信息,我們的顧問會在1個工作日內與您聯系,為您安排產品定制服務

  • *姓名

  • *手機號

  • *驗證碼

    獲取驗證碼
    獲取驗證碼
  • *您的郵箱

  • *政府/園區/機構/企業名稱

  • 您的職務

  • 備注

主站蜘蛛池模板: 称重传感器,测力传感器,拉压力传感器,压力变送器,扭矩传感器,南京凯基特电气有限公司 | 办公室家具_板式办公家具定制厂家-FMARTS福玛仕办公家具 | Honsberg流量计-Greisinger真空表-气压计-上海欧臻机电设备有限公司 | 茶楼装修设计_茶馆室内设计效果图_云臻轩茶楼装饰公司 | 动物解剖台-成蚊接触筒-标本工具箱-负压实验台-北京哲成科技有限公司 | 深圳成考网-深圳成人高考报名网 深圳工程师职称评定条件及流程_深圳职称评审_职称评审-职称网 | 洁净实验室工程-成都手术室净化-无尘车间装修-四川华锐净化公司-洁净室专业厂家 | 合肥展厅设计-安徽展台设计-合肥展览公司-安徽奥美展览工程有限公司 | 磁力去毛刺机_去毛刺磁力抛光机_磁力光饰机_磁力滚抛机_精密金属零件去毛刺机厂家-冠古科技 | 水冷式工业冷水机组_风冷式工业冷水机_水冷螺杆冷冻机组-深圳市普威机械设备有限公司 | 交联度测试仪-湿漏电流测试仪-双85恒温恒湿试验箱-常州市科迈实验仪器有限公司 | 沈阳液压泵_沈阳液压阀_沈阳液压站-沈阳海德太科液压设备有限公司 | 喷砂机厂家_自动喷砂机生产_新瑞自动化喷砂除锈设备 | 钢托盘,钢制托盘,立库钢托盘,金属托盘制造商_南京飞天金属制品实业有限公司 | 北京开源多邦科技发展有限公司官网 | 运动木地板厂家_体育木地板安装_篮球木地板选购_实木运动地板价格 | 福州甲醛检测-福建室内空气检测_环境检测_水质检测-福建中凯检测技术有限公司 | 广西资质代办_建筑资质代办_南宁资质代办理_新办、增项、升级-正明集团 | RS系列电阻器,RK_RJ启动调整电阻器,RQ_RZ电阻器-上海永上电器有限公司 | 绿萝净除甲醛|深圳除甲醛公司|测甲醛怎么收费|培训机构|电影院|办公室|车内|室内除甲醛案例|原理|方法|价格立马咨询 | 超高频感应加热设备_高频感应电源厂家_CCD视觉检测设备_振动盘视觉检测设备_深圳雨滴科技-深圳市雨滴科技有限公司 | 深圳美安可自动化设备有限公司,喷码机,定制喷码机,二维码喷码机,深圳喷码机,纸箱喷码机,东莞喷码机 UV喷码机,日期喷码机,鸡蛋喷码机,管芯喷码机,管内壁喷码机,喷码机厂家 | 一航网络-软件测评官网| 凝胶成像仪,化学发光凝胶成像系统,凝胶成像分析系统-上海培清科技有限公司 | 重庆波纹管|重庆钢带管|重庆塑钢管|重庆联进管道有限公司 | 罗茨真空机组,立式无油往复真空泵,2BV水环真空泵-力侨真空科技 | 【MBA备考网】-2024年工商管理硕士MBA院校/报考条件/培训/考试科目/提前面试/考试/学费-MBA备考网 | 天津中都白癜风医院_天津白癜风医院_天津治疗白癜风 | 液压升降平台_剪叉式液压/导轨式升降机_传菜机定做「宁波日腾升降机厂家」 | 篷房|仓储篷房|铝合金篷房|体育篷房|篷房厂家-华烨建筑科技官网 知名电动蝶阀,电动球阀,气动蝶阀,气动球阀生产厂家|价格透明-【固菲阀门官网】 | 标准品网_标准品信息网_【中检计量】| 大型工业风扇_工业大风扇_大吊扇_厂房车间降温-合昌大风扇 | 混合生育酚_醋酸生育酚粉_琥珀酸生育酚-山东新元素生物科技 | 氧化铁红厂家-淄博宗昂化工 | 智能终端_RTU_dcm_北斗星空自动化科技| 云南标线|昆明划线|道路标线|交通标线-就选云南云路施工公司-云南云路科技有限公司 | 桥架-槽式电缆桥架-镀锌桥架-托盘式桥架 - 上海亮族电缆桥架制造有限公司 | 碳化硅,氮化硅,冰晶石,绢云母,氟化铝,白刚玉,棕刚玉,石墨,铝粉,铁粉,金属硅粉,金属铝粉,氧化铝粉,硅微粉,蓝晶石,红柱石,莫来石,粉煤灰,三聚磷酸钠,六偏磷酸钠,硫酸镁-皓泉新材料 | FAG轴承,苏州FAG轴承,德国FAG轴承-恩梯必传动设备(苏州)有限公司 | 北京浩云律师事务所-企业法律顾问_破产清算等公司法律服务 | 机床主轴维修|刀塔维修|C轴维修-常州翔高精密机械有限公司 |