摘要
EMNLP是自然语言处理领域的顶级会议之一,由于今年ChatGPT等AI应用的问世,聊天型AI和自然语言处理概念得到学术界的进一步深入关注,EMNLP今年的投稿数量达到4909篇,创历史新高。我们通过对比EMNLP 2022年和2023年收录的论文研究方向变化,观察到在近两年的时间里,自然语言处理的研究由传统NLP的算法优化转变至大模型的性能优化,大模型调优领域或进入学术攻坚阶段,论文数量显著提升;大模型评估作为AI发展的重要工具,也成为今年的热门论文产出赛道;机器翻译、自然语言理解、上下文理解领域或已进入大模型的规模性应用阶段,个别方向被LLM颠覆,如BERT模型,论文数量显著下降。
2022年:前沿研究集中于传统NLP的算法优化、性能评估、算法稳定性等,针对LLM的对话系统、模型蒸馏、文本生成方向的研究较少。我们统计了2022年EMNLP会议上被正式收录的829篇论文,通过对论文摘要进行总结,得到若干关键词,并进行词频统计。提示词解释研究量仍旧居高不下,多语言处理论文量上升,成了一门相对独立的赛道;图形-文字的多模态研究变多;与推理优化有关的(例如常识推理、问题分解、定量推理)研究变多。获奖论文的研究集中于多模态泛化和模型性能评估两个领域。
2023年:由传统方法转向拥抱LLM,集中攻关现有LLM的不足,研究方向集中于LLM、模型性能优化、模型性能评估、多模态学习、多模态数据对齐等。我们认为,EMNLP 2023的入围论文更加注重用户提示词处理、推理优化、减少幻觉、模型评分几个新维度,会议重点在于围绕LLM的可用性(AI能否正确、流畅地回答问题)、实用性(LLM向Agent的进化)和耐用性(AI对算力资源的利用率,即绿色AI)进行学术研究工作的组织和引导。获奖论文集中于上下文学习、模型泛化性能评估、模型蒸馏、常识推理、AI Agent、模型安全等领域,可以说是针对AI现存的痛点进行攻关。
同时,由于LLM迭代速度超预期,对比今年7月的ACL 2023会议,EMNLP 2023的研究赛道(Track)经过主动调整,数个主题出现合并、删除或增加:语言多样性赛道和多语性以及跨语言自然语言处理合并为了多语言和语言多样性赛道;语义学中的词汇和句子两个赛道被合并;删除了ACL 2023新增加的大语言模型赛道,并改为更加细化的常识推理、自然语言处理的高效方法、以人为中心的自然语言处理和语言建模和语言模型的分析。
通过学术界前沿研究方向的梳理,我们得出结论:一是大语言模型作为一项颠覆性发明,深刻改变了学术与产业两端,随着理论与实践的相互作用,未来“AI将深刻改变人类社会”的观点将进一步被映证;二是前沿研究目前仍旧集中于模型调优,或许说明该方向的研究对提升现有大模型的能力的边际变化最为显著;三是针对多模态模型的研究正在逐步深入,从去年较热门的数据对齐到今年的少样本泛化,我们认为未来多模态模型的表现有望再进一步惊艳人类用户,增强对AI的信心。
算力——
光通信:中际旭创、新易盛、天孚通信、太辰光、腾景科技、光库科技、光迅科技、德科立、联特科技、华工科技、源杰科技、剑桥科技、铭普光磁。
算力调优/调度/租赁:恒为科技、思特奇、中科金财、东方材料、博睿数据、中贝通信、中科曙光、中国移动、中国联通、中国电信。
算力设备:中兴通讯、紫光股份、锐捷网络、盛科通信、菲菱科思、工业富联、寒武纪、震有科技。
液冷:英维克、申菱环境、高澜股份、佳力图。
边缘算力承载平台:美格智能、广和通、移远通信、初灵信息、龙宇股份、网宿科技、佳讯飞鸿。
卫星通信:中国卫通、中国卫星、震有科技、华力创通、电科芯片、海格通信。
数据要素——
运营商:中国电信、中国移动、中国联通。
数据可视化:浩瀚深度、恒为科技、中新赛克。BOSS系统:亚信科技、天源迪科、东方国信。
风险提示:AI发展不及预期,算力需求不及预期,市场竞争风险。
一、投资策略:AI前沿:顶级AI峰会关注了哪些新方向?
本周建议关注:
算力——
光通信:中际旭创、新易盛、天孚通信、太辰光、腾景科技、光库科技、光迅科技、德科立、联特科技、华工科技、源杰科技、剑桥科技、铭普光磁。
算力调优/调度/租赁:恒为科技、思特奇、中科金财、东方材料、博睿数据、中贝通信、中科曙光、中国移动、中国联通、中国电信。
算力设备:中兴通讯、紫光股份、锐捷网络、盛科通信、菲菱科思、工业富联、寒武纪、震有科技。
液冷:英维克、申菱环境、高澜股份、佳力图。
边缘算力承载平台:美格智能、广和通、移远通信、初灵信息、龙宇股份、网宿科技、佳讯飞鸿。
卫星通信:中国卫通、中国卫星、震有科技、华力创通、电科芯片、海格通信。
数据要素——
运营商:中国电信、中国移动、中国联通。
数据可视化:浩瀚深度、恒为科技、中新赛克。BOSS系统:亚信科技、天源迪科、东方国信。
本周观点变化:
本周,A股光通信进入横盘缓跌,AI 50指数成交量收缩,美股纳斯达克指数较上周成交量亦有所下降,市场进入暂时的平淡期。我们认为,无论是市场缩量,或是游戏行业政策变化的影响,拉长时间线来看都是贝塔的小幅波动。
事实上,资本市场与学术、产业的情绪呈现出相反走势。一方面,资本市场进入业绩真空期,叠加AI、算力的边际变化弱,市场对AI的情绪较为平淡,美、A股相关龙头呈现横盘震荡走势;另一方面,自然语言处理的顶级会议EMNLP 2023结束不久,一些与会者对AI大模型充满信心,认为NLP正在深刻改变所有学者的认知,同时,随着AI能力的不断完善,“AI将深刻改变人类社会”的观点正被广泛接受,NLP重新成为朝阳产业。投资者可以适当将情绪与学术界进行对齐。
二、行情回顾:通信板块表现下跌,运营商表现最佳
本周(2023年12月18日-2023年12月22日)大盘收于2915点。各行情指标从好到坏依次为:上证综指>沪深300>万得全A>万得全A(除金融,石油石化)>中小板综>创业板综。通信板块下跌,表现劣于大盘。
从细分行业指数看,运营商上涨1.6%,卫星通信导航、区块链、云计算分别下跌1.9%、4.5%、4.6%,表现优于通信行业平均水平;通信设备、光通信、物联网、量子通信、移动互联分别下跌5.5%、5.6%、5.8%、5.9%、7.5%,表现劣于通信行业平均水平。
本周受益利空出尽,*ST新海上涨17.98%,领涨板块。受益边缘计算概念,龙宇股份上涨10.72%,受益基本面向好,广博股份上涨7.52%,受益北斗概念,华力创通上涨5.43%,受益基本面向好,ST鹏博士上涨3.81%。
三、周专题:AI前沿:顶级AI峰会关注了哪些新方向?
EMNLP(Empirical Methods in Natural Language Processing)是自然语言处理领域的顶级会议之一,由于今年ChatGPT等AI应用的问世,聊天型AI和自然语言处理概念得到学术界的进一步深入关注,EMNLP今年的投稿数量达到4909篇,创历史新高。我们通过对比EMNLP 2022年和2023年收录的论文研究方向变化,观察到在近两年的时间里,自然语言处理的研究由传统NLP的算法优化转变至大模型的性能优化,大模型调优领域或进入学术攻坚阶段,论文数量显著提升;大模型评估作为AI发展的重要工具,也成为今年的热门论文产出赛道;机器翻译、自然语言理解、上下文理解领域或已进入大模型的规模性应用阶段,个别方向被LLM颠覆,如BERT模型,论文数量显著下降。
2022年:前沿研究集中于传统NLP的算法优化、性能评估、算法稳定性等,针对LLM的对话系统、模型蒸馏、文本生成方向的研究较少。我们统计了2022年EMNLP会议上被正式收录的829篇论文,通过对论文摘要进行总结,得到若干关键词,并进行词频统计,词云如下图所示。提示词解释研究量仍旧居高不下,多语言处理论文量上升,成了一门相对独立的赛道;图形-文字的多模态研究变多;与推理优化有关的(例如常识推理、问题分解、定量推理)研究变多。获奖论文的研究集中于多模态泛化和模型性能评估两个领域。
2023年:由传统方法转向拥抱LLM,集中攻关现有LLM的不足,研究方向集中于LLM、模型性能优化、模型性能评估、多模态学习、多模态数据对齐等。我们认为,EMNLP 2023的入围论文更加注重用户提示词处理、推理优化、减少幻觉、模型评分几个新维度,会议重点在于围绕LLM的可用性(LLM能否正确、流畅地回答问题)、实用性(LLM向Agent的进化)和耐用性(LLM对算力资源的消耗,即绿色AI)进行学术研究工作的组织和引导。获奖论文集中于LLM上下文学习、模型泛化性能评估、模型蒸馏、常识推理、AI文档处理、模型安全等领域,可以说是针对AI现存的痛点进行攻关。
同时,由于LLM迭代速度超预期,对比今年7月的ACL 2023会议,EMNLP 2023的研究赛道(Track)经过调整,数个主题出现合并、删除或增加。
语言多样性(Linguistic Diversity)赛道和多语性以及跨语言自然语言处理(Multilingualism and cross-lingual NLP)合并为了多语言和语言多样性(Multilinguality and Linguistic Diversity)赛道。
语义学中的词汇(Semantisc:Lexical)和句子层面(Semantics:Sentence-level Semantics etc.)的两个不同赛道被合并。
删除了ACL 2023新增加的大语言模型(Large Language Models)赛道。
增加了常识推理(Commonsence Reasoning)、自然语言处理的高效方法(Efficient Methods for NLP)、以人为中心的自然语言处理(Human-Centred NLP)和语言建模和语言模型的分析(Language Modeling and Analysis of Language Models)。
与会者认为,NLP领域在短短两年时间内发生重大变迁,从2022年的略感悲观到2023年的全面拥抱LLM,令学术界充满研究动力。
通过学术界前沿研究方向的梳理,我们得出结论:一是大语言模型作为一项颠覆性发明,深刻改变了学术与产业两端,随着理论与实践的相互作用,未来“AI将深刻改变人类社会”的观点将进一步被映证;二是前沿研究目前仍旧集中于模型调优,或许说明该方向的研究对提升现有大模型的能力的边际变化最为显著;三是针对多模态模型的研究正在逐步深入,从去年较热门的数据对齐到今年的少样本泛化,我们认为未来多模态模型的表现有望再进一步惊艳人类用户,增强对AI的信心。
四、我国5G基站总数达328.2万个,占移动基站总数的28.5%
C114讯 工信部发布2023年1-11月份通信业经济运行情况。1-11月份,电信业务收入增长稳定,电信业务总量较快增长;5G、千兆光网、物联网等新型基础设施建设加快,网络连接终端用户规模不断扩大;云计算等新兴业务拉动作用持续增强,助推行业高质量发展。
在通信能力方面,千兆光纤宽带网络建设稳步推进。截至11月末,全国互联网宽带接入端口数量达11.33亿个,比上年末净增6194万个。其中,光纤接入(FTTH/O)端口达到10.92亿个,比上年末净增6624万个,占互联网宽带接入端口的96.3%。截至11月末,具备千兆网络服务能力的10G PON端口数达2272万个,比上年末净增749.6万个。
5G网络建设加快推进。截至11月末,5G基站总数达328.2万个,占移动基站总数的28.5%。
在业务使用方面,移动互联网流量较快增长,11月DOU值创年内新高。1-11月份,移动互联网累计流量达2728亿GB,同比增长14.6%。截至11月末,移动互联网用户数达15.1亿户,比上年末净增5611万户。11月当月户均移动互联网接入流量(DOU)达到17.99GB/户·月,同比增长8.5%,较上年12月份高1.81GB/户·月。
语音和短信业务持续收缩。1-11月份,移动电话去话通话时长完成2.06万亿分钟,同比下降2.1%;固定电话主叫通话时长完成736.4亿分钟,同比下降4.2%。1-11月份,全国移动短信业务量同比增长0.2%,增速较1-10月份回落1.1个百分点;移动短信业务收入同比下降0.3%,降幅较1-10月份收窄0.8个百分点。
五、中国移动段晓东:算网一体定义算力网络未来
C114讯 由绿色计算产业联盟(GCC)和边缘计算产业联盟(ECC)联合举办的2023计算产业生态大会(CIEC)在北京隆重召开。大会围绕“凝心聚力,共赢计算新时代”主题,邀请了梅宏院士、于海斌院士、王怀民院士、工业和信息化部电子信息司副司长徐文立致辞,以及邬贺铨院士、冯登国院士和中国电子技术标准化研究院、中国移动研究院等各计算行业专家和代表发表主旨演讲,共同助力计算产业生态繁荣,推动计算产业健康可持续发展。
中国移动研究院副院长段晓东受邀参加主论坛,并作题为《算网一体定义算力网络未来》的主旨演讲。
段晓东指出,通信网络正加速向新型信息通信网络演变,中国移动敏锐把握算力时代发展脉搏,发挥运营商网络领先优势,以网强算提出“算力网络”全新理念,两年来,继往开来、开拓创新,全力推进算力网络发展。以算为核心,以网为根基,算力与网络的融合体现在“以算促网”和“以网强算”两个方面,二者“双向驱动”,为了进一步呈现整体的能效、性能和利用率优势,需要算网一体化的系统思维和多学科交叉创新。
段晓东提出,算网一体是算力网络的目标,当前我们已走过算力网络“泛在协同”的重要阶段,正迈入 “融合统一”的发展新阶段。为构筑算力网络发展源动力,中国移动开创算网一体原创技术体系,已形成一批标志性的原创技术。算网一体需要解决三大核心技术问题,一是面向网络和计算的联合优化问题,二是构筑新型智算中心的问题,三是大规模数据广域高效传输的问题。基于此,中国移动前瞻布局了算力路由、全调度以太、算力原生、数据快递等一系列原创技术方向。
算力路由(CATS)为中国移动原创提出的算网一体核心技术之一,通过将算力因子引入路由域,实现网络和计算的联合优化,克服边缘计算带来的“性能反转”问题。算力路由的关键技术聚焦在算力度量、合理的算力信息通告、多因子路由求解等问题,在突破传统互联网路由体系的同时,需要面向当前互联网构建合理兼容的技术发展路径。历经4年,中国移动在IETF发起成立算力路由工作组(CATS, Computing-Aware Traffic Steering)并担任主席,是IETF路由域近20年由中国高校/公司牵头成立的两个工作组之一,标志着算网一体技术体系里程碑式的进展。
同时,中国移动提出并攻关全调度以太网(GSE)、算力原生(CAMA)、数据快递(GSN)等算网一体核心技术。全调度以太网是对以太网转发机制的创新,可最大限度兼容以太网生态,构建无阻塞、高带宽、低时延的新型智算中心网络。算力原生为异构算力构建统一抽象机制,开创以基础软件栈引领我国智算生态融通发展的全“芯”路径。数据快递基于新型传输协议,实现超长距广域网环境下的超高吞吐数据传输。中国移动联合国内外主流厂商、高校发起GSE推进计划,研发“芯合”算力原生平台,发布“数据快递”白皮书并推动贵州FAST到北京国家天文台的广域长肥网络测试,深化算网一体的技术研发。
算网一体由中国移动研究院团队首创提出,是网络和计算交叉融合产生的新型学科,是构筑算力网络发展动力的重要源泉,是促进算力网络产业融合发展的坚实举措。为了更加全面推进算网一体技术和产业的发展,中国移动打造算力网络试验示范网(CFITI),面向基础学科和前沿技术创新形成技术支撑平台;构建算力网络产业链合作机制,成立多种攻关战队开展协同攻关,取得了丰富的原创技术成果并达成产业共识。
面向未来,段晓东呼吁“以网强算”“算网一体”,倡议产学研各界携手推动跨学科交叉融合创新,共创计算产业更加美好的未来。
六、李正茂:运营商要重回科技公司的“光明大道”
C114讯 在“2023通信产业大会暨第十八届通信技术年会”上,IEEE 杰出行业领袖、全球云网宽带产业协会董事会主席、中国电信原总经理李正茂表示,电信公司未来的发展,应该重回科技公司的光明大道,从Telco到Techco转型。
李正茂表示,信息通信业的发展就是科技的进步史。从莫尔斯电报机,到贝尔电话机,到马可尼无线电报机,到传真机,到贝尔实验室无线电接收器,一直到现在的5G、算力网络等等,现代通信技术的进步深刻改变人类社会的发展进程。
这一过程中,电信公司一直是科技创新的引领者和贡献者。贝尔实验室作为行业标杆,当时也是美国国际电话电报公司的下属研究院,多人获得诺贝尔奖、图灵奖,是晶体管,激光器,数字交换机,通信卫星,蜂窝移动通信设备等重大发明的诞生地,几乎涵盖信息通信的各个领域。
不过,过去20多年,电信公司的整体情况并不理想,虽然公司规模很大,但是最近几年面临着巨大的业务转型压力。以世界500强排名为例,2010年大概有27家电信公司上榜,但是现在大概有22家,同时排名在不断下滑,市值更是被互联网公司超过。
李正茂认为,出现这一情况的原因在于科技创新,因此在全球科技创新进入空前密集活跃时期的当下,电信公司要重回科技公司的光明大道。
李正茂回忆道,有院士曾表示,“电信公司如果再不加大科技创新,可能会自废武功,变成没有科技能力的公司,什么都依赖供应商。设备依赖设备商,做系统集成、服务依赖第三方,自己就是做管理,找找客户,甚至有的时候走走账,这样是不行的。”
最近几年电信公司逐渐认识到这个问题,正在加大科技投入。目前三大电信公司在研发上的投入,占收入的比重大概3%—4%的水平,虽然有所改观,但作为科技公司,投入至少要5%以上,如果要成为领先的科技公司,至少10%。
“做好这件事,需要明确向科技型公司转型的战略,尽快建设适应科技企业的体制机制,建立科技型公司的文化,核心还是靠人才。”李正茂强调,科技创新日新月异,从电信公司Telco到电信科技公司Techco的转变,是时代的选择,也是唯一的出路。
八、三星及Naver展示最新AI芯片 能效比英伟达芯片高8倍
C114讯 三星电子和Naver展示了他们在最近的一年里共同开发的人工智能(AI)半导体,该产品能效比英伟达等竞争对手的芯片高出约8倍,预计将为Naver的超大规模AI模型HyperCLOVA X提供支持。
韩国科学技术信息通信部12月19日举行“第四次AI半导体高层战略对话”,展示韩国AI半导体企业成就。Naver和三星电子开发的AI半导体以现场可编程门阵列(FPGA)的形式亮相,该半导体预计将用于运行Naver的HyperCLOVA X。
Naver表示,这款AI半导体的能效比英伟达等公司的竞争产品高8倍。这是通过集成低功耗、紧凑型双倍数据速率(LPDDR)DRAM以提高效率来实现的。更高的能效意味着可以用更少的功耗实现相同的计算性能,从而能够以更低的成本执行大规模计算任务。
此前,三星电子和Naver已于2022年12月签署了开发AI半导体解决方案的谅解备忘录(MOU),并成立了工作组。
韩国政府计划到2030年分三个阶段增强国产AI半导体。第一阶段涉及将国产神经处理单元(NPU)应用于数据中心并提供基于云的AI服务。
九、IDC:2024年中国AR市场出货预计增长101.0%
C114讯 2024年将是AR/VR产业发展漫长画卷中至关重要的一年。十年磨一剑的Apple Vision Pro终将亮相消费者市场,头部开发者将交出怎样的答卷?
IDC总结并给出了2024年中国AR/VR市场的十大洞察,具体内容如下:
洞察一:2024年,中国AR市场出货预计增长101.0%,分体式AR出货预计占整体AR市场的87.6%
2023全年,中国AR市场全年出货预计24万台,同比增长133.9%。其中一体式AR出货预计3.5万台,分体式预计AR(目前产品大多需连接智能手机使用)出货20.5万台。2024年,AR出货预计将持续高速增长,增速预计达101.0%。分体式AR仍将是AR品类的主流,但值得关注的是,伴随高通AR专用芯片发布及光波导技术进步,主流厂商将接连发布或迭代一体式AR眼镜,预计2024年全年出货6万台,增长68.5%。
洞察二: AI助力AR/VR设备向智慧生活场景加速渗透,AR硬件厂商与大模型厂商合作持续深化
2024年,AI+AR的发展趋势将助力眼镜产品实现更好的NLP交互及显示画面呈现。高速的文本处理、准确的智能问答对话、精准的语义理解、高效的指令识别都将在实时翻译、导航出行、视频摄影、生活助手等类型的应用中大放异彩。AR硬件厂商将并行自研+合作模式,与大模型厂商合作款硬件也将陆续上线,引导用户体验、接受、依赖更为高效便捷的新型生产力工具。
洞察三: 图像处理芯片强势入局,高效处理实时信息助力虚实无缝衔接
Apple Vision Pro采用的M2+R1双芯片设计形式使得图像处理芯片的重要性被广泛关注。在视觉体验和空间体验方面,图像处理芯片提供对感官输入的实时处理,降低用户感知周围环境的延时,助力虚实无缝连接。国产芯片厂商在此领域的布局也在不断深化。
洞察四: 围绕视觉体验核心进入“1+3”时代,嗅觉、触觉、听觉感官体验全方位升级,相关组件性能进入高速优化期
2024年,VR设备将大步实现从LCD屏到Micro-OLED屏幕的显示升级,AR眼镜在光学方案上,也将进行Birdbath方案到光波导方案的产品过渡,视觉体验将大幅改善。在视觉之外,在发声单元上,AR眼镜定向扬声器在定向传播、音质、隐私方面的设计也将成为厂商竞争的关键点。气体传感器、VR交互手套、手柄线性马达等技术仍将继续优化,以视觉体验为核心,嗅觉、触觉、听觉感官体验全方位升级。
洞察五:场景差异催生多模态交互持续发展,多种交互方式将长期共存
差异化场景需求决定了AR/VR设备在未来将是多种交互方式共存。在娱乐影音、健身运动等场景中,手柄将发挥重要作用;而智能戒指、指环可以帮助用户更好的配合语音实行对AR眼镜的控制;在混合现实头显的生产力场景应用中,手势交互将更为高效率简洁。多种交互方式将互作补充,共同发展。
洞察六:XR设备与其他终端连接紧密度提升,门槛下降
过去,AR/VR设备与外界终端的连接主要通过PC和手机,对于PC的CPU、GPU配置以及手机品牌型号仍有诸多要求与限制。随着连接适配器及应用适配度不断提升,平板电脑、主机游戏机(Switch、PS、Xbox等)、智能汽车都将更好地与AR/VR设备连接,AR/VR设备将更为顺畅的融入智能终端生态,在出行、生产力、娱乐场景中发挥作用。
洞察七:关键部分供应链成本下探持续, XR产业链多个环节国产占比将持续提升
2024年随着Apple Vision Pro上市,国产供应链加速切入,显示屏幕成本开始下探。厂商成本压力开始改善,在后补贴时代更易实现硬件盈利。从供应链布局看,在整机组装、图像芯片、显示屏幕、扬声器、电池等多个环节中,国产占比将持续提升。
洞察八:线下渠道体系不断丰富,厂商进入全方位的销售渠道、营销策略、内容布局、供应链成本的多维度竞争
从渠道体系布局来看,厂商越来越多的开始与总代合作,在线下零售门店方面加大成本投入及布局力度。从营销投放来看,数码爱好者仍是目前厂商广告投放的重点目标人群。在内容布局上,厂商内容应用采取引进+自研并行路线展开竞争。从供应链成本来看,手机等传统硬件厂商更具优势。目前AR/VR终端厂商竞争已从单一的硬件产品竞争,开始转变为销售渠道、营销策略、内容布局、供应链成本的多维度竞争。
洞察九:厂商格局面临重新洗牌
2023年前三季度,Pico在中国VR市场出货份额达58.5%,前三季度均为第一;AR市场出货中,Xreal、雷鸟、Rokid出货占比超70%,排名各季度有所变化。值得注意的是,今年也是中国AR/VR厂商困难重重的一年,若干头部厂商接连面临了裁员、架构调整、资金链困难甚至退出市场等诸多难题。2024年,海外头部厂商有望进入中国市场,Apple新品强势入局,手机厂商AR眼镜新品蓄势待发,中国市场厂商竞争格局充满变数。
洞察十:国内虚拟现实产业标准统一进度将持续加快
近年工信部等单位多次发布虚拟现实与行业应用融合发展行动计划等文件,从基础通用、内容生产、内容分法、测试评价等多方面推动行业标准统一。兼容困难,格式差异、成本高昂仍是全行业需要共同解决的问题。2024年,国内虚拟现实产业标准统一进度将持续加快。
十、苹果取得技术突破:可在iPhone上运行大型语言模型
C114讯 苹果的人工智能研究人员表示,他们已取得一项重大突破,通过一种创新的闪存利用技术,成功地在内存有限的 iPhone 和其他苹果设备上部署了大型语言模型(LLM)。这一成果有望让更强大的 Siri、实时语言翻译以及融入摄影和增强现实的尖端 AI 功能登陆未来 iPhone。
近年来,像 ChatGPT 和 Claude 这样的 LLM 聊天机器人风靡全球。它们能够进行流畅的对话、撰写不同风格的文本,甚至生成代码,展现出强大的语言理解和生成能力。然而,这些模型有一个致命弱点:它们极其“吃”数据和内存,普通手机根本无法满足其运行需求。
为了突破这一瓶颈,苹果研究人员开辟了一条新路,将目光投向了手机中普遍存在的闪存,也就是储存应用和照片的地方。在题为“闪存中的 LLM:利用有限内存实现高效的大型语言模型推理(LLM in a flash: Efficient Large Language Model Inference with Limited Memory)”的论文中,研究人员提出了一种巧妙的闪存利用技术,将 LLM 模型的数据存储在闪存中。作者指出,与传统用于运行 LLM 的 RAM 相比,闪存在移动设备中更为丰富。
IT之家注意到,他们的方法巧妙地利用两种关键技术绕过限制,从而最小化数据传输并最大化闪存内存吞吐量:
窗口化(Windowing):可以将其视为一种回收利用的方法。AI 模型不会每次都加载新数据,而是会重复使用部分已处理的数据。这减少了频繁读取内存的需要,让整个过程更加流畅高效。
行-列捆绑(Row-Column Bundling): 这种技术类似于你读一本书时,不是逐字逐句地阅读,而是成段地阅读。通过更有效地分组数据,可以从闪存中更快地读取数据,从而加速 AI 理解和生成语言的能力。
论文指出,这项技术可以让 AI 模型的运行规模达到 iPhone 可用内存的两倍。这意味着标准处理器 (CPU) 的速度提高了 4-5 倍,图形处理器 (GPU) 的速度提高了 20-25 倍。“这一突破对于在资源有限的环境中部署先进的 LLM 至关重要,极大地扩展了它们的适用性和可访问性,” 研究人员写道。
更快更强的 iPhone AI
人工智能效率的突破为未来的 iPhone 开辟了新的可能性,例如更先进的 Siri 功能、实时语言翻译以及摄影和增强现实中复杂的 AI 驱动功能。该技术还为 iPhone 在设备上运行复杂的人工智能助手和聊天机器人奠定了基础。
苹果开发的生成式 AI 最终可能被整合到其 Siri 语音助手中。2023 年 2 月,苹果举办了人工智能峰会,并向员工介绍了其大型语言模型工作。据彭博社报道,苹果的目标是打造一个更智能的 Siri,与 AI 深度集成。苹果计划更新 Siri 与信息应用程序的交互方式,让用户能够更有效地处理复杂问题和自动完成句子。除此之外,苹果还计划将 AI 添加到尽可能多的苹果应用程序中。
Apple GPT:口袋里的超级大脑
苹果正在研发自己的生成式 AI 模型,代号为“Ajax”,旨在与 OpenAI 的 GPT-3 和 GPT-4 竞争,拥有 2000 亿个参数,暗示其在语言理解和生成方面具有高度复杂性和强大的能力。Ajax 在内部被称为“Apple GPT”,旨在统一苹果机器学习开发,这表明苹果将 AI 更深入地整合到其生态系统中。
The Information 和分析师 Jeff Pu 均声称,苹果将在 2024 年底左右,也就是 iOS 18 发布之时,在 iPhone 和 iPad 上提供某种形式的生成式 AI 功能。Pu 在 10 月份表示,苹果将在 2023 年建设数百台 AI 服务器,2024 年还将建设更多服务器。苹果将提供云端 AI 和设备端处理 AI 相结合的解决方案。
十一、 我国车联网最新进展:已完成超7000KM道路智能化改造路侧通信单元超8500套
C114讯 在“2024中国信通院ICT深度观察报告会”车联网产业创新发展分论坛上,中国信息通信研究院(简称“中国信通院”)发布《车联网白皮书(2023年)》。报告指出,车联网国际竞争日趋激烈,随着人工智能、5G和C-V2X直连通信、大数据等技术加速在汽车领域应用,车联网已成为推动数字时代新经济发展的重要手段。
报告提到,全球汽车工业变革开启智能网联下半程,各国竞相布局智能网联,美欧日韩多举措抢占智能网联协同发展战略制高点。美国批准自动驾驶商用,发布《无人驾驶汽车乘客保护规定》加速车联网部署计划草案;欧盟完善自动驾驶商用配套举措;日本《道路交通法》修正案正式实施,开启L4自动驾驶服务;韩国选择LTE-V2X技术,纳入新车评价规定。
与此同时,我国在自动驾驶测试验证、应用示范及商业化推广方面处于并跑阶段,在网联技术融合创新方面仍然处于领跑地位。
在自动驾驶测试验证方面,我国自动驾驶配套政策与标准体系持续完善。交通部、工信部、公安部、住建部、自然资源部多部委在智能公路基础设施、智能网联汽车准入和上路试点、自动驾驶汽车运输安全服务、自动驾驶相关标准体系建设方面发布文件支撑;
在应用示范方面,地方政府探索自动驾驶立法权推进商用。深圳、上海等发布智能网联汽车管理条例、示范运营实施细则;武汉、北京等开启L4自动驾驶商业试点;
在商业化推广方面,助推车辆5G/C-V2X网联规模商用。交通部、工信部等多部委开展基于C-V2X的II型AEBS系统的试验验证、基于LTE-V2X的信息辅助类技术标准、将C-V2X支持应用功能纳入C-NCAP测评范围。
报告还指出,目前各国充分认识到了车联网新型基础设施的重要赋能作用,政策资金支持力度持续增强。美国拟加强全国范围车联网部署推进一致性服务,欧洲持续加强车联网基础设施部署,推进大规模示范应用,日韩面向自动驾驶和交通能力升级积极部署路侧基础设施。
我国也在持续加强车联网新型基础设施建设,建设规模领跑全球。截至2023年10月,全国部署车联网路侧通信单元超8500套,相比去年同期增长超2000套。已完成超7000多公里道路的智能化改造。
除此以外,我国已有30余个城市和高速公路路段启动车联网融合基础设施建设工作。呈现从单一区县 (单一高速路段) 部署向多区县 (多高速路段) 部署乃至市级全域 (全路段)部署的发展趋势。
十二、风险提示
AI发展不及预期,算力需求不及预期,市场竞争风险。
本文节选自国盛证券研究所已于2023年12月24日发布的报告《国盛通信|AI前沿:顶级AI峰会关注了哪些新方向?》,具体内容请详见相关报告。
宋嘉吉 | S0680519010002 | songjiaji@gszq.com |
黄瀚 | S0680519050002 | huanghan@gszq.com |
赵丕业 | S0680522050002 | zhaopiye@gszq.com |
特别声明:《证券期货投资者适当性管理办法》于2017年7月1日起正式实施。通过微信形式制作的本资料仅面向国盛证券客户中的专业投资者。请勿对本资料进行任何形式的转发。若您非国盛证券客户中的专业投资者,为保证服务质量、控制投资风险,请取消关注,请勿订阅、接受或使用本资料中的任何信息。因本订阅号难以设置访问权限,若给您造成不便,烦请谅解!感谢您给予的理解和配合。
重要声明:本订阅号是国盛证券通信团队设立的。本订阅号不是国盛通信团队研究报告的发布平台。本订阅号所载的信息仅面向专业投资机构,仅供在新媒体背景下研究观点的及时交流。本订阅号所载的信息均摘编自国盛证券研究所已经发布的研究报告或者系对已发布报告的后续解读,若因对报告的摘编而产生歧义,应以报告发布当日的完整内容为准。本资料仅代表报告发布当日的判断,相关的分析意见及推测可在不发出通知的情形下做出更改,读者参考时还须及时跟踪后续最新的研究进展。
本资料不构成对具体证券在具体价位、具体时点、具体市场表现的判断或投资建议,不能够等同于指导具体投资的操作性意见,普通的个人投资者若使用本资料,有可能会因缺乏解读服务而对报告中的关键假设、评级、目标价等内容产生理解上的歧义,进而造成投资损失。因此个人投资者还须寻求专业投资顾问的指导。本资料仅供参考之用,接收人不应单纯依靠本资料的信息而取代自身的独立判断,应自主作出投资决策并自行承担投资风险。
版权所有,未经许可禁止转载或传播。