顶点小说

手机浏览器扫描二维码访问

第2024章 ai人物观点 算力十问大模型将横扫所有垂直行业(第2页)

算力创新应用大赛启动会上,中国工程院邬贺铨院士发表题为《算力十问》的主旨报告

就超算、通算、智算三类算力是否存在合理比例的问题,邬院士认为,不同地区需求不同,不可能有固定的比例。

通常国家与区域创新中心城市对超算有较大需求;机密性和时延敏感性决定了城市政务数据和重要企业关键数据尽量在同城通算;东部地区的AI训练任务重、智算比例高;西部算力枢纽也需要增加智算能力,但一般西部地区以配置通算为主。

关于算存比,邬院士强调,存力与算力需配合,避免因存力短缺造成算力等待而影响处理效率。

而存力按位于服务器内外分为内存与外存,对于CPU密集型计算任务,影响算力效率与性能的主要是内存,据分析合理的算存比是GFlopsGB为1;对IO密集计算任务,需频繁访问外存,如何考虑计入外存力的算存比合理取值,值得商榷。

邬贺铨同时指出,存力有HDD机械硬盘和SDD固态硬盘之分,后者可节能70%,但我国SDD仅占24.7%,不及美国一半。

就边缘与终端算力运用的问题,邬院士认为,当边缘终端具有70亿参数以上的推理能力时,边缘终端可离线进行推理任务,目前手机可支持130亿参数,2024年还会出现支持千亿参数的手机。

当边缘终端仅具有10亿参数的推理能力时,需要与云端协同提供智能能力。

邬院士提出,单终端算力小,数以亿计的终端算力集合就非常可观,但跨终端的协同计算是否可行值得商榷。

关于异地算力节点的协同,邬院士认为,将算力集群扩展到跨域,多个异地的算力节点共同承担一个计算任务,实时性的交互要求光传输系统无损和确定性时延,任何丢包和抖动都无法保证计算效率;在异属异构的场景下异地协同计算的实施可操作性更是挑战。

他强调,集约化建设大型算力节点比分布异地协同能够显着提升能效和算力效率,东数西算和数据灾备都需要在异地算力枢纽间建立广域连接,但这仅是算力任务的转移而不是异地实时协同计算。

关于算网协同,邬院士认为,算力与网络往往属于不同的运营主体,跨运营商的协同调度也有管理难题。

而且网络通常并不感知所承载的数据属性。

当前,首先要厘清算网协同的标准与方法,发挥IPv6的分段选路、SRV6作为算网协同统一承载协议的作用,通过编程空间实现云网算网的融通。

这章没有结束,请点击下一页继续阅读!

就如何解除中小企业使用算力的顾虑,邬院士建议,政府站台主导建设面向中小企业的云智平台,降低企业利用算力的门槛和对安全的担心。

——总结·点评——

沈向洋博士和邬贺铨院士的观点分别从大模型的发展趋势和算力的多维度问题出发,为理解AI技术演进和基础设施建设的现状与未来提供了深刻洞察。

沈向洋观点概览:

沈向洋认为,大模型(largelanguagemodels)将在所有垂直行业中扮演颠覆性角色,强调了模型规模的重要性。

他指出,未来的通用大模型将以万亿参数为常态,而针对特定行业的模型则可能达到千亿参数级别,即便是企业内部使用的模型也将达到百亿参数量级。

沈向洋的观点预示着大模型技术不仅将继续推动自然语言处理等领域的进步,还将广泛渗透至医疗、金融、教育等各行各业,成为推动数字化转型的关键力量。

邬贺铨观点概览:

邬贺铨院士的《算力十问》报告则从算力的需求、分配、效率、协同等多个角度进行了深入探讨。

他指出,不同类型的算力(超算、通算、智算)需求因地区而异,强调了存算比优化的重要性,并区分了不同类型计算任务对内存与外存的不同依赖。

邬贺铨还讨论了边缘计算与终端算力的潜力,提出随着终端设备推理能力的增强,边缘计算与终端协同将成为趋势,但也面临跨终端协同计算的挑战。

关于算力节点的异地协同,他认为虽然存在技术与管理上的挑战,但算网协同和标准化工作对于提升整体效能至关重要。

针对中小企业,邬贺铨建议政府应发挥作用,通过构建云智平台来降低算力使用门槛,增强安全性信心。

两位专家的观点综合展示了AI技术发展与算力基础设施建设的广阔前景及面临的实际挑战,指明了技术创新与政策支持对于推动行业发展的关键作用。

喜欢灵魂交响曲:人工智能日记请大家收藏:(www.cwzww.cc)灵魂交响曲:人工智能日记

热门小说推荐
刚成仙神,子孙求我出山

刚成仙神,子孙求我出山

投胎成为景朝立国的第一位太子,姜长生刚出生就被奸人调包,后被送到一道观中,成为一名普通的小道士。从太子到无人问津的小道士,人生跌落,好在姜长生开启生存系统,无限寿命,只要度过人生磨难,便可获得生存奖励。...

战国赵为王

战国赵为王

一个两千年后的灵魂,穿越到了公元前260年赵孝成王丹的身上。为了摆脱将来沦为秦始皇一统天下垫脚石的命运,赵丹决定还是把这个统一天下的担子放在自己肩膀上好了。但在那之前,赵丹得应对一个迫在眉睫的问题。此时此...

修仙界第一大祸害林小鹿

修仙界第一大祸害林小鹿

凡人流无系统与传统仙侠写法不同,不喜勿入那一年,七岁的男孩儿带着妹妹踏入了修仙界,然后,修仙的全疯了!  出来修仙,你天赋好不好,宝贝多不多,有没有机缘,这些都不重要,但你一定要记住,有一个人你不能惹。  虽然这个人并不是什么修仙之人。  但是他的刀,比光还快,快到你根本来不及调动灵力。  他的拳,比天还重,重的可以一拳让这个世界停止自转。  他的嘴,比我还贱,贱的可以让烈阳流泪,让皎月燃烧。  他是谁?他是一个没有修仙天赋,却在修仙界练武的靓仔。  多年以后,修仙界一众大佬们问他林大靓仔,你一个练武的为啥非要跑到修仙界呢?  少年笑嘻嘻的回答道我只是没有修仙的天赋而已,但我超喜欢在修仙界玩耍的,那里面个个都是人才,说话又好听,还有各种花里胡哨的特殊才华,哎哟我超喜欢里面的。  修仙大佬们集体绝望喜欢?喜欢你提着把刀砍了半个修仙界?各位书友要是觉得那些年,我们一起砍过的修仙者还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...

恨晚

恨晚

陶醉是一朵含苞待放的小白花。含情脉脉,羞羞答答。骆北寻偏要上手扒开来,逼着她绽放。最后才发现,她似彼岸花般艳,比罂粟花还毒。让他一秒沉沦,弥足深陷。...

禁地:扮演罗,队友白月魁

禁地:扮演罗,队友白月魁

蓝星资源枯竭,人类濒临灭绝,国运禁地降临。每个国家挑选三人进入禁地,选手与国家绑定,所获得的资源将百倍具现于现实。龙国三名选手绿色卷发萝莉,脚踩恨天高的白发花瓶女,以及一个头戴奶牛帽子,手上满是纹身的不良青年!看到代表本国的三名选手,几亿龙国观众直接傻眼。小萝莉,花瓶,不良青年?天要亡我龙国啊!其他国家纷纷嘲讽龙国气运已尽。然而,随着时间的推移,人们发现,小萝莉可腾空操纵万物,念动力碾压一切,白发花瓶手持银月唐刀杀敌如麻,犹如女武神!最为恐怖的是那个自称死亡外科医生的不良青年,手指转动间,竟能...

星河使徒

星河使徒

那个晚秋的雨夜,年少的骑士在天空的车流中横冲直撞,无可抵挡。骑士的执念与理想,少女的依赖与爱恋,死亡与未来之约。为了你,我愿意背负一切,哪怕双手沾满血腥,与全世界为敌!!某日男主拦住作者去路,悲愤大叫养成也就算了,可你给我加入异能者的设定干什么?很搞人的好不好!那个用身体跟机甲干架的人真的是我吗?!放心,作为补偿,我会给你开后宫的。说完作者阴笑着将男主打晕,拖向黑暗的深处...

每日热搜小说推荐