为何IT大佬齐聚“DC·AI生态创新中心”?神州数码的AI、智算、生态平台来了

科技看门道 2024-05-21 19:41:42

在神州数码国际创新中心(IIC)37层的露台上,俯瞰整个城市,你会发现远处高楼林立,近处绿地成荫,在中心地带铁塔和游乐场相映成趣,而身后则是云雾缭绕的海湾。

没错,这就是深圳!在这片神奇的热土上,诞生了经济特区和中国速度;诞生了国家物流枢纽、全国性金融中心、国际科技产业创新中心等等。神州数码也沿着深圳的足迹,续写传奇,致力于成为领先的数字化转型合作伙伴。今年的技术年会“数云原力大会2024”上有一个重磅环节,就是神州数码与德勤中国在微软、德勤、IBM、思科、红帽、Adobe等众多神州数码生态合作伙伴的共同见证下,联合启动“DC·AI生态创新中心”,将战略合作进一步落地到项目组,推动“AI 驱动的数云融合”加速落地。

神州数码联席董事长、首席执行官王冰峰(左6)与合作伙伴一起

赋能AI原生知识密集型场景

“当’致广大’已被充分表达,神州数码反而愈加坚定以客户为中心的‘尽精微’,才是真正实现AI着陆的当务之急。”神州数码副总裁、CTO李刚表示,“神州数码在AI时代的差异化定位,就是提供以客户为中心的AI着陆的加速引擎。我们核心是要做到三件事,也就是AI原生的场景赋能、多云异构的绿色智算以及国际化AI的生态创新。”

确实,以ChatGPT为代表的生成式AI从去年开始颠覆了以前业界对AI的认知。阿里巴巴甚至认为,在生成式AI时代,企业有必要将以往的应用全都重新写一遍。最起码如今越来越多的企业已经有了共识,那就是企业应用构建需要更多的AI工具来集成,需要全新的软硬件技术、产品和服务,对整个技术栈和技术生态进行重塑。

在李刚看来,生成式AI在本质上主要颠覆了知识密集型的场景,首先是What型的知识,比如企业设备维修文档、合同文档、使用说明等等,其是像医药行业、法务行业、人力资源领域都是知识密集型的;其次是How型的知识,就是怎么做成一件事情,比如一个销售准备客户拜访,怎么准备?资深销售可以把他对如何提升成功率的认知,通过基于生成式AI的企业应用,普及到公司其它初阶销售,就是典型的应用场景。

神州数码副总裁、CTO李刚

实际上,对于大部分企业来说,其销售费用都是一块非常重要的支出,有些甚至超过了研发费用,营销经理的工作效率和质量直接影响到企业的效益,而销售工作的核心其实是一个高度专业化的知识型工作,包括知识的收集、处理和双向的传导,AI就可以对这个知识密集型的工作提供强大的助力。

针对企业面临的复杂需求和痛点,神州数码推出了神州问学AI原生赋能平台,通过Agent工程、企业知识治理、模型训练与管理三个功能模块的相互协同,在统一开发框架规范、统一工具的治理下,加速企业持续创新AI原生场景。

以Agent工程为例,神州问学已经可以实现企业内外部各个知识库、工具的无缝融合、信息的精准提取以及智能决策,结合外部挂载的各类插件,能够有效理解用户意图,实现自动调用、检索、分析与执行,为每个人匹配了一个“专业助手”,大幅提升企业创新的效率。

换句话说,神州问学帮助企业在AI原生场景创新过程中,从容应对多个外部信息源对接、子任务规划、智能体编排协同、若干模型训练优化的痛点,实现快速开发部署。

拉通多云异构绿色智算平台

如果说神州问学作为一个AI原生赋能平台,整合了上层AI应用开发和运维的各种工具,那么底层的硬件平台显然也需要整合起来,来解决客户面临的智算效能、绿色、复杂异构这些难点。众所周知,具体到企业客户实际场景,异构智算的基础设施架构带来的算力构建选型、部署、运维复杂度,以及智算资源利用率低、数据中心高能耗等多维度挑战都在加剧。“比如一个大模型全参微调的模型训练,原本需要10张A类卡,但由于诸多原因只有2张A类卡,这时候如何把A、B两类卡部署成一个统一的智算集群,是目前客户普遍面临的痛点和挑战。”神州数码副总裁、神州数码信创控股董事长韩智敏解释说,实际上模型浮点计算的利用率存在较大提升空间,关键在于需要基于各个模型的不同特点,通过虚拟化和池化进行最优的算力匹配以及模型部署,这就是神州数码推出的异构智算调度运营平台(HISO)在着力解决的、集群间的算力优化痛点。

神州数码副总裁、神州数码信创控股董事长韩智敏

据悉,该平台基于百分百的云原生技术,实现了GPU资源的池化和跨集群之间的调度能力,并通过GPU的容器直接部署,能够大幅缩短模型的加载时间,及时发现和定位软硬件的故障,实现算力的可观测系统的监测。

当然,面对一云多芯和集群内部的算力资源调度优化,神州数码也开发了全新的异构智算加速平台(HICA),通过自研的底层服务层和中间适配层的调度编排算法,可以实现训练、推理任务在不同品牌、不同型号、不同组层之间的智算集成的混合训练和推理。此外,平台还能将并行任务进行有效分解,使其分别由相应的算力资源来承接,有效降低现有训练集群20%的闲置算力,并且加速吞吐和降低时延,大幅提升了GPU、MFU和MBU的利用率。

如果说HISO解决了智算调度、HICA解决了异构的痛点,那么神州鲲泰全液冷整机柜主要解决的就是高能耗痛点。值得一提的是,该机柜采用了硅光技术来降低调节器的电压,并通过一体化的冷板流量智能调节,提升系统散热并降低互联能耗,使得单柜功率降低至60千瓦,降低了智算中心节点和节点间互联的能耗,同时整机柜交付方案大幅降低了部署和运维复杂度,降低了交付周期,在同类产品中处于领先地位。

事实上,在数云原力大会2024展厅现场,最引人注目的要数矗立在落地窗前的一体化交付的神州鲲泰全液冷整机柜和左侧展柜上的神州鲲泰问学一体机和神州鲲泰训推一体AI服务器了。那里人头攒动,交流合作就此展开。

打造AI商业创新闭环

“通过相关技术和赋能,我们可以大幅提升建模的效率——从原来需要数年的时间缩短到数月。”在神州信息常务副总裁于宏志看来,有了神州问学的加持,神州信息以九天揽月为底座,以数字建模为抓手,推出了建模、开发、测试、运维这四个相关的智能体Agent,实现了金融软件的全生命周期的数据化和智能化。

实际上,建模最终产生的是企业业务的数字孪生,有了数字孪生,企业就可以很容易以数字化的方式来推动后面的流程。从这一角度,建模在某种程度上就是新一代数智化企业的抓手。

而建模又包括了产品模型、流程模型和实体模型。以往,企业级建模通常是由业务人员和科技人员一起来联手完成的,这一过程可能延续数年。而今,九天揽月AI PaaS通过内置的建模助理Agent,包括知识图谱、RPA等技术来管理建模流程、提升建模效率,把时间从原来的数年缩短到数月。

实际上,神州控股近期结合AI大模型通过搭建供应链数字孪生环境,结合规则和业务模型,帮助企业搭建数智供应链决策平台,也实现了齐套率的提升,从而降低了库存量和库存成本。

应该说,企业应用的构建方式变了,因为AI对原有IT生态、技术生态是颠覆性的。本质上,未来大量的应用负载都是模型负载,而模型负载对于技术架构的要求与传统应用不一样,对相应的产品和服务需求都会产生很大的变化,所以技术生态也在发生变化。神州数码一如既往,可以把国内外最先进的技术整合在一起。

神州数码不仅有“DC·AI生态创新中心”这样的国际化技术生态平台,还有自研的软硬件技术平台——其中包括“神州问学”这样的AI原生赋能平台和“HISO”和“HICA”组成的绿色异构智算平台,并且还有神州信息和神州控股这样的行业ISV,可以直接和行业用户深度接触,了解行业痛点和需求。

换句话说,神州数码不仅可以整合上游技术生态,还可以整合行业客户的需求,通过自研的软件AI赋能平台、硬件绿色异构智算平台,搭建更接地气的AI落地解决方案,从而构建完整的商业创新闭环。

很明显,这样的AI商业创新闭环,无论是对客户,还是对千行百业的ISV,还是对于上游的神州数码生态伙伴来说,都在全新的AI时代有着不可或缺的独特价值。神州数码的转型升级,可以说是深圳转型升级的缩影,也是中国转型升级的缩影,不是吗?

文/余文

《科技看门道》坚持深度报道,希望能通过资深媒体人对IT产业热点新闻的深入思考,挖掘其背后的商业逻辑和创新模式——不仅看热闹,更要看门道!

《科技看门道》主笔在行业渠道媒体拥有20余年的从业经历,不仅对IT消费类和企业级软件、硬件、云计算、大数据、人工智能、区块链均有较深入的理解,同时见证了中国IT产业链上下游合作生态圈包括分销、零售、SI、ISV和CSV的进化历程,见证了金融、能源、制造、医疗、教育、政府、零售、高科技等行业的信息化和数字化转型之路。

《科技看门道》相信,IT产业在供给侧的改革——包括云计算、大数据、移动互联、人工智能、区块链等,将会成为推动各行各业“新质生产力”发展进步的核心力量。

0 阅读:0

科技看门道

简介:挖掘商业逻辑和创新模式——不仅看热闹,更要看门道!