众力资讯网

云侧能力下沉端侧,天数智芯押注算力分层

近日,“从模型到世界”天数智芯2026媒体开放日活动在上海举办。天数智芯把天数智算软件栈和彤央端侧算力终端摆到台前,并预告标称算力达600T的下一代端侧产品TY2000。
整场开放日讲的是算力如何真正落到开发者手里、落到数据旁边:一边让AI参与AI开发,把工程师的经验变成更多开发者可用的工具;一边把云侧能力下沉到端侧,让算力按任务分层。
Agentic AI软件栈:
一位工程师的经验服务千万开发者
装一套GPU服务器环境,从来不是件轻松事。GPU驱动、计算运行时、AI框架及其依赖要相互匹配,还要适配具体GPU型号和操作系统;企业服务器还涉及命令行操作、权限控制、网络隔离和多用户共用。
出了问题,简单的开发者可以自己翻文档、逐项排查,复杂的只能等原厂专家支援。可专家人数有限,项目一多,排队就成了常态。
而天数智芯的解决方案就是把安装部署、性能诊断、调优策略这些经过验证的步骤和方法,沉淀成Agent可以调用的Skills。开发者说清目标和约束,Agent负责调工具、读结果、按反馈调整,关键节点由人拍板。
现场演示了一组对比:传统手动安装一套GPU环境,熟练工程师也得人工操作至少十步;交给Agent后,安装与PD分离部署只需要一句话即可完成。调优也一样,过去工程师盯着运行数据找瓶颈,一个任务约1周;现在Agent借助工具分析、给方案、再验证,不到2小时完成,运行性能接近翻倍。开发环节,某主流模型适配与调优过去要10人/天,现在Agent辅助下同样不到2小时就完成,编译反馈等待时间更是下降90%以上。
变化的不只是速度,而是效率,把一个人的能力复制到所有使用天数智算软件栈的开发者身上。过去装环境、调性能、写算子,很多活默认交给资深工程师;现在普通开发者借助Agent,也能把专家验证过的方法跑一遍。经验不再只跟着人走,而是留在工具里反复使用。
天数智芯副总裁宋煜透露,公司已服务超过380家客户,覆盖30多个行业,依托软件栈能力,客户的应用迁移时间在小时以内,优化时间在天级或周级。例如使用四五年前设计的二代卡的客户,遇到最新发布的DeepSeek V4.1 Flash模型,在官网升级软件后,一两天内就能用上。这套软件生态的跟踪效率,让老卡也能跟上主流模型的变化。
这背后是软件栈的三层变化:从“能用”,到“好用”,再到“持续好用”。安装部署让环境跑起来,性能工具让资源用充分,Agent与FlyDSL协同让更多开发者参与高性能开发。过去是GPU加速AI,现在AI也开始反过来加速GPU的开发和优化。
边端算力:
技术上“可以”,经济上“值得”
物理AI的数据量正在爆发。工厂产线上的传感器、路上的机器人、医院里的陪诊设备,每秒都在产生大量数据,很多任务还要求毫秒级响应。数据全传回云端处理,时延等不起,带宽也吃不消;涉及合同、财务、核心源代码的任务,数据更不能随便出门。
如何把算力送到端侧?天数智芯彤央产品市场负责人宋远盈指出,随着小参数模型能力持续提升,以前要72B才能完成的事,如今27B就能做到,这让边端第一次“可以”装得下、跑得动真正的智能。而从经济层面考虑,算力分层其实为客户提供了一种更“值得”的选择,简单任务不必上云,端侧算力即可满足。
现场展示的彤央TY1200,就是这种思路下的一台桌边算力终端。它标称300 TOPS稠密算力,不是行业惯用的稀疏峰值。单看标称数字,TY1200不如英伟达Jetson Thor T5000显眼。但实测是另一回事:跑Qwen3.8-27B,TY1200性能是Thor T5000的138%;跑MoE架构的Qwen3.6-35B-A3B,达到110%。
更值得一说的是英伟达自家开源的世界模型Cosmos,在Cosmos-R2-2B上TY1200跑出Thor的158%,R2-8B上达到180%。用宋远盈的话说,这是在英伟达的主场赢了英伟达。
跑分之外,现场的全部演示在现场的TY1200上本地进行,银色的机身后面只有一根电源线,不联网、不上云。现场随机出题,基于MiniMax H3开源视频模型,约6分钟生成一段1056×608分辨率、5秒长的视频,不产生一分钱云端调用费。一份1万字的软件合同丢进去,一两分钟把高中低风险逐条标出,还附上法律法规和企业内部规则依据。对有些行业来说,数据不出门不是加分项,是入场券。
现场还有一只“手搓版”机器鸭,团队拿到鸭子到部署完模型只用了三四天,这是首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真。围绕这台机器鸭,彤央TY1200边端盒子完成了物理仿真、策略训练和动作验证,现场这只鸭子不仅站了起来,摇摇晃晃走了几步,还实现了从摔倒到重新站立。
算力分层,说到底是一笔经济账。云端负责大规模训练和复杂复判,端侧承接实时响应、数据安全、现场处理的任务。天数智芯副总裁邹翾在问答中补充,制程受限时,封装、存储、互联和系统架构仍有创新空间;宋煜直言:客户最终看的不是单一芯片峰值,而是相同投入能产出多少Token、多少秒视频。
这场开放日释放出一个信号:不是所有计算都要挤到云端,也不是所有芯片都要拼峰值。让AI开发AI,把云装进盒子,两件事指向同一个答案:算力要放对位置,才算得过来。
南方+记者 郜小平
【作者】 郜小平
【来源】 南方报业传媒集团南方+客户端