推理
-
边缘AI的新机遇:推理成本下探,刚需场景上位
几乎每隔一段时间,业界就会迎来一个又一个新模型的出现,本地模型的快速迭代激发了边缘AI更多的可能性,以往需要云端AI来完成的代码编写、图像视频生成、数据管理等工作,如今在本地即可完成。模型能力的持续演进,也让推理成本产生了下降,不过推理需求也在成倍增长。至于未来企业AI账单的大小,就需要考量工作负载在云端与边缘的分配。但部分场景,目前已经出现了非部署在边缘不可的趋势。
-
1.5台6000D跑赢一台B300!——PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍
随着大模型对算力需求持续攀升,GPU卡的采购成本、供给约束持续加剧。AI推理的竞争正在悄然发生转向:不再单纯比拼“谁能够买到性能最顶级的硬件”
-
OpenAI现场演示无APP手机:所有界面实时生成 推理甩给云端GPT
OpenAI现场演示无APP手机:所有界面实时生成 推理甩给云端GPT
-
阿里云面向Agentic时代全面升级,发布全新“芯-云-模型-推理”技术体系
5月20日消息(报道:李楠)今日,阿里云在峰会上宣布完成"芯片-云-模型-推理"全栈Agent化升级,同步推出全新AI产品官网"千问云"、搭载自研AI芯片真武M890的超节点服务器,以及最新旗舰模型Qwen3.7-Max。 这是国内云厂商首次围绕Agent进行全栈产品发布。阿里云资深副总裁刘伟光表示, Agent...
-
海康存储亮相2026人工智能基础设施峰会 加速布局AI推理存储新赛道
4月17日,由DOIT主办的“智算筑基生态共生”2026人工智能基础设施峰会在上海举行。当前,AI正从训练主导....
-
6G时代的智能设备:反思自身、协同彼此、共同推理
经历了MWC26,很多人都对6G有了更加直观的认识,如同5G时代的高速率、低时延、广连接,6G给出的答案是连接、广域感知和高性能计算。不过,正如5G当初所畅想的智能工厂与万物互联,6G自然也需要一些与实际生活紧密结合的案例演示来让公众对未来产生触手可及的感觉。在MWC26的一些案例展示中,就有一些与智能手机、可穿戴设备、XR眼镜强相关的6G连接示例,不妨管中窥豹,了解下6G里的AI智慧到底能发挥什么样的现实作用。
-
NVIDIA 推出代理式 AI 蓝图与电信推理模型,推动自主网络发展
自主网络,即具备智能、可自我管理能力的电信运营系统,正从未来愿景转变为当前电信运营商的优先战略。在NVIDIA最新发布的《电信行业AI发展现状及趋势》调研报告中,网络自动化已成为投资回报率最高、最受重视的AI应用场景。
-
总参数量超万亿!阿里正式发布千问旗舰推理模型Qwen3-Max-Thinking
1月26日消息(报道:李楠)阿里正式发布千问旗舰推理模型Qwen3-Max-Thinking。该模型总参数量超万亿(1T),预训练数据量高达36T Tokens,是目前阿里规模最大、能力最强的千问推理模型。 千问新模型通过总参数、强化学习、推理计算的极致规模扩展,实现了性能的大幅飞跃,在多项关键性能基准测试中刷新...
-
中国移动首发智算推理集群“运营黄金标准”
近日,中国移动联合合作伙伴在智算运营领域取得重要突破,在行业首创“智算推理集群运营黄金标准”。该标准以用户体验为导向,构建了一套可量化、可评估、可复用的集群运营指标体系,首次实现了对人工智能推理算力服务质量的系统化、标准化度量。这一创新标志着AI推理算力发展范式正从“规模扩张”转向“质量跃迁”,推动行业进入精细化运营与高质量发展的新阶段。
-
华为即将发布AI推理领域突破性成果:或能降低对HBM内存依赖
华为即将发布AI推理领域突破性成果:或能降低对HBM内存依赖
-
唯一全国产算力平台训练的深度推理大模型!讯飞星火X1实测:参数“瘦身” 性能“增肌”
唯一全国产算力平台训练的深度推理大模型!讯飞星火X1实测:参数“瘦身” 性能“增肌”
-
悦数 RAG 联手国产大模型顶流 DeepSeek:复杂推理成本直降 70%
基于悦数图数据库打造的GraphRAG产品——悦数RAG,已全面接入国产大模型顶流DeepSeek。这一合作不....
-
硅基流动与华为云联合发布DeepSeek R1&V3推理服务
2月1日,硅基流动和华为云宣布联合发布并上线基于华为云N腾云服务的DeepSeekR1/V3推理服务。
-
让AI自发推理!引发热议的“DeepSeek”到底是个啥
让AI自发推理!引发热议的“DeepSeek”到底是个啥
-
高速端到端 /AI 推理可视化上线 体验理想 V7.0 版本
在11月份全量推送完车位到车位的V6.5版本之后,理想汽车在12月底即将迎来新一轮OTA升级。这一次则是V7.0版本的推送。









