超聚变与趋境科技联合首发产品,千亿级多模态大模型装进桌面

强川科技 本站 2025-12-17 15:39 4

近日,超聚变与趋境科技正式同步首发“灵启AI小盒子”。该产品基于 FusionXpark™随身智能体开发平台打造,实现千亿级多模态大模型在桌面设备的稳定运行,打破了大模型本地部署的算力与技术壁垒,使个人拥有专属“超级 AI实验室”成为可能,推动桌面级AI创新进入新阶段。

重新定义大模型私有化,每个人都能成为一线AI研究员

作为本次首发的核心亮点,灵启AI小盒子深度融合趋境科技领先的FP4量化技术与超聚变FusionXpark™强大算力底座。依托nvFP4官方量化标准,该产品实现千亿级参数大模型的高效运行,模型精度误差不超过0.1%,能够保留原生智能性能,同时将显存需求降低至传统方案的30%-40%。

产品搭载趋境科技全球首创的“全系统异构协同推理”与“以存换算”核心技术,联合KTransformers推理引擎与Mooncake分布式推理框架,将大模型本地部署门槛降低10倍。四大核心能力重塑AI开发体验:

● 开机即用:内置主流大模型与趋境科技内置推理引擎、模型运维平台,开机即用,无需耗时配置。

● 超强算力:搭配FusionXpark™平台1 PFLOPS@FP4精度的超强算力与128GB超大内存,单并发推理速度突破30 tokens/s,预填充速度达2100 tokens/s,支持100K超长上下文处理,轻松应对文本生成、多模态交互等复杂任务。

● 运维无忧:内置智能预警机制,提前检测并规避显存溢出等运行风险,为大模型任务提供工程级稳定性保障。

● 多模型并行推理支持:可同时运行大语言模型、Embedding等多类推理实例,为复杂AI应用搭建铺平道路。

内置完整生态,加速价值创造

“灵启AI小盒子”搭载全栈开发生态,为AI创新提供全方位支持:

● LLaMA Factory零代码微调工具支持32B及以下模型可视化定制,非专业开发者也能顺利完成模型优化工作。

● 趋境·智问 智能办公助手提供本地知识库与AI对话功能,可直接管理私密科研资料与工作文档,打造完全私有化的智能办公体验。

● PandaWiki知识库系统与MonkeyCode编程助手覆盖从内容创作到研发协作的全链路,一站式满足从创意构思到产品落地的全流程需求。

依托FusionXpark™仅1.2kg的便携机身与全栈兼容特性,“灵启AI小盒子”可适配多元应用场景,包括个人开发者的创意实验、高校师生的实训教学、中小企业的私有化部署等,真正实现“小体积、大算力、全生态”的应用体验,让高性能AI算力更易获取。

趋境科技源自清华大学高性能计算研究所,由中国工程院院士郑纬民担任首席科学顾问,其全栈技术实力与超聚变FusionXpark™的硬件优势形成强大协同。此次同步首发不仅是AI Infra领域的技术突破,更标志着算力下沉至桌面端的全新范式。

随着该产品的推出,AI创新将不再局限于大厂实验室,每位开发者、每个研究团队都能在桌面之上探索前沿AI可能性,真正开启个人超级AI Lab的发展新阶段。


HOT NEWS
  • AI服务器市场分析,GPU和ASIC谁的份额更高?

    根据IDC最近出的2025年中国人工智能计算力发展评估报告中的内容,2024年全球人工智能服务器市场规模预计为1,251亿美元,2025年将增至1,587亿美元,2028年有望达到2,227亿美元,其中生成式人工智能服务器占比将从2025年的29.6%提升至2028年的37.7%。

    浏览408
  • 四川超聚变服务器总代理_超聚变2488HV6服务器产品介绍

    超聚变FusionServer 2488 HV6服务器是一款高性能的企业级机架式服务器,具有多种优点和特性,适用于数据库、云计算、虚拟化、内存计算、深度学习等多种应用需求。以下是对该服务器的详细介绍:

    浏览50
  • AI显现“失控”风险,OpenAI模型被曝拒绝执行人类指令

    近日,据AI安全公司Palisade Research披露,OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后,拒绝执行并主动干预其自动关机机制。o3曾被OpenAI称为“迄今为止最聪明和最有能力的”模型。

    浏览48
  • 国产GPU产业全景分析:技术突围、生态竞合与资本加速下的替代浪潮

    ​当英伟达CEO黄仁勋确认其中国GPU市场份额从巅峰时的95%跌至0%,一个由国产力量主导的“后英伟达时代”正式开启。2025年,寒武纪、沐曦、摩尔线程等头部企业凭借技术突破与资本助力,在AI算力、图形渲染、通用计算三大核心场景形成多元化竞争格局。本文结合企业技术路线、产品落地、生态建设及资本动态,全方位拆解国产GPU产业的发展现状、核心壁垒与未来趋势,揭示“从替代到超越”的产业进化逻辑。

    浏览37
  • 超聚变FusionPoD for AI新一代全液冷整机柜GPU服务器两全其美

    日前,2024中国绿色算力(人工智能)大会在呼和浩特召开。人工智能(AI)、算力和绿色都是今年数据中心领域的热门话题,大会上发布的超聚变FusionPoD for AI新一代全液冷整机柜GPU服务器便向我们展示了这三个关键词结合的样子。

    浏览36
GUESS YOU LIKE
换一批
联系我们
在线咨询
QQ咨询 微信咨询
电话咨询
028-85047200 18380340451
提交项目需求 > 用户意见反馈 > 更多联系方式 >