本地大模型

整体架构

星火本地大模型具备通过SDK与Local Service接入方式,兼容主流Windows、Linux、Android等通用平台以及各类国产化操作系统平台。

配套本地RAG方案、All Tools框架、Agent框架、丰富的授权管理机制,端侧内容安全审核机制,以及精调效果闭环能力,供包含AI PC场景在内的集成调用,创新各类产品应用。

星火本地大模型可适配CPU、GPU、NPU等不同算力平台,包含Intel x86 CPU、NAVIDA GPU非国产化算力平台,以及国产化CPU(兆芯、海光、飞腾)、国产化GPU(格兰菲、海飞科)、国产化NPU(寒武纪、瑞芯微)等国产化算力平台。

应用场景

座舱语音助手
在无网、弱网环境下,实现复杂多意图识别、上下文改写等本地化能力构建,支持非命令词式泛化语义理解。
AI PC解决方案
提供轻量级的本地RAG、智能体、内容安全审核方案和语音交互能力,满足个性化和隐私安全的PC助手构建要求。
AI手机
通过集成端侧大模型,提供更加智能、便捷的用户体验,实现即时语音交互、智能个人助理、个人资料整理等功能。
智能家居
通过本地部署的大模型,智能家居设备可以实现更高效的用户交互、更智能的家居控制和更好的用户体验。
专属技术支持
搜索
咨询
建议
体验
中心
售前在线咨询
加入官方社群
意见反馈
体验中心
热门AI技术,扫码体验