明略科技Octo及企业级AI业务多点突破,海内外商业化布局持续拓展
@散人逍遥游:
当AI逐渐深入企业核心业务,如何在保障数据安全的前提下,让大模型真正进入日常工作流程,并实现长期、低成本运行,成为越来越多企业在推进智能化转型时需要解决的问题。 近日,明略科技在企业级AI服务领域取得一系列新进展。以可信Agent协作网络Octo为基础,结合端侧模型部署、自研推理框架及FDE服务模式,明略科技正推动AI能力在医疗、汽车、金融、地产等行业真实业务场景中落地,并持续拓展海内外商业化布局。 从一家医疗客户的需求,看企业AI落地的现实挑战 医疗行业对AI有着广泛的应用需求,同时也对数据安全、系统稳定性和使用成本提出了更高要求。在明略科技近期与一家医疗行业客户达成的合作中,这些需求得到了集中体现。 一方面,医疗业务涉及大量患者信息及敏感数据,客户对于数据的存储、处理和使用有着严格要求。无论是利用AI开展数据分析,还是将智能体引入内部工作流程,如何确保数据始终处于企业可控的环境中,都是业务落地的重要前提。 另一方面,大模型技术仍在快速迭代。企业既希望及时应用新的模型能力,又需要考虑长期运行的经济性。如果每项业务都依赖云端模型调用,随着使用频率和任务规模增加,持续产生的Token费用也可能成为一笔不小的开支。 这些问题在众多行业中普遍存在。对于正在推动AI规模化应用的企业而言,数据能否自主掌控、模型能否灵活迭代、日常使用成本能否持续降低,直接影响着AI能否真正进入核心业务流程。 针对上述需求,明略科技以Octo本地化部署为基础,结合端侧模型及推理优化技术,为该医疗客户构建适配其业务需求的AI应用方案。目前,双方已正式签约,并围绕多项实际业务任务完成阶段性测试验证。 以Octo为核心,打造数据安全、成本可控的AI协作体系 针对该医疗客户在数据安全、模型部署及长期使用成本等方面的需求,明略科技以自研的开源可信Agent协作网络Octo为核心,结合端侧模型及底层推理优化技术,
