苹果的硬件综合能力还是排第一梯队头部的,也只能运行270亿参数的压缩模型,要是以后运行27万亿参数的模型手机、那硬件要求不得到天上去,
苹果评估AI模型压缩技术:270亿参数大模型可直接运行于iPhone,为Siri升级铺路
苹果正与初创公司PrismML展开早期洽谈,后者周二发布压缩模型,将54GB大模型压缩至不足4GB,令270亿参数大模型可以直接跑在iPhone 15或更新机型上。本地处理意味着更低延迟、更强隐私保护,以及潜在的更低授权和云计算成本。
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。
1
举报
登录后可参与评论

暂无评论

