感谢网友网友 雨雪载途 的线索投递！
网友12月27日报道，在今天下午的OPPO Find X7系列产品技术沟通会上，OPPO宣布全新升级AndesGPT。
安第斯大模型将分为1800亿参数、700亿参数、70亿参数三个维度，支持端云协同部署，根据不同场景的用户需求实现智能调度。
OPPO 表示，AndesGPT 大模型通过强大的知识、记忆和工具能力，为小布助手带来广阔的知识面，以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术，AndesGPT 还解决了长期记忆带来首字推理延迟的问题。OPPO表示，AndesGPT模型通过其强大的知识、记忆和工具能力，为小布助手带来了广泛的知识和个性化的智能服务能力。通过独创的SwappedAttention技术，AndesGPT还解决了长时记忆带来的首词推理延迟问题。
网友从技术沟通会获悉，通过 4bit 量化的模型压缩，OPPO 的 Al Boost 推理引擎优化，以及与芯片厂家联合深度优化等多项举措，OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型。网友从技术沟通会上了解到，通过4-4bit量化模型压缩、OPPO的Al Boost推理引擎优化、与芯片厂商联合深度优化，OPPO在Find X7系列上首次实际应用了70亿参数的大模型。
据介绍，在 AndesGPT 大模型 70 亿参数大语言支持下，OPPO 端侧具备超快的首字响应速度，在文本内容摘要的场景下，200 字的首字生成仅需 0.2s，领先友商 20 倍；2000 字首字生成仅需 2.9s，领先友商 2.5 倍；摘要字数上限可达 14000 字，可以轻松输入一篇常见期刊论文，领先友商模型能力 3.5 倍。据介绍，在拥有70亿参数的AndesGPT模型支持下，OPPO拥有超快的首字响应速度。在文字内容摘要的场景下，200个字的首字生成只需要0.2s，领先好友20倍。生成2000字的首字只需2.9s，领先老友记2.5倍；最大字数可达14000字，可以轻松输入一篇普通期刊文章，领先友好商业模式3.5倍。
相比 10 亿参数大模型，AndesGPT 70 亿参数语言模型号称在带来更有“智商”的理解能力。以通话摘要功能举例，AndesGPT 可以帮助用户梳理通话内容的要点，并准确地输出带有主题、要点，以及待办事项的通话内容摘要，精准程度“明显优于 10 亿级别的端侧模型”。与拥有10亿个参数的大型模型相比，安第斯GPT拥有70亿个参数的语言模型号称能带来更“智商”的理解能力。以通话摘要功能为例，AndesGPT可以帮助用户梳理通话内容要点，精准输出带有话题、要点、待办事项的通话内容摘要。准确率“明显优于10亿级别的端到端模型”。
投诉水文 我要纠错
