苹果2025基础模型技术报告（Apple Intelligence Foundation Language Models Tech Report 2025）要点速览：
两份模型
3B 设备端模型：KV 缓存共享 + 2-bit 量化感知训练，为 A 系列/ M 系列芯片定制，可在 iPhone、iPad 本地低功耗运行。
云端大模型：并行轨道混合专家（PT-MoE）Transformer，配合交错全局-局部注意力，在苹果私有云上弹性扩展。
PT-MoE 架构亮点
把模型拆成多条“轨道”，每条轨道内部再堆叠 MoE 层；轨道之间只在边界同步，通信量相比张量并行最高可减少 87.5%。
稀疏激活+计算-通信重叠，保证大参数量下仍维持低延迟。
多模态能力
视觉编码器：服务器端 1B ViT-g，设备端 300M ViTDet-L，均支持图像理解。
引入“注册窗口（RW）”机制：先让局部窗口与全局 token 交互，再聚合全局上下文，兼顾细节和整体。
训练与数据
数据来源：负责任爬取、授权语料、高质量合成数据，覆盖多语言、多模态。
训练管线：预训练 → 监督微调 → 强化学习，全程在苹果自研异步平台上完成。
开发者框架
Swift 原生基础模型框架：内置引导式生成、约束式工具调用、LoRA 微调三大模块，30 亿参数设备模型几行代码即可集成到 App。
适用场景：摘要、实体抽取、简短对话、创意写作等，但不面向开放领域问答。
隐私与安全
设备端优先计算；必须上云时走“私有云计算”，数据全程加密，苹果无法访问原始内容。
内容过滤、地区合规评估、用户可控数据删除机制一并上线。