把模型装进iPhone应用，MLC LLM 要准备的不只有权重

在电脑上下载了一份模型权重，不代表它已经能进入iPhone应用。MLC LLM的iOS文档把这件事拆得很清楚：除了权重，应用还需要目标平台的模型库、分词器和运行时，再通过Swift接口加载并生成内容。

对准备做本地AI功能的iOS开发者，这份材料值得看，因为它交代了安装包、首次下载和实际运行之间的关系。

模型权重和模型库各负责什么

官方iOS指南使用一个模型列表描述应用支持哪些模型。配置中，模型地址指向预先转换的权重，模型ID负责标识；打包命令则为列表中的模型编译目标库，并准备运行时和分词组件。

可以将它理解为两类交接物：权重保存模型参数，编译后的模型库让相应计算能够在目标平台运行。两者还要与模型配置匹配，不能把任意新权重放到旧模型库旁边，就认为已经完成兼容。

文档展示的输出目录也体现了这种分工。一部分文件随应用作为资源打包，另一部分是模型与运行组件的静态库。对排查加载问题的人，这比只盯着某个大权重文件更有方向。

默认路径是在运行应用时从模型仓库下载权重。这样应用安装包不必一次携带所有模型，但首次使用仍需要下载过程、可用网络与设备存储。

官方也提供 bundle_weight 配置，将选定模型权重随构建一起带进应用。这会改变包体积和发布方式，适合开发者按产品条件取舍。它不会让模型运行时占用消失，也不会替代模型许可和分发条件的检查。

如果你的功能要求安装后立即离线使用，这一配置就需要在构建阶段明确；如果允许用户按需选择模型，下载状态、失败重试和剩余存储则会变成界面需要处理的问题。

指南的Swift示例先创建引擎，传入模型路径和模型库名称进行加载，再用聊天补全接口请求生成。结果通过异步序列逐步返回，应用可以边接收边更新文字，而不必等完整回答结束才显示。

这个接口只是模型生成入口。聊天记录保存、取消请求、应用切到后台后的行为，以及失败时怎样恢复，仍属于产品需要补齐的部分。API形式相近，也不代表远程聊天服务的所有能力都会自动存在于本地引擎里。

MLC LLM项目还覆盖其他设备与平台，但本文依据iOS路径展开，不将桌面上的运行结果当作手机表现。引擎采用Apache 2.0，实际选用模型仍要看权重许可与设备要求。

对已经确定要做iOS本地模型功能的人，最值得先验证的是三件相互关联的产物：编译库能加载、权重来源可控、设备能完成目标输入。它们接通后，再讨论应用是否适合离线使用，才有明确的依据。