手机能跑哪个模型?AI Edge Gallery 把下载、试用和测试放在一起

开源项目猫目发布于 来源:Google AI Edge Gallery 官方资料
先看本机模型列表和Benchmark入口,再判断聊天、看图或音频任务是否适合这台设备。

为什么值得关注

在自己的移动设备上管理并比较支持的本地模型。

适合谁:想体验手机端本地模型、判断设备承载能力的用户与开发者

这次有哪些亮点

  • 模型列表显示下载与试用入口
  • 可按本机设备运行Benchmark
  • 提供聊天、图片、音频等任务入口

使用前需要知道

实验性Beta;首次安装和模型下载需要可用网络,模型语言、许可与硬件要求各自不同,商店地区可用性需按实际账号核对。

一个模型能在手机上运行,和它适合你的手机,是两个问题。Google AI Edge Gallery提供了一个直接观察的地方:在本机选择模型、下载、试用,再通过Benchmark查看它在当前设备上的表现。

对想体验本地AI的人,这比只看模型参数量更有帮助。你实际关心的,是它能不能顺利加载、输入后等多久,以及这台手机是否适合继续承担这类任务。

模型列表把哪些信息放到了眼前

Google AI Edge Gallery官方模型管理预览,模型卡包含下载体积、许可入口及Benchmark与Try it按钮

图源:Google AI Edge Gallery项目的官方应用预览;这是项目展示图,不是我们在某台手机上跑出的成绩。

图中的模型卡显示下载体积,并把模型许可链接、Benchmark和Try it放在同一处。有的模型卡提供的操作不同,也说明它们并不是一个名称不同、能力完全相同的选择列表。下载体积更不能直接当成运行内存需求。

这个入口的意义,是让“先试哪个”有了可以查看的信息。用户可以先了解模型的输入能力和条件,再选择一次短任务,而不是一次下载许多模型后只比较谁能启动。

同一款应用,任务由模型能力决定

项目说明列出聊天、Ask Image、Audio Scribe和Prompt Lab等入口。Ask Image围绕相机或图库图片提问;Prompt Lab用于单轮任务与参数实验;音频处理则需要相应的本地语言模型支持。

这不代表列表中的每个模型都能完成所有任务。会聊天的模型未必接受图片,支持某种音频输入也不等于中文转写已经得到验证。应该沿具体模型卡看语言、输入形式和运行条件,再用自己能判断的一份材料尝试。

例如,拿一张已经知道内容的生活图片问一个具体问题,比让模型任意描述更容易检查。这个建议是试用方法,不是中文图像理解效果的实测结论。

离线推理与首次准备要分开看

项目将模型推理放在设备上进行,但安装应用、发现和下载模型仍需要网络,部分模型还可能有自己的访问条件。官方目前列出Android 12及以上、iOS 17及以上,并提供相应商店入口;没有Google Play访问条件的Android用户,项目也给出官方Release APK入口。

这些入口并不保证所有地区和账号都能下载,设备内存与模型适配也仍然影响可用范围。项目将当前应用称为实验性Beta,体验变化和设备差异都应纳入选择。

应用代码采用Apache 2.0许可,模型仍有各自的许可链接。对于中国用户,先确认官方安装路径可用,再挑一个适合自己设备和语言任务的模型,会比只追最大参数更有效。Gallery提供的是一块可以亲自观察的试验场,让“我的手机适合哪种本地任务”有机会得到具体答案。

原始资料:Google AI Edge Gallery 官方资料

以上为编辑整理,功能、许可与使用条件以官方说明为准。

返回每日分享