小模型大用途：小型 AI 如何在偏远地区拯救生命

来源： 链接 插图： 2张 SVG 内联

2019年的一个早晨，Adebayo Alonge 在开普敦的酒店房间里准备演示他的创业公司的 AI 产品——一个用于鉴定假药的手持光谱仪 RxScanner。这台设备已在十几个国家的药店中使用，通过红外光扫描药片的 molecular profile，AI 模型在几秒内就能判断药物真假。

但那天早上，设备连上了 AI 模型，却花了超过 5 分钟才返回结果——因为服务器在 14000 公里外的美国，而当地带宽极其有限。

Alonge 立即让工程师把 AI 模型缩小到可以在 Android 手机上离线运行的版本。2 小时后，新版本诞生了。这次危机不仅拯救了演示，更催生了一种全新的产品形态：完全离线的假药鉴定设备。

图1：大型 AI 模型 vs 小型 AI 模型全方位对比

什么是 Small AI？

"小型 AI"（Small AI）通常指参数量在几十亿以下的语言模型，小到可以直接在手机或 Raspberry Pi 上运行，功耗仅几瓦，无需连接数据中心。与之形成鲜明对比的是参数超过万亿的 LLM，需要数百千瓦的 GPU 集群。

根据世界银行 2025 年 11 月的报告，全球最贫困国家中只有 0.7% 的互联网用户使用过 ChatGPT，而发达国家这一比例达到 25%。世界银行行长 Ajay Banga 在达沃斯论坛上指出："大多数人在讨论 LLM，但那需要大量算力、电力和人才。除了印度和中国，很少有发展中国家具备这些条件。"

六大应用场景

图2：小型 AI 在全球健康领域的六大应用场景

1. 假药鉴定：RxScanner 将红外光谱数据发送给手机上的本地 AI 模型，在尼日利亚、加纳、肯尼亚等国的药店中鉴别假药，完全离线运行。

2. 心电图检测：巴西联邦大学的 Marcelo Rovai 教授在 Arduino 设备上运行 TinyML 模型，生成心电图，服务于缺乏复杂医疗设备的偏远地区。

3. 作物病害识别：印度 Vellore 理工学院的团队开发了无人机系统，在设备端直接识别腰果植物的病害斑点，无需回传数据到服务器。

4. 蚊媒防控：通过声音识别疟蚊（携带疟疾的蚊子），已在多国部署。

5. 水质检测：在一台 50 美元的 Arduino UNO Q 上运行语言模型，分析传感器数据检测蚊虫孳生的积水，仅耗电 3 瓦。

6. 离线翻译：本地 NLP 模型为无网络环境下的难民提供翻译服务。

Small AI 的技术路径

小型模型的创建主要有三种方式：剪枝（pruning，移除大模型中与特定任务无关的参数）、蒸馏（distillation，训练小模型模仿大模型的行为）和量化（quantization，将 32 位模型降到 8 位运行）。Google DeepMind 的 Gemma 4 和阿里巴巴的 Qwen 3.5 因开源权重，成为 Small AI 开发者的热门选择。

Counterpoint 的数据显示，2025 年全球出货的智能手机中已有超过三分之一具备运行生成式 AI 的能力，到 2026 年底将达 45%。

Small AI 不是大模型的替代品

Rovai 强调："我们仍然需要大模型来创建这些小模型。"大模型提供的架构洞察、数据处理和训练成果是 Small AI 的基础。但 Alonge 认为，从长远来看，Small AI 才是触及最多生命、并在大模型变得过于昂贵后仍然可持续的 AI 形态。

"AI 的未来不是中心化的一个巨型模型，而是部署在边缘的数百万个精确小模型，每个解决一个特定问题。"Alonge 说道。

[关联推荐]

• AMD Ryzen AI Halo：4000 美元的 AI 开发套件值不值？ — 边缘 AI 硬件的另一种思路
• 本地大模型部署实战：vLLM 比 Ollama 快 16 倍 — 本地模型部署优化
• Qwen 3.6 27B：本地 LLM 开发的甜点模型 — 小型开源模型实战