更新记录

1.0.0（2026-06-19）

初始上传

平台兼容性

uni-app(5.07)

uni-app x(5.07)

changbi-ai 离线 AI 推理插件

适用于 UniApp (UTS) 的离线 AI 推理插件，仅支持 Android 平台。

版本: v1.0.0 | 平台: Android ✅ iOS ❌ | 许可: MIT

技术栈

快速开始

import { downloadModel, loadModel, generate, on } from '@/uni_modules/changbi-ai'

// 1. 注册事件
on('download_progress', (data) => {
  console.log(`下载进度: ${data.progress}%`)
})
on('load_complete', () => {
  console.log('模型就绪，开始对话')
})
on('generate_token', (data) => {
  process.stdout.write(data.token) // 流式输出
})
on('generate_complete', (data) => {
  console.log(`完成，速度: ${data.tokensPerSec} tokens/s`)
})

// 2. 下载模型（首次使用）
await downloadModel()  // 默认从 ModelScope 下载

// 3. 加载模型
await loadModel()

// 4. 推理
await generate({ prompt: '你好，请介绍一下自己' })

API

下载管理

模型管理

推理

信息查询

事件

on(event, callback)
off(event, callback?)

generate 选项

generate({
  prompt: string,          // 必填：用户输入
  maxTokens?: number,      // 最大生成 token 数，默认 512
  temperature?: number,    // 温度，默认 0.7
  topP?: number,           // top_p，默认 0.9
  systemPrompt?: string,   // 系统提示词
})

DeepSeek-R1 思考链

DeepSeek-R1 会在回复前生成 <think>...</think> 思考过程。 聊天页面已自动解析并提供折叠展示。

注意事项

1. 首次使用需下载约 900MB 模型，建议 WiFi 环境
2. 模型保存在 App 私有目录，不需要存储权限（Android 10+）
3. 推理过程中请勿关闭前台服务通知（Android 13+ 需授权通知权限）
4. 6GB RAM 以下设备可能出现 OOM，建议测试后使用
5. 仅支持 ARM64 (arm64-v8a) 架构设备