HarmonyOS鸿蒙Next中开发app调用平板本地大模型,怎么解决本地大模型配置白名单问题

HarmonyOS鸿蒙Next中开发app调用平板本地大模型,怎么解决本地大模型配置白名单问题 开发app调用平板本地大模型,怎么解决本地大模型配置白名单问题

10 回复

开发者您好，CANN是华为面向AI推出的端云一致的异构计算架构。在HarmonyOS设备上，CANN Kit面向Kirin芯片平台为各种人工智能模型和算法提供统一的接入和运行环境。针对您的问题，想跟您确认下信息，麻烦您补充下以下内容：

  1. 您问题中的白名单是用来做什么的呢，可以提供下具体的业务场景吗？
  2. 您所说的配置白名单，是来自于哪里呢，有相关文档链接吗？

更多关于HarmonyOS鸿蒙Next中开发app调用平板本地大模型,怎么解决本地大模型配置白名单问题的实战系列教程也可以访问 https://www.itying.com/category-93-b0.html


我想要本地调用一下平板下载好的大模型，本地写一个app调试用
白名单是我本地直接调用localhost:11434时候提示的我的app不在白名单中

打算调用设置-系统-本地 A1 模型管理中的Qwen3+8b

开发者您好，根据您的方法，参考官网文档为端侧问答模型开发步骤，想跟您确认下，您是否要开通数据增强服务呢，如果需要，接口调用申请参考文档：如何申请接口调用。

你这个问题解决了吗

还在处理中

在本地大模型中，添加一个配置项，配置白名单呢。调用大模型前，优先验证这个配置项中名单？

在哪设置呢，本地AI模型管理中什么设置也没有啊

在HarmonyOS鸿蒙Next中，调用平板本地大模型需配置白名单。开发者需在应用的module.json5配置文件中，为需要访问本地AI引擎能力的ohos.permission.USE_AI权限申请白名单。具体操作是在配置文件的requestPermissions字段中声明该权限，并确保应用签名与设备上预置的AI模型服务允许列表匹配。模型服务的访问策略通常由设备制造商或系统在出厂时预配置。

在HarmonyOS Next中，调用平板本地大模型并配置白名单，核心在于正确使用系统提供的AI框架与权限管理机制。

关键点在于：

  1. 确认模型部署与接口：首先，确保目标大模型已由设备厂商或开发者预置或部署在平板的特定安全目录下（如/system/etc/ai_model/或应用沙箱内）。HarmonyOS Next的本地AI能力通常通过@ohos.ai相关API（如神经网络推理NNRt）或厂商提供的专用Kit来调用。
  2. 理解白名单机制：此处的“白名单”通常指系统为保障安全与资源管控，对允许调用特定本地AI模型的应用进行认证许可的机制。这并非一个由应用直接配置的开关，而是需要：
    • 申请必要的权限：在应用的module.json5配置文件中声明所需的AI能力权限，例如ohos.permission.USE_AI或更细粒度的模型调用权限。
    • 进行应用签名与认证：您的应用必须使用有效的证书进行签名，并且该应用的包名、证书指纹等信息可能需要由设备厂商或模型提供方提前录入系统的信任列表（即“白名单”）。这是解决此问题的核心环节。
    • 使用正确的API与模型标识：调用时需使用系统认可的模型标识（Model ID）或路径。模型标识通常由模型提供方或系统定义。

具体操作步骤参考：

  1. 权限声明：在项目src/main/module.json5文件中添加所需权限。
    {
  "module": {
    "requestPermissions": [
      {
        "name": "ohos.permission.USE_AI", // 基础AI权限
        "reason": "用于调用本地大模型进行推理"
      }
      // 根据模型要求，可能需添加其他特定权限
    ]
  }
}
  2. 模型调用准备：
    • 确认模型文件（如.bin或.model格式）已放置在应用可访问的目录，或已预置在系统指定路径。
    • 在代码中，通过@ohos.ai.nnr等API加载模型。加载时使用的模型路径或标识必须是系统认可的。
    // 示例代码框架
import nnr from '@ohos.ai.nnr';
// ... 初始化上下文等
// 加载模型，modelPath需为系统白名单内认可的路径或标识
let model: nnr.Model | null = await nnr.loadModel(modelPath, options);
  3. 解决白名单问题：
    • 对于预置系统模型：联系设备厂商或查阅对应设备的HarmonyOS开发者文档，获取调用特定模型所需的准确权限、模型标识及应用签名要求。您的应用可能需要加入该厂商的开发者计划或完成特定审核，其包名才能被录入信任列表。
    • 对于自有部署模型：若您将模型随应用分发，需确保模型放置在应用沙箱内，并通过@ohos.ai的公开API调用。这种情况下，白名单限制可能较小，但仍需关注USE_AI等运行时权限的申请与用户授权。

总结： “配置白名单”并非在应用内直接完成，而是需要确保应用签名受信、声明正确权限、并使用系统认可的模型标识或路径进行调用。最关键的步骤是与模型提供方（通常是设备厂商）对接，将您的应用信息纳入其调用许可名单。请查阅设备对应的HarmonyOS Next AI开发指南以获取最准确的接口与流程信息。

回到顶部