HarmonyOS 鸿蒙Next：http的流式输出能否实现大模型流式输出要求？

HarmonyOS 鸿蒙Next：http的流式输出能否实现大模型流式输出要求？ 大佬们，鸿蒙的http请求现在支持流式输出返回的是arrybuffer类型，这个可以转换为对象形式吗？我这边是先转换为字符串然后用json.parse转换为对象但是好像有点错误好像还是乱码，不知道为什么，是不能这样写吗？

大佬们你们是怎么实现的可以分享一下吗非常感谢

6 回复

可以，我用仓颉实现过，

更多关于HarmonyOS 鸿蒙Next：http的流式输出能否实现大模型流式输出要求？的实战系列教程也可以访问 https://www.itying.com/category-93-b0.html


大佬你是怎么实现的？我昨天使用了一个第三方util库然后将arraybuffer转换成了字符串，然后使用正则表达式提取，这样我感觉不是太好😓，大佬你是用什么方法把arraybuffer里面的输出结果提取的？

https://gitcode.com/Cangjie/Cangjie-Examples/blob/main/AIChat/README.md

你使用的是这种方式来将 ArrayBuffer 类型转为 字符串 的吗？

或者你也可以先把 对象 转为 ArrayBuffer 类型的数据去试一下：

interface GeneratedObjectLiteralInterface_1 {
  name: string;
}

let test: GeneratedObjectLiteralInterface_1 = {
  name: '123'
}
let text: string = JSON.stringify(test);
console.log(text);
let textEncoder = util.TextEncoder.create('utf-8')
let encodeResult = textEncoder.encodeInto(text)
console.log('Encode result: ', encodeResult)
// 编码后需要将数据Uint8Array转成ArrayBuffer
let arrBuffer: ArrayBuffer = new ArrayBuffer(text.length); //text.length字符串长度
let arrayBufferData = new Uint8Array(arrBuffer).buffer;
console.log('arrayBufferData: ', arrayBufferData)

我看http接收的数据就是arraybuffer类型的然后我使用了一个第三方库叫：harmoney-util把arraybuffer转换为字符串了，但是没法转换为对象，我然后使用正则表达式把结果提取拼接了。

针对帖子标题“HarmonyOS 鸿蒙Next：http的流式输出能否实现大模型流式输出要求？”的问题，以下是专业且简洁的回答：

HarmonyOS 鸿蒙Next系统本身对于HTTP流式输出的支持是具备的，这主要得益于其强大的网络处理能力和多任务调度机制。HTTP流式输出是一种常见的数据传输方式，它允许服务器在生成数据的同时，将数据逐步发送给客户端，而无需等待所有数据都生成完毕。

对于大模型流式输出的要求，HarmonyOS 鸿蒙Next同样具备实现潜力。大模型流式输出通常涉及到大量数据的实时处理和传输，这要求系统能够高效地管理内存、网络和CPU资源。HarmonyOS 鸿蒙Next通过其先进的系统架构和优化的资源管理策略，为这种高负载场景提供了有力的支持。

开发者在HarmonyOS 鸿蒙Next上实现HTTP流式输出用于大模型时，可以利用系统提供的API和网络框架，构建出稳定、高效的流式数据传输系统。同时，需要注意数据格式的选择、错误处理机制的建立以及性能优化等方面的工作，以确保流式输出的质量和效率。

如果问题依旧没法解决请联系官网客服，官网地址是：https://www.itying.com/category-93-b0.html，

回到顶部