当前已有资源: • 推理框架:使用 mlc-llm(开源) • 模型资源:大语言模型及其配置文件已准备完毕 • 示例项目:已有 Swift 编写的 Demo App,已成功跑通模型推理流程,但是调用逻辑没有从demo app 中抠出来。 • license server 后端我们这里提供,提供鉴权接口,还有对接文档。 项目目标: • 在几天内(具体天数可由您评估)完成 SDK 的封装 • 打包出的 SDK 需包含: • mlc-llm 的推理功能封装 • 鉴权加密/设备控制模块(例如本地设备台数统计、基础信息采集与上传) • 提供开发者文档,便于第三方快速集成使用
Success story sharing