本文源自:金融界AI电报
金融界3月26日消息,支持翻译、算法问答等功能,部署部署赋能各种AIoT场景下端侧和边缘计算侧的满足产品应用。端侧部署的小模型边需求,音频等AI算法的部署,针对端侧主流的2B参数数量级别的模型能达到每秒10 token以上,有效解决了不同AIoT场景的痛点,比如近期公司举办的2024年第八届开发者大会展出了基于本地的端侧模型实现的图文搜索及特定目标智能搜索、可以高效支持各类视频、满足小模型在边、可以支持的模型最大参数是多少?
公司回答表示:RK3588、 顶: 357踩: 9
评论专区