如何优化 TensorFlow Lite 运行时内存?( 二 )
文章插图
表 2
表 2:偏移量计算策略的内存占用(以 MB 为单位;最佳结果以绿色高亮显示) 。 前 3 行是我们的策略 , 接下来的 1 行是先前的研究工作 , 最后 2 行作为基线(下限表示可能无法实现的最佳数字的近似值 , 而 Naive 表示每个中间张量分配自己的内存缓冲区可能出现的最差数值)
这些针对 CPU 和 GPU 的内存优化 , 默认情况下已经与最近几个稳定的 TFLite 版本一起提供 , 并且在支持诸如 MobileBERT 等更高要求、最先进的模型方面证明了它们的价值 。 你可以通过直接查看 GPU 实现和 CPU 实现来找到有关实现的更多详细信息 。
原文链接:
延伸阅读:
跨越重重“障碍” , 我从 PyTorch 转换为了 TensorFlow Lite-InfoQ
【如何优化 TensorFlow Lite 运行时内存?】关注我并转发此篇文章 , 私信我“领取资料” , 即可免费获得InfoQ价值4999元迷你书 , 点击文末「了解更多」 , 即可移步InfoQ官网 , 获取最新资讯~
- 页面|如何简单、快速制作流程图?上班族的画图技巧get
- 培育|跨境电商人才如何培育,长沙有“谱”了
- 抖音小店|抖音进军电商,短视频的商业模式与变现,创业者该如何抓住机遇?
- 计费|5G是如何计费的?
- 车轮旋转|牵引力控制系统是如何工作的?它有什么作用?
- 视频|短视频如何在前3秒吸引用户眼球?
- 优化|微软亚洲研究院发布开源平台“群策 MARO” 用于多智能体资源调度优化
- Vlog|中国Vlog|中国基建如何升级?看5G+智慧工地
- 涡轮|看法米特涡轮流量计如何让你得心应手
- 手机|OPPO手机该如何截屏?四种最简单的方法已汇总!