Tengine

Tengine-Lite v1.0 版本更新啦!!!重要的事情要打三个感叹号!!!

小O妹和组员肝了不知多少个日日夜夜,这期间被催促,被质疑,小O妹都坚强的挺了过来。上线的那一刻差点哇的哭出来。

更新内容如下:

新特性:

a. Tengine-Lite开源异构计算切图功能,本版本支持CPU+GPU异构,后续版本敬请期待CPU+NPU (闲来大佬主刀(*❦ω❦),我们会开个专门的话题来给大家详细讲一讲实现方式)

b. 新增armv8.2 fp16精度推理,支持fp32/fp16混合精度模式

c. Tengine-Lite支持Vulkan GPU(适配高通/NV Xavier/x86独立GPU等),终于支持Vulkan了,撒花~

example:MobileNet + MobilenetSSD(CPU GPU异构)

d. Tengine-Lite支持Arm Mali GPU(ACL)

example:MobileNet + MobilenetSSD(CPU GPU异构)

**e.**C++ API(实验性支持)

**f.**Python API(实验性支持)

新网络支持:

  • landmark
  • yolact
  • openpose
  • yolov4

新算子支持:

a. 新增UINT8 算子ref,小伙伴们可以结合我们的全套模型转换工具、量化工具,在x86、arm平台上验证一下流程啦虽然速度还不算快,不过这里给大家埋(wa)个(ge)伏笔(keng),UINT8在哪里跑的快呢

  • concat
  • clip
  • convolution
  • detection_out
  • dropout
  • eltwise
  • fc
  • flatten
  • pooling
  • premute
  • priorbox
  • reshape
  • softmax

支持模型UINT8格式模型 MobileNetv1、SqueezeNetv1.1、ResNet18、ResNet50、GoogleNet、VGG16、MobileNetv2、Inceptionv3、MobileNetSSD

b. 新增Mish激活函数

推理性能:

a. arm多线程推理性能优化(openmp)

b. x86性能算子优化

GitHub链接如下,欢迎大家Watch,star,Fork三连支持

https://github.com/OAID/Tengine

点赞
收藏

评论区

加载中...

相关推荐

手写Java HashMap源码

HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22

短说正式版V3.7.4发布【新增悬赏问答、打赏、付费看帖、IP属地】

Hi大家好,我是给你们带来惊喜的运营小番茄。本期小番茄为大家汇报一下短说最新进程:短说通用版的正式版V3.7.4版本,更新功能主要围绕基于V3.7版本的bug修复。V3.7版本的功能更新可查看此文章:!v2203bf554fd

短说移动端V3.8.3正式版发布 | 优化第三方登录

Hi大家好,我是给你们带来惊喜的运营小番茄。下面跟随小番茄来了解一下本期的功能更新和优化吧^^本期更新为短说通用版3.8.3版本正式版,主要修复了3.8.2版本中的问题。回顾一下3.8版本主要的更新功能:积分清零、全新表情包、数据导出、积分排行榜等,涉及平

短说通用版3.8.2正式版发布|积分清零、排行榜、全新表情包等功能

Hi大家好,我是给你们带来惊喜的运营小番茄。本期更新为短说通用版3.8.2版本正式版,主要修复了3.8.1版本中的问题。本次3.8版本主要的更新功能都是大家非常关注和期待的功能,有积分清零、全新表情包、数据导出、积分排行榜等,涉及平台:H5、App、微信小

Java8 新特性 Stream Api 之集合遍历

前言随着java版本的不断更新迭代,java开发也可以变得甜甜的,最新版本都到java11了,但是后面版本也是不在提供商用支持,需要收费,但是java8依然是持续免费更新使用的,后面版本也更新很快眼花缭乱,所以稳定使用还是用java8把既可以体验到新功能,又不需要,烦恼升级带来的bug新特性比较新的的特性就是流Stream,和lambda表达式图上

uni-app - 实现热更新及时提醒用户更新

1.原因分析在小程序更新开发版本之后,用户本地并没有对之前版本的小程序进行删除,那么再进入小程序的时候的版本是不会发生变化的,这是由于发版是异步执行,因此新版本将会覆盖的比较慢,本质是小程序的启动方式分为两种,冷启动与热启动。冷启动:指的是用户首次打开或小程序被微信主动销毁后再次打开的情况,此时小程序需要重新加载启动。热启动:指用户已经打开过某