开源软件名称（OpenSource Name）：

开源软件地址(OpenSource Url)：

开源编程语言(OpenSource Language)：

开源软件介绍(OpenSource Introduction)：

绝影

绝影（英文名Prestissimo）是一个应用于移动端的轻量级高性能神经网络前向计算框架。ios, android 上的速度均快于目前的开源框架（ncnn、mdl 等等）。

功能概述

基础功能

• 支持卷积神经网络，支持多输入和多分支结构
• 精炼简洁的API设计，使用方便
• 提供调试接口，支持打印各个层的数据以及耗时
• 不依赖任何第三方计算框架，整体库体积 500K 左右（32位 约400k，64位 约600k）
• 纯 C++ 实现，跨平台，支持 android 和 ios
• 模型为纯二进制文件，不暴露开发者设计的网络结构

极快的速度

• 大到框架设计，小到汇编书写上全方位的优化，iphone7 上跑 SqueezeNet 仅需 26ms（单线程）
• 支持浮点(float)和整型(int)两种运算模式，float模式精度与caffe相同，int模式运算速度快，大部分网络用int的精度便已经足够
• 以巧妙的内存布局提升cpu的cache命中率，在中低端机型上性能依然强劲
• 针对 float-arm32, float-arm64, int-arm32, int-arm64 四个分支均做了细致的优化，保证arm32位和arm64位版本都有非常好的性能

SqueezeNet-v1.1 测试结果

Note: 手机测试性能存在一定的抖动，连续多次运算取平均时间

Note: 像华为mate8, mate9，Google nexus 6 虽然是64位的CPU，但测试用的是 32位的库，因此cpu架构依然写 arm-v7a

欢迎贡献你的测试结果。详细信息

未开放特性

• 多核并行加速（多核机器可以再提升30%-100% 的速度）
• depthwise卷积运算（支持mobilenet）
• 模型压缩功能，压缩后的模型体积可缩小到20%以下
• GPU 运算模式（Android 基于opengl es 3.1，ios 基于metal）

同类框架对比

使用方法

库文件

绝影相应的库见 ./prestissimo 目录

主要API接口见 ./prestissimo/include/InFactoryApi.h 和 ./prestissimo/include/InNetApi.h

对android ios 均提供 32/64 位的库

• 模型支持说明
• 数据格式说明

Demo 工程

IOS 工程见 ./ios/Detect/Detect.xcodeproj ，仅包含基本运行与速度测试

Android 工程见 ./android/Detect/ ，包含基本运行，速度测试，以及图像识别

模型转换工具

绝影支持的是私有的模型文件格式，需要把 caffe 训练出来的模型转换为 .prestissimo 格式，模型转换工具在 tools 目录下，为 caffe2Prestissimo.out。

caffe2Prestissimo.out 依赖 protobuf 3.30，请先安装 Google 的 protobuffer，如果您的电脑上已经安装过 caffe，这个应该已经安装过了。

将 XXX.prototxt 和 YYY.caffemodel 转化为 Prestissimo 模型 ZZZ.prestissimo：

./caffe2Prestissimo.out XXX.prototxt YYY.caffemodel ZZZ.prestissimo

开发人员

• 小棠 ([email protected])
• 咖啡 ([email protected])
• 汤圆
• 乐涤
• 晨晨
• 可召
• 芹菜

License

BSD 2 Clause

交流群

QQ: 676883532