ncnn 高性能神经网络前向计算框架

开源网站开源项目 24-05-04 11:23:52

ncnn 是腾讯优图实验室首个开源项目,是一个为手机端极致优化的高性能神经网络前向计算框架。

ncnn 从设计之初深刻考虑手机端的部属和使用。无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架。

基于 ncnn,开发者能够将深度学习算法轻松移植到手机端高效执行,开发出人工智能 APP,将 AI 带到你的指尖。

ncnn 目前已在腾讯多款应用中使用,如 QQ,Qzone,微信,天天P图等。

功能概述

支持卷积神经网络,支持多输入和多分支结构,可计算部分分支

无任何第三方库依赖,不依赖 BLAS/NNPACK 等计算框架

纯 C++ 实现,跨平台,支持 android ios 等

ARM NEON 汇编级良心优化,计算速度极快

精细的内存管理和数据结构设计,内存占用极低

支持多核并行计算加速,ARM big.LITTLE cpu 调度优化

整体库体积小于 500K,并可轻松精简到小于 300K

可扩展的模型设计,支持 8bit 量化和半精度浮点存储,可导入 caffe 模型

支持直接内存零拷贝引用加载网络模型

可注册自定义层实现并扩展

恩,很强就是了,不怕被塞卷 QvQ

[ncnn 高性能神经网络前向计算框架]相关推荐
OSGi 动态模型系统

OSGi 动态模型系统

OSGi 技术是面向 Java 的动态模型系统。OSGi 服务平台向Java提供服务,这些服务使Java成为软件集成和软件……...

Spray REST/HTTP 工具包

Spray 是一个开源的 REST/HTTP 工具包和底层网络 IO 包,基于 Scala 和 Akka 构建。轻量级、异步、非堵塞……...

MQTT 消息传输协议

MQ 遥测传输 (MQTT) 是轻量级基于代理的发布/订阅的消息传输协议,设计思想是开放、简单、轻量、易于实现……...

SWT 本地化GUI组件库

SWT 本地化GUI组件库

SWT-"Standard Widget Toolkit",它是一个Java平台下开放源码的Native GUI组件库,也是Eclipse平台的UI组……...

Sneakers 快速后台处理框架

Sneakers 是 Ruby 和 RabbitMQ 平台上的一个快速后台处理框架。它使用混合进程线程模型,能够有效的提高 ……...

iOS iPhone操作系统

iOS iPhone操作系统

iOS 是由苹果公司为iPhone开发的操作系统。它主要是给iPhone、iPod touch、iPad 以及 Apple TV 使用。就……...

今日开源
  1. MRQ 分布式 worker 任务队列

    MRQ 分布式 worker 任务队列

    MRQ(MR.Queue)是一个使用 Redis&gevent 的分布式 worker 任务队列。 MRQ 是一个独特的任务队列,它一方面旨在像 RQ 一样简单,另一方面要求有接近 Celery 的性能。MRQ最早在 Pricing Assistant 上被开发,它最……

    开源软件 2024-05-18

  2. Koodo Reader现代化电子书管理器与阅读器

    Koodo Reader现代化电子书管理器与阅读器

    Koodo Reader是一款现代化电子书管理器与阅读器,支持多种格式和平台,具有同步与备份功能。用户可定制化设置阅读布局、文字外观,并利用诸如OneDrive、Dropbox等平台保存数据。软件支持文字转语音、翻译、词典查……

    Koodo Reader,开源软件 2024-05-18

  3. NLTK 自然语言工具包

    NLTK 会被自然地看作是具有栈结构的一系列层,这些层构建于彼此基础之上。那些熟悉人工语言(比如 Python)的文法和解析的读者来说,理解自然语言模型中类似的 —— 但更深奥的 —— 层不会有太大困难。 尽管 NLTK 附……

    开源软件 2024-05-18

返回顶部小火箭