博客 旷视天元开源 MegFlow,推动 AI 模型快速实现落地应用

旷视天元开源 MegFlow,推动 AI 模型快速实现落地应用
技术分享 发布时间:2021/09/17 11:50:00 浏览量:2720 标签:MegEngine MegFlow

关于程序员为什么喜欢养猫的回答,网友们给出了很多答案,比如一边吸猫一边写代码,效率更高;养猫不容易脱发;更容易交到女朋友……

当然,除了喜欢养猫,程序员也喜欢开脑洞,发挥自己的专长,给“猫主子们”安排上各种高科技——自动投喂机、自动饮食机、自动按摩仪……甚至在训模型的时候用猫来做测试,识别猫咪的情绪、听懂猫咪语言。

现在就有一款 AI 应用,研发初衷只是铲屎官程序员想要为“主子”实现猫咪围栏识别,开箱即用背后的能力正是来自 MegFlow 流式计算框架

近日,旷视开源深度学习框架 MegEngine 开源了 MegFlow 流式计算框架,助力 AI 算法开发者快速完成 AI 模型的落地应用。

MegFlow 是面向计算机视觉应用的流式计算框架,提供了一套可快速完成 AI 应用部署的视觉解析服务方案。AI 应用开发者可以基于 MegFlow 提供的图像和视频解析服务,最快 15 分钟即可完成客制化所需功能,例如发票扫描、明火检测等。

常规的 AI 算法交付流程一般分为模型训练、SDK 封装、业务集成和交付验收四个步骤,冗长繁杂。而 MegFlow 提供了一种更为简洁的视觉应用落地流程,用户可以直接用 Python 搭建计算图,不必关心 C++、图优化相关问题,省去了 SDK 封装流程,可快速实现算法交付。

MegFlow 针对 AI 算法工程落地中的频发问题,诸如性能调优、安全性、模型加密等,都能提供行之有效的解决方案并有效提升了工程效率。MegFlow 拥有安全可靠、简单易用、语义支持丰富等特性,可以帮助 AI 应用快速落地。

安全可靠

技术选型上, MegFlow 的研发团队调研了多种技术方案,最终选择了安全且零额外开销的 Rust 异步生态,从基础上保证了 MegFlow 的安全性与性能。

简单易用

MegFlow 支持 Python 插件,且仅需要开发者编写同步的 Python 程序,即可实现可以被MegFlow 异步调度的 Python 插件。同时 MegFlow 提供了一套基于 Web UI的可视化调试工具,可有效提升模型部署的工作效率。

语义支持丰富

表达能力上,MegFlow 支持静态图、动态图和共享图,辅以 demux、reorder、transform等函数式语义的通用插件,为搭建多样化的 AI 服务提供了丰富的语义支持。

目前,MegFlow 已内置了开箱即用的 AI 应用,如电瓶车检测和宠物围栏检测:

  • 电瓶车检测应用则为物业管理者提供了智能化管理工具,如摄像头检测到电瓶车进入电梯,系统会发出通知,提醒管理人员,有效排除起火安全隐患。
  • 宠物围栏检测目前支持猫咪检测,注册过的猫咪离开围栏会发出告警。

后续 MegFlow 还将上线更多计算机视觉相关的 AI 模型和应用。点击了解更多 MegFlow 的相关信息和使用方法:https://github.com/MegEngine/MegFlow

上一篇:分享

CUDA 矩阵乘法终极优化指南

下一篇: 分享

MegEngine 架构系列:静态内存分析

相关推荐