Linux旗下AI开源项目Adlik发布新版本“羚羊”，赋能深度学习模型产业化

大数据 / 人工智能 / 区块链 / 数据库 / 热点

6月15日，深度学习推理加速工具链项目Adlik发布了v0.1.0版本，代号Antelope 羚羊。这是中兴通讯将该项目在Linux基金会旗下AI基金会（LF AI）开源以来发布的第一个正式的版本，将有力推动深度学习模型在云边端等多场景下的产业化应用。第二个版本代号Bear熊，也在紧锣密鼓的筹备中。

Adlik是人工智能领域深度学习模型的推理应用加速工具链，致力于为开发者提供端到端的深度学习模型优化部署方案，提升AI深度学习模型商业应用的效率。

中兴通讯Adlik研发负责人韩炳涛表示：“Adlik开源的目的，就是要是分享中兴通讯在深度学习部署方面的探索和技术实践，助力和加速人工智能技术工程化落地。这次Adlik首次正式发布版本，除了提供大量的feature外，更让人高兴的是Adlik已经与中国移动，中国联通，AIIA，LFAI等多个组织建立了长期稳固的合作关系，社区活跃度日渐提升。今后，Adlik将会支持更多特性，会以更开放的姿态，容纳更多开发者加入，打造一个具有良好开发氛围的深度学习应用的生态圈。”

Adlik主要包含三大功能模块：负责剪枝、量化等优化工作的模型优化器（Model Optimizer），负责为指定硬件环境编译模型的模型编译器（Model Compiler）及为模型提供推理方案的推理引擎（Serving Engine）。在v0.1.0版本中，各模块的关键特性如下：

模型优化器

支持多机多卡的模型训练和剪枝
可以配置的filter pruning实现，剪枝后能直接得到更小的推理模型
基于小批量数据集的模型量化，支持TF-Lite和TF-TRT量化

模型编译器

易于扩展和维护的新编译器框架
支持Keras, Tensorflow和Pytorch等框架训练出的模型的编译，提升其在CPU、GPU等硬件上的运行效率

推理引擎

支持多模型和模型多版本管理，可以实时升级模型版本
推理服务端支持http和grpc接口
运行时调度器支持多模型实例调度
集成多种推理运行时
框架集成了dLib库，支持机器学习计算

此外，Adlik为其支持的各种运行时提供了Benchmark自动测试框架，用于完成它们在相同硬件环境下的标准化性能测试。依据Adlik完善的模型编译和引擎的工程化积累，当前自动测试框架能够提供高效且自动化的测试流程，为业界标准化测试提供了良好的工具。

中兴通讯标准开源总监孟伟表示：“随着Adlik首个公开版本的发布，Adlik的生态也逐渐的建立雏形。项目吸引了来自国内外七家以上的公司组织和若干独立开发者的参与。Adlik才露尖尖角，特性已经超越其他类似项目的技术水平。”

中国联通网络研究院人工智能总监廖军表示：“Adlik首个公开发行版本，是人工智能在模型压缩、编译和推理服务等方面的最新开源成果。Adlik已经构建了开发社区，吸引了来自国内外数家公司、机构和若干独立开发者的参与开发，生态雏形初现。Adlik的部分进展已处于业界领先技术水平。随着开发的深入进行和更多开源力量的参与，Adlik功能会更加丰富，性能会更加卓越。我们相信开源的Adlik将为人工智能发展作出更大的贡献，也期待Adlik在通信业界取得突破性的应用。”

中科院计算所高级工程师王煜炜表示：“Adlik是深度学习加速领域全新的开源技术平台，旨在保障深度学习模型能够高效地运行在多种部署环境中，其包含的多项优化技术均处于业界领先水平。依靠Adlik，开发者可以方便地将主流AI框架TensorFlow、PyTorch等训练出的模型进行深度优化，从而有效提升模型的推理效率，可以广泛应用于各类人工智能产品的研发与学术研究。Adlik首个开源版本的发布，标志着其已经步入生态建设的快速发展阶段。目前，Adlik社区已经成功吸引了多家著名企业和科研机构参与。我们相信，随着更多贡献者的加入，Adlik的功能和性能将会得以全面完善和迅速提升，必将为人工智能技术全面普及发展做出重要贡献。”

国际知名的AI研究顾问Vishnu Ram OV也对Adlik的首个版本表示了祝贺，并号召更多开发者一起为项目做贡献。他说:“ITU ML5G的学生项目中用到了Adlik，作为该学生项目的协调负责人，我认为Adlik团队的快速反馈非常重要。感谢Adlik团队积极为参加该项目的国外学生答疑。希望Adlik将来能够成功，也希望能和Adlik团队进一步合作。”

Adlik还在不断发展，欢迎大家下载使用Adlik并加入Adlik社区，一起探索深度学习模型应用落地之路。

欢迎加入Adlik社区

Website：https://adlik.ai/
Github：https://github.com/Adlik/Adlik
知乎：https://zhuanlan.zhihu.com/adlik
Wiki：https://wiki.lfai.foundation/display/ADLIK/Adlik+Home