English | 简体中文

AIE Toolkit 🧰

开源的Versal AI Engine开发工具箱

介绍

AIE架构凭借其高算力、高能效、丰富的可重构片上互联、确定性延迟等特点，成为深度学习的理想架构。 然而，AIE编程工具链尚不成熟，入门门槛极高。 为此，本项目旨在提供一个AIE开发的一站式工具包，帮助开发者更方便地进行AIE开发。

工具

• Kernel布局工具：解决Vitis无法自动完成大规模Kernel布局问题。
• Buffer布局工具：解决Vitis生成Buffer布局带有大量Bank冲突问题。
• PLIO数据生成工具：生成所需PLIO数据的工具，包括BF16、PktSplit等处理。
• 高层次快速仿真工具：解决Vitis AIE仿真器非常慢的问题，实现大规模设计的秒级仿真。
• Trace分析工具：读取AIE仿真生成的Trace文件，分析性能瓶颈。

下一步计划

• 完善文档
• 添加和完善工具
  • 性能和结果检查工具
  • 深度学习部署工具
• 添加一些AIE开发示例代码
  • 高性能矩阵乘、卷积
  • LayerNorm、Softmax等算子
  • 一些简单神经网络

联系我们

• 当前AIE Toolkit正处于开发阶段，如果您热爱开源、喜欢折腾，不论是出于学习目的，抑或是有更好的想法，欢迎加入我们。
• 微信：DxDinger (欢迎加好友，进活跃的AIE开发交流群，请简单备注个人信息)

引用

如果您在研究中使用了本项目的代码或工具，欢迎引用我们在AIE理论分析方面的论文。

@INPROCEEDINGS{AMA,
  author={Deng, Xiaodong and Wang, Shijie and Gao, Tianyi and Liu, Jing and Liu, Longjun and Zheng, Nanning},
  booktitle={2024 34th International Conference on Field-Programmable Logic and Applications (FPL)}, 
  title={AMA: An Analytical Approach to Maximizing the Efficiency of Deep Learning on Versal AI Engine}, 
  year={2024},
  volume={},
  number={},
  pages={227-235},
  doi={10.1109/FPL64840.2024.00039}}