从数学博士到AI编译器专家:我的华为冒险之旅

在科技日益发达的今天,越来越多的科技企业开始将数理逻辑与机器学习深度融合,尤其在人工智能领域。作为一名数学博士,我在2018年加入华为海外研究所,并进入了一个完全陌生的领域——AI编译器。这篇文章将带您了解我在华为的奇妙冒险,以及AI编译器的独特魅力。

我在华为的旅程始于一个富有挑战性的项目——自动微分(Automatic Differentiation, AD)。这项技术在现代深度学习框架中至关重要,它使得企业能够高效而准确地进行导数计算。这对于构建新一代编码神经网络模型至关重要,而这恰恰是我作为数学专才所擅长的领域。我的使命是将复杂的数学算法转化为实际的编译器功能,这听起来难度重重,却又令我激动不已。

我的第一个任务是在领导Amy的指导下,调研和开发自动微分模块。任务开始时,我们团队中有许多编译器专家,但涉及的数学原理较为复杂,理解起来并不容易。经过几周的文献研究和反复试验,我们终于完成了一个原型Demo,这一突破为后续的迭代开发奠定了基础。

然而,真正的挑战在于邮件沟通中的一个小细节:卷积算子的反向生成问题。这一问题的复杂性使诞生在项目初期的信心迅速瓦解,我们面临着重新审核自己的策略。最终,通过将数学应用于解决方案,我找到了使用卷积正向算子的参数变换实现反向算子生成的方式。这一激动人心的时刻不仅令项目得以顺利推进,也让我获得了2019年度的研究所研发卓越贡献奖。

随着2021年我回国加入中央软件院,我的挑战也随之升级。在华为的技术团队中,我们开始以AI基础平台的建设为目标,确保在AI框架及编译器的发展中,我们能迎接新的技术浪潮。在经历了大语言模型ChatGPT的冲击后,团队集中火力解决动态形状场景中的问题,AKG编译器也开始转型。

通过我的组员张任伟的提议,我们决定重新设计架构,采用Multi-Level Intermediate Representation (MLIR)来满足新的技术需求。在这个过程中,我再次发挥了数学专长,通过分析和综合多种网络特征,成功制定了一项新的技术路线,最终在2023年底,AKG 2.0实现了开源,并在行业内取得了显著成果。

尽管技术突破为我们带来了声誉,但将技术商用落地仍是我们面临的又一个挑战。我们意识到,客户对我们产品的需求直接关系到技术的泛化和稳定性。通过与昇腾推理团队的合作,我们成功实现了算子的优化,增强了客户体验,将AI编译器的应用拓展到了更广泛的领域。

在华为的历程让我深刻感受到,技术进步并不仅仅依靠个人的努力,更需要团队的协作和共享。未来,随着技术的不断演进,我期待在AI编译领域继续我的探索与创新之旅,让数学的力量真正服务于科技,推动更多可能性的实现。

解放周末!用AI写周报又被老板夸了!点击这里,一键生成周报总结,无脑直接抄 → → https://ai.sohu.com/pc/textHome?trans=030001_jdaidzkj

返回搜狐,查看更多

平台声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
作者声明:本文包含人工智能生成内容
阅读 ()
我来说两句
0人参与, 0条评论
登录并发表