敖玉龙
北京智源人工智能研究院AI框架研发负责人
敖玉龙,北京智源人工智能研究院AI框架研发负责人,北京大学博士后,中国科学院博士。目前主要负责开源统一AI软件栈FlagOS中的大模型训推一体框架FlagScale和统一通信库FlagCX研发,并在业界率先提出可产业落地的大模型跨芯异构混训和异构推理技术方案。长期从事人工智能、高性能计算以及科学计算领域的分布式系统与性能优化相关研究,曾就职华为和百度,参与研制了大模型系统相关核心技术。于2016年共同参与获得中国首个美国计算机学会“戈登•贝尔”奖,发表过十余篇国际顶级会议与期刊论文,拥有多项国内外专利授权,并参与制定国家和国际算子接口与通信库相关标准。
演讲主题
统一算力,释放智能:FlagScale在FlagOS生态中的演进
摘要:AIGC浪潮加速了AI算力的多样化演进,各类芯片不断涌现。然而,算力碎片化带来了模型部署复杂、调优困难与成本高企等问题。为应对这一挑战,FlagOS 打造了面向多芯片生态的统一AI基础设施。报告将深入介绍 FlagScale 与 FlagCX 两大核心组件:前者通过自动调优、多后端支持、异构混训及混推机制实现训推一体化优化,后者以统一通信标准支撑跨架构高效协同,将一起展示两者如何推动AI算力体系从分散走向融合。