Alibaba Qwenチーム、高性能な線形アテンションカーネル「FlashQLA」をオープンソース化

AlibabaのQwenチームは​2026年4月29日​​、パーソナルデバイス上でのAI処理を大幅に強化する高性能な線形アテンションカーネル「​FlashQLA​」を正式にオープンソース化しました。この革新的なカーネルは、​TileLang​をベースに実装されており、順方向パスを​2～3倍​​、逆方向パスを​2倍​​高速化する能力を持ちます。

FlashQLAは、特に大規模言語モデルの事前学習シナリオやエッジサイドのエージェント推論において、その効率を飛躍的に向上させると期待されています。これは、​​ゲート駆動型カード内計算​​と​​ハードウェアに優しい代数最適化​​を組み込むことで実現されました。

Qwenモデルファミリーでは、​GDN（Gated Delta Network）​​が主要なアテンションメカニズムとなっていますが、モデルサイズの拡大に伴いGDNの計算オーバーヘッドが増大していました。FlashQLAは、このような計算負荷の課題に対処するための重要な最適化であり、Qwenエコシステムの性能向上に不可欠な要素となります。Qwenファミリーは世界で最もダウンロードされたセルフホスト型モデルエコシステムの一つであり、現在​201​の言語と方言をサポートしています。