AI関連の最新ニュースをピックアップ
AIモデルの高速化とメモリ削減(量子化)を手がけるUnslothが、アリババ(Alibaba)の最新オープンソースLLM「Qwen3.6」の27Bおよび35B-A3Bモデルをローカル環境で実行するためのチュートリアルおよびGGUFフォーマットのファイルを公開しました。今回の公開にあたりUnslothは独自の「Dynamic 2.0」量子化技術を採用し、実世界のデータセットに最適化したキャリブレーション(精度調整)を行うことで、極めて高い精度を維持しつつ動作速度を向上させています。
UnslothのDynamic 2.0 GGUF形式は、従来の量子化手法とは異なり、重要度の高いニューラルネットワーク層の精度(ビット幅)を自動的に引き上げる(アップキャスト)処理を行います。これにより、単にモデルサイズを縮小するだけでなく、実務的なデータセットを用いたキャリブレーションを経て、SOTA(最先端)クラスの量子化パフォーマンスを実現しました。
今回のQwen3.6ローカル対応では、CodexやOpenCodeといったAIエージェントによるコーディング支援ツールで広く利用されている「developer role(開発者ロール)」をネイティブサポートしました。また、Qwen3.5から引き続きツール呼び出し(Tool calling)におけるネストしたオブジェクトの解析能力が強化され、エージェントワークフローの成功率が大幅に向上しています。
Qwen3.6のような高性能モデルがローカル環境で高精度かつ低メモリで動作可能になることで、企業の開発現場や機密データを扱う環境における実用性が格段に高まります。特にエージェント型コーディングツールとの統合が進む中、Unslothが提供する最適化モデルは、開発者のインフラコスト削減と作業速度の向上に大きく寄与すると見られます。