さくら・PFN・NICT、能動的評価基盤の実装に着手

静的テストの限界を克服する継続的AI安全検証へ

さくらインターネット株式会社、株式会社 Preferred Networks（深層学習と独自ハードウェアを開発する日本の先進AIスタートアップ（PFN）） 、国立研究開発法人情報通信研究機構（ NICT（情報通信分野を専門とする日本の国立研究開発法人） ）の三者は2026年10月14日、生成AIの出力品質や安全性を継続的に点検・改善する「能動的評価基盤」の社会実装に向けた新たな取り組みを開始したと発表した。

2025年9月に締結された国産生成AIエコシステム構築に関する基本合意に基づくもので、さくらの AI Engine上での統合サービスについて来年度中（2027年度中）の実運用開始を目指して技術提供と基盤検証を進める。

固定データセットから「AI複合体による自動生成」への転換

従来の生成AIに対する安全性評価は、あらかじめ用意された固定のプロンプトデータベース（質問集）に対して回答を確認する手法が主流であった。しかし、モデル側がその評価用データを事前に学習してしまうと実質的な安全性を測れなくなる問題があった。さらに、悪用の手口や環境の変化に追従できない限界も指摘されていた。

これに対しNICTが開発する「能動的評価基盤」は、多様な特性を持つAIを組み合わせた「AI複合体」により、評価用のプロンプトを自動合成・更新し続ける画期的な仕組みである。

NICTの研究試作基盤として、以下の個別構成コンポーネントのプロトタイプが先行して稼働・検証を開始している（将来的にこれらを統合した能動的評価基盤として完成させる計画）。

コンポーネント	技術概要と検証機能
WISDOM-CE	評価対象LLMの出力を膨大な日本語Webデータと照合し、事実との矛盾や文化的なズレ、バイアスを自動検知
WISDOM-AR	質問応答基盤「WISDOM X」等を活用し、危険性の高い「きわどいプロンプト」を自動生成して攻撃耐性や倫理性を判定
​評価用基盤LLM	NICTが開発した2,000億パラメータ規模のLLM等を用い、出力を高精度に自動判定

三者の役割分担と国内完結型のエコシステム

今回の連携において、各者は専門領域を活かした社会実装計画を推進する。

組織名	具体的な役割と今後の取り組み
​さくらインターネット​	推論API基盤「さくらの AI Engine」上で提供する国内外のLLM群に能動的評価基盤を適用。来年度中（2027年度中）の運用開始に向け妥当性を検証
PFN	国産基盤モデル「 PLaMo 3.0 Prime（PFNがNICTと共同開発した長文推論対応の国産基盤モデル） 」の後継モデル開発を進め、能動的評価基盤へモデルを組み込み機能向上に貢献
NICT	20年近く蓄積したWebデータと質問応答技術を活用し、能動的評価基盤の高度化とさくらインターネットへの技術提供を担当

日本の読者・事業者への影響と未確認事項

海外製モデルが急速に普及する一方で、日本の法令・商習慣・文化に即したリスク検証はこれまで各企業の自己責任に委ねられてきた。さくらの AI Engine 上で能動的評価基盤が稼働すれば、利用企業は導入するLLMの安全性やハルシネーション発生リスクを国内基準で客観的に確認できるようになる。

今後の焦点は、本基盤による評価結果がどのような指標（スコアやレポート形式）で利用者に開示されるか、また民間企業が自社特有の業務データやコンプライアンス基準を反映したカスタム評価を実施できるかという点である。これら提供プランや利用料などの商用提供条件については今後の発表事項とされている。

分析・展望

国際的なAI安全性議論でも指摘されている通り、モデル性能の急速な進化に対して安全検証の枠組みは追いついていない。「固定テスト集による検定」から「敵対的AIによるプロンプト自動生成と継続監査」への転換は、AIアライメント（価値適合）研究における世界的潮流と合致する。インフラ（さくら）、モデル開発（PFN）、公的研究機関（NICT）が一体となり、評価から改善ループまでを国内で完結させる取り組みは、ソブリンAI（主権AI）の確立において極めて重要なマイルストーンとなる。

引用元：株式会社Preferred Networks