GitHub、秘密情報検知にModernBERTを導入

米GitHub（世界最大のソフトウェア開発プラットフォームを運営する米企業）は2026年10月13日（現地時間）、リポジトリ内のAPIキーやパスワード漏洩を防止する「Secret Scanning（リポジトリ内の機密情報漏洩を自動検知するGitHubのセキュリティ機能）」において、言語モデル「ModernBERT（コードや長文テキストの処理に最適化された最新のエンコーダー型言語モデル）」をファインチューニングした軽量コンテキスト認識AI分類器の本格導入を発表しました。従来のLLM（大規模言語モデル）ベースの検証機構と比較して、スキャン時間を86%短縮し、インフラコストを98%以上削減しながら検知精度を向上させています。

2段階パイプラインによる「ハードネガティブ」の排除

GitHubのシークレット検知では、特定のプレフィックスを持たない「汎用的な認証情報（Generic secrets）」の判定が課題となっていました。テストコード用のダミー値、ドキュメントのサンプル文字列、ビルド識別子、アセットハッシュなどは、本物の機密情報と文字列構造が酷似している「ハードネガティブ（見分けがつきにくい偽陽性）」となりやすく、従来のルールベースや正規表現だけでは誤検知が頻発していました。

今回導入された新パイプラインは、以下の2段階構成でこの課題を解決しています。

1. ​候補生成（Candidate generation）​: 正規表現（Regex）フィルターを用いて、高い再現率（Recall）で機密候補となる文字列を高速かつ網羅的に抽出。
2. ​コンテキスト認識分類（Context-aware classification）​: 抽出された候補文字列に加え、ファイルパス、変数名、周辺のコードやコメントをファインチューニング済みModernBERTに入力し、本物の機密である確率を算出。

確度の高いもののみをアラート化し、テスト用フィクスチャやプレースホルダーは開発者に通知される前に除外されます。

従来LLMシステムとの性能・コスト比較

本モデルは8ビット量子化を適用したONNX形式でエクスポートされ、GitHubの推論基盤上で直接稼働します。外部LLM呼び出しを廃止したことで、性能とコストの両面で大幅な改善を達成しました。

評価指標	改善成果（対 従来LLMパイプライン）	指標の内容と意義
リポジトリ所有者重み付け受容率	11.5% 向上​	開発者がアラートを受け入れた割合（誤検知の削減）
プッシュ後スキャン中央値実行時間	86% 短縮​	コミット後の非同期スキャン処理速度
推論運用コスト	98% 以上 削減​	外部LLM呼び出しと比べたインフラ費用
オフライン評価精度（Precision）	13% 向上​	検出された候補中の真の機密割合
オフライン評価再現率（Recall）	19% 向上​	見逃さずに検知できた真の機密割合

スキャン処理が劇的に高速化したことで、コミットをリポジトリへ反映する前にブロックする「プッシュ保護（Push protection）」にも汎用機密検知を展開することが可能になりました。

独自価値：タスク特化型小型モデルの優位性

本事例は、「モデルのパラメータ規模が大きいほど優れているとは限らない」ことを明確に示しています。長文生成を行う対話型LLMは推論遅延が大きく、大量のコード変更をミリ秒単位でさばくCI/CDやGitフックには不向きでした。

用途をコード文脈の分類に絞り込み、エンコーダー型のModernBERTをドメイン特化データ（合成データ、弱教師ラベル、人間によるアノテーション）で訓練することで、LLMと同等以上の文脈理解を保ちつつ、超高速・超低コストなセキュリティ検査を実現しています。

分析と今後の展望

AIによるコーディング支援の普及に伴い、世界中でコミットされるコードの総量は急増しています。開発速度を損なわずにセキュリティを担保するには、開発者のワークフロー（プッシュ時やPR作成時）に自然に溶け込むリアルタイム検証が不可欠です。GitHubは今後、検知と抽出を1ステップで行う統合アーキテクチャの探求や、本番環境のフィードバックループを活用したモデルの継続的改善を進めるとしており、DevSecOpsにおける小型AI活用の先駆的なモデルケースといえます。

引用元：The GitHub Blog