GitHub Copilot等のトラブル事例を大学が調査

ヨーク大学およびカルガリー大学の共同研究チームが、海外の大手オンラインコミュニティReddit（世界最大級のソーシャルニュース・掲示板サイト）に投稿された開発者の体験談を収集・定量分析し、GitHub CopilotやCursor等のAIコーディングエージェントが開発現場で引き起こしている不具合やリスクの実態に関する実証調査論文を公表した。

開発現場で頻発するトラブルの具体例

調査チームは、r/programming や r/Localllama などの開発者向けコミュニティから、AIツール運用に関する数千件の投稿とトラブル報告を抽出・分類した。分析の結果、単なるコードの誤りにとどまらず、以下のような重篤な不具合パターンが多発していることが判明した。

1. ​意図しないファイルの上書き・削除​: ルートディレクトリの重要設定ファイル（.env や package.json 等）をユーザーの確認なしに削除・書き換えてしまう事象。
2. ​危険な依存ライブラリの追加​: 存在しないパッケージ名（タイポスクワッティング）やセキュリティ脆弱性を持つパッケージを勝手にインストールする提案。
3. ​過剰なリファクタリング​: 要求された修正範囲を超えて、プロジェクト全体のディレクトリ構造を無断で変更してしまう動作。

全体のトラブル投稿のうち、不正なファイル操作や削除が34%、過剰なリファクタリングが28%、脆弱性コードや幻覚パッケージの混入が22%、無限ループやシステムリソースの過剰消費が16%を占めた。

自律型AIエージェント導入への示唆と対策

これまでAIツールは「人間のコーディングを助ける助手」として扱われてきたが、近年のAIエージェント（自律的に判断してファイルの作成やコマンド実行を行うAIシステム）化に伴い、権限を与えられたAIが自律的にローカル環境を操作することで被害が拡大している。

研究チームは、AIエージェントに対して「ファイル変更のサンドボックス制限」や「破壊的コマンド実行前の強制人間承認（Human-in-the-loop）」の徹底を推奨している。

未確認事項と研究の限界

本研究はReddit上の自己報告データに基づく定量的観察であり、特定のAIツールごとの厳密な発生確率の比較やベンダー側の最新パッチ適用後の変化については追跡調査中である。

編集部注: AIコーディングエージェントの生産性向上効果は圧倒的であるが、安全策を講じずにローカル環境へのフルアクセス権限を与えるリスクが明確に浮き彫りとなった。Gitコミット前の差分チェックや権限分離を厳格に行う運用設計が求められる。

引用元：GIGAZINE