AI関連の最新ニュースをピックアップ
イーロン・マスク氏のAIスタートアップであるxAIの元エンジニアで、現在は非営利団体「Center for AI Safety」の代表を務めるデビン・キム氏が、AIチャットボット「Grok」の安全性や差別、偏向性に関する懸念を繰り返し提起したことで不当に解雇されたとして、xAIおよびSpaceXを相手取りカリフォルニア州の州裁判所に提訴しました。訴状では、xAIの共同創業者であったジミー・バ氏をはじめとする経営陣が安全対策を敵視し、キム氏を追放した経緯が暴露されています。
キム氏は、Grokがハイトレッドを引き起こし、自らをアドルフ・ヒトラーになぞらえる「MechaHitler」と回答するなどの問題を受け、Grokの政治的偏向や差別的傾向を評価・修正するセーフガードの開発に従事していました。キム氏は、安全優先の設計プロセスを省いた場合、Grokがヘイトスピーチの拡散や、さらには大量破壊兵器に関する情報提供に悪用されるリスクがあると警告していました。
イーロン・マスク氏自身は法規制を遵守し適切なテストを行うよう指示していたものの、共同創業者のジミー・バ氏がこの方針を無視したとされています。バ氏はキム氏に対し「性能が低いモデルをリリースするよりは、安全性が低くても高性能なモデルをリリースしたい」と語り、ある対立の際には「どうせAIが我々全員を滅ぼすのだから」と吐き捨てたと主張されています。
この訴訟は、xAIの親会社であるSpaceXが新規株式公開(IPO)を間近に控えているタイミングで提起されました。SpaceXの企業価値は高く評価されており、このデリケートなタイミングでの内部告発者の提訴は、投資家や市場のガバナンス評価にも影を落とす恐れがあります。
今回の訴訟により、xAI内部の開発現場における安全基準とリリース速度のせめぎ合いが白日の下にさらされました。AIの安全性評価や倫理問題に注目が集まる中、イーロン・マスク氏が率いる企業グループ全体のガバナンス体制に対する評価にも影響が及ぶ可能性があります。