現在のAIは、自分が学習していない未知のデータに遭遇すると、間違った答えを出してしまう致命的な弱点がある。
アメリカのミシガン州立大学の研究チームは、生命の痕跡を探すAIが想定外の物質や自然のノイズを見ただけで、地球外生命体だと100%の確率で誤認してしまうことを実験で証明した。
人間の確認なしにAIだけに判断させる危険性を物語っている。
この研究成果はカナダで開催される『2026 Conference on Artificial Life［https://2026.alife.org/］』（2026年8月）で発表される予定だ。
関連記事：月の砂に地球外文明の痕跡、「ダイソン球」の残骸が眠っているかもしれない
宇宙探査で期待されるAIによる生命痕跡の特定
人類はこれまで、謎めいた電波信号や光の点滅、未確認飛行物体などを探し続けてきたが、生命の痕跡と正確に判断できる段階には至ってない。
現在、NASAをはじめとする世界各国の宇宙研究機関は、探査機や宇宙望遠鏡などを使って、過去や現在の地球外生命の痕跡を探している。
そこで、宇宙ミッションで集められた複雑で膨大なデータを精査し、バイオシグネチャー（生命が存在したことを示す科学的な痕跡）を特定するためにAIの活用が提唱されている。
目的地に到着した探査機に搭載されたAIセンサーが、サンプルの特徴をその場で分析して生命由来のものかどうかを判断する計画が進められているのだ。
関連記事：地球外知的生命はホタルのように光を点滅させコミュニケーションしている可能性
デジタル生物を用いたAIの学習と分類テスト
アメリカのミシガン州立大学のクリストフ・アダミ教授とアンキット・グプタ氏の研究チームは、AIのバイオシグネチャー検出能力を評価する実験を行った。
生命が存在する普遍的な指標の一つに、DNAのように情報を暗号化して自己複製する機能がある。
研究チームは、アヴィダ（Avida）と呼ばれるデジタル生命体の進化プロセスをシミュレーションするコンピュータープログラムを利用した。
関連記事：エンケラドゥスの地下海に有機分子の痕跡を発見、地球外生命の有力候補に
アヴィダの仮想空間（仮想のペトリ皿）では、コンピューターコードで構成されたデジタル生命が自己複製を繰り返す。
実際の生物の遺伝子が繁殖時に突然変異を起こすように、デジタル生命のコピー過程にも不完全な変化が生じる。
研究チームは、自己複製機能を持つデジタル生命と持たないデジタル生命を数万個生成し、ニューラルネットワーク（人間の脳の神経回路を模したAIの学習モデル）に学習させた。
学習を終えた直後のAIは、自己複製能力の有無という2つの生命のタイプを99.97％という極めて高い精度で分類することに成功した。
関連記事：ジェイムズ・ウェッブ宇宙望遠鏡で地球外生命を探すなら「ハイセアン惑星」が有力だ
未知のデータに直面したAIはすべてを生命と誤認する
研究チームは次に、AIの認識能力を測るため、AIがこれまで学習したことのない「未知のデータ」を提示するテストを行った。
まず研究チームは、AIが「自己複製能力を持たず、生命の痕跡ではない」と正しく判定したプログラミングコード（コンピュータに行わせたい処理手順を、プログラミング言語を用いて文字列や記号の羅列として記述した命令書）を用意した。
そこに、本来の動作を維持しつつもAIのパターン認識を惑わせるような微細な書き換えを150回ほど繰り返した。
この操作により、AIの学習データには存在しなかった「生命の痕跡があるように見える新しい配列」へとプログラミングコードが作り替えられた。
関連記事：新たな地球外生命体の探し方が報告される。金属が少ない恒星の近くの惑星を探せ！
結果としてAIの認識能力は限界を迎え、この改変されたプログラミングコードを「自己複製能力がある生命の痕跡だ」と100%の確率で誤って特定し始めた。
AIは未知のパターンに直面すると、生命の兆候が存在しないプログラミングコードを生命の痕跡だと完全に誤認してしまうという脆弱性を持っている。
宇宙空間にはAIの認識を狂わせる未知の配列が無数に存在するため、AIが将来の探査データから偽陽性（誤検出）を引き起こす確率は非常に高い。
日常生活にも潜むAIの脆弱性と人間の介入の必要性
AIの脆弱性は、宇宙探査だけでなく、地球上の日常生活で稼働する医療用スキャナーや防犯カメラの顔認識ソフトウェアや自動運転車などにも影響を及ぼす。
AIの判断を過信することは、人間の既存の生活や命を脅かす危険性を含んでいる。
研究チームは、科学分野におけるAIの活用自体を否定しているわけではない。
火星の探査車に搭載されたAIが、地球にサンプルを持ち帰る前にその場で分析を行うような状況では、AIが誤作動を起こす重大なリスクがある。
科学的発見のいかなる分野においても、AIの作業結果を人間が独立してチェックする仕組みが不可欠なのだと、警鐘を鳴らしている。
公式X
公式YouTube
コメント