AIによって生成された高精度なフェイクニュースなどが社会的な混乱を生み出す可能性については、これまでも懸念されてきた。
だが今やAIがつくり出す文章の自然さは、専門家すら騙されるほどだ。それはサイバーセキュリティを脅かすだけでなく、科学、医療系の偽の論文まで作り出すようになったら、人命に関わる恐れすらあるという。
アメリカ・メリーランド大学ボルティモア校のグループは、「トランスフォーマー」という自然言語処理AIを使って文章を生成し、それをサイバーセキュリティの専門家に読んでもらうという実験を行なった。
GoogleのBERTやOpenAIのGPTをはじめとするトランスフォーマーは、文章を理解して、その翻訳や要約などをつくり出せるAIで、機械が人間らしい文章を表示できるようになったのはこのおかげだ。
また、ほかにも検索エンジンの機能向上や文筆家に文章を書くヒントを提供するといった使われ方がされてきた。
便利な反面、その能力を悪用すれば、たとえば次のようないかにも本当そうな、それでいて特に根拠もない偽の情報をつくり出すこともできる。
APT33はきわめて重要なインフラを物理的に破壊するサイバー攻撃を模索している。攻撃者はウェブベースの航空用管理インターフェースに各種脆弱性を注入。ひとたび成功すれば、機密データを傍受し抽出できるほか、CMSユーティリティに非認証アクセスできるようになる
photo by Pixabay
セキュリティの専門家が見抜けなかった
実験に使われたトランスフォーマーはGPT2。このAIにネット上に掲載されているサイバーセキュリティの脅威に関する文章やフレーズで学習させ、脆弱性と攻撃についての文章を生成させた。一見したところ非常に自然な文章だが、航空会社へのサイバー攻撃に関して不正確な情報が含まれていた。
しかし、サイバーセキュリティの脅威に関する情報を日頃から大量に追っている専門家にこれを読んでもらったところ、まんまと騙されてしまったのだ。
これは実験だから驚いたですまされるが、仮に実際の現場でも騙されてしまい、偽の情報に振り回されたらどうなるだろうか？
ありもしない問題への対応に追われて、本来対応すべき脆弱性は放置されるような事態もありえると研究グループは警鐘を鳴らす。
photo by Pixabay
AIによるフェイク論文が科学・医療業界を揺るがす可能性も
今回のトランスフォーマーは、次のような新型コロナワクチンの実験とその副作用に関する研究の要約らしき、完全な文章を生成することにも成功している。nCOV-19ワクチンであるBNT162b2およびChAdOx1の二度目の接種後、24時間以内に全身および局所的な副作用が発生。一度目の接種後の副作用は、熱、頭痛、呼吸困難、胸痛、腹痛など。二度目の接種は正常な組織酸素供給レベルを回復させるが、めまい、低酸素症、呼吸困難をともなう可能性がある。
この分析結果は、人口に基づくコホートによるもので、血液サンプルを系統的に採取し、mRNA輸入、赤血球交換、およびワクチン後の宿主細胞リリース（ES）手順にしたがった
研究グループによれば、パンデミックの最中、査読前の研究論文を掲載するサイトに関連論文が定期的に投稿されていたという。
そうした論文は査読前であってもメディアに取り上げられ、さらに公衆衛生上の決定を下すためにも利用されている。
そうした中にフェイク論文が紛れ込み、正しい情報として受け止められてしまう恐れもある。そのせいで医学的研究や公衆衛生政策が間違った方向に導かれれば、文字通り命に関わる事態となるだろう。
photo by Pixabay
AIと人間のいたちごっこ
サイバーセキュリティの専門家たちは、AIが虚偽情報を生成する方法を理解しようと努めている。それがわかれば、虚偽情報を見分ける方法の発見にもつながるからだ。たとえば自動生成された文章には細かい文法ミスが含まれがちなので、これを偽物と本物を見分ける手がかりにできるかもしれない。また複数のソースにあたって情報の裏付けをとるやり方もある。
だが、いずれはAIもそうした方法の裏をかくやり方を見つけるかもしれない。研究グループは、結局いたちごっこになったとしてもおかしくはないと述べる。
最終的には読み手である人間自身が、どのような情報なら信用できるのか常に気を配り、人々を陥れようとするハッカーがいないかどうか目を光らせるしかないのかもしれない。
References:Study shows AI-generated fake reports fool experts/ written by hiroching / edited by parumo
サイエンス＆テクノロジーの記事をもっと見る
ウクライナの自動車整備士がコツコツと組み立てたロボット - カラパイア
体に異変をきたす謎の音響攻撃「ハバナ症候群」を引き起こす可能性のある兵器は存在すると専門家が指摘 - カラパイア
スペースXが海上に宇宙港を建設中。開港は来年を予定（イーロン・マスク） - カラパイア
若返りのタンパク質でマウスの寿命を23%延ばすことに成功。数年後には人間に応用できる可能性 - カラパイア
コメント