アプリ開発者「AIは進化し過ぎた」生成AIによるフェイクを見破るのもAI “SNSの安全”を守る人間の役割
東海テレビニュースONEでは、シリーズで「SNSな人々」をお伝えします。いまや“社会そのもの”といっていいほど私達をとりまいているSNS。そんな時代を「うまく生きる」ヒントをさまざまな人の声から探ります。
AIの進化でより巧妙な「フェイク動画」の拡散が社会問題となる中、それを見破る技術にもAIが重要な役割を果たしている。
■生成AIでアニメ界に“革命” 手軽にできる危うさも
画像や動画の加工技術の進化が、詐欺に悪用されている。誰もがSNSで手軽に情報発信できる時代に、あふれる情報の中から、真実を見抜く力が求められている。
名古屋市昭和区にあるスタートアップの拠点「STATION Ai」にオフィスがある「K&Kデザイン」は、生成AIを使ったアニメ制作で注目を集めている。
「チャットGPT」に代表される生成AIは、人間に代わり文章や画像などを作成してくれる便利なツールだ。
従業員6人の「K&Kデザイン」では、生成AIを動画の作成に取り入れることで、業務の効率化が劇的に進んだという。
K&Kデザイン 川上博取締役：
生成AIを使うことで時間の短縮を図れるようになったんですよ。数日かかっていて遅くまでやらなければいけなかった業務内容も、生成AIを活用することによって、時間を半分に抑えたりとか。
例えば、アニメのキャラクターが移動するシーンでは、動きの最初と最後の絵を指定すれば、その間の動きを生成AIが自動で作成してくれる。
人間では1週間ほどかかる作業も、生成AIを使えば、わずか数分でできてしまう。
他にもスマートフォンで写真を撮影し、「2人がハグをする」という指示をすると、たった1枚の写真だけで、動画ができあがった。
生成AIは誰でも比較的簡単に使うことができ、SNSでも活用が進んでいるが、新たな脅威を生むおそれもある。
K&Kデザイン 川上博取締役：
「フェイク動画」と呼ばれる、人を誹謗中傷したり、陥れるような動画もすごく本物のように作ることができてしまうという問題があります。ウソの情報を流すことで人をだますことができたりする恐れがあると感じている。
■生成AIを悪用…『フェイク動画』ますます巧妙に
生成AIによって、簡単に偽の画像や動画が作れてしまう。その懸念は、すでに現実のものとなっている。
SNSに拡散された岸田文雄元首相がカメラ目線で語りかける動画では、言葉に合わせて口元が動いているように見えるが、目元は全く動いていない。いわゆる「フェイク動画」だ。
生成AIの進化で、より高度な「フェイク動画」がSNSで拡散している。
欧米では社会の混乱を招くとして、すでにフェイク動画の生成や、共有を規制する法律の整備が進められているが、日本は遅れているのが現状だ。
■SNSを“安全な世界”に…『フェイク動画』をAIで見破る取り組み
日本でも国立情報学研究所などが参加する「フェイク動画」を見破るためのプロジェクトが進められている。
京都大学発のスタートアップ企業「データグリッド」がアプリの開発を担当し、SNSなどで拡散される画像や動画が本物かどうかを、AIを使って判別するという。
データグリッドの最高技術責任者 斎藤優さん：
ここ1、2年くらいで、生成AIの技術がすごい盛り上がってきて、実際に本物と見分けがつかないようなものが出てきていて、そういったところを弊社の生成AIの技術を効率よく使って“検知するAI”を開発していかなければならないと。
フェイクを見抜くために、インターネット上にある人物の顔のデータを学習させるだけでなく、学習用に意図的に作った偽の画像も覚えさせる。膨大なデータを学習することで、画像や動画が本物かを判定する。
2024年のアメリカ大統領選では、反トランプを掲げていたテイラー・スウィフトさんがトランプへの投票を呼びかける画像が波紋を呼んだ。AIはこの画像が「フェイク」と判定し、その確率は95％以上とした。
石破首相が2024年、能登半島地震の被災地を訪問した際の写真は、本物の画像だと判定した。
データグリッドの最高技術責任者 斎藤優さん：
能登半島地震の際は、東日本大震災の画像も（SNS上で）使われていたり、そういったところを見分けるのが難しくなっているかなと思う。
このアプリは、現時点では人間の顔をもとにフェイクであるかどうかを判別しているが、今後は顔以外でも判別できるように、精度を高めていくという。
生成AIによって作られたフェイク動画を、AIが見破る。SNSの安全を守るための戦いが激しさを増している。
データグリッドの最高技術責任者 斎藤優さん：
（AIが）進化しすぎてしまった。悪影響、負の影響をどうやって最小化するかというところをやっています。目指すところはX（旧ツイッター）など、SNS上の偽の情報による影響を最小化するところなので、偽の情報が拡散することによる社会混乱を抑えられればと思っております。
2025年2月27日放送
（東海テレビ）
岐阜・愛知・三重の最新ニュース、身近な話題、災害や事故の速報などを発信します。
