生成AIが作成した文書かどうか判別

日立製作所は、生成AIが作成した文書かどうか判別する新技術を発表。 世界初「三重以上」の電子透かしをテキストに応用してフェイク情報の拡散防ぐ狙いがある。 2024年7月29日、生成AIが作成した文章かどうかを判別して見抜く新しい技術が発表されました。 現在、ネット上に氾濫する「偽情報」が大きな社会問題となっています。 生成AIの活用が進むにつれて増えた「負の側面」ですが、技術には新しい技術で対応していくという一つの形です。

技術の概要

日立製作所が発表した技術は、生成AIが作った文章かどうかを判別する最新技術です。 その仕組みは、生成AIが作成したものか判別する『透かし』が入っていると言うことです。 その透かしとは、文章の中の単語の使用パターンをもとに判断する。 この技術では、生成AIが文章を作るときに使われると推測される単語を「電子透かし」として機能させる。 その単語の一致した数によって、文章が生成AIが作ったものなのかがわかるというものです。

社会的な意義

これまで「電子透かし」が1つだと偽造される可能性がありました。 今回の技術では、世界で初めて「三重以上」の電子透かしを使うことが可能となり、セキュリティが強化されると報じてます。 将来的には生成AIが作成した誤った情報が広がるのを防げることが期待される。 企業や官公庁などが重要文書を作成する際に著作権侵害などのリスクの回避にもつなげられるという。 この技術が高まれば偽情報を見抜くことにつながり大きく前進です。

技術の今後

フェイク情報が拡散して社会問題化するなか、動画や文章をなどをつくったのが誰なのかを証明することが求められています。 電子透かしは、これまで動画や画像のフェイクを見破るために活用されてきましたが、文章に応用するのは難しいとされてきましたが、今回のリリースで この「電子透かし」の技術がその解決策になると注目されています。 日立製作所は今後、この技術をさらに進化させて、生成AIを使った偽情報の拡散防止や不正防止につなげていきたいとしています。