生成AIで誤情報作成の福岡観光サイト閉鎖へ

生成AIを利活用する企業や団体、公的機関が増えています。生成AIを使えば効率的に文書を作成したりプレゼン資料をまとめたりすることが可能です。

ただ、生成AIを使ったことのある人にはよくわかると思いますが、かなり頻繁に誤情報が紛れ込むことが起きます。問題は、明らかな間違いならすぐにわかりますが、生成AIがいかにもありそうなもっともらしい嘘を本当のことに混ぜ込んでつくことです。

生成AIを使うヒトは、自分がわからないことを含め、生成AIに文章などを作成させることが多いため、それが本当なのか嘘なのかを判断できず、生成AIまかせになってしまいがちです。そもそも自分が知らないことを生成AIに作成させるわけで、それを改めて検証したり検索したり真偽を判別していたら生成AIに作成させる価値はなくなってしまいます。一種のジレンマなわけですが、生成AIの作成データを評価する生成AIが必要なのかもしれません。

このような文章でも、プログラミングでも、人間が手を動かして書いていたものを生成AIに任せる代わりに、AIの成果物を検証する。という異なる仕事が発生します。本件のようにそもそもその検証を怠っていたというのは救いようがないですが、英語を喋るのは苦手だけど聞き取りはある程度できる。という人が多いように、書くのと他人が書いたものを検証するのは頭の使い方は異なりますから、人によってはAIに任せるくらいなら自分で書いたほうが早い。というケースは生成AIが進歩してもそれなりに存在し続けるように感じます。

今回の問題は、作成したサイト内容を人間がチェックしなかった点、これに尽きると思います。しっかりチェックすれば、こんな事にはならなかった。

例えば「うみなかハピネスワールド」は、福岡の「海の中道海浜公園」の「ワンダーワールド」を元にして、「ハピネス」と結びつけた造語でしょう。

AIは事実に基づいた情報を生成できるレベルには達していません。 文脈上よく用いられる前後関係の語句を並列させ、もっともらしい意味の文章に作るのが現在のレベルです。その文章とて、見る人が見れば不自然な違和感を感じます。

そもそも、AIを過信し過ぎです。

今後このような事例は急速に増えていくだろう。10年後20年後のインターネット上にはAIが書いた文章やAIが生成したフェイク画像・動画が氾濫して、人間が書いた文章や本物の写真を見つけることはどんどん難しくなっていくと予想される。ヒントン博士はこのままでは「何が真実か知ることが不可能になる」と懸念している。今回の例は人間が生成AIの間違いを指摘して誤りを正せているので、未来の私たちから見ればこの頃はまだ良かったとなるのかもしれない。

サイト削除されちゃったかぁ、横着した仕事はダメですね。