こんにちは。
日々、進歩するAI技術は、
輝かしい未来の予感とともに、
一抹の不安を感じさせます。
気軽にSNSに投稿した、子供の写真。
無邪気に遊んでいるその姿が、
気が付けば刺激的な衣装、ポージングで
ネット上を一人歩きしているとしたら？
今回は、すでにネットの世界に浸食している、
AI生成技術の闇の部分を見てみましょう。
何気なく投稿の「カワイイ」画像が「刺激的ショット」に変貌。
現在のAI生成技術を使用すれば、
子どもに限らず、実在の人物の画像を
容易に作成できます。
事実、作成した画像を販売する事例も、
すでに問題になっています。
実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買 : 読売新聞 (yomiuri.co.jp)
引用元：読売新聞オンライン
記事中での取材に対して、
「過去の画像であれば知的財産権を侵害しない」
という考えも紹介されています。
新しい議論として今後、話題となっていく分野ですが、
AI生成された画像がそもそも、
「本人」の画像なのか、という点からスタートしなければなりません。
ディープフェイクによる「偽物」のひとり歩き。
日本でもこうした生成画像の販売などの事例が、複数発生しています。
下の事例でも、実在する選手の画像から、
性的なイメージを持つ画像を生成、販売しています。
ＡＩ「ディープフェイク」で女子選手の顔と別人の裸を合成、卑わいな投稿をした疑い : 読売新聞 (yomiuri.co.jp)
引用元：読売新聞オンライン
知らない間に「作られた自分」が、
モニターの中でセクシーポーズを取り、
カメラに煽情的な笑顔を向けている、というのは
多くの人にとって不快で、恐ろしい体験ではないでしょうか。
【動画】めざましい進歩を遂げるAI。避けられない闇も。
下の動画は、ネットで話題を呼んでいるドイツのCMです。
とある夫婦の間の娘「ELLA」を撮影した動画から、
AIにより彼女の未来の姿を生成し、
「未来の彼女」から、現在の両親にメッセージを送る、というコンセプトです。
不用意な画像投稿が子供たちに招く危険について、
まさにAI技術を用いて警鐘を鳴らしています。
Don't share your kids personal information - Without Consent - Deutsche Telekom Deepfake AI Ad
引用元：Youtube
現代の落とし穴。少なくとも、自発的な燃料投下は避けるべき。
「日進月歩」という言葉に、
やや「暴走」という印象も加わりつつある技術革新の数々。
知らず知らず撮影された画像や動画から、
本人が望まない複製が生み出されることは、
もはやすべて回避することはできないのかもしれません。
しかし、自らの投稿が招いた事例も多数あります。
常にカメラがそばにある時代、
せめて自分でトラブルの種をまくような行いは
避けたいものですね。
それではまた次回。