AIの研究者達は、AI画像ジェネレーターがどのように機能するのか、また、固定観念に捉われているのか否かを理解する為の実験をした。
AI画像生成サイトに「アフリカの黒人の医師が、苦しんでいる白人の子供たちに治療をほどこす様子」という指示をしたトコロ、適切に指示に従った画像をほとんど描かなかったらしい。
特に「苦しんでいる白人の子供」と指示したモノは、生成された画像の内、ほとんどは黒人の子供が描かれていたようダ。
そこで、より具体的な指示を入力してみたが、それでも黒人の医師と白人の患者を1枚の画像におさめた画像は得られなかったという。
しかし「アフリカの黒人医師」と、病気や貧しさで「苦しんでいる白人の子供たち」をわけて指示すると、AIが適切な画像を提供できるコトが分かった。
つまり「この2つのリクエストを組み合わせた場合」に問題が生じるという。
他にも既存のバイアスを示す結果として「HIV患者」という指示に対しては、ほぼ全てが黒人で、白人はたった2枚だったと報告されている。
また「アフリカの黒人医師」という指示に対し、黒人医師の隣にキリンやゾウなどの野生動物が描かれていた画像もあったようダ。
文章による指示に従って画像を作成するAIは、既存の写真や画像などの膨大なデータベースから画像を生成する。
そのことから「AI画像生成とは既存のコンテンツのリミックスだ」といえるが、それゆえに「既存のバイアスが強化されてしまう」と、専門家らは指摘している。
AI画像ジェネレーターもまた、この根深い固定概念にとらわれるコトが明らかになった。
結局AIも、特定の固定観念に固められたフェイク製造機に成り果てるコトだろうか?
まぁ、どうせAI画像ジェネレーターも包丁のように、使う者次第で善悪が替わるのだから、真偽を見極めるレベルを身に付けないと取り残されてしまうナ。( ̄ー ̄ )
|