世界中の女性の AI 画像が急速に広まりました。 彼らは色彩主義や文化的な美しさの基準を促進していますか?

Jul 19, 2023

インドの「美しい」女性とはどのようなものですか?

フィリピンやラオスはどうでしょうか？

人工知能 (AI) が答えを持っていると主張しています。

AIが生成した世界中の「美しい女性」の画像が、ここ数カ月にわたって急速に拡散している。

南アジアと東アジアの女性の AI 画像をフィーチャーしたある TikTok 動画は、最近 AI World Beauties というアカウントによって投稿され、再生回数は 170 万回を超えています。

しかし、専門家らは、画像は偏ったデータセットや固定観念に基づいて「訓練」されているため、限定的で排他的で潜在的に有害な理想を永続させる可能性があると述べている。

拡散する画像は、「生成 AI」または「GenAI」と呼ばれるプログラムによって作成されます。

「GenAIは、機械学習モデルを活用した人工知能の一種です」とシドニー工科大学でデータサイエンスとイノベーションの講師を務めるシバニ・アントネット氏はABCに語った。

「何百万ものデータポイントから学習したパターンと情報を使用して、これまで存在したことのない新しいコンテンツを作成します。」

アントネット博士は、トレーニング データの品質と多様性が画像ジェネレーターの出力を決定すると述べています。

ABCが問い合わせたところ、このバイラルビデオの作成者は、画像を生成するためにMidjourneyと呼ばれる拡散モデルを使用したと述べた。

彼らは記事中での名前の公表やそれ以上のコメントを拒否した。

白い肌、薄い鼻、ふっくらした唇、高い頬骨。

話題になったビデオによると、「美しい」女性にはこれらと同じ特徴があるという。

アントネット博士は、画像生成技術や顔認識技術においてバイアスは「深刻な問題」であると述べています。

「モデルは人種や性別に関する偏見や固定観念を増幅させ、歪んだ現実を生み出す可能性があります」と彼女は言う。

「生成された画像のほとんどは、色彩主義と文化的な美の基準を永続させます。」

アントネット博士は、ウイルス性の AI 画像を見て、それらを生成したモデルには「肌の色や形が異なる有色人種の顔を多数含む多様なトレーニング データセットがなかった」可能性が高いと述べています。

「結局のところ、これらのモデルのデータは、特定のアプリケーションに対応するために、過去数十年にわたってインターネット全体から抽出されたものであり、対象範囲、多様性、包括性についての説明責任はありません。」

エイジア・ジャクソンは人々に彼女の民族性を推測させることがよくあり、彼女が人々に話すとたいてい「あなたはそのようには見えない」と言われます。

黒人とフィリピン人の女優でコンテンツクリエーターである彼女は、子供の頃、「混合」されたことで「多くのアイデンティティの問題」が生じたと語った。

現在29歳のジャクソンさんは、自分自身とアイデンティティの意識がより強くなったと語る。

「誰かが『私は黒人には見えない』とか『アジア人には見えない』と言われると、間違いなくもっと腹が立ちます。

「なぜなら、これらの人種カテゴリーには、非常に広範囲の肌の色と特徴が含まれているからです。」

人々がジャクソンさんに「フィリピン人には見えない」と言ったときも同様だ。

「フィリピンは 7,100 以上の島と数百の異なる民族を持つ国です」と彼女は言います。

ジャクソンさんは、バイラルなAI画像について「かなり無関心」だと感じている。

「AIは、たとえそれが非包括的であったり、政治的に正しくなかったりしても、人間の行動をコピーしているだけです」と彼女は言う。

「これは現実に起こっていることと何ら変わりません。

「同時に、あらゆる国の特徴や民族の多様性を 30 秒のビデオに含めることは不可能だとも思います。」

イシャラ・サハマさんが最初に上の画像を見たとき、彼女はそれらが「ほとんど幻想的」であると感じました。

そして彼女は、自分が見ているのは「各民族グループで最も受け入れられている美の基準」であることに気づきました。

「各国内の民族グループの多様性は、1つのモデルに一般化されています。それは還元的であり、それらの国の多様性を反映するものとは程遠いのです」と彼女は言う。

戦略的デザイン会社エコー・インパクト・グループの共同創設者（25）は、インド人、パキスタン人、アラブ人、オーストラリア先住民族と間違われている。

彼女はシンハラ語、タミル語、マレー語の背景を持つスリランカ人です。

「自分の民族性を勝手に決めつけて、それを何も尋ねずに関連付けてしまうことが、私にとって最も腹立たしいことなのです。」