顔の分析が得意だと思っていても、 研究ショー 多くの人は、実際の顔の写真とコンピューターで生成された画像を確実に区別することができません。 これは、コンピューター システムが実在しない人物の写実的な写真を作成できるようになった現在、特に問題となっています。

最近、コンピューターで生成されたプロフィール写真を使用した偽の LinkedIn プロフィールがニュースになりました。 米国の役人やその他の影響力のある個人とのつながりに成功した たとえば、ネットワーク プラットフォームで。 防諜の専門家は、スパイは定期的にそのような写真を使ってファントム プロファイルを作成し、 ソーシャルメディアを介して外国のターゲットに的を絞る.

これらのディープ フェイクは日常の文化に広まりつつあります。つまり、マーケティング、広告、ソーシャル メディアでこれらがどのように使用されているかについて、人々はもっと意識する必要があります。 これらの画像は、政治的プロパガンダ、スパイ活動、情報戦などの悪意のある目的にも使用されています。

それらの作成には、脳が学習する方法を模倣するコンピューター システムである、ディープ ニューラル ネットワークと呼ばれるものが含まれます。 これは、実際の顔のますます大規模なデータ セットにさらすことで「トレーニング」されます。

実際、XNUMX つのディープ ニューラル ネットワークが互いに対立しており、最もリアルな画像を生成するために競合しています。 その結果、最終製品は GAN イメージと呼ばれ、GAN は Generative Adversarial Networks の略です。 このプロセスは、トレーニング画像と統計的に区別できない新しい画像を生成します。

iScienceに掲載された私たちの研究では、これらの人工の顔を本物と区別できないことが、オンラインでの行動に影響を与えることを示しました。 私たちの調査によると、偽の画像は他者への信頼を損ない、オンラインでのコミュニケーション方法を大きく変える可能性があります。

私の同僚と私は、GAN の顔が実際の人の顔の本物の写真よりもさらにリアルに見えることを発見しました。 これがなぜなのかはまだ明らかではありませんが、この調査結果は 技術の最近の進歩を強調する 人工的な画像を生成するために使用されます。

また、魅力度との興味深い関連性も発見しました。魅力的でないと評価された顔は、より現実的であると評価されました。 あまり魅力的でない顔は、より典型的であると見なされる可能性があります。 典型的な顔は参考として使用することができます すべての面が評価されます。 したがって、これらのGANの顔は、人々が日常生活から構築した精神的なテンプレートに似ているため、よりリアルに見えます.

しかし、これらの人工の顔が本物であると見なすことは、なじみのない人々の輪に広がる信頼の一般的なレベル、つまり「社会的信頼」として知られる概念にも影響を与える可能性があります.

私たちは自分が見ている顔を読みすぎてしまうことがよくあります。 私たちが形成する第一印象は、私たちの社会的相互作用を導きます. 私たちの最新の研究の一部を構成する XNUMX 番目の実験では、人工的に生成されたものであっても、以前に本物であると判断した顔によって伝えられる情報を信頼する可能性が高いことがわかりました。

人々が本物であると信じている顔により多くの信頼を置くのは当然のことです。 しかし、オンラインでのやり取りに人工の顔が存在する可能性があることを人々に知らされると、信頼が損なわれることがわかりました。 次に、顔が本物かどうかに関係なく、全体的に低いレベルの信頼を示しました。

この結果は、偽のユーザーが操作する可能性のある環境で人々をより疑わしくするため、いくつかの点で有用であると見なすことができます. しかし、別の見方をすれば、それは私たちのコミュニケーションの本質そのものを徐々に侵食する可能性があります。

一般的に、私たちは次の操作を行う傾向があります。 他の人は基本的に正直で信頼できるというデフォルトの仮定. 偽のプロファイルやその他の人為的なオンライン コンテンツの増加は、それらの存在とそれらに関する私たちの知識が、この「真実のデフォルト」状態をどれだけ変え、最終的には社会的信頼を損なう可能性があるかという問題を提起しています.

デフォルトの変更

本物とそうでないものを見分けがつかない世界への移行は、文化的景観を本来の真実から、人工的で欺瞞的なものへと変化させる可能性もあります。

私たちがオンラインで経験することの真実性に定期的に疑問を呈している場合、メッセージ自体の処理からメッセンジャーのアイデンティティの処理まで、精神的な努力を再展開する必要があるかもしれません. 言い換えれば、非常に現実的でありながら人工的なオンライン コンテンツが広く使用されるようになると、予想していなかった方法で、私たちの考え方が変わる可能性があります。

心理学では、何かが外界から来ているのか、脳内から来ているのかを正しく識別する方法として、「リアリティ モニタリング」と呼ばれる用語を使用します。 偽物でありながら非常にリアルな顔、画像、ビデオ通話を生成できる技術の進歩は、現実の監視が私たち自身の判断以外の情報に基づく必要があることを意味します. それはまた、人類が依然として真実を無視する余裕があるかどうかについて、より広範な議論を必要としています。

デジタルの顔を評価するときは、人々がより批判的になることが重要です。 これには、逆画像検索を使用して写真が本物かどうかを確認すること、個人情報がほとんどないソーシャル メディア プロファイルや多数のフォロワーに注意すること、ディープフェイク技術が悪意のある目的に使用される可能性を認識することが含まれます。

この分野の次のフロンティアは、偽のデジタル顔を検出するアルゴリズムの改善です。 これらはソーシャル メディア プラットフォームに埋め込まれ、新しいつながりの顔に関して本物と偽物を区別するのに役立ちます。

著者について

マノス・ツァキリス、心理学教授、感情の政治センター所長、 ロンドンのロイヤル·ホロウェイ大学

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.