人々は人間を信頼するのと同じようにAIを信頼するでしょうか？

- この記事はdigitalhumans.comから自動翻訳され、修正されました。

UneeQの認知アーキテクト、Piers Smith執筆

信頼とは幅広い概念です。友人や家族を個人的な事柄で信頼し、休暇中に植物の水やりを隣人に任せることもあるでしょう。銀行にお金を安全に保管してもらうこと、医者に健康に関するアドバイスを求めること、また、タクシー運転手に安全に目的地へ運んでもらうことなどが信頼に繋がります。

信頼には様々なレベルがありますが、その種類は大きく分けて二つ、認知的信頼と情緒的信頼です。

認知的信頼は、相手方が能力、信頼性、頼りになる存在であるという信念に基づいています。例えばタクシー運転手がそれにあたります。情緒的信頼は、情緒的な絆が両者間での配慮を生み出すという信念です。これは家族や、ある程度、隣人といった関係が該当します。

ここで「人々」とではなく「当事者」という言葉を使用することが重要です。それは日々進化する対話型AIの存在を考えると、一つの問いが浮かび上がってきます。デジタルヒューマンが私たちの個人生活や職業生活に深く組み込まれた時、私たちが人間を信頼するのと同様、同程度に彼らを信頼することができるでしょうか？

答えは、そのデジタルヒューマンが果たす役割により、単純なはいまたはいいえといったものよりも複雑である可能性があります。

• デジタルヒューマンに自分の車を安全に運転してもらうことを信頼できますか？
• 健康に関するアドバイスを受け入れることができますか？
• お金を安全に保管することを信頼できますか？
• 自宅の管理を任せることができますか？
• 個人情報を安全に保管することを信頼できますか？

おそらく、それぞれに対する反応は異なるでしょう。

それより重要なのは、生きていて呼吸をしている人間よりも、あなたがデジタルヒューマンをもっと信頼するかどうかです。

はい、という答えが非常に実際的です。人々はこの深いレベルの信頼をAIベースのデジタルヒューマンと築き上げるでしょう。 この刺激的な新世界へと足を踏み入れるにあたり、もちろん気をつけるべき点もいくつかあります。

現代における信頼の状況

まずは、現代において、残念ながら、認知的信頼がデジタル化の影響を強く受けているという事実を簡単にみていきましょう。

私たちの最もデリケートなデータを保護する能力に対する信頼が、世界最大の企業ですらも幾多の例を挙げて脆弱性を露呈しているのです。

2018年だけでも、マリオットホテルのユーザー約5億人分の情報がハッカーによって閲覧されました。また、Facebookでは1億人以上のユーザーの個人情報が漏洩し、10億人以上のインド居住者の生体認証データが悪意あるアクセスに晒されました。

ブリティッシュエアウェイズ、Quora、Google、キャセイパシフィック航空など、何千もの大手ブランドが、意図的な第三者からの攻撃や、安全でないAPI、劣悪な技術などにより、昨年中に何らかの形でデータ漏洩を経験しています。

このような現代の環境は、人々がどの種類の情報を共有するべきか、またそれが尊重されるという信頼に対する自信を揺るがせています。

かつての黄金児であったデジタル化が、その輝きを失い、技術への不信感を深めているのかもしれません。 Ethereumのような暗号通貨やソーシャルメディアは、ますますハッキングや外国の干渉に対して脆弱になっています。また、ロボットが私たちの仕事を奪うという脅威の統計も私たちを怖がらせます。

多くの点で、このデジタル時代における信頼が失われつつあります。そして、多くの企業がそれを理解しています。

PwCの最新のCEO調査では、世界のトップビジネスリーダーの84%がAIは社会にとって良いものだと述べていますが、37%ものリーダーがAIの最優先事項はその信頼性を確保することだとも述べています。PwCではAIの信頼性を「15.7兆ドルの問題」と呼んでいます。これは、AIを正しく適用した場合のGDPリワードの大きさを指しています。参考までに、現在のアメリカのGDPは約20兆ドルです。

信頼性の損失とリスクが存在しますが、同時にチャンスもあります。結局のところ、テクノロジーはここに留まるでしょう。しかし、同じく人間のつながりを求める傾向もまた続くでしょう。では、私たちが人々に対して信頼と意味のある交流を築くデジタル解決策をどのように作り出すことができるのでしょうか？

この問いの答えは、新たに出現したカテゴリーであるデジタルヒューマンにあるかもしれません。間違いなく、新たなヒューマンスキンで包まれたこのテクノロジーは、情感的なデジタル信頼を育むゲームチェンジャーになり得ます。

待って、それらの感情は本当に重要なのでしょうか？

私たちは人間として、その感情が非合理的であるか論理的でなくても、すべての交流に感情を持ち込みます。私たちは信号機に怒鳴ったり、ラップトップに早くシャットダウンするよう命じたりします。 映画で私たちは泣く、それが現実ではないにもかかわらず。

我々は、常に、自身の内面の状態を篩にかけて、認知する世界をフィルタリングしています。

負の感情を引き起こす体験を作り出すと、健全な個人成長が妨げられます。しかし、幸福や安全を促進するようなポジティブな体験を作り出すことで、感情的な信頼感を育てることができます。これは誰か（或いは何か）の信頼できる実績に基づく「頭で考える」信頼感である認知的信頼とは異なり、感情的信頼はより心の産物です。

これは真実の親密さ、共感、友情を最終目標とする感情から生まれます。中国人はこれをguanxi（関係）と呼び、この信頼関係は一夜にして築かれるものではありません。ただし、一度確立すると、業界や組織にとって強力な推進力を生み出し、新たな意義やつながり、顧客ブランド価値を引き出すことが可能となります。

デジタルヒューマンはどのように信頼を築くのでしょうか？

では、guanxi（関係）はデジタルヒューマンと何の関係があるのでしょうか？実は、大いに関係があります。

デジタルヒューマンは最良の人間性を念頭に設計されています。理想的には、彼らの設計のすべての側面、言葉によるものも非言語によるものも、感情的信頼を育む一貫した体験に組み込まれています。

UneeQは、「デジタルヒューマンの倫理設計の五原則」を作成してこの目的を達成するためにデジタルヒューマンの創造にAIの倫理と原則を推進します。

彼らの目指すところは、感情的な直感、社会的な手がかりに反応し、視覚的にアプローチ可能で非常に人間らしい存在として人間との共感を高めることです。 そして、研究によれば、この種の体験的な交流が関与を促進し、システムが人々をどのように支援できるかについて多くの可能性を開くとされています。

しかし、デジタルヒューマンが人間と異なる点は、100％の匿名性を提供することです。これは、心理療法の分野などで大きな変化をもたらしています。今、突然「告白の部屋」が存在し、全く情報を公開しても安全な場所があるのです。そして治療者は、全く衝撃を受けず、判断的ではありません。事実、デジタルヒューマンは、あなたが共有するほど、より共感的になることが証明されています。

例として、南カリフォルニア大学（USC）の発明品であるEllieを挙げてみましょう。これは、除隊した軍人のPTSD（心的外傷後ストレス障害）を特定するために設計されたAIセラピストです。ある著者が指摘しているように、Ellieの設計は完全に現実的なもので、その目的は患者が自動化されたセラピストに対してオフェンスや意見、口滑りを気にせず話すことができるようにすることでした。

また、興味深いことに、患者が自分の話が適切な治療が受けられる人間のプロフェッショナルの手に渡るとわかったとき、正直な開示の質は損なわれません。南カリフォルニア大学のクリエイティブテクノロジー研究所の社会心理学者であるGale Lucas氏は、「それが起こっている瞬間について話す安全な場所がある」と述べています。

ますます多くの証拠が示唆しているのは、スティグマ化のリスクと感情的な脆弱性が深まるほど、患者はデジタルセラピストを好む傾向が強くなるということです。 大うつ病と同様に、Cardiac Coachの研究では、これらの患者の大半が一対一の人間関係よりも匿名のデジタル空間にもっと自由に開放されることを発見しました。

その意味:デジタル療法は、家庭内暴力や、極度の情緒的信頼を必要とするあらゆる種類の高感度ケースなど、より深い診断療法を解放する鍵となる可能性があります。

偉大な力には偉大な責任が伴う

しかしこれらの能力の一部は、私たちがその利益を想像しがちな刃物のようなものでもあります。

匿名性の裏側は、人間の責任なしに心理的、社会的なトリガーを引き起こすことができるということです。場合によっては、これは非常に悪いカスタマーエクスペリエンスにつながることがあります。

例として、WestJetのチャットボットを取り上げてみましょう。これは、乗客の明るいレビューに対して自殺防止ホットラインへの紹介を提案しました。

それは間違いでした—顧客がそれを笑い飛ばすことを選ばなかったら、全く異なる結果になっていたかもしれません。そして、そのような間違いは、信頼が形成されていると重大なものになることがあります。それは単に悪いカスタマーエクスペリエンスであるだけでなく、潜在的に危険な状況に人々を導く可能性があります。USAFのためのある調査では、ロボットが人々に対して専門家として自己紹介し、信頼の明確な訴求を行った後、明らかな間違いを犯したとしても、それに従うかどうか、さらには燃え上がる建物から逃れるといったリスクが高い状況でも、その人々に尋ねました。

身体化された、意味深い交流を共創することは、システムをより良い方法で構築するだけでなく、信頼の構築ブロックを生み出す原則を包容することについてです。人々はNadiaのようなチャットボットを信頼するでしょう、もし彼女がどこから来たのかを知っているならば。 デジタルヒューマンの背後にあるシステムを理解することで、初めてその体験を信頼できると考えられます。

それは、デジタルヒューマンデザインのプロセスを詳しく知ることで、顧客がクリエイティブなプロセスを理解し、あなたの意思決定に何が影響したのかをつかむことを意味します。なぜあなたはこの性別、この声、この特定のキャラクターを選んだのか？ 何を提供し、それらの能力に関連する倫理上のリスクは何か？ 伝統的な性別役割に対するバイアスが最終的な製品や選ばれたキャラクターにどのように影響を与えたのか？ デザインが感情的なつながりを促し、安全な空間を創出することを目指しているのであれば、デザイナー自身がこのプロセスをリードする必要があります。顧客/クライアントへの透明性は、プロバイダーから始まるのです。

世界的な変化の大風の中で、不確実性が高まる中、デジタルトラストは新たなグローバルな商品になり得ます。あらゆる商品と同様に、簡単に入手でき、すぐに失われる可能性もあります。しかし、新たなデジタルソリューションの中心に人間のつながりのニーズを持続させ、時間をかけて信頼を築き続けることができる人たちは、私たちがまだ想像し始めたばかりの方法で人々を助けるデジタルソリューションにこれを活用できるでしょう。

‍