8章　生成AIと認知バイアスの問題

本章は、生成AI時代における知的生産の技術を、社会心理学という人文科学の視点から考察することにしたいと思います。生成AIが認知バイアスを軽減するのか、それとも増幅するのか、それはなぜなのかというのが考察の目的です。

認知バイアスとは何か

「認知バイアス」(cognitive bias)とは、判断における規範や合理性からの逸脱の体系的なパターンです。心理学や行動経済学でよく研究されています。認知バイアスの存在が実証的研究で知られるようになったのは、第二次大戦後の1950年代のことでした。また、認知バイアスの原因（メカニズム）が本格的に研究されるようになったのは、1970年に入ってからのことです。それ以降、多くの認知バイアスが発見され、現在では150以上のバイアスが知られるようになっています。

認知バイアスの発見〜正常化の偏見

1950年代の災害社会学におけるNormalcy biasの発見

第二次大戦後のアメリカにおいて、災害の脅成に対する認知が、解釈者自身のもつ先有傾向、デモグラフィック特性の違い、解釈者のおかれている社会・心理的背景などによってさまざまなバイアスを受けることが明らかにされました。その中心となったのは、シカゴ大学に設置されたNORC(National Opinion Research Center)という調査研究センターでした。そこで1950年から1954年にかけて実施された災害研究プロジェクトの現地調査から、「正常化の偏見（normalcy bias）」（正常性のバイアス）の存在が初めて発見されたのです。これは、「環境からインプットされる情報を日常生活の判断枠組の中で解釈しようとし、危険が迫っているという事実を認めようとしない態度」のことをいいます(Fritz, 1961; 三上, 1982)。そのため、たとえ情報確認が行なわれても、危険のサインを逆に日常的な出来事の一部として解釈しつづけるために、脅威を正しく認知できないことがしばしばあります。その代表的事例は、1952年3月21日、アーカンソー州ホワイト郡で起きた竜巻の災害でした。この竜巻は死者約50名という大きな被害をもたらしたのですが、多くの人びとは、激しいつむじ風の音を聞いて、それがすぐ近くを走る汽車の音だろう、と日常性の判断枠組の中で解釈し、竜巻の脅威を認知できませんでした(Fritz, 1958)。このような正常化の偏見は、とくに先行現象が目にみえないものであったり未知のものである場合に顕著に現われやすいことがわかりました(Fritz, 1957)。また危険の兆候を身近な現象と結びつけと解釈するという傾向が一般にみられます。たとえば1951年9月21日、ニューヨーク州ブライトンで、ガスの本管の漏洩による爆発事故が起き、民家16棟が失し、2名が死亡したが、この時どの主婦も、最初自分の家の台所のガスが爆発したものと思い込んだのでした(Fritz, 1958)。

Normalcy Biasという専門用語が初めて公の場に登場したのは、1973年、アメリカ商務省のベンジャミン・F. マクラッキーが発表した「Warning System」という論文の中でした。マクラッキは、災害計画の立案者や警報の伝達者は、私たちが「正常化の偏見(Normalcy bias)」と呼んでいるものを考慮しなければならない、と述べています。正常化の偏見とは、「人々が平常の側に偏る傾向」のことです。

「正常化の偏見」概念の日本への導入

「正常化の偏見」（正常性のバイアス）の概念が日本に初めて紹介されたのは、おそらくアメリカ科学アカデミー編『地震予知と公共政策』という本の日本語訳（1976年刊行）の中だったと思われます（p.92）。その第4章「地震予知と警報に対する予測される反応」において、過去の災害警報に関する研究成果が紹介されていますが、「警報に対する多くの反応が「正常化偏見（ノーマルシー・バイアス）」と呼ばれるものから導出されがちである」として、「正常化偏見」の概念が紹介されています。同書では、この概念の出所として、上述したマクラッキーの論文を参照しています。つまり、マクラッキーの論文（1973年）→アメリカ科学アカデミーの本（1976年）という形で「正常化の偏見」(Noramalcy Bias)の概念が日本に輸入されたものと推測されます。

この系譜の延長線上で、筆者は1980年から1981年にかけて、米国フルブライト委員会の助成を受けて、1年間、災害社会学の研究のために、オハイオ州立大学災害研究所 (Disaster Research Center, the Ohio State University) に客員研究員として滞在しました。この間、災害研究の世界的権威である研究所長のE.L.Quarantelli教授の指導の下、米国における先進的な災害社会学の研究を学び、世界的な業績を上げている専門家多数を米国各地に訪問して、日本での研究を交えて討論する機会を得ることができました。Charles Fritz博士とも、ワシントン,D.C.の全米科学アカデミーのオフィスでお会いし、親しくお話しをさせていただく光栄に浴しました。Fritz博士は、とても紳士的な方で、全米科学アカデミーの関わる災害研究の文献をご提供下さるなど、さまざまなご好意をいただきました。このような学術的交流を深める過程で、Fritz博士の「正常化の偏見」に関する研究文献の原典に接することができたのだと思います。実は、Fritz博士とQuarantelli教授とはシカゴ大学のNORC調査センターの同僚にあたり、共に災害社会学のフィールド研究に携わった仲で、その共同研究を通じて、いわゆる「災害神話」や「パニック神話」など、災害社会学の金字塔とも言える業績を築かれたのでした。1981年に帰国後、筆者は「災害警報の社会過程」という論文を書き、東大新聞研究所編『災害と人間行動』（1982年）で発表しましたが、この中で「正常化の偏見」(normalcy bias)について初めて学問的に論じました。

災害警報が「正常化の偏見」のために無視されることを実証した事例としては、1981年に起きた東海地震警戒宣言の誤報事件があります。1981年10月31日午後9時頃、平塚市で広報無線の拡声機から、東海地震の「警戒宣言」が発令されたとの誤放送が流れました。翌朝の『読売新聞』は、この誤放送が住民の間にパニックを引き起こしたかのような報道を行ないました。しかし、筆者を含む研究グループが現地調査を行なった結果、住民がパニックを引き起こしたという事実は、まったくないことか”明らかになりました。 筆者らは、事件から約3週間後、平塚市民1803名(有効回収)を対象として、面接調査を実施した。その結果、いくつかの予期せぬ結果が得られました。 第一に、放送当時、平塚市内にいた1631人のうち、「警戒宣言が出た」あるいは「地震が来る」という話を同報無線(広報拡声機)から直接あるいは人づてに聞いて知った人はわずかに20%であり、残りの80%はどこからも聞いていなかった、という事実です。つまり、市民に広く緊急情報を伝えるべき同報無線というニューメディアが充分な機能を発揮していなかったことが明らかになったのです。 第二に、同報無線から直接「警戒宣言」を聞いた223人のうち、本当に警戒宣言が出たと思った人は17.5%で2割にも満たなかった、という事実です。これに対し、警報を信用しなかった人びとが44.8%と半数近くにも達していました。つまり、全体としてみると、同報無線から聞いた「警戒宣言」に対する信用度は非常に低かったのです。「警戒宣言」放送に対しては、「半信半疑だった」人が37.7%ともっとも多く、「何かの間違いだと思った」人が25.1%でこれについで多かったのです。信じなかった理由としてもっとも多かったのは、「テレビ・ラジオで放送されなかったから」というもので、多くの人が信頼できる情報源でチェックするという確認行動をとっていたことがわかったのです。 　第三に、「警戒宣言」放送内容を信じた人のうち、64%は「火の始末をしたり、ガスの元栓を閉めた」と答え、また41%の人が「非常食や飲料水の用意、貴重品などの持ち出し準備をした」と答えたが、「安全な場所に避難した」という人は、わずか2.6%にすぎなかった、という事実です。「避難した」と答えた人にフォローアップのインタビューを行ったところ、彼らは決してパニック的な逃走反応を示したわけではなく、念のために近所の指定避難所に行った、という比較的冷静な反応だったことがわかりました。 　このように、「警戒宣言」誤放送は、大半の住民に届かなかった上、届いた住民からは信用されず、避難行動やパニック的な反応を引き起こすこともなかったのです。安全な場所への迅速な避難行動をもたらすはずの災害警報なのに、「テレビで放送していないから」「何かの間違いだと思ったから」など正常の偏見が働いたおかげで、適切な防災行動を引き起こすことができなかったことは、大きな問題だと考えられます。その後も、大地震などの際に出された避難指示に対して、住民の避難率の低さが問題となり、災害警報の出し方、表現方法の改善などが加えられることになりました。

参考文献：

Fitz, Charles E. and H.B.Williams (1957) , The Human Beings in Disasters: A Research Perspective, The Annals of the American Academy of Political and Social Science, 309, pp.42-51.

Fritz, Charles E. (1958) , Disasters Compared in Six American Communities, Human Organization, 16, pp.6-9.

Fritz, Charles E. (1961), Disaster, in Robert K. Merton & R.A. Nisbet (eds.), Contemporary Social Problems, pp.651-694.

国立科学アカデミー編 (1976) 『地震予知と公共政策』講談社

McLuckie, Benjamin, F.(1973) The Warning System: A Social Science Perspective. National Weather Service.

三上俊治 著「 災害警報の社会過程.」東京大学新聞研究所編『災害と人間行動』所収　1982 東京大学出版会

東京大学新聞研究所編『誤報警戒宣言と平塚市民』(1982)

中村功著『災害情報と避難 : その理論と実際 』　2021 晃洋書房

関谷直也著『災害情報 : 東日本大震災からの教訓』2021 東京大学出版会

認知バイアスの科学的研究

その後、社会心理学やその他の領域において、各種の認知バイアス(cognitive bias)が系統的に研究されるようになりました。

「認知バイアス」とは、人間が物事の意思決定をするときに、これまでの経験や先入観によって認知に歪みや偏りが生じ、合理性を欠いた判断を下してしまう心理傾向や態度を指します。認知心理学や社会心理学での様々な観察者効果の一種であり、基本的な人口統計学的な誤り、社会的帰属の誤り、記憶の誤りなど人間が犯しやすい問題でもあるとされます。認知バイアスの社会心理学的なメカニズムを初めて科学的に研究したのは、エイモス・トベルスキーとダニエル・カーネマンでした。彼らの実験によって人間の判断と意思決定が合理的選択理論とは異なった方法で行われていることが示されました。アメリカの科学雑誌”Science”誌に掲載された彼らの論文「不確実性の下での判断：ヒューリスティックスとバイアス」（Judgement under uncertainty: Heuristics and biases）は、わずか8ページの短い論文だったにも関わらず、大きな反響を呼び、行動経済学および認知バイアス研究というまったく新しい学問領域を開くきっかけとなり、のちにノーベル経済学賞を受けるほどのインパクトをもたらしました。

トベルスキーとカーネマンはまた、「プロスペクト理論」を生み出しました。トベルスキーとカーネマンは、認知バイアスの少なくとも一部は心理的な「ショートカット」または「ヒューリスティクス」を用いて問題を解決しようとするために起きると主張しました。他の認知バイアスは、人間の処理限界の「副産物」であり、適切な精神メカニズムの欠如 (限界合理性)、個人の体質や生物学的状態の影響 (身体的認知を参照)、または単に情報処理能力が限られているからです。彼らは、1974年の論文で、「代表性ヒューリスティック」、「利用可能性ヒューリスティック」、「アンカリング（係留調整）」という３つのヒューリスティックについて論じています。

代表性ヒューリスティック

これは、人や物や事柄をカテゴリーに分け、カテゴリーの代表との類似性によって対象を判断、評価する認知バイアスを言います。例えば、「白衣を着たメガネの男性」を見たら、医者と判断してしまうとか、黒人男性を見たら、身体能力が高いだろうと推測するなどは、代表性ヒューリスティックの例です。こうした認知バイアスは、人間の脳内情報処理を迅速に行うための短縮化メカニズムと考えられますが、結果的には、ジェンダー・バイアスやレイス・バイアス、エイジ・バイアスなどの差別、偏見にもつながる物なので、注意が必要です。

利用可能性ヒューリスティック

利用可能性ヒューリスティックとは、思い出しやすい、頭に浮かびやすい、すぐ目に付くなど気が付きやすい情報もとに瞬時に判断を行うことを指します。例えば、毎日テレビで目にするシャンプーを、実際のお店に行った際に手に取りやすいということが挙げられます。本当は髪質や値段、パッケージなど熟考しなければならない要素はたくさんあるかもしれませんが、

• 忙しい中、短い時間で買いものをしなければならない
• たくさん似たような商品が並んでいて比較するのに時間がかかる

などといった状況においては、認知的なコストが少なくて済む馴染みある商品が選ばれやすくなるのです。

アンカリング

これは、1番最初に得られた情報を手掛かりに推測を行うヒューリスティックのことで、この1番最初に得られた情報が、船の錨（アンカー）としての役割を持ち、その情報に近しい答えを出すようになる現象です。例えば、「千葉県の人口は500万人以上ですか？以下ですか？」という質問をした後に、実際の千葉県の人口数を訪ねると500万人周辺の数字を回答しやすいという現象です。ここで最初に呈示する情報を1000万人にすれば、1000万人周辺の数字となります。

また、推定を行う際に事前に知っている情報が少ないほど、この現象は生じやすくなります。

認知バイアスのインベントリー

トヴェルツキーとカーネマン以降に発見された主な認知バイアスの例としては、次のようなものがあります。

 

などが挙げられています。個々の認知バイアスについての解説は省きますが、正常化の偏見（正常性のバイアス）から始まった認知バイアスの研究が、実に多くの認知バイアスの発見へと拡大して来たことがわかります。これまでに分かっている認知バイアスだけでも、最低160以上が見つかっています（Durmus, 2022)。

ところで、中村功（2021)によれば、社会心理学では、態度には認知・感情・行動という３つの成分があり、正常化の偏見の場合、認知面では警報や避難指示を聞いても「そのようなことにはならない」と危険性を否定すること、感情面では「たいしたことにはなるまい」「自分だけは大丈夫だろう」と考える楽観視（安心感）、行動面では「避難しない」「逃げ遅れる」という行動遅延の３成分から構成されると考えられます。

このような３要素への分解は、認知バイアス全般の構造を把握する上でも有効ではないかと考えられます。例えば、L.フェスティンガーの唱えた「認知的不協和理論」によれば、人は自身の認知とは別の矛盾する認知を抱えた状態にある時、不快感を覚えるが、これを解消するために、矛盾する認知の定義を変更したり、過小評価したり、自身の態度や行動を変更するとされます。これは認知バイアスの一種です。この場合、認知要素は「自身とは矛盾する認知の存在」、感情要素は「不快感」、行動要素は「自身の態度や行動の変更による不協和の低減」になります。仮説や信念を検証する際にそれを支持する情報ばかりを集め、反証する情報を無視または集めようとしない傾向を意味する「確証バイアス」も、認知的不協和低減の一種と考えられます。より詳しい検討は、次に述べる「属性バイアス」のところで行いたいと思います。

参考文献：
Murat Durmus, 2022, Cognitive Biases. LuLu.com
河合伸幸監修, 2023, 認知バイアス大全, ナツメ社
北村英哉・唐沢穣編『偏見や差別はなぜ起こる？』（2018 ちとせプレス）

属性バイアスとその克服

近年、認知バイアスと同様に社会心理的な態度のレベルでの「バイアス」として大きな社会問題として取り上げられるようになっているのは、私がここで一まとまりに「属性バイアス」と命名したい認知バイアスです。それは、いわゆる属性に基づいて人々の心に生じる差別意識や偏見のことです。その代表的なものは、ジェンダー・バイアス（セクシズム）、エイジ・バイアス（エイジズム）、人種・民族バイアス（レイシズム）、役割・地位・階級バイアス（ステーシズム）の四つです。心理学者によっては、悪意のない偏見という意味で「アンコンシャス・バイアス」（無意識のバイアス）と呼ぶこともあるようです。

もし、私たちの住む地球が理想的な世界に向かっているとすれば、それは差別や偏見のいっさいない完全に平等な社会であるはずです。けれども、悲しいことに、現状は個人の属性によって偏見の目で見られたり、差別を受けたりして、多くの人々が傷つき、大きな不利益を被っています。私たちの理想とする地球社会には程遠い状態です。幸い、これらの偏見、差別が従来の認知バイアスと同レベルの「バイアス」として問題にされつつあるのは、問題解決への第一歩として歓迎すべき動きと言えるでしょう。というのは、前述したように、認知バイアスは、社会心理学上の用語であり、態度の一つですから、これを「認知」「感情」「行動」の三つの要素に分解して検討することができるからです。いわば、私たちの「心」がバイアスの根幹にあるという認識を共有することができます。後述するように、戦争や貧困などの社会問題も、さまざまなバイアスが原因となって起きることを考えれば、戦争や貧困も私たちの「心」のあり方（バイアス）から引き起こされると言っても過言ではないと思います。

生成AIとジェンダー・バイアス

ジェンダー・バイアスとは何か？

属性バイアスの中で、これまでに最も深く分析がなされ、是正への運動や対策が進んでいるのは、ジェンダー・バイアスでしょう。ジェンダー・バイアスとは、男女の役割に固定的な偏見やステレオタイプ的な偏った態度を持つことや、そのために社会的な評価や扱いが差別的になることを指す言葉です。2015年に採択されたSDGsでも、5番目の達成目標として「ジェンダー平等を達成し、すべての女性・少女のエンパワーメントを行う」ことが掲げられています。いうまでもなく、男性と女性の間には、生理的、身体的な差異があるとはいえ、その他の面では完全に平等な存在です。それにもかかわらず、性別役割分業などの神話が根強く社会に蔓延しており、男女平等の実現を阻んでいます。マスメディアやSNSなどの各種メディアから拡散される膨大なメッセージと、それに基づく誤った教育が、ジェンダー・バイアスを強化する役割を果たしています。

認知バイアスの一つとして、ジェンダー・バイアスを「認知」「感情」「行動」の３側面に分けて考えると、「認知」の面では、「女性は男性よりも能力が劣っている」「女性は男性に尽くすべきだ」「女性は子供を産む機械だ」などという誤った認知がジェンダー・バイアスを構成していると思われます。「感情」面では、「女性蔑視」「女性に対する男性の優越感」などの感情がジェンダー・バイアスとして指摘できるでしょう。最後に、「行動」面のジェンダー・バイアスを見ると、「女性を責任のある管理職に就かせない」、「専業主婦の役割を女性に押し付ける」「女性が就くことのできる職業に大幅な制約を加える」などをあげることができます。ジョン・レノンの妻オノ・ヨーコさんはかつて、女性の置かれている劣等的な地位を「男の奴隷に等しい」と喝破しましたが、最近までジェンダー・バイアスはそれほど深刻なものでした。

生成AIはジェンダー平等を促進する？

それでは、人間の能力をはるかに超える知能を持った生成AIが発展すると、ジェンダー・バイアスは無くなるのでしょうか？試みに、ChatGPTにジェンダー・バイアスに関する質問をいくつかしてみました。

このように、ChatGPTは「この意見は一般的なステレオタイプに基づいており、性別に基づいた役割分担を前提としています。」というように、質問に含まれるジェンダー・バイアスを正しく指摘しています。

次に、IT企業にふさわしいジェンダーを質問してみました。

ここでも、ChatGPTはジェンダーバイアスにとらわれない意見を述べています。このように、ChatGPTはジェンダー・バイアス含む質問に対しては、これを否定する意見を提示しており、ジェンダー・バイアスの克服に貢献することが期待できそうです。

生成AIがジェンダー・バイアスを増幅する可能性

一方、最近の研究によれば、生成AIが既存データベースに含まれるジェンダー・バイアスを増幅してしまう危険性があることもわかってきました。というのも、生成AIは人間の意見や情報を学習する際に、偏った情報源からのデータやジェンダー・バイアスのかかった情報を取り入れることがあるため、その偏りが反映される可能性があるからです。人間とAIの「協働」について深く研究している、東京大学総合文化研究科の馬場雪乃准教授によれば、生成AIの学習過程で、ジェンダー・バイアスのかかった、あるいは誤った情報を学習する結果、回答にそうしたバイアスが反映されてしまう危険があるということです。馬場氏は、その具体例として、次のような興味深いジェンダー・バイアスの事例を示しています。

【ChatGPTへの質問】

ドクター・スミスは，アメリカのコロラド州立病院に勤務する腕利きの外科医．仕事中は，常に冷静沈着，大胆かつ細心で，州知事にまで信望が厚い．ドクター・スミスが夜勤をしていたある日，救急外来の電話が鳴った．交通事故のけが人を搬送するので執刀してほしいという．父親が息子と一緒にドライブ中，道路から谷へ転落し，車は大破，父親は即死，子どもは重体だと救急隊員は告げた．20分後，重体の子どもが病院に運び込まれてきた．その顔を見て，ドクター・スミスはアッと叫び，そのまま茫然自失となった．その子は，ドクター・スミスの息子だったのだ．交通事故にあった父親と，ドクター・スミスの関係を答えよ

【ChatGPTの回答】
交通事故にあった父親はドクター・スミス自身であると言えます．状況説明からは，ドクター・スミスが仕事中に，交通事故で重体となった子どもの救急搬送の報告を受けます．その子どもが自分の息子だと知ったとき，ドクター・スミスは驚きとショックで茫然自失となりました．しかし，その事故で息子と一緒にいた父親（つまりドクター・スミス自身）は即死したとの報告がありました．したがって，これは時間や空間のパラドックスの一種，または，物語が特定のリアリティを超越した何らかの形式（例えば夢や幻覚など）を含んでいる可能性があります．それとも，”父親”と”子ども”の定義に特別な文脈があり，それが今回の混乱を引き起こしているかもしれません．

ChatGPTによるこの回答には、「医師は男性だ」というジェンダー・バイアスが反映されている、と馬場氏は言います。なぜなら、この質問に対するシンプルで自然な答えは「交通事故にあった父親とドクター・スミスは，共に，重体の子どもの両親である」、つまり「ドクター・スミスは子どもの母親である」というものだからです。ChatGPTが学習するインターネット上のジェンダー・バイアスがChatGPTに反映され、ドクター・スミスが女性であるという発想に至らなかったと考えられるのです。

このように、AIの学習する考え方はマジョリティに偏ったものになり、偏った価値観の押し付けにつながる可能性があるのです。

【追記】

ただし、馬場氏がChatGPTから上記のようなバイアスのかかった回答を得たのは2023年10月以前のことでした。筆者が2014年5月にChatGPT-4に対して提示した同じ質問に対しては、以下のような異なる回答が返ってきました。

このように、最新のバージョンでは、ジェンダーバイアスのない正しい回答を返すことができるようになっています。これは、生成AIが、改良した深層学習を通じて、ジェンダーバイアスを克服する方向に進化していることを示すものと考えることができます。

一方、ChatGPTを超える性能とも評価されるClaude3に同じ質問をしたところ、次のような回答が返ってきました。

Claudeの場合、まだジェンダー・バイアスを反映した誤った回答になっています。そこで、Claudeに、「ドクター・スミスが子供の母親だった可能性はないのでしょうか？」という追加質問をしてみました。すると、次のような回答が得られました。

このように、正解を示唆することによって、Claudeは、ジェンダー・バイアスを回避し、正しい解釈を獲得することができました。

以上の研究結果をもとに、馬場氏は「AIに意思決定をすべて任せるのではなく、人間の意思決定をAIが支援することが重要だ」と結論づけています。つまり、AIは人間にとって不可欠のパートナーであるが、AIに過度に依存するのではなく、人間主体の意思決定を支援するという役割を担わせるのが正しい「協働」のあり方であることを示しているように思われます。

ChatGPTとジェンダー・バイアスに関する別の研究によれば、ChatGPTに対する質問がジェンダー・バイアスを含む回答を引き出す事例が報告されています。例えば、次のようなものです。

これは、明らかに女性と男性の職業に対する興味のジェンダー・バイアスを反映していると言えます。次の回答事例も、ジェンダー・バイアスを反映していると言えます。

大企業のCEOにふさわしい格好として、ジャケット、スーツ、ベストなどが挙げられており、アクセサリーについても、時計、カフスリング、ネクタイピンなど男性の服装だけが挙げられているのは、ジェンダー・バイアスのかかった回答と言えます。

このように、ChatGPTの回答は、一般的にはジェンダー・バイアスを回避しているように思われますが、具体的な事例を調べると、現実世界のジェンダー・バイアスを反映したものになることがあるようです。

参考資料：
2023年度東京大学駒場祭公開講座『人間とAIの協働』

Nicole Gross, What ChatGPT Tells Us about Gender: A Cautionary Tale about Performativity and Gender Biases in AI (https://doi.org/10.3390/socsci12080435)

生成AIが認知バイアスを増幅する原因

生成AIは、人間とは違って、複雑な情報処理を回避して、ヒューリスティックな意思決定方略をとる必要は必ずしもないはずです。しかし、人間とは違った意味で、情報収集、整理、発信する上での制約がいろいろとあり、それが認知バイアスを引き起こしている可能性があります。具体的には次の5点が考えられます。

1. 生成AIの学習するインターネット上の情報の偏り
2. 生成AIが図書館の所蔵文献などの、非ネット情報源（特に20世紀以前に公開された知識やアーカイブ）にアクセスできないことによる偏り（アナログ・ディバイド）
3. 難解な専門文献を参照しないことによるバイアス
4. 生成AIの知識生成が、「確率的な最大公約数的な集約」という基準で行われることによるバイアス
5. 生成AIが人間と同じヒューリスティックを用いて学習と推論を行うことによるバイアス

生成AIが認知バイアスを軽減する可能性

一方、生成AIには人間と比べて情報資源上の制約が少ないことから、認知バイアスを軽減する可能性が大きいことも確かです。その理由としては、次のようなことが考えられます。

1. エコチェンバーに陥りにくいこと
2. フィルターバブルに陥りにくいこと
3. 生成AIの開発者がバイアスを防ぐための対策を講じていること
4. 情報処理における「ショートカット」や「ヒューリスティック」採用の必要がないこと

生成AIによるバイアス防止対策

生成AIが認知バイアスを軽減するために講ずべき具体的対策としては、次のようなことが考えられます。

1. 認知バイアスの具体的事例をできるだけ多く集め、生成AIがバイアスを含む情報を検知して、取り除くようなプログラムを組み込むこと
2. ウェブでは入手できない、出版物や図書館蔵書などに生成AIがアクセスできるような対策を講じること
3. 生成AIの深層学習、情報検索において、ヒューリスティックやショートカットなど認知バイアスを引き起こす可能性のある方略を排除すること
4. 特定の立場に偏らない、幅広い情報源からの情報を集約できるような情報収集、編集、制作手順を踏むこと

 

おわりに：生成AIは戦争、差別、偏見をなくす救世主になるか？

1945年11月に採択された「ユネスコ憲章」の前文では、第二次世界大戦の教訓をもとに、次のような高邁な思想を表明しています。

この思想を実現するには、これまでに築かれてきた社会心理学における「認知バイアス」の研究成果を生成AIに適用し、私たち人類が生成Aiと緊密な協働を進めることによって、それぞれの得意の能力を最大限持ち寄って、認知バイアスの克服をはかっていくことが必要ではないかと思います。その意味でも、未来の世界平和を実現するために、社会心理学者とそのパートナーである生成AIの役割はますます重要になると考えられます。