人は、他人のバイアスは見えるのに、自分のは見えない

一言でいうと

さまざまな心理的バイアスを説明したうえで、「あなたはどれくらい影響を受けているか」「平均的な他人はどうか」と尋ねる。すると、ほとんどの人が、「自分は他人よりバイアスが少ない」と答えた。バイアスの存在は認めるのに、それが自分に及んでいることは見えない。これが「バイアスの盲点」だ。

論文が実際に言っていること

一連の実験で、著者らは奇妙な非対称を示した。人は、自分が他者よりも各種の認知バイアスの影響を受けにくい、と考える傾向がある。

被験者に、よく知られたバイアス——自己奉仕的な解釈、身びいき、後知恵など——を説明する。そのうえで、「あなた自身は、このバイアスにどれくらい影響されているか」と、「アメリカ人の平均は」を評価させる。結果、多くの人が、自分を平均より「バイアスが少ない」側に置いた。全員が平均以上に公平、という論理的にありえない分布が生まれる。

さらに掘り下げると、この盲点の正体が見えてくる。人は、自分にバイアスがあるかを判断するとき、自分の内面を見つめる（内省する）。そして、内省しても偏った意図は見当たらないので、「自分は偏っていない」と結論する。一方、他人を判断するときは、その人の行動を外から見る。だから、他人のバイアスは行動に現れて見えるのに、自分のバイアスは——それが無意識に働くからこそ——内省では捉えられない。

つまり、自分と他人で、使っている証拠が違う。自分には「意図」を、他人には「行動」を当てる。無意識のバイアスは、内省には映らないので、自分だけが例外に見えてしまう。

だから、どう生きるか

「自分は公平だ」という感覚を、無罪の証拠にしない。

これがこの研究の芯だ。自分の内面をどれだけ探しても、偏った意図は見つからない。だが、それはバイアスが無い証拠ではなく、バイアスが無意識に働くからこそ内省に映らない、というだけかもしれない。だから、「自分は偏っていない」という手応えを、判断の正しさの根拠にしない。誰もがそう感じている、という事実そのものが、この盲点の強さを物語る。これは、能力が低いほど自分を過大評価するのと同じで、内省が当てにならない領域だ。

自分のバイアスは、内省でなく「行動と結果」で点検する。

他人のバイアスが見えるのは、その行動を外から見るからだ。だとすれば、自分のバイアスを捉えるにも、内省ではなく、自分の行動や決定の記録を外から見るのが効く。過去の判断を後で振り返る、予測を書き留めて答え合わせする、第三者に率直な指摘を求める。「どう感じたか」ではなく「どう振る舞い、どう外したか」を証拠にする。

AIに「私は偏っているか」と聞いても、盲点は埋まりにくい。

いまの文脈では、こう延ばせる。自分の偏りをAIに尋ねると、こちらの語る「意図」や自己申告に沿って答えが返りやすい。だが、この研究が示すのは、バイアスは意図や内省には映らない、ということだ。だから、AIに「私は公平か」と聞くより、「私の過去の判断のうち、外していたものは」「反対の立場ならどう見えるか」と、行動と結果、あるいは外からの視点を突きつけさせるほうが、盲点に届きやすい。

ここからは僕の飛躍だ

この研究が扱ったのは、バイアスの自己評価という特定の場面だ。「人は自分の偏りに一切気づけない」と一般化するのは行き過ぎで、訓練や仕組みによって、ある程度は自分のバイアスを捉えられるようになる、という研究もある。

「AIに行動を突きつけさせろ」は、この知見から僕が引いた実践で、2002年のこの論文が述べていることではない。

それでも、人は自分のバイアスを他人のバイアスより過小評価する、そしてそれは内省と行動という証拠の非対称から来る、という中核は、実践に効く。自分の公平感を証拠にせず、行動と結果で点検すること。それがこの一本の使いどころだと思う。