認知バイアスとは何ですか？

人間の脳が判断を効率化するために使うショートカットが原因で、合理的でない偏った判断をしてしまう心理的傾向のこと。AIの設計や評価にも影響する。

認知バイアスのポイントは？

人間が無意識に使う思考のショートカットによる判断の偏り。確証バイアスやアンカリングなど200種類以上が知られている。AIを設計・評価する人間にも働くためモデルに偏りが入り込む原因になる。バイアスの存在を知るだけでも判断の質を改善できる

【にんちばいあす】

💡 脳のクセが判断を曲げる

📌 このページのポイント

代表的な認知バイアスとAIへの影響

ひよこ

認知バイアスって、要するに思い込みのこと？

ペンギン先生

近いけどもう少し広い概念だよ。思い込みだけでなく、判断するときに脳が無意識に使うショートカットのクセ全般を指すんだ。素早く判断できるメリットの裏返しで、合理的でない結論に飛びついてしまうことがあるんだよ

ひよこ

たとえばどんなのがあるの？

ペンギン先生

有名なのは確証バイアス。自分の信じていることを裏付ける情報ばかり集めてしまう傾向だね。新しいプログラミング言語を推してる人がメリットの記事ばかり読んでデメリットを無視するようなケースだよ

ひよこ

それがAIとどう関係するの？

ペンギン先生

AIを作る人間に認知バイアスがあると、データの選び方やモデルの評価に偏りが入り込む。自分のモデルが優秀だと思いたいあまり都合の良いテストケースだけで評価してしまったり、AIの出力を過信してしまうオートメーションバイアスもあるよ

ひよこ

AIが人間のバイアスを増幅しちゃうこともある？

ペンギン先生

まさにそこが問題でね。人間の偏った判断で作られたデータでAIが学習し、そのAIの出力を人間がまた鵜呑みにする。偏りの再生産ループが起きるんだ。だからAI倫理の分野では認知バイアスへの対策が重要視されているよ。バイアスは完全に消せなくても、存在を意識するだけで判断の質はかなり改善できるからね

まとめ：ざっくりこれだけ覚えればOK！

認知バイアスって出てきたら「人間の脳のクセで判断が偏ること」と思えればだいたいOK！

📖 おまけ：英語の意味

「Cognitive Bias」＝認知の偏り

💬 心理学者のダニエル・カーネマンとエイモス・トベルスキーが1970年代に体系的に研究したのが始まりで、カーネマンはこの業績でノーベル経済学賞を受賞しているよ