内集団バイアスとAIに対する思い込み


内集団バイアスは、自分が所属する集団は、他の集団よりも優れていると思い、肯定的に評価したり好意的な態度を示したりする傾向のことです。バイアスがかかると、自身では気づかず自分の考えが正しいと思い込み、それを行動に移してしまうからとても危険です。

現代では、ネットを通じて同じ趣味や、同じ志向を持った人の情報を探すことが簡単になりました。YouTube等を見ていると、自身の好みや志向に合った動画がレコメンドされて思わず見てしまいます。また、TwitterなどのSNSでフォロワーは同じ考えや趣味嗜好が似てる人の意見が集まり、コミュニティが生まれ、そこでの投稿が共感を呼びやすく満足も得られるようになります。そうなると、最初は知らなかった見識も広がり、他の異論は受け付けづらくなります。自分の仲間もそう言っているのだから、その意見は正しいと思い込みが入り、う思わない人は悪い考えであり、極端な場合陰謀論者扱いみたいな決めつけをしたがる傾向にあります。人は、最初に目にしたものを信じやすく、その考えに染まると他の意見が理解しづらいといわれています。だからこそ、日々インプットされるメディアの広告に洗脳され、マスコミの偏向報道にもまったく違和感を覚えなくなってしまうのでしょう。ウクライナや新型コロナの問題でも、情報戦が進化して、認知戦が繰り広げられているのは、そうした集団心理を利用しているといえます。

メディアといえば、現代ではAIがすでにメディアの一端を担っています。AIは、その時々で意見が変わってしまう人間とは違い、自分の意見を持たず、中立で、公平で、正しいと思われがちですが、残念ながらAIもバイアスの影響は受けます。
まず、誰もが想像できるのは、そのAIがどのようなデータを学習したのかによって結果に偏りが出るということです。学習の元になったデータがもし、ロシア国内のビッグデータであれば、ロシアのウクライナ侵攻はファイクニュースになりかねません。これは、逆もしかりで、日本のメディアのようにNATO側のビッグデータを学習元にしていては、ロシア側の情報が少なく、一般人に火炎瓶を持たせることは、民間人を攻撃できないため国際条約違反にもかかわらず、まるで正しいことのように認識させてしまいます。AI自身の能力だけでは、正義か悪かの判断はできません。認知戦では、真実か否かも関係なく意図的にフェイクニュースで拡散させるため、ニュースサイトを掌るAIが、SNSで多く出回っている情報を真実かのように取り扱うのは、当然ありあえます。
2番目にAIにバイアスが入り込む原因は、アルゴリズムの作り方です。AIは、統計を得意としますが、どういったパラメータつまり、目的変数や、説明変数を与えるかで結果は変わってきてしまいます。そして、その変数を与えるのが人間なため、AIのシステムを作る人のバイアスが意図せずとも影響してしまっているのが現状です。

内集団バイアスは、軍事侵攻や、パンデミックの発生した環境では、それを意図して利用しようとする 人が必ずいます。それが、AIにまで影響し、AIは、大金持ちを超大金持ちにすることに最も有効に活用されており、しばしば社会的弱者をさらに不利な状況に陥れていることを認識して、私たち個人が気を付けなければなりません。


AIは、システムを作成する環境のバイアスがかかる


AI, バイアス