AIによる自動化と認知バイアス

AIにどんなデータを学習させるかによって、AIの出す結果にバイアスがかかってしまうことはよく問題視されますが、そもそもAIによってデータの分類や仕分けすることを自動化するということ自体が、人間に対し認知バイアスをかけてしまうというリスクが、まだあまり問題視されていません。

現在ネット上では、たとえばGoogle広告のように、自身がネットで表示したり検索したりした内容に応じて、推奨する商品やサービスの広告が自動的に表示されます。また、ネットニュースのサイトでも、SmartNewsのようによく見るページによって、自分の関心がある話題をAIが自動的に集めて表示してくれるサイトが多く存在します。
これにより、違う人が同じサイトを見ていても、表示される内容が違ってしまうのが当たり前の時代になりました。
これは、TwitterやFaceBookなどのSNSで同じ嗜好の人達が集まると、同じ考えの人達に洗脳されやすいのに似ていて、勧められた広告商品や、PR記事などに洗脳されるという危険が伴います。

現在のテレビ放送は、サブリミナル効果を狙った編集は禁止されていますが、それでも制作側の偏向報道や、商品の購買意欲をそそるような番組は多いです。これについてはテレビを見なければよいという対処ができるのですが、その代わりにYouTubeなどを使ってネットで情報を集めようとすると、自分が気に入りそうな内容ばかりに偏って動画を見てしまうという弊害があります。たとえば、自分に有益だと思ってチャンネル登録すると、新しい動画がアップされるたびに、自動的に通知されついつい見てしまうというパターンです。これによって、たまたま面白いと思ってみた動画がきっかけで、特定の政治思想や、偏った考え方に洗脳されてしまうというような危険もありえます。動画ほどビジュアルなインパクトがなくても、通常のWebページを使って、ニュースや特定の情報を得ようとした場合も同様で、検索したワードや、見たページ、クリックしたバナーなどの情報を元に、自分の意図に関係なく、自動的に最適化され表示されます。
これは、ユーザビリティを高めている一面もありますが、結局は認知バイアスの問題が大きく影響されます。
Webページ提供側は必ずしも人をだまそうとか洗脳させようという意図があるわけではないため、ネットさえ使用しなければ余計な商品を買わなかったのにと特定サイトを訴えても、残念ながら罪には問えないでしょう。

このようにAIによる適正表示の自動化が進むことは、便利な反面、私たちにとっては知らず知らず認知バイアスのリスクを高めていることも認識する必要があります。

---

[タグ]　AI トレンド Opinion

[関連]