AI社会の歩き方
東京大学 政策ビジョン研究センター江間有紗特任講師は『AI社会の歩き方－人工知能とどう付き合うか』という著書を出しています。タイトルからわかる通り、AIやロボットを含む情報技術と社会の関係について研究しています。
AIは大量の教師データをもとにディープラーニングしますが、元の教師データに偏りがあるとAIが出す判断にも同じ偏りが現れてしまいます。2018年にAmazonがAIを用いて人材採用システムを試したところ、女性を除外するアルゴリズムが存在することが判明し、断念しました。Amazon に提出された10年分の応募者の履歴書を学習させたことで、このような偏りが生じました。
Googleの画像検索で「Gorira」と入力すると黒人女性の写真が多数出て来たそうです。AIが色調や顔の輪郭、造作からゴリラの写真を黒人女性と画像認識するようです。この問題が判明した際にGoogleはプログラムの改良を試みましたが成功せず、手動で修正しているそうです。
https://ifi.u-tokyo.ac.jp/people/ema-arisa/
