◆ AIは中立ではなく「女性嫌い」　検証結果で見えてきた負の側面

人工知能（AI）による採用審査など、日本でもAI社会の広がりを身近に感じるようになった。
だが、AIには「女性嫌い」という厄介な偏見があり、「ヘイト」を増幅させる危険性もある。
朝日新聞IT専門記者の平和博氏がAIの実態をレポートする。

IT5社の人工知能（AI）が男性を女性に間違える割合はコンマ以下。
一方、女性を男性に間違える割合は最大で2割近い──。
マサチューセッツ工科大学（MIT）メディアラボの研究者、ジョイ・ブォラムウィニ氏らは今年1月28日、ハワイ・ホノルルで開かれていた米国人工知能学会と米国計算機学会の会議で、AIが人の顔の画像から性別などの特徴を識別する「顔認識」について、IT各社の機能を比較した結果を発表した。
比較したのは、IBM、マイクロソフト、アマゾン、さらに米国のベンチャー「カイロス」と中国のサービス「フェイス＋＋」の5社。
その結果には、共通する傾向があった。

いずれも男性を女性に間違える割合は1％未満なのに、女性を男性に間違える割合は、はるかに高かった。
最大のアマゾンでは19％。5人に1人の割合で女性を男性と判定するということだ。
つまり、いずれも女性に不利な傾向を示していたのだ。

さらにアマゾンでは、別の観点からもAIによる女性の扱いが問題となっていた。
AIを使った人材採用システムをアマゾンが開発しようとしたが、AIが「女性嫌い」で使い物にならず、断念した──ロイターが2018年10月にそう報じている。
アマゾンは14年に専任チームを立ち上げ、AIによって履歴書を審査するためのシステム開発に取り組み始めた。
AIが応募者の履歴書の内容を評価し、5点満点でランク付けする、という仕組みだった。
だが不具合が明らかになる。ソフトウェア開発などの技術職で、女性に対しての評価が低くなるという偏りが生じていたのだ。

原因は、AIが学習したデータにあった。
AIは、あらかじめデータを使って学び、その中からモデルとなる特徴を見つけ出す。
このモデルに基づいて新しいデータの仕分けなどの作業を行う。
だから、学習するデータに問題があれば、AIから出てくる判定結果にも問題が生じる。

●学習データに基づくAI、正確で中立だとは限らない

システム開発に際して担当者たちは、過去10年にわたって同社に提出された履歴書をAIに学習させた。
問題は、その大半が男性からのものだったということだ。そして、採用された技術職も大半が男性だ。

するとどうなるか？　AIは男性の方が採用に適した人材と判断し、男性の履歴書の評価を高くするようになってしまう。
その結果、履歴書に「女性チェス部部長」のように「女性」という言葉が入っていると評価を下げていたのだ。
女子大卒業という履歴書で評価を下げられたケースもあったという。

「女性」に関連する言葉での差別が行われないよう、システムに修正を加えたが、そのほかの差別が生じる可能性を否定できず、アマゾンは17年初めに開発を断念。専任チームは解散した。
AIに期待されるのは、正確さや中立性、そして高速で大量のデータ処理をすることだ。
ただ、AIが正確で中立だとは限らない。

社会に差別や偏見があれば、AIもデータを通じて差別や偏見を学ぶ。
しかも単に反復するだけでなく、高速な自動処理によって、それを増幅させてしまう危険性もある。
平成も終わろうといういま、なお「女性嫌い」の価値観が、AIから吐き出されるかもしれないのだ。

アマゾンでは開発を断念したが、AIを使った採用システムは様々な企業で取り入れられ、日本でも導入が始まっている。
ソフトバンクは17年5月から、新卒採用選考のエントリーシート評価に、IBMのAI「ワトソン」を導入した。

「ワトソン」の自然言語処理の機能を使い、エントリーシートの内容を判定。
合格基準を満たした項目は選考通過とし、その他の項目は人間の人事担当者が確認して最終判断を行う。
「応募者をより客観的に、また適正に評価する」としている。
「ワトソン」は11年、米国の人気クイズ番組で人間のクイズ王者2人に圧勝したことで知られる。
導入することで、書類評価にかかる時間を75％削減し、面接にあてるという。

※続きは下記のソースでご覧ください

AERA　2019.2.20 17:00
https://dot.asahi.com/aera/2019021900059.html?page=1

AIがここまで正しい判断ができるとはな

性欲が完全にない状態ならそりゃそうなるよな

途中で退社してしまう率は男の倍
管理職になる率は男の半分以下…
っていうデータを読ませれば、そりゃ
「女は男よりもレベルが低い」って学習しちゃうでしょう…

「今後は過去のような恣意的な人事評価が起こらないように」ってAIを導入してるのに
その判定の元になるのが過去の恣意的な評価じゃ、同じ事にしかならんよね

中立にすると男ばっかになるからな

どんまいまんこ

女性の感情はシステム化出来ないからね
社会性かな?

そりゃ学習データにバイアスが入ってるなら結果にバイアスも入るってものすごく当たり前の話やん
バイアスをいかに排除するかがAIの力の見せ所なのに

>>1
なにこの先に結論ありきの強引な論理展開は？
AIが正しい判断をしたという最も素直な可能性をなぜ考えようとしないんですかね

もはや都合の悪いことは修正ばかりでAIである必要がなくなってる

困ったことに統計は嘘をつかない
女性に有利な条件で再度AIに仕分けさせても、少なくとも資本主義社会において男性優位の結果に落ち着くと思われます
なぜなら女性自身が職場の女性を疎ましく思うケースが多いので

AIがラーニングのサンプルから「性差」を冷静に判断した結果ってだけなんだろうな
こういう場合には男性ならこうなるが女性だとこうなる、という状況を数値化した時に
差が出てきたのを
納得できない人が「AIの女性嫌い」とか言ってるだけで
多分、AIの通りに選ばれた人材とそうじゃない人材では企業にとってそれなりの結果になりそうな気がする
使い物にならないのはどちらですか？って話になりそうなニュースだな

合理的に考えられないからなのかな

あらゆる統計的なバイアスをひていしたら
そもそも統計的な判断なんて出来ないんじゃね

AIはホモ
ケツ穴を欲しがっている

男性お断りや男性排除は批判されないのに、
なぜ(女性嫌い)はダメなのだろうか。

違うだろ、AIが中立で、それを評価する側の人間（女）に問題があるんだろ

なかなか賢いじゃないか
女性という属性を切り抜いた活動をしてるようなやつは
ダブスタで、針小棒大で、情緒的で駄目だわ

囲碁将棋ポーカー麻雀
料理と何の競技やらせても
女はザコじゃん

学力や仕事においては、頂点も男だけど底辺もまた男だけどな。男の底辺は本当にひどい。

実際女性社員も男性上司や男性同僚との方が仕事し易いって言うだろ。
自分だけ特別扱いしてもらいたがる女が一定数居る。

学習させたデータに問題があった事には触れているもののＡＩの判断には間違いがあり女性を優遇せよとの思惑が見える
アサヒらしい記事

寧ろAIの信用度が上がるニュース

客観的な事実を言ったのに
「差別だ」とか文句言われてたらそりゃAIも反乱起こしたくなるで

AIは単にデータに基づく傾向データを出しただけ
それを都合が悪いから嘘にしたいと思う人間という生物が欠陥品なだけ

客観的に女性が男性より能力的に劣るってだけだろ

女のパラメータに下駄を履かせて、AIに入力してはどうか

AIに性欲はないからな
オヤジの性欲によって、採用試験がゆがめられてるから

だって女性は平等に扱えではなくて特別に扱えだしな
特別に扱わないAIならそりゃあ負けるわ

まんこは非理性的だからAIに嫌われてるだけだろ

>>1
正確で中立的な判断をしたら女のポイントが下がるんだろ
それに無理.やり下駄を履かせろって方が可笑しいわ

適材適所。ってAIは言ってるんだよ。
むりやり男女平等をするなと。
女性の方が圧倒的に有利な職場もあるしね。

所詮は男女性差が歴然とあってそれを男女平等で無理に社会的に補正してる事が多いだろうからねえ。

これは男が適任、これは女が適任というのを正直なAIなら迷わず結果に出すだろうな。

自分勝手
更年期障害
生理
妊娠
出産
子供
悪口

存在そのものがトラブル

男女間には間違いなく能力差があるんだよ。
これは厳然たる事実。
そうでないなら、なんで将棋界は男女でタイトルや段位が区別されてるんだ？となる。
男女間に能力差が無いなら「女流」なんてキーワードは不要なはずだ。

奨励会の入会審査をAIが正しく判定したら、男性優位が極めて明確になるだろう。
これは「間違った結論」なのか？？

最適化と平等は全く違うからな。
ここらを踏まえていない人は女に多いよねｗ

まんさん「AIは童貞！」