おもしろネタ

AppleCardの女性差別がひどいww!AI機能やアップルカードのアルゴリズムが馬鹿すぎる件

スポンサーリンク

米アップルと共同開発したクレジットカードが女性差別的だと問題になっています。

利用限度額を査定するアルゴリズムに問題があるとハイテク起業家がツイッターで呟き、この問題が明るみに出ました。

やはり、コンピューターやAIだけにすべてを任せられるのはまだまだ遠い先の話になりそうですね。

ということで今日はそんな差別的なアルゴリズムやこれまでのおかしなAIについてみていきたいと思います。

AppleCardの女性差別がひどいww!利用限度額がおかしい。。。

アドセンス前に無料ブログをする理由

このハイテク起業家さんがアップルカードを利用しようとしたところ限度額が妻よりも20万も多かったそうです。20万って結構差別されている感じがしますよね。

この夫婦のお給料の内訳はわかりませんが信用スコアは妻のほうがよかったとのことです。このことを不快に感じたハイテク起業家さんはツイッターで強く批判し、それが拡散されてしまいました。

このアルゴリズムの女性差別がニューヨーク州法に違反するらしく、、

「意図的だったか否かにかかわらず、結果として女性やその他保護されたグループを差別的に扱うアルゴリズムはニューヨーク州法に違反する」と説明した。

https://headlines.yahoo.co.jp/hl?a=20191111-05759311-bloom_st-bus_all

これってアルゴリズムを作った人の思考が反映されているんじゃないでしょうか?とにかくコンピューターやAIの信憑性がまだまだ低いということがわかります。

カード会社はこうコメントしています。

ゴールドマンの広報担当、アンドルー・ウィリアムズ氏は「当社の信用判断は顧客の信用力に基づいており、性別や人種、年齢、性的指向など法律で禁じられている要因に基づくことはない」と述べた。

https://news.yahoo.co.jp/pickup/6342123

といいつつも今回の事件というか事故というか。。。

ということはこのアップルカードは欠陥品ですかね。

AppleCardの女性差別がひどいww!人材採用AIまでも女性差別という悲劇

アマゾンの人事部AIまでもが女性差別的だそうで稼働停止、実質クビになってしまっています。

アマゾンが自社で開発を続けてきた人材採用AIが、女性差別的傾向を持つとして稼働停止になったというニュースが世界中を駆け巡っている。人材採用業務に人工知能を取り入れようという動きは、昨年頃から欧米だけではく、日本や韓国などアジア圏でも活発化しているだけに、今後も物議が続きそうなイシューである。

https://forbesjapan.com/articles/detail/23419

この人事部AIさんは男性の採用に偏向する動きが見られアマゾンが改良しようとこころみましたがどこが悪いのかわからず、なおすことができなかったそうです。

すごく恐ろしい話ですよね。

機械に支配される世界。。。しかも女性が差別される。。ぞっとします。

そしてこの問題が改善できなかった理由としてこういうことが書かれています。

考えられる理由としては、選考プロセスを追える、追えない以前に、アルゴリズムを開発した人々が、「女性差別とは何か」、もしくは「差別とは何か」を理解していなかったケースも想定できる。理解していなければ、言語でプログラムに置き換えることは不可能なので、当然、生まれるべきして生まれる問題だったことになる。

https://forbesjapan.com/articles/detail/23419/2/1/1

やっぱりアルゴリズムを作っている人の倫理や道徳もAIに反映されるんですよ。

ということはですよ。。。もし、共産圏の人がアルゴリズムをつくるとしたら、、私たちは知らず知らずのうちに洗脳されていくかもしれないということになります!

AppleCardの女性差別がひどいww!まとめ

人材採用AIはいろんなところで採用されつつありますが、このような差別がある以上、普通に人間の面接官でいいのではないでしょうか?

女性にとっては圧倒的に不利ですよね。

採用する人手も確保できないような会社なら、AIが選んだ人材くらいでちょうどいいのかもしれませんが。

しっかり人と人とが向かい合って相手の雰囲気などを知ることも大事ではないでしょうか?

スポンサーリンク
ABOUT ME
ウトロ
ウトロのブログをみていただきありがとうございます!趣味は食べること・寝ること・遊ぶこと。

COMMENT

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です