海外「マジかよ・・・。Photosには機械学習が使われており、類似のコンテンツ認識し、自動でラベル付きで分類してくれます。Photosはゴリラを見えないものとしている」ということがわかりました。Alcineさんとその友人に「ゴリラ」というラベル付けをしたという事件が起こったのは2015年7月のこと。Zungerさんはこの件についてAlcineさんに謝罪し、許可を得てAlcineさんのアカウントにアクセスすることで、すぐにバグは修正されました。画像認識アルゴリズムはまだ発展途中であり、Zungerさんによると「マシン自体にはバイアスはないが、彼らは私たちが注意しないと、簡単に人種差別を学んでしまう」とコメントしました。Photosを使って調査。results」という検索結果が示されたとのこと。ヒヒ、テナガザル、マーモセット、オランウータンについては検索ができたそうです。Fossey」をソースとする20枚の写真をアップロードしたところ、「森」「ジャングル」「動物園」といった単語でいくつかの写真は検索できましたが、その他の単語では検索が難しかったといいます。Photos内でヒヒはヒヒとして認識されるものの、チンパンジーやゴリラは「見えないものとされている」とWiredは示しました。americanではアンテロープが、ほか3つの言葉では白黒の画像が示される結果となりました。Photosは認識していたものの、人種については検索結果に反映されませんでした。Googleの広報によると、2015年の事件以降、「ゴリラ」という単語は検索や画像タグにおいて検閲対象になっているのだとのこと。同様に、チンパンジーやサルについてもブロックされているそうです。「画像のラベリング技術はまだ初期の段階にあり、残念なことに完璧とはほど遠いものです」とGoogle広報は説明しています。・これは人種差別だろ。・グーグルのシステムはゴリラと黒人の違いも分からないのかよ(笑)・2年経っても修正出来ないってどういうこと?・また間違いが起こる可能性があるからこのような処置をしてるんだろ。・画像認識ソフトウェアってのは顔の特徴を認識するように設定されてるんだよ。ゴリラと特徴が似てた場合は、当然ゴリラとして振り分けられてしまう可能性がある。これは人種差別ではなくソフトウェアの問題だ。・グーグルの人口知能ってそんなに馬鹿なの?・人口知能って我々人間の知能を遥かに凌駕してるんじゃなかったのか?それなのにゴリラと黒人の区別もつかないだと!?・H&Mは黒人少年にモンキーと書かれたシャツを着せて炎上したけど、これは炎上しないの?・黒人がゴリラになるなら、白人はシロクマにでもなってしまうんじゃないのか?・意図的な差別じゃないと言うけど、でもアルゴリズムを設計したのは人間だろ?つまり人間によるエラーと言えるのでは?・これはソフトウェアの問題であって人種差別ではないよ。そもそも人間も猿の一種じゃないか、ゴリラやオランウータンなどは、我々人間とDNAの構成もほとんど一緒だしな。間違いが起こってしまえば炎上してしまうのはグーグルなんだよ。彼らはこのような処置をしてるだけ。猿から進化したと言われてるけど。それについて人種差別主義者はどう思ってるのだろうか?・我々は類人猿から進化したんだろ?つまりこのグーグルのコンピューターが言ってることは間違ってる訳じゃないだろ。・我々はついにAIにまで人種差別だと文句を言うようになったんだな・・・。・このままだといつか、ゴリラそのものが人種差別になる日が来るかもな。動物園でゴリラのコーナーが無くなる日も近いだろう。