Unsplash2019年12月、AI研究者による差別を廻る事件が注目を浴びた。特任准教授を務める大澤昇平さんが12月1日、Twitterで「当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します」と謝罪した。大澤さんは自身が経営する会社で「中国人は採用しません」などと人種差別と見られる投稿をTwitterで繰り返して批判を浴びていた。彼が東京大学で担当していた「情報経済AIソリューション寄付講座」は、その名称通り寄付で運営されていたが、このツイートのような差別は許されるはずもなく、寄付元のすべての企業が寄付を停止する結果となった。彼がCEOを務めるDaisy社の提携先であるSteamr社(スイス)も、直ちに提携解消を発表している。企業コンプライアンスといった様々な問題を提起するものであるが、ここでは「AIと差別」に焦点を当てて考えてみたい。AIと差別については2016年3月、マイクロソフトのAI「Tay」がヘイトを「学習」してしまい、ナチス賛美や反ユダヤなどの発言を始めたため、リリース後わずか16時間で停止に追い込まれた事件が知られている。この事件によって、AIと倫理に関する問題が広く認識されるようになった。ヨーロッパにおいては、欧州委員会で「信頼できるAIのための倫理ガイドライン」が検討され、2019年4月8日に「7つの要件」が制定・発表された。関するものとなっていることに注目したい。多様性、差別の禁止、公平性:不公平なバイアスは避けなければならない。それは脆弱なグループの排除から、偏見と差別の悪化に至るまで、多重の負の意味を持つ可能性があるからである。多様性を育むことにより、AIシステムはいかなる障碍に関係なくすべての人がアクセス可能で、ライフサイクル全体を通じて関係者を取り込む必要がある。その中の一つが、2016年にAIのプロジェクトで失敗を経験したマイクロソフトである。Kutterer氏の名前で、次のような声明を発表した。特定のシナリオに対するガイドラインのストレス・テストや日々の運用に関する視点を持って、今年欧州委員会がラウンチ予定のパイロット・フェーズに参加することを、私たちは楽しみにしています。システムはすべての人を公平に扱う必要があります」と明言している。Rossi氏による次のようなコメントを発表している。私たちはEUの「信頼できるAIのための倫理ガイドライン」を策定するための取り組みを大きく支持しており、現在完成に近づいています。AIをIBMクラウド上で提供開始しました。(OECD)加盟の42か国が「AIの開発・利用に関するガイドライン」を採択した。含む5原則が制定されている。AIは、包摂的成長と持続可能な発展、暮らし良さを促進することで、人々と地球環境に利益をもたらすものでなければならない。価値、多様性を尊重するように設計され、また公平公正な社会を確保するために適切な対策が取れる-例えば必要に応じて人的介入ができるようにすべきである。AIシステムについて、人々がどのようなときにそれと関わり結果の正当性を批判できるのかを理解できるようにするために、透明性を確保し責任ある情報開示を行うべきである。AIシステムはその存続期間中は健全で安定した安全な方法で機能させるべきで、起こりうるリスクを常に評価、管理すべきである。AIシステムの開発、普及、運用に携わる組織及び個人は、上記の原則に則ってその正常化に責任を負うべきである。2019年6月10日、英国政府がガイダンス「AIの倫理と安全性の理解」を発表した。こちらでも「AIプロジェクトが確認すべき4つの目標」が明示され、差別禁止がはっきりと謳われている。個人や社会的グループに対する差別的な影響の可能性を考慮し、モデルの結果に影響を与える可能性のあるバイアスを緩和し、設計と実装のライフサイクルを通じて公平性の問題を認識する。lifecycle.このように、AIプロジェクトでの公平性確保や差別排除は、既に国際的な規範になっているのである。日本の企業や大学においても、AIの研究者や開発者は、公平性や差別について、いくら配慮しても配慮し過ぎることはない。AIプロジェクトを進めるにあたっては、要件定義から設計、製造、運用と保守に至るすべてのシステム開発フェーズにおいて、公平性確保や差別排除が確認されるべきである。2016年のマイクロソフトの事件のように、開発者が明確な差別の意図を持っていない場合ですら、運用段階でAIが「差別主義者」になってしまう危険性が十分にあり得るのだ。AIによる出力結果に対して絶え間のない内容確認を行うと共に、修正の必要があれば人間による介入も求められることを自覚しておきたい。最後に、IT最大手の一社であるインテルの「人権原則」における「多様性と反差別」の項目を確認しておく。地域の法律・規制・条例によって保護されているその他の特性に基づく差別は行いません。Unsplash昨年末あたりから、楽天やアマゾンなど実際のサービスを装った偽装メールが蔓延しており、内閣サイバーセキュリティセンターや警視庁が注意を呼び掛ける事態になっている。」という件名で、ビットコインを要求する不審なメールが拡散中だとして、JC3(日本サイバー犯罪対策センター)が注意喚起をしています。迷惑メールの一種と考えられますので、仮想通貨の支払いに応じないよう注意してください。2019また現実には、さらに多くの英語スパム・メールが飛び交っていると思われる。そのほとんどがスパム・フィルターによって隔離されているため、目にすることは少ない。試しに隔離されたものからサンプルを拾ってみたところ、メールのタイトルがパスワードになっており、差出人は受信者のものを偽装していたものがあった。「お前のメールアドレスもパスワードも知っているぞ」と脅さんばかりである。yourself!これをざっくり翻訳すると、こんなところだろう。お前のメールアドレスをハッキングした。パスワードを変えても無駄である。OSに感染しており、メッセンジャーなどの連絡先を窃取した。ところでお前はエロサイトを見ているようだが、Webカメラを使ってエロサイト鑑賞中のお前の姿も録画してある。これをばら撒いてほしくなければ、ビットコインで700ドル払え。払わなければ、すべての連絡先に送り付けてやる。支払うか、一生恥をかくか、よく考えろ。なんとも効率の悪い犯罪である。スパム・フィルターを通り抜けたとしても、日本人の多くは見知らぬ相手からの長文の英語メールなんかそのままゴミ箱行きにするだろうし、ビットコインで送金できる人も限られているだろう。私のPCはデスクトップなので、そもそもWebカメラは付いていない。メールアドレスとパスワードの組み合わせが漏洩している事態は看過できない。ビジネスSNSとして日本でもユーザーの多いLinkedInは、2012年にハッキングされ、1億6,000万以上ものメールアドレスとパスワードの組み合わせが窃取されている。この組み合わせをLineやAmazonなど他のサービスでも使いまわしをしていたなら、簡単にアカウントを乗っ取られてしまうだろう。どのサイトからメールアドレスが流出し、その中に自分のものが含まれているかどうか、チェックするにはどうすればいいのだろうか。いうサイトで提供してくれている。このサイトによると、情報漏洩を起したサイト数は398、漏洩したアカウントは延べ84億にも及んでいる。もので、実に7億7,000万ものメールアドレスとパスワードが窃取されている。メールアドレスやパスワードが漏洩したものに含まれているかどうか、簡単にチェックすることもできる。メールアドレスが漏洩している場合は、このような結果が表示される。漏洩していないメールアドレスの場合は、グリーンになる。パスワードについては、こちらのURLで同様に確認できる。メールアドレスの漏洩が確認できた場合、それをIDとしているすべてのサービスで別のアドレスに変更、もしくはパスワードを直ちに変更すべきだ。パスワードを変更する場合は、英数小文字だけのシンプルなものは避けなければならない。単純な英単語を使うと辞書攻撃で突破されるリスクが高いが、単語の中のいくつかの文字を特殊文字に置き換えればリスクは大きく低減する。各サービスごとに多要素認証の設定もしておくべきであろう。Unsplashセキュリティ・インシデントが発生した場合には、様々なログの解析が必要となる。標的型攻撃の被害を受けた場合、マルウェアを含むメールを開封してしまったPCのログに加え、FireWallやIDS/IPSといったゲートのログ、サーバのOSやDBMSのログなどが多面的に解析される。複数かつ大量のログを収集し、それらの相関を解析することになるため、もはや人手では困難であり、そのためのテクノロジーを導入せざるを得ない。Management)と呼ばれる、ログの一元管理のソリューションである。何はともあれインシデントに備えるには、ある程度の期間にわたってログを保管していなければ話にならない。いうわけで、こんな個人のちっぽけなブログであってもサーバを管理運営する以上、最低限数か月分のアクセス・ログを保管することにしている。このサイトにはWAFも導入しているので、HTMLを書き換えられるような攻撃はまず起こらないだろう。(第一、そこまでするようなサイトでもない。)そんなことよりもっと簡単なのは、コメント欄に嫌がらせの書き込みを残すことである。この週末、ちょっと時間ができたので、久しぶりにログを追いかけてみたところ、ヘイトまとめサイトへ誘導を促す書き込みが残っていた。「コレお前の?」とのコメントで、「めら速」の「放射脳」なる記事のURLが書かれていたのである。