漠然とした不安というところで、質問の仕方というお話もありましたけれども、確かにそれはあるかなと思っています。質問の仕方が、AIがポジティブな影響をもたらすのかどうかという聞き方なので、明確な回答を避ける日本的なマインドが反映されている可能性もあります。おっしゃるとおり、漠然としたというところはそうだと思うのですけれども、実際にやり始めると、実は私は、親和性は高いのではないかと希望的に思っております。ありがとうございます。感想が1つと質問が1つです。私もAIは全然詳しくなくて、一般の人みたいに、AIというのは漠然としていて何のことだかよくわからないというところが大きかったのですが、今日の話を聞いていて、RPAは非常によく理解できる。それはまあそうだよなということがある。あと、ディープラーニングはまた全然わけがわからなくて、それが全部がっしゃんこ。そもそもRPAとディープラーニングを一緒にAIについて討論しましょうということ自体、若干無理があるのかなと。討論する、ないしは報告書をまとめるに当たっては、AIは何を定義しているのかというところが重要なのかなと思ったことが1つありました。一点は、いわゆるメーカー側のアイ・ビー・エムさんの元木さんに御質問ですけれども、バイアスとかこちらの話があるではないですか。その話というのは、結局、メーカー側で対応できるところというのはある程度限られているのかなと。年齢によるバイアスが検出された場合に、ユーザーの企業がそれを考慮するか無視してしまうかによってももちろん違うだろうし。あと、私がよくわからないのは、例えばデータをどこから持ってくるか。この会社での採用とか昇進となったら、もちろん会社からしか持っていきようがないのだけれども、そういうデータの抽出とか、できあがった結果についてどういうふうに使うべきかみたいなことをアイ・ビー・エムとしてユーザーにある程度指導したり、契約の中の条件にしたり、そういうことというのはあるのでしょうか。バイアス等のお話で御質問いただきました。やらなければいけないと思っているのは、そういうバイアスの可能性がある判断の事象というのを見つけて、さらに言うと、それのもとになっているデータの偏りを見つける。そこを見つけないといけないということ。そのためのツールを提供するというところが今取り組んでいるところです。何でそういうことをやっているかというと、この間そういう問題となりうる事象があったということがあります。私たちの学習済みの画像認識のシステムを使うと、白人の顔認識と黒人の顔認識の精度にかなり差があったとかいうことがあって、そういうことに取り組み始めたのです。次に何故その判断になったかという根拠を探索する、説明するというのが2点目です。機械なので、よくブラックボックス化されると言われますけれども、逆にそこのところは明確にしていくことはできるはずなのです。余りにも複雑過ぎて、人が理解できるようにうまく説明するのが難しいという部分が問題になります。いう意味では、データがあって、アルゴリズムがあって、そこから導き出されているものではあるので、そういったところを人間にわかりやすく説明するということに、今、取り組みつつあるということです。機械学習の際どういうファクターが強く重みづけされてこの判断になったかというのは可視化できるし、それが見えれば、人間でもある程度わかることになります。それを応用してこのファクターをいじればこの結果がよくなるのだろうなとか、そういうこともわかるようになって行きます。その部分からスタートして、今後は、いわゆるディープラーニングと呼ばれているような非常に複雑な計算をしているものを見える化していくといったところに取り組んでいこうとしています。ありがとうございました。時間なのですけれども、もう一つぐらいおありになれば。それでは、そろそろこの議論は終わりにしたいと思います。お三方、どうもありがとうございました。最後に、次回、介護分野における新技術の導入状況等についてのヒアリングを行う予定ですので、それに先立ち、事務局から資料5の御説明をいただきたいと思います。資料5を御説明させていただきます。ただいま座長からもございましたように、次回は介護分野に関するヒアリングでございますので、それに先立って、以前、介護分野で働く方々の状況はどうなっているのか、そういったことについてきちんと押さえた上でヒアリングに臨んだほうがいいという御示唆もありましたので、準備させていただいたものでございます。時間の限りがありますので、ちょっとはしょらせて説明させていただきます。どのようになっているのかという資料でございます。御覧いただければと存じます。進んでいただきまして、3ページ目「人口構造等の変化」から何枚かの紙に関しましては、今後の介護サービス量を予測していく上で、例えば「人口構造等の変化」のところでは、高齢化が一層進んでいく、とりわけ後期高齢者の方の比率が増えていくでありますとか、認知症高齢者の方の増加状況、また、世帯の状況として、65歳以上の単独世帯や夫婦のみの世帯が増加していくといったようなことなどが記されているところでございます。御確認いただければと存じます。推移」に関しましては、要介護・要支援の認定を受けられている方々の数というのが、足元平成30年4月現在で644万人で、20年弱の間に3倍になっています。あわせまして、地域という視点から見ますと、7ページ目「地域別の介護サービス量見込み」のところでございます。全国でも、足元推計も含めまして、2017年度から2025年度にかけましてプラス24.9%でございます。首都圏のところを御覧いただきますと、プラス33.3%で、居住系のサービスなども含めまして、首都圏での伸びが高く見込まれているということなどがうかがわれるところでございます。続きまして、事前にいただいておりました介護分野で働く方々の状況についてでございますが、8ページ目からになります。8ページ目が「介護職員数の推移」です。先ほどのグラフと同様でございますけれども、この十数年間、約20年間の間に右肩上がりに増加していて、この数値では平成28年度が足元になっておりますが、622万人という状況になっています。それから「介護職員の現状」についてが9ページ目でございます。本日も働き方の問題が少し出ておりましたけれども、介護の分野では非正規で働かれている方々の比率が高いということがまず1点。それから、年齢構成で見ますと、施設におきましては、30~39歳、あるいは40~49歳という、その画面でいいますと、赤で囲っているところが多いわけでございますが、訪問介護の分野におきましては50~59歳の方々が担い手としてかなり多くなっていることが御確認いただけると思います。いずれも女性の方々の比率が高いということでございます。10ページ目以降が、本日も出ていました人手不足の中でということでございます。有効求人倍率を全職業と比べましても、介護分野は30年平均で3.9倍となっていまして、極めて人手不足になっているという状況でございます。11ページは、介護サービス事業所にアンケートをしている結果でございます。こちらでも人手不足感が強く示されておりまして、特に不足している理由としては、そもそも採用が困難であるということに加えまして、離職率が高い、また、事業拡大に当たっての人材確保の困難性等を挙げられる事業者さんが多いということでございます。離職率に関しまして詳細な数字は省きますが、12ページにございますように、全職業と比べてもやや高い。その高さは、以前と比べると近接してきているという状況かと思います。介護福祉士の方に、過去働いていた職場をやめた理由を伺ったのが13ページでございます。離職時には、業務に関連する心身の不調でありますとか、職場の方針、人間関係など広い意味での雇用管理のあり方がきっかけになっていることがうかがわれるところでございます。したところについて、本日もホワイトカラー分野で御議論ありましたが、新しい技術でどんなふうに対応できていくのか、あるいはしているのかということをまた次回のところで御議論を深めていただければありがたいと考えております。介護職員の方々の平均勤続年数は、14ページにございますように、30~34歳まではおおむね全産業平均と変わらないのですが、35歳以上は下回っている状況になってございます。就業者数の見通しに関しまして、政府としていろいろなところで出している資料でございます。先ほど見ていただきましたように、既に実績としても非常に伸びてきている中で、一方で、働く方の数が、人口減少の中でいろいろな供給拡大策をとっても今後制約が非常に強まってくる中で、この分野における広い意味での生産性向上というか労働投入当たりのサービス量で見た生産性をどのように上げていくのかが大きな課題になっており、その際に、今部会で御議論いただいています技術革新をどのようにこの分野に対応させていくのかということが大きなテーマになるのだろうと考えているところでございます。ございますが、先生方、よく御案内のところも多いかと思いますので、資料の配付をもってかえさせていただきたいと考えております。資料5の説明は以上でございます。あと、先ほど来、委員の先生方から多数御意見をいただきまして、ありがとうございました。その中で2点申し上げさせていただければと思います。1点は、山川委員からございましたバイアスの存在に関して、本日、事業者の皆様方と御議論を深めていただいたところでございます。これは、個別の企業の取組でも、今日御紹介いただいたように、非常に認識もされ、深めていただいているということでございますが、1つの企業あるいは1つの国だけでは対応できないようなことについて、国として、さらに国際的にも議論することが重要だという文脈の中で、前回も御紹介申し上げましたが、人間中心のAI社会の原則等も議論されており、その議論の中には、本日、主要な現場の皆様方にも御参画いただいているということもあるのではないかと考えておるところでございます。それが1点でございます。あと、長谷川委員、また後藤委員から、実際に職場に入れるとき、実際の労使の中で、また働く方々にどんな影響がというお話がございました。本日もお三方から大変深いお話をいただきましたが、これは受け入れられている企業からのお声とか御報告もまた重要かと思います。これは次々回以降の中で部会長とも御相談しながら、そこら辺のプレゼンテーションをどのように入れていくか、また、本日いただいた問題意識も踏まえて調整させていただきたいと思いますので、よろしくお願いします。ありがとうございました。介護分野については、次回またヒアリング等を行いますので、よろしくお願いしたいと思います。間もなく終了時刻となりますので、このあたりで今回の議論を終了させていただきたいと思います。活発な御議論をどうもありがとうございました。最後に、事務局から次回日程について御説明をお願いいたします。次回の当部会の日程ですが、3月29日金曜日の開催を予定しております。詳細につきましては改めて御連絡いたします。それでは、本日はこのあたりで閉会とさせていただきたいと思います。本日の会議の議事録につきましては、運営規程により、部会長である私のほか2人の方に御署名をいただくことになっております。署名人になっていただきたいと思いますので、よろしくお願いいたしたいと思います。本日の会議はこれで終了いたしたいと思います。皆さん方、お忙しい中、どうもありがとうございました。Readerというソフトが必要です。Readerは無料で配布されていますので、こちらからダウンロードしてください。子どものページ携帯ホームページ携帯版ホームページでは、緊急情報や厚生労働省のご案内などを掲載しています。