2019年10月7日掲載
2018年から、実業務への応用事例が急速に増え、普及期に入ったと言われているAI（人工知能）。経済学者たちはAIが、2030年までに世界全体のGDPを15兆ドル以上増加させると予測しています。これから取り組む企業も多いと考え、本コラムでは産業界におけるAI有識者として知られているマーク・ミネビッチ氏の見識に基づいて、世界のAI最新事情を6回にわたってお伝えします。今回は第1回目として、あらゆる企業が第一に取り組むべき課題である「責任あるAI」について解説します。
美咲いずみは、29歳とまだ若いが、既にいくつかの顧問先を持つフリーランスのITコンサルタントだ。仕事柄、最新ITの情報収集は欠かせない。今日も、AIをテーマとする講演会にマーク・ミネビッチ氏（以下、マーク）が登壇することを聞きつけ、参加したのだった。
マークは、国連プロジェクトサービス機関（UNOPS）のシニアフェロー＆アドバイザー、AI Capital Venture Fundシニアアドバイザー、G20ビジネスサミット米国メンバーなど数多くの肩書きで活躍している、知る人ぞ知る世界的なAI有識者である。
マークの講演は、AIの最新事情を紹介するものであった。内容は、さまざまな産業における最新事例や、企業がAI開発をする際に注意すべきこと、AIが今後の社会にもたらす影響と希望に満ちた未来像など多岐にわたり、短い講演時間に対して盛りだくさんとなっていた。もっと深く突っ込んで聞きたかったところに主催者から「質問がある方は、このあと別室にて承りますので、そちらにお越しください」とアナウンスがあり、いずみは真っ先に駆けつけ、マークと対面した。
以下、マークといずみの質疑応答の様子を対話形式でお届けする。
いずみ：マークさん。ITコンサルタントの美咲いずみと申します。私のクライアントに最新の情報に基づいた提案を差し上げるために、今日は講演を拝聴しました。本当に貴重な情報を惜しげもなく数多く頂戴し、ありがとうございました。
マーク：興味を持ってくださってありがとう！私の講演がお役に立てたようで大変嬉しく思います。せっかくの機会ですので、どんどん質問してください。
いずみ：ありがとうございます。いくつもあるのですが、「責任あるAI」というキーワードがとても気になりました。まずはこのテーマで質問させてください。なぜAIに責任が必要なのでしょうか。
マーク：本質的な良い質問だと思います。世界レベルでビジネスを考えている経営者たちは今、AIの責任について議論することに大きなメリットを感じているのです。なぜなら世界中にあまねく広がる成長こそが企業に大きな収益をもたらすからです。その前提は、SDGｓでも「地球上の誰一人として取り残さない（leave no one behind）」と誓っている通り、1人でも多くの人が豊かになること。AIはそれを実現する可能性を秘めています。
いずみ：社会的格差が解消されていくという意味でしょうか。
マーク：おっしゃるとおりです。そのためには社会的格差を生み出す不平等や性差別などが排除されなければなりません。透明性のある説明も重要視されます。ですからAIにも責任が求められるのです。
AIはビジネスに大きなチャンスと成果をもたらしますが、その条件は、AI開発が倫理的で、公平に、信頼できる方法で人間を中心として行われた場合に限ります。
いずみ：なるほど。分かる気がします。理解を深めるため、もう少し具体的に、AIに関してどのような懸念や課題があるかについて教えてください。
マーク：私は大きく6つの課題があると考えています。1番めは、公平なAIの実現です。AIの学習データやアルゴリズムに偏りがないか、企業は常に確認する必要があります。
例えばカリフォルニア大学バークレー校の研究では、マイノリティーの住宅所有者に高い金利を課したAIシステムが存在したことが分かっています。また、ピュー研究所の調査ではコンピュータープログラムが常に偏っていると思っている米国人消費者はなんと58％もいるとのこと。こうした懸念を解消できなければ、AIの普及そのものが頭打ちになるかもしれません。
2番めは、説明可能、証明可能、透明性のあるAIの実現です。AI、特にディープラーニング（深層学習）のアルゴリズムは複雑で人間の理解を超えています。そのため、なぜAIがこのような答えを出したのか、開発者にも分からないことが多いのです。ですが、例えば十分な収入があるにもかかわらずローンの審査に落ちた人がいたとしたら、納得いかないでしょう。
3番めは、AIの信頼性をどこまで求めるか。例えば生死に関わる医療上の意思決定を支援するAIには、極めて大きな信頼が必要でしょう。しかし商品をおススメするAIであれば、そこまでの信頼性は要らないかもしれません。とはいえ、あまりにも的外れなおススメばかりしていたら、顧客が離れていく恐れもあります。どのぐらいの信頼性が必要かは、ビジネスにおける重要課題だと言えます。
4番めは、安全性・堅ろう性の担保です。AIといっても、結局はコンピュータシステムです。サイバー攻撃などセキュリティ上の脅威があることには変わりありません。しかも社会やビジネスへの影響は従来のシステムより大きいかもしれません。継続的な安全対策により、攻撃への防御とパフォーマンスの確保に今まで以上に取り組む必要があります。
5番めは、AIガバナンス（統制）です。4番めと同様の話で、コンピューターシステムとしてAIシステムもしっかり監査ができるようになっていなければなりません。
6番めは、企業倫理との適合です。1番、2番の課題と大きく関係します。各企業は、その使命と社会的責任にも続いてAIを使用しなければなりませんが、ではそれをどのようにしたら実現できるかというと難しい。法律に基づくことは当然ですが、従業員や顧客に与えるさまざまな影響をどのように評価するかも忘れてはなりません。
いずみ：解決が難しそうな課題が並んでいます。しかしAIもコンピュータシステムだということを考えると当然解決すべきことという気もします。
マーク：おっしゃるとおりです。これらはすべてのコンピュータシステムに求められることです。とはいえ、AIならではの留意点もあります。
まず、今まで以上に社会に大きな影響をもたらすことを忘れてはなりません。だからこそ透明性を確保し、説明責任を果たし、信頼されるように常に努める必要があります。特に学習データに関しては注意が必要です。性的中立性、データ比率のバランス、多様性に責任を持たなければいけません。顧客データがどのように学習に用いられるかを開示し、必要であれば特定の個人や企業を学習対象から除外することも必要です。プライバシーを含めた人間の権利を守ることが前提なのです。
その前提を守ったうえで、企業や社会にプラスの成果や影響をもたらすことを心がけ、人間から仕事を奪うものではなく、人間の知性や技能を補強・拡大するものとしてAIシステムを開発していくことができれば、企業は大きな成長を遂げることができるでしょう。
まとめ
いずみの目
「責任あるAI」が企業に大きなメリットをもたらすことと、逆に実現できないとさまざまな不都合があることはご理解いただけたかと思います。「責任あるAI」を実現するためには、さらに細かい留意点が数多くあります。
詳しくはグローバル最新AI事情コラム「【第1回】責任あるAI 」をご参照ください。
メールマガジン
最新のイベント情報、商品情報など、お役立ち情報をご紹介するメールマガジンをお送りしております。
日立システムズは、システムのコンサルティングから構築、導入、運用、そして保守まで、ITライフサイクルの全領域をカバーした真のワンストップサービスを提供します。
