「AIと倫理」は21世紀の経営課題。ABEJA岡田陽介に聞く「正しい判断」を下す方法

大手SNSや就職サイトの運営会社がユーザー情報を第三者に提供していたことでネット上で炎上を招いた問題など、サービス提供者の倫理観が問われるケースが増えています。

けれども、なにをもって倫理的に正しいとするかは人によって受け止め方が異なるから難しい。炎上を恐れて無難な選択ばかりしていてはビジネスとしてライバルに遅れをとることにもなりかねません。倫理的に"正しい"判断はどうやって下せばいいのでしょうか？

AIベンチャーのABEJAは2019年7月、AIに関する課題について倫理・法務的観点から討議する委員会「Ethical Approach to AI」（以下、EAA）を立ち上げました。学術、文化、報道の各分野の有識者を委員として迎え、同社が事業を推進する上で直面した具体的課題について多面的に議論するというもの。そこで得た知見は経営に活かすとともに、広く社会に発信していく方針といいます。

EAAではどのような議論がなされているのでしょうか。確たる正解のない中で "正しい" 判断を下すために重要なこととは――。「AI時代に倫理について考えることは善行ではない。もはや経営課題だ」と語るABEJA代表取締役社長CEO・岡田陽介さんに伺いました。

リベラルアーツ≒倫理観の重要性は21世紀に入って増している

―なぜいま企業が倫理について考えることの重要性が増しているのでしょうか？

倫理という言葉が指す意味の範囲は広いですが、ここで言う倫理とは、人間性の保持やプライバシーの保護、平等、安全性の確保などのことでしょう。21世紀に入って企業が倫理について考える重要性が増している最大の理由は、やはりテクノロジーが恐ろしい速度で進化し続けていることが挙げられるだろうと思います。

人工知能に代表されるように、テクノロジーの適用範囲は爆発的に広がっています。また、19、20世紀にテクノロジーを使った暴走は、一部の権力者だけができうることでしたが、いまや我々一般人でもテクノロジーを扱えるようになっています。つまり、我々一人ひとりが倫理観を問われる時代になったということ。すべての人が倫理的観点をもって自分の行動を検証しないと、世界がめちゃくちゃになってしまいかねない時代になったのです。

AIプラットフォームを提供する弊社も日々、さまざまな倫理的判断を迫られています。例えばABEJAには「Insight for Retail」という小売流通向けのサービスがあります。店舗にカメラ・センサーを設置し、顧客データを収集し、分析するものですが、カメラに映った顧客のプライバシーをどのように考えるか、取得したデータをどこまで使っていいのかなど、倫理的観点から考えるべきことが山ほどあります。また、AIによる画像診断が期待される医療や、最終検品のAI化が進む製造などの分野では、AIが起こしたミスや事故の責任は誰がとるのかというのも重要な論点になっています。

ただ利益だけを追求して、こうした問題を放置しておくと、重大な経営リスクになります。被害を受けた人からの損害賠償請求やクレーム、レピュテーションの毀損など。最悪の場合はビジネスの撤退にまでつながります。「倫理」というと善行のように思う人もいるかもしれないですが、そうではありません。「AIと倫理」はもはや経営課題だと言えるのです。

―それでEAAを。

ABEJAは2012年の創業当初から「テクノプレナーシップ」という概念を強く打ち出してきました。テクノプレナーシップとは、テクノロジーを使ってビジネスにイノベーションをもたらす新しいタイプの起業家精神のこと。テクノロジーとアントレプレナーシップを組み合わせた造語で、ビジネスシーンでも2010年ごろから一般的に使われ始めました。ABEJAでは、この2つにリベラルアーツも一要素として加え、「ABEJAのテクノプレナーシップ」として再定義しています。

技術者や研究者の純粋な心にドライブされて日々進化していくテクノロジー。一方でそれをビジネスにつなげていくのがアントレプレナーシップです。けれども、私の考えではこれらはあくまで手段に過ぎず、その手段を使って「こういう世界を実現していきたい」という目的・思いがなくては意味をなしません。この「実現したい世界」を思い描くところを担うのがリベラルアーツだと考えています。

こうした考えから、ABEJAでは一貫して、テクノロジー・リベラルアーツ・アントレプレナーシップの三つをバランスよく併せ持つこと、特にリベラルアーツの重要性を発信してきた経緯があります。今日のテーマである倫理観もまたリベラルアーツに含まれるでしょう。

ところが、なにを持って倫理的に正しいとするかの線引きは非常に難しい。そのための社会の仕組みや法的な整備も追いついていないのが現状です。特に、私たちが創業した2012年当時は、周りに「AIと倫理」について議論している人など誰もいなかった。新しいビジネスを立ち上げるにあたって関係省庁や法律の専門家に意見を伺っても、「問題ない」という答えが返ってくるケースがほとんどでした。ですが、法規制の面で問題なくても、社会の価値観に受容されるかどうかは別の話です。

となると、もはや自分で判断を下すよりほかない。経営者である私が、誰も相談相手がいない中でこうした判断を下し続けなければならず、正直相当悩みながらやってきました。このような経緯があって、AI時代における倫理的観点から見た課題について多面的に議論をする場として、外部の有識者の力を借りるべく、この度EAAを立ち上げたというわけです。

ほしいのは"正解"ではなく、バイアスを超えるための多様な視点

―EAAはどんな組織で、どんな形で議論を進めているのですか？

学術、文化、報道の各分野の有識者4人に委員になっていただき、我々が経営として抱えている課題について議論してもらっています。それぞれの専門の立場から自由にご意見をいただき、最終的に私が経営判断を下す際の参考にさせていただく流れです。

―2019年7月に発足して約半年。実際にどんな議論が行われたのでしょうか？

これまでに3回の会合を持ちましたが、最初の2回はキックオフ的な位置づけ。実質的な議論はまだ1回だけです。ですが、そのたった1回、たった2時間の中でも、実に多様な議論が行われました。

例えば、こちらから用意した問いの一つに「与信や採用などに使われるAIスコアリングのための学習データとして、性別や人種、顔画像といったデータを用いることの是非は？」というものがありました。この問いについて、ある委員が「そもそも人間が与信審査を行う場合でも顔つきや学歴などのバイアスを持って判断している。だからAIにそれをトレースしたところで新たな問題は生じない」という立場をとられたのに対し、別の委員は「それは従来の人間の振る舞いに問題があるのであって、そのままトレースするのはおかしいだろう」と真っ向から反論されました。

後者の意見は、それまで人間個人が行ってきた偏った判断が、AIにより仕組み化されてしまう危険性があることを浮き彫りにしてくれています。けれども一方で、人間が感覚に頼って行ってきた部分を仕組み化することには、それまでは見落としていた観点を我々にもたらしてくれる可能性もある。ここでも、簡単には結論の出せない新たな論点が見つかりました。

また別のテーマとして、AIが起こしたミスの責任は誰がとるのかという問題もあります。「管理者である人間に責任がある」とするのがこれまで多かった立場ですが、この日の議論では「機械がなぜその選択をしたのかがブラックボックスのまま責任を負わされるのは理不尽ではないか」という意見も出て、なるほどと思わされました。

―どれも深い議論が必要な論点ばかり。たった2時間の会議で結論は出ないのでは？

おっしゃる通りです。でも、そもそも我々はこの委員会で統一見解を出してもらおうとは思っていません。"正解"は求めていないんです。

一つひとつの案件について最終的に答えを出すのは、あくまで私を含めたABEJAの経営陣です。委員会でいただきたいのは、そこで正しい判断を下すための参考材料。モザイクのまま意見をいただくことに意味があると考えています。

―むしろ判断を下すのが難しくなりませんか？

そのことによって判断が難しくなるのではなく、もともとそれくらいたくさんの論点を含んだ難しい判断だということでしょう。そのような難しい判断を正しく下すためには、自分とは異なる「視点」をもらうことがとても大切だと考えています。

というのも、私は「日本人」「男性」なので、「フランス人」「女性」の感覚を持つことはできません。ということは、私がほかの人からの意見をもらわないまま意思決定したら、私から見える世界だけで意思決定してしまうことを意味するのです。

倫理の問題が難しい点のひとつは、人によって受け止め方が異なることです。特に、国際的なサービスになれば国や文化によっても受け止め方が大きく違います。日本国内であれば問題にならなかったものも、世界から見ると完全にガラパゴス化していて、まったく受け入れられないといった事態も容易に起こり得ます。そのため、EAAの委員はジェンダー、国籍の面からもダイバーシティのある構成を心掛けました。

人間は誰しもバイアスに支配されています。バイアスを取り払って考えるには、人の意見を聞く以外にないのです。AIはそうしたバイアスから自由な存在だと思うかもしれませんが、そんなことはありません。そのAIをどう使うか、どのようなデータを用いるかというところに、やはり人間のバイアスが入ってしまうのです。

"正しい"判断ができる力を組織、社会に広めていくために

―EAAのような取り組みは他社にも真似できますか？

我々としてもどういう運営の仕方がいいのかは手探りでやっているので、いまのやり方が絶対的に正しいとは思っていません。ただ、やってみて分かったこともあります。それは、弊社のような小さな会社にもできるやり方はあるし、むしろ小さな会社だからこそできることもあるということです。

すでにお話ししたように、EAAでは、弊社が事業を進める上で生じた具体的な問題・ケースを投げかけ、それについて自由に議論してもらうという形をとっています。今後、議論を重ねていく中で、世の中のあらゆる場所にAIを組み入れる際に踏まえておくべき普遍性のある問いが見つかればと考えています。そして、それを経営判断を下す際の指針にしたい、とも。まず具体的事例の議論があり、そのアウトプットとして生まれるのが「問い」というのは、一般的な議論とは逆の流れと言えるかもしれません。

けれども、こうしたやり方ができるのは、弊社がまだ小さな会社で、事業もいくつかしかないからです。だからこそ具体的な話ができる。従業員も事業の数も多い世界規模の大企業に、同じやり方はできないだろうと思います。大企業には大企業のスケールを活かした議論の進め方があるはずで、その会社会社で置かれた立場を活かしたやり方を模索する必要があるでしょう。

いずれにしろ気をつけなくてはならないのは、こうした場は決して"正解"を見つけにいく場所ではないということ。繰り返しになりますが、得られるのはあくまで判断のための材料に過ぎません。確たる正解のない中で、それでも自分なりに考えて「これだ！」と思って最終的に決める。これが経営という仕事の本質だと思いますし、まさにリベラルアーツの仕事、AI時代の人間の仕事なのだと思います。

―もう一つ、こうした倫理観は経営レベル以外で、社員一人ひとりにも求められるものでしょうか？

個人の中でも、テクノロジー・リベラルアーツ・アントレプレナーシップの三つのバランスを目指す必要はあると思います。でないと、「自分はテクノロジー100%の人間だ」という人は、極論すれば「核爆弾を作ってもいいんでしたっけ？」「まったく利益を生まなくてもいいんでしたっけ？」という話になってしまう。

三つの能力をすべて高いレベルで兼ね備える人はそういません。イーロン・マスクやスティーブ・ジョブズ級のスーパーレアケースでしょう。難しい要求であることは分かっています。重要なのは、100%には到底たどり着かなかったとしても、そこを目指そうというスタンスを示せているかどうか。そのスタンスを示すことが、組織内の自分とは専門の異なる人との間に、信頼と尊敬を生みます。最終的にはそれが、組織としてテクノプレナーシップを体現することにつながるのだと思っています。

―三つのバランスを目指す上で、まずなにから始めれば良いですか？

自分の専門以外のこと、それをやっている仲間の仕事について、興味を持つことに尽きるのではないでしょうか。こういう話をする時、よく言われるのは「社長の視点で考えましょう」という理想論ですが、現実的にはそれは難しいと私は思います。それよりも「ほかの部署の人がやっていることについて調べる」といったことでいいから、なにかしらの接点を持つところから始めるのがいいのではないか、と。

「隣の人と話をしてみましょう」とか「挨拶してみましょう」とか。それがスタートラインではないでしょうか。「いつもおはようって言ってくれますね。飲みにでも行きましょうか」「ランチはどうですか？」となり、話をしてみる。「ああ、そんなことやってるんですね」となれば、そこから「視点」は広がっていく。

こうした話に「銀の弾丸」はないんです。「銀の弾丸」を探しているうちは光明は見えてこない。組織が変わるチャンスはもっと身近で、泥臭いところにあるのだと思います。

株式会社ABEJA 代表取締役社長CEO　岡田陽介
1988年生まれ。名古屋市出身。10歳からプログラミングを始める。ITベンチャー企業社員を経て、2012年9月ABEJAを起業。2017年には日本ディープラーニング協会の設立に参加、現在理事。2019年10月より、米シリコンバレーの現地法人 ABEJA Technologies, Inc. CEOに就任。