対談風景の写真
松原 仁 氏Hitoshi Matsubara
公立はこだて未来大学教授
久保田 正崇Masataka Kubota
PwCあらた有限責任監査法人 執行役専務 パートナー

2020年03月23日

後編松原仁氏×久保田正崇対談 責任能力のないAI、そこで必要とされる人間の価値観と信頼とは

人工知能(AI)が台頭しても、会計士の仕事はなくならない。人間とAIによる分業が進むだろう──。AI研究の第一人者である公立はこだて未来大学副理事長・教授の松原仁氏は、監査の未来についてこう予測します。とはいえ、AIを本格的に社会実装するには、いくつものハードルを乗り越える必要があります。例えば、AIによる過失の責任を誰が取るのか。技術的な取り組みと同時に、今こそ社会的なコンセンサスやルールづくりが求められています。後編では松原氏とPwCあらた有限責任監査法人 執行役専務・パートナーの久保田正崇が、AIに付いて回る責任論や未来予測、AIが進化しても必要とされる人間の価値観について語り合いました。(文中敬称略。肩書は掲載時点のものです)

将来、AIは独自の個性を持つようになる

松原

監査業務にAIを実装するためには、まずはその取り組み自体が社会に受け入れられる必要があります。人間社会がこうしたプロセスを乗り越えるのには、なかなか時間がかかる。これは、知性という人間のプライドの源泉のようなものに関係するからだと思います。例えば、元陸上選手のウサイン・ボルト氏は足が速いですが、レーシングカーにはかないません。こうした分野で人間は機械には遠く及びませんが、「機械よりも遅い」とは誰も言わず、人々は優勝した選手をたたえます。ところが、知性に関わる分野では様子が異なります。以前は、AIに負けたプロ棋士が涙を流すこともありました。

久保田

AIに対して人間が抱く感情ですね。人間が機械に知能で劣ってはならない、と。

松原

AIがビジネスのあらゆる状況で活用されるようになると、初めは嫌悪感を抱く人がいるかもしれません。しかし人間のAIへの向き合い方は徐々に変わるでしょう。AIがもう少し定着すると、AIを新しい仲間として迎え入れる時代が来るのではないかと思います。AIは優秀だけど、ちょっと変わったところもあって、ドジを踏むこともあるかもしれない。会社にもそういう同僚はいますよね。そんな人物を同僚がサポートしながら上司が評価している。いずれはAIもそのような存在になるのではないでしょうか。

久保田

AIを仲間として、個性として受け入れるようになるということですね。将来、AIは独自の個性を持つようになるのでしょうか。

松原

これまでの人間にないような個性は生まれるでしょう。囲碁や将棋で新しい一手を見つけるのも、AIの個性だと思います。俳句も同じ。今、人間が駄作だと思って捨てているAIがつくった俳句の中にも、10年後には天才をうならせるような名作があるかもしれません。

久保田

現代の人間が玉と石を判別できていないだけ、ということは大いにありそうですね。人間の個性は、人生の中で経験したさまざまなことが反映されて形づくられますが、同じようなプロセスで、AIが個性を獲得していくことも考えられるでしょうか。

松原

「成長するロボット」に注目している研究者は少なからずいます。子どものロボットをつくり、人間と同じようにして経験を積ませる。すると、同じ設計のロボットであっても、異なる成長過程を経れば1台1台が個性を獲得するのではないか。そんな考え方で、国内外でいくつか研究が行われています。ただ、成果を上げるまでには相当の時間が必要でしょう。

対談風景の写真

「悪意あるAI」 vs 「それを正すAI」の時代が来る

久保田

世の中には、自分のAIクローンをつくりたいと思っている人もいるかもしれません。ただ、倫理的な問題がありますね。

松原

そうです。極端な例ですが、歴史上の独裁者をAIとして甦らせ、よからぬことを企む集団が現れるかもしれません。大多数の人は、そんな事態は避けたいと考えるはずです。AIの進歩は、データの取り扱いに関するルールづくりにも影響を与えるでしょう。最近、よく「データは誰のものか」という議論を聞くことがありますね。基本的にデータは本人のものですが、現実にはいろいろなところに分散しています。医療データは病院にありますし、買い物のデータは小売業者が持っています。拡散したデータをどのように扱うべきか。AIが進化すれば、悪意を持って集めることも容易になるはずなので、深刻な問題を引き起こしかねないと危惧しています。

久保田

AIは善意で使われるばかりではなく、悪意を持って利用される可能性もある。AIの研究者だけでなく、社会全体で考えなければならない問題ですね。

松原

例えば、悪い社長のキャラクターを持ったAIをつくって、会計ルールの穴を探したり、不正をアドバイスしたりすることもできるでしょう。監査法人もまた、AIを使ってその不正を見抜こうとするはずです。つまり、AI対AIの戦いになります。

久保田

悪意あるAIを撃退するAIを開発するのは簡単ではありませんね。これまでの人間対人間の時代では、不正を行う人は例えば10億円分の不正データを1つか2つつくって会計数値を操作し、監査人がそれを見破れるかどうかという攻防が続いてきました。互いに人間なので、膨大な手間がかかるようなことはできません。しかし、AIなら1円の不正を10億回作成することも可能でしょう。これを見破るのは至難の業です。人間にできることには限界がありますが、AIになるとリミットが変わってくる。監査の方法を見直す必要も出てきます。

松原

現在、運用されているルールの多くは、人間の限界を前提につくられています。10億件の書類を書いて申請するような人間は、初めから想定していませんよね。しかし、社会のさまざまなプロセスがデジタル化され、高度に発達したAIを使えばそれができてしまう。監査だけでなく、さまざまな業界のルールの穴を突いてくる可能性があります。

久保田

ルールの穴を見つけ、防ぎ方を考えるのもAIの役割になりますね。

松原

ルールをつくるのは人間です。AIそのものを罰することはできないので、AIを悪用した人を罰するしかない。そのためのルールは人間がつくるほかありません。

最後に残る人間の仕事は責任を取ること

松原

ディープラーニングでよく指摘される課題に、ブラックボックス化があります。AIがなぜその結論に達したのかが分からないのです。「説明可能なAI」を開発する動きは世界中でありますが、もう少し成熟させる必要があるでしょう。今の段階で、監査などに活用することは難しいと思います。ただ、人間はどうでしょうか。そもそも、結論に対してロジカルに説明できる人のほうが少ないのではないでしょうか。つまり、たいていの場合、人は「相手が納得しやすい理屈」を後付けして説明します。人間が結論に至るまでのプロセスはあまりにも複雑すぎるので、もしAIが人間と同じような思考をして、それを説明できたとしても人間は理解できないかもしれません。

久保田

会計は英語でアカウンティング、つまり「説明すること」そのものです。会計士としては、説明できない結論だけを提示しても意味がありません。実用化はなかなか見通せないのですが、実務でAIを活用するためには、説明というハードルを乗り越える必要があります。

松原

AIをめぐる議論では、自動運転などの分野でも責任の問題がよく言及されます。自動運転車が事故を起こしたとき、誰が責任を取るのか。自動車メーカー、AI設計者、自動車の所有者などが考えられますが、責任の所在についてのルールづくりの議論は避けて通れません。AI監査でも同じことがいえますね。例えば、AIによる監査に何かの間違いがあって株主に損害を与えたとき、その責任はどこにあるのか。AI研究者の中には「最後に人間に残る仕事は責任を取ること」という人もいます。

人間ならではの価値観や人生観をもとにした信頼構築を

久保田

同じようなテーマを、私たちもよく議論しています。例えば、AIを監査に活用したとき、監査の品質をどのように担保するのか。AI監査を監査するAIが必要だとすれば、どこまでも監査の品質に関する議論が続きます。

松原

それは人間社会にもいえることで、上司は部下を公正に評価しているのかというと、それを保証するものはありません。では、直属上司の評価の妥当性を「上司の上司」が判断すれば解決するかというと、次にまた同じ問題が出てきます。これでは無限に後退してしまい、組織として成り立たなくなってしまう。だから人間社会では、どこかで強制的に後退を止めています。おそらく、AIでも同じでしょう。

久保田

先ほど、人間だけが責任を取ることができるというお話がありましたが、私は人生観や価値観といったものも、人間だからこそ持ち得るものではないかと感じています。私の妻は小説を書いているのですが、彼女がよく「書き方のテクニックはあるけれど、最終的には自分の人生や価値観が作品に込められているからこそ共感してくれる人がいる」と言っています。それは、会計士を含め、あらゆるビジネスパーソンにも通じるものがあるのかなと。会計士はいろいろな会社や経営者を見て、経験を重ねながら経営や会計に対する自分なりの価値観を形成し、その上で財務諸表の適否を判断します。個々の会計士の持つこだわりや価値観が監査業務の土台になくてはならない。その価値観が周囲の人たちの信頼につながり、「この人が保証するのだから、この会社は大丈夫だ」と思ってもらえるんですね。このような監査のスタイルは1世紀以上前、PwCの前身となるファームのファウンダーたちが実践していたことでもあります。

松原

先に述べたように、限られた範囲の答えを出すのは確かにAIのほうが得意ですが、会計監査のような仕事には高所大所的な判断が必要なので、それはやはりまだ10年、20年ではAIは人間にかないません。AIにルーティンワークを任せられるようになれば、会計士はそうした判断をすることに専念できるのではないでしょうか。

久保田

おっしゃる通りですね。確かな価値観に基づいて説明責任を果たし、その蓄積によって信頼が築き上げられていく。AIによる監査の実現性が高まる時代だからこそ、そんな会計士、そして監査法人を目指したいと思っています。

対談を終えて

久保田

現在、AIは社会への実装が進み、さまざまなサービスが生まれつつあります。今回の対談の中で松原先生は、時間がかかるかもしれないけれど、AIができる領域は着実に広がっていく、そしてAIが不得意な領域は最後まで残るとおっしゃいました。それは何なのかと改めて考えたとき、人間らしさ、すなわち人を励まし導いていくリーダーシップやさまざまな人と信頼関係を構築できるリレーションシップなど、私たちPwCのプロフェッショナルが常日頃目指している仕事の仕方と重なるのではないかと感じます。
AIのあらゆる分野への導入が進んだとしても、私たちはおそれることなく、正確性や効率性といったAIの強みを取り入れ、人間だからこそ可能な信頼に基づく仕事をしていきたい。それこそがデジタル時代における真のプロフェッショナルな姿だと思っています。

前編へ

松原仁氏×久保田正崇対談【前編】 監査の視点で考える、AIと人間が共存する未来

前編へ

松原仁氏×久保田正崇対談【前編】 監査の視点で考える、AIと人間が共存する未来

松原 仁 氏の写真
松原 仁 氏Hitoshi Matsubara

公立はこだて未来大学教授

1959年東京生まれ。1981年東京大学理学部情報科学科卒業後、1986年同大学院工学系研究科情報工学専攻博士課程修了。同年電子技術総合研究所(現産業技術総合研究所)入所。2000年公立はこだて未来大学システム情報科学部教授。2014~2016年には人工知能学会会長を務める。著書に『AIに心は宿るのか』(集英社インターナショナル)、『コンピュータ将棋の進歩』(共立出版)、『鉄腕アトムは実現できるか?』(河出書房新社)などがある。

久保田 正崇の写真
久保田 正崇Masataka Kubota

PwCあらた有限責任監査法人
執行役専務 パートナー

1997年青山監査法人入所。2002~2004年までPwC米国シカゴ事務所に駐在し、現地に進出している日系企業に対する監査、ならびに会計・内部統制・コンプライアンスに関わるアドバイザリー業務を経験。帰国後、2006年にあらた監査法人(現PwCあらた有限責任監査法人)に入所。国内外の企業に対し、特に海外子会社との連携に関わる会計、内部統制、組織再編、開示体制の整備、コンプライアンスなどに関する監査および多岐にわたるアドバイザリーサービスを得意とする。2019年9月に執行役専務(アシュアランスリーダー/監査変革担当)に就任。監査業務変革部長、会計監査にAIを取り入れ監査品質の向上や業務効率化を目指すAI監査研究所副所長を兼任。

前編へ

松原仁氏×久保田正崇対談【前編】 監査の視点で考える、AIと人間が共存する未来

トレンドタグ

タグ一覧

Follow us