5/17(金)に、「Open QA4AI Conference」が上野にて開催されました。
この日に合わせて、QA4AIコンソーシアムによる『AIプロダクト品質保証ガイドライン』も公開されており、セッション1では電通大の西先生がその解説をされています。
各団体の代表の方によるプレゼンテーションも学ぶところが大きかったのですが、最後のパネルディスカッションにおける議論が白熱してとても面白かったので、忘れないうちにメモしておきます。
いいぞやれやれ #qa4ai
— Yasuharu NISHI (@YasuharuNishi) 2019年5月17日
その際のトピックは「期待のマネジメント」 (Expectation Management) だったのですが、メディア枠で参加されていた進藤智則さん*1に西先生が、「世の中にAIのシステムの特性を理解してもらうために、メディアはどのような役割を果たすべきか」と無茶ぶりした際の議論です。
自分の理解の範囲での表現・サマリーなので、誤りがあるかもしれません。
「確率論的」という言葉について
進藤さんのご指摘は以下の通り。
- 「決定論的」 (deterministic) という言葉と「確率論的」 (stochastic) という言葉の使い方が粗く、概念が揺れていると感じる。
- 「確率論的」という話は、モデル実装時とモデル利用時の2つのフェーズで使われるため、明確に分けるべき。
- 実装時、たとえばSDG (Stochastic Gradient Descent、確率的勾配降下法) にはランダム性がある。つまり確率論的である。
- 利用時について、「同じモデルに対して同じ入力を入れれば、得られる出力も同じ」という決定論的な表現があったが、GAN (Generative Adversarial Networks) ではランダムシードを入れるので、確率論的になる。一方CNN (Convolutional Neural Network)では決定論的になる。
産総研の石川先生はこのご指摘を受け入れたうえで、「さらにもう一つの軸がある」とおっしゃっていました。
- モデル利用時の出力が決定論的であっても、人間が同じように感じるとは限らない。人間にとっては等価な（しかし実際には別の）入力に対し、モデルが別の出力をすれば、人間は「ふるまいが確率論的だ」と感じるかもしれない。
「確率的」がネガティブな意味を伴うことについて
進藤さんのご指摘は以下の通り。
- 「確率的である」ことが、ネガティブなニュアンスで説明されている。このスタンスは、世の中への啓蒙には適切でない。
- SDGにはランダム性があり、それによって複雑なポテンシャルを探索して賢くなる。ランダム性・ノイズは機械学習の本質。*2
パネラーである産総研の大岩さん*3からの回答は以下の通り。
- 今はランダム性による探索がうまくいっているが、実はなぜそれがうまくいくのかはよくわかっていない状況。将来はランダム探索よりよい探索方法が見つかるかもしれない。
- いずれにせよ現時点では、サイエンスコミュニケーションを通じて世の中の人たちに確率を理解してもらう必要がある。
文字にするとあまり長くないのですが、15分くらい話が続いていたと思います。
「なぜその判断となったか」の説明可能性についてはこれまでもよく聞いていましたが、「確率論的とはどういうことか」も社会全体が広く理解していくべきテーマだということがわかりました。
