この件面白いですね！
私は院生の頃まで一応AI領域に居たので、普通の人よりはAIについて考えることが多かったのですが、このNHKの試みは悪い意味で未来的で面白いと感じました。
そもそもAI時代に突入すると思っていない
個人的な意見ですが、AI時代はまだだと思っています。
ディープラーニングは素晴らしいものなので、CI時代とは言えるでしょう。（CI：計算知能）
それについては目ざといIT業界の方にはわかってると思います。最近では機械学習エンジニアの年収が1500万とかいってたりします。羨ましいです。
計算知能を活用するときの問題点
ここらへんの抱える問題は同じだと思います。
論理計算ではなく統計的（もっと良い用語がありそう）に結果が決定されるので、InとOutは明確なのですが、その理由がロジカルに説明されません。
何故その答えなのかが上手く説明できないのです。
喩えるなら、数学のテストに問題と解答は書いているのですが、途中の計算式が書いていない感じです。
もちろんその問題を加味してもこれらは非常に有用な存在です。
得られた結果の正答率を計算できるのであれば、例えば「99％の確率で人の顔を正しく判別する機械」みたいなものにはなります。
しかし今回のNHKのように、議論の対象にしようとすると非常に問題が大きくなると思います。
今回は何が問題となるか
はてなブックマークのコメントなどみると、「統計解析をAIと言っている」のような批判があります。
個人的にそこ自体は問題ないです。与えられた大量のデータから何かを抽出するというのは別にかまわないと思います。
問題はその妥当性が不明ということです。
何故そのような結果になったのかがわからないので、正しいかどうかもわかりません。
特にこのような社会問題の場合、理由のようなものは後付けでなんとでも言えるので「確かにそうかもしれない」と受け手は思ってしまいます。
結果、当たってるかどうか分からない何かに労力が使われることになってしまいます。
透けて見えるAI時代の本質
と、上記のようなことは少なからぬ人が知ってるようなことだと思います。
それに、NHKもただの番組なので、エンタメとして成り立っていればそれで良いと思います。
ですが、この「AIの言う言葉を人間が信じて、考え行動する」というのが、次の時代を暗示しているかのようで面白いと感じました。
どこから人工知能？
人工知能というのは、一言では定義付けしづらい難しい概念です。
例えば今のプログラムも人工知能と言えると思います。
webサイトの入力フォームを考えてみてください。あれは窓口業務をプログラムに置き換えたものです。立派に人工知能しています。
でも現在それらが人工知能と呼ばれていないのは、恐らくチューリングテストの方向性と異なるものだからでしょう。
A 人間そのものと同一の性能を持つ機械
B 人間そのものと呼んで差し支えない知能を持った機械
C まるで人間のように見える機械
D 人間の知能を一部を代行できる機械
webサイトの入力フォームはDで、ディープラーニングなんかは高度なDです。
チューリングテストの方向性は上記で言うところのBまたはCです。
皆が想像するAIはAですが、これの実現はあと数十年かけてようやく上手くいくかどうかという遠い将来の話だと思います。
ちなみにAならば、理由について理路整然と話すことができるはずですが、NHKの作ったものはそうではないので、Dと言えるでしょう。
しかしここで、NHKがDであったものをAIと呼称したことで、Cとなりました。
つまりこれは擬人化です。
何らかの結果を吐くものを擬人化する
こういうものを私は知っています。
宗教、おまじない、占い。
そんなやつです。
アウトプットがある。しかしその理由はわからない。
ランダムかもしれないし、当たってるかもしれない。
どうするかは受け手次第。
人はそれについて考え、一喜一憂し、行動する。
あるいは、もっと身近に専門家と言ってもいいと思います。
専門家にこう言われた。しかしその理由は高度すぎて分からない。
本当かもしれないし、間違ってるかもしれない。
どうするかは受け手次第。
人はそれについて考え、一喜一憂し、行動する。
これらが何故成り立つかと言えば、その答えをくれる者が偉い（権威を持っている）からです。
擬人化され、権威化されるAI
私は最初、AIブームはすぐ下火になると考えていました。
歴史を考えるとしょうがないですよね。
しかし、権威化というものは金になります。
専門家や宗教のように、皆が認めていて、かつ分析不可能な結果を吐く、そんな存在は一般市民を騙したり、過度な投資を集めたりするのに格好の材料です。
そんなネタを世界が見過ごすとは思えません。
また、権威の連鎖も起こります。
権威を持った人がAIを使っている、となればAIの権威が更に上がるわけです。
これからNHKだけでなく、色んな分野の方がAIを使っているとなっていけば、権威化はますます進むでしょう。
まさに過去何度かあったAIバブルの再現です。
（こんな考察時代、大昔からされているのでしょうね）
あ、擬人化でいいんだ、という発想
我々IT界隈、AI界隈の人々はおそらく、ディープラーニングでどこまでいけるか、というような発想で世の中を見つめていたと思います。
だからこそ、難しいだろうなという感想でした。
しかし今回NHKがやったのは、これまであったものをAIと呼んだのです。
つまりもはやなんでも良いのです。AIと呼べば権威が得られる。
何か神々しい物を「仏様だ」と呼ぶようなものです。
すごく楽です。
それによって、理由について疑問を持たない人々は有り難がり平伏するわけですね。
市民、貴方は幸福ですか？
