知能の定義について
Intelligence is really not going to be something that we ever succeed in defining in a succinct and singular way. It's really this whole constellation of different capabilities that, um, you know, all kind of, are beautifully orchestrated and working together.
(拙訳：知能は、私たち人間が簡潔かつ一意に定義することができるようなものではなかったし、これからもそうだろう。知能とは、「さまざまな」能力の集合が ... いや、もっと踏み込んで言えば ... 「あらゆる種類の」能力が、美しく組み合わさって働くことだ。)
(Googleのプロモーションビデオより引用)
人工知能について面白い事実のひとつは、作ろうとしている「知能」とは何なのかが正確に定義されていないことだ。 正確に把握していないのに人工的に作成を目指す。はじまりからして実に大きな論点を抱えたプロジェクトなわけである。
これは、別に揶揄をしているわけではない。正確に把握していなければ作ってはいけないという固定観念や先入観こそが、むしろ人々の考える妨げとなっている。年配のとある人工知能研究者によれば、かつてはコンパイラ*1すら人工知能として呼ばれ、研究されていたらしい。そのことを踏まえると、人工知能とは、それぞれの時代時代の人々が成し遂げて欲しいと夢見る希望のなかで、それを成し遂げるだろう知的な存在のイメージの総称なのかもしれない。
だから、必然的に人工知能には、あらゆるひとびとが妄想した好き放題の夢が集まってくることになる。Deep Learningを使って売上を2倍に伸ばしたい、自分では思いつかない良いアイデアをアイデア生成システムに出して欲しい、プログラマを雇うのはカネがかかるから自動生成する人工知能を作って欲しい。その多くはいつまでも体現されることなく夢のままで終わる。
このような視点から考えると、人工知能という存在は、コンサルタントの人たちが重視するような「地頭」や「賢さ」とはまるで異なる文脈に存在することになる。類義語ではないのだ。「地頭」や「賢さ」は決して夢の掃き溜めではなく、アナログな計算機としての希少なスペックを意味する。理解力、表現力、交渉力、決断力、企画力、発想力などと「力(大きさとして表される一種のスカラー値)」で総称されるそれは、いまのところまだ人工知能にdisruptionされる可能性はまずない。あくまでもビジネスや生活を効率的にしたり楽しくしたりしてくれる、資源の一つである。
以下では「人間の知能の特質」について考えるが、僕は脳科学について全く知識がなく、構成的理解(実際に作ってみて動いたら、その原理が他の同じ動作をするものにもある程度共通すると判断すること)を信奉している人間である。なのでNeural Networkに対する理解を、人間の脳の理解に結びつけているアレなきらいがある。
人間の知能の特質について
ある人工知能研究者が、人間の「意識」について面白い意見を述べていた。
「私の考えでは、特徴量を生成していく段階で思考する必要があり、その中で自分自身の状態を再帰的に認識すること、つまり自分が考えているということを自分でわかっているという「入れ子構造」が無限に続くこと、その際、それを「意識」と読んでもいいような状態が出現するのではないかと思う。」
(『人工知能は人間を超えるか』、松尾豊、2014、location 589 / 2665 )
この意見を踏まえたうえで、人間が理解することについて書かれた以下の記述を読むと、すこし考える時間が欲しくなる。
If you're still having trouble, skip ahead to examples. This may contradict what you have been told -- that mathematics is sequential, and that you must understand each sentence before going on to the next. In reality, although mathematical writing is necessarily sequential, mathematical understanding is not: you (and the experts) never understand perfectly up to some point and not at all beyond. The "beyond", where understanding is only partial, is an essential part of the motivation and the conceptual background of the "here and now." You may often (perhaps usually) find that when you return to something you left half-understood, it will have become clear in the light of the further things you have studied, even though the further things are themselves obscure.
Many students are very uncomfortable in this state of partial understanding, like a beginning rock climber who wants to be in stable equillibrium at all times. To learn effectively one must be willing to leave the cocoon of equillibrium. So if you don't understand something perfectly, go on ahead and then circle back.
(意訳：もし(定理が)理解できなかったら、まず例を見よう。この戦略は先生が今までしていた指示と違うかもしれない。先生は、「数学というのは仮定と結論の記述が一列に並んでいるものだ。したがって、ひとつのセンテンスを理解するまで、次のセンテンスに進んではならない」と言っていただろう。
残念ながら、実際には、書かれている数式はそのような並びになっているが、その数式をどの順番で理解するかはそんな風に綺麗な一列になっているわけではない。すなわち、あなたも専門家も、0%の理解をしている部分を100%の理解をした部分にしていく、という風には決して読み進めていないのだ。「理解が100%でない部分」がある状態であるために、あなたは読み進める動機を持つ。そしてその状態は、今現在のあなたが数学の概念に対して備えている知識の様子を表している。
あなたは「なんとなく理解したままで放っておいた内容が、別の難しい内容を踏まえて読みなおすと、よりクリアに理解できる」、ということを、10回に6回、あるいは10回に8回くらいの頻度で経験したことがあるだろう。難しい内容のほうは未だ意味不明であるにも関わらず、だ。
多くの学生は、このような微妙にしか理解していない状態を嫌う。まるで、ロッククライミングの初心者が、常に安定した姿勢を保持したいと思っているかのようだ。効率的に学ぶためには、そのような平衡状態という繭から脱け出す必要がある。何かを完璧には理解できなかったら、前に進んだあとで、戻ってきなさい。)
("Vector Calculus, Linear Algebra, and Differential Forms", Hubbard et al. , 2002, pp. 1- 2)
数学という、順次アクセスで論理的には完全理解が可能なはずの構造が、人間にはそうは理解できないというのはtrivialな話ではなく、「そもそも我々の知能の実現方法は事後的に逐次でない」というファクトを示唆している。
電子計算機と比較した場合の人間の知能の特質として、同じはずのデータ(記憶)に何度もアクセスするとそのデータが変質すること(忘却、誤認、合理化、再解釈、他のものと結びつけての理解など)が挙げられると思う。これは、Neural Networkとの比較で言えば、層間結合の強さを表す重みｗが(生体的な機構によるバイアス付きで)更新されていくことに近い。誤差関数値を最小化する以外の目的でも、更新が行われているのだろう。
となると、人間が「自分がやりたいけど(生体的に、物理的に)できない夢」を託した人工知能が、再帰的で類似する構造にその機能を託すのは、ある種自然なことのように思えてくる。
もし知能を定義するなら、何を解いているのか？
以上の二点を踏まえて知能とは計算である(intelligence is computation)と僕は判断している。
人間が達成を願うものの多くは、何らかの関数の最小化問題に定式化できる(物流コストの最小化、生活満足度を考慮したうえでの内臓脂肪の最小化など)。
それらは１次元スカラー値の最小化問題と考えると、xy平面に表せるくらいに単純だが、少なくとも最小化している値は同時に無数にある。また、人間はそこまで最小化に意義を求めない(内臓脂肪が0.0000000000000001%や0.0000000000000002%ズレていてもどうでもいい)ため、少なくとも最適化は(寿命を定義域として)途中で止まっている。あるいは、その最小化する関数自体が、時間に応じて別のものに更新されている(交際相手との良い関係を願っていた人が心変わりするなど)。最小化を実現するための機構も、最初に述べたように、簡潔に述べられるようなものではない。
いつか計算する機構が我々を実現したとき、我々人間の存在意義というのは、再現する前に動いていたこと、その一点に尽きるのではないだろうか。その意味で人間の生活というものは、不合理が一杯あって、単なる定式化された問題より豊かであると思う。ただ、その豊かさにいちいち付き合いたくはないとも思う。
