そいつは知能を持っていた。ワンチップ人工知能超層状LSIを入れたんだ。「何回も何回も投げたよ。そのたびにLSIは状況を判断し、覚え込み、失敗の原因を探り、一瞬先をだんだん正確に予想して反応するようになった。学習機能は人工知能ユニットの基本回路にハードウェアで入ってるから基礎手順は教えてやらなくてもよかった。おれが命令したのは各センサの情報をつかって姿勢制御をし、射出地点にもどってこい、それだけだ。半年ほど飛ばしたかな、そのうちこちらがその飛び方を予想できなくなった。危ないなと思ってたやさき———シュッ!三針縫ったよ。与えるのは単純な指令のみ...こんなチップが手に入ればぜひ使ってみたいものだが、少し怖い気もする。自らがつくり出した機械が自らの予測を超えて成長し、ついには自分を傷つけるにいたる。ここにはそんな暗示がある。これは学習機能を持つ人工知能の話だが、そんなものを持ち出さなくても自分で作ったプログラムが自分で理解できないということはある様だ。津田伸秀p145-146前に評価関数は、プログラムを作った私自身よくわからないと述べました。私がはじめに作った評価関数は、今より単純で自分自身で理解できるものでした。これはあたりまえです。なければ評価関数を作れるはずがありません。このままではコンピュータはあまり強くありません。強くするには何度も改良を重ねなければなりません。コンピュータがある傾向の悪手を繰り返すことを発見したら、評価のなかにそういう手をさけるような要素を加えます。コンピュータの強さが伸び悩んでいると思ったときは、なんでもいいから評価関数を適当にいじったものをたくさん作ってリーグ戦をやります。いうことを繰り返してできあがったものは、自分でもどうしてそれが強いのかは理解できず、とにかく他のものよりそれが強いらしいということがわかるだけです。自分で作ったプログラムが自分で理解できないというのは不思議な気がするが、このように説明されるとなるほどと思う。人工知能をもちださなくても、そういったことはあるのだ。ゲームプログラムだから許されるのかもしれないな、とは思う。それともこういった手法は既に幅広い分野で使われているのか?これじゃ設計ではなくて指導、訓練だ。パラメータを調整するのであればチューニングか。遺伝的アルゴリズムというのがある。評価関数を遺伝子に見立てて、生き残りのための場を設定し、適者生存の法則で最適解を得ようとするアルゴリズムだ。これだって得られた結果がなぜよいのかは分からないという意味では同じ事だ。設計のアウトプットが結果オーライというのは何とも気持ちが悪い。この心理的バリアの方が実は大きいのかもしれない。