ニューラルネットワーク情報処理―コネクショニズム入門、あるいは柔らかな記号に向けて

学生向けの古い本で、今改めて読む価値はなさそうですが、ボルツマンマシン(とホップフィールド模型)について詳しいので、そちらに関心があれば読まれても良いかも知れません。この本にはバックプロパゲーションも出てきますが、この本が取り上げている特徴量(この言葉は出てきません)の「分散的表現」のアイデアにもHinton博士の名前が出て来るので、Hinton博士のこの分野への貢献の大きさが改めて分かりました。但し、最初良く読んでなくて勘違いしてしまいましたが、この本に出て来る「分散的表現」は今でいう「one-hot表現」のことで、この本が書かれた時代を考えれば当然ですが、昨今「分散表現」と呼ばれているword2vecのことではありません。ただ対象をベクトルつまりは空間内の点で表現することで対象間の類似性を「距離」で評価するやり方が、現在分散表現と呼ばれているものの基本的な発想として生きているのは間違いないようです。