http://www.gurugail.com

인간의 대뇌 피질은 생각하고, 말하고, 듣고 그리고 판단하는 인간의 중요한 기능을 처리하는 곳이다. 그러한 대뇌피질은 각각의 기능을 맡는 구역(region)이 정해져 있다. 영화에서 본 적이 있을 것이다. 뇌를 다쳐서 다른 건 멀정한데 과거의 기억을 잃어 버린다던가, 혹은 말만 못한다던가 하는 것, 이런 이유는 바로 대뇌피질의 각 구역마다 맡은 기능이 존재하기 때문이다. 이러한 특징을 ordered feature maps이라 한다. SOM은 바로 이러한 대뇌피질을 닮았다. SOM은 신경망(neural network)의 일종이며, 자율(upsupervised)학습과 경쟁 학습 방법을 이용한다. 또 BPN(back propagation network)과는 다르게, 출력 노드의 위상(topology)자체가 의미가 있다. 마치 대뇌피질의 구역이 의미가 있는 것처럼.

와우...위의 말이 무슨 말인지 모르겠다. 제가 썻음에두 불구하고,(^^;) 간단하게 BPN과 비교를 해보자. 숫자를 인식할 때 예를 들어보자. BPN은 이미지 데이터를 입력으로, 그리고 그 이미지 데이터가 나타내는 숫자를 출력으로 하여 입력, 출력의 쌍으로 하여 지도 학습(supervised leaning)을 시킨다. 하지만 SOM은 그렇지 않다. 자율(upsupervised)과 경쟁(competitive) 학습을 한다. 이미지 데이터를 입력하였을 때, SOM의 출력 노드중에서 다른 출력 노드과 비교해서 가장 강하게 반응하는 노드가 있을 것이며, 그러한 출력 노드를 더욱 더 강하게 반응하게끔 반복적으로 학습시키는 것이다. 다시 말해, SOM에서는 BPN처럼 출력노드를 미리 기능적으로 정하지 않는다는 말이다. 입력에 대해 자연스럽게 반응하는 출력 노드를 선택하여 반복 학습을 시켜면, 후에는 결과적으로 어떤 출력 노드가 반응되는지를 조사하면 거꾸로 입력을 알 수 있게 되는 것이다.

아래는 SOM에 대해 Timo Honkela가 설명한 것을 부분 번역한 것이다. 물론 허락도 없이(^^;)...대신 출처는 정확히 밝힌다.

Timo Honkela는 색상 맵을 구성하기 위해 SOM을 이용하였다. 이 예에서의 SOM은 임의의 RGB 값을 입력으로 하면 그 RGB값이 가리키는 색상정보를 출력한다. 입력은 RGB이며, 노드가 3개이고 각 노드는 0~255의 값을 가진다. 출력은 black, brown등의 색상 정보들을 가르키는 노드들이다. 출력 노드의 개수는 77개이다.

250	235	215	antique white
165	042	042	brown
222	184	135	burlywood
210	105	30	chocolate
255	127	80	coral
184	134	11	dark goldenrod
189	183	107	dark khaki
255	140	124	dark orange
233	150	122	dark salmon
...	...	...	...

표. RGB 입력값과 색상 정보

위의 테이블에서 입력값들의 예를 보여주고 있다. 색상 정보를 알아내는 것도 숫자를 인식할 때와 비슷한 맥락(?)이다. 이미지 데이터인 숫자도 결국 알고보면 0000100111 등의 벡터로 구성되고, RGB값도 벡터로 구성된다. 또 입력값에 적절한 출력값을 내도록 구성되어야 한다. 결국 벡터로 구성된 입력에 대해 벡터로 구성된 적절한 출력을 내보내야만이 신경망으로서 할 일을 다 하는 것이다.!!!

Timo Honkela는 입력을

라 하고, 출력 노드의 가중치를

, 모델 벡터(model vector)라고 하였다. 그리고 SOM 알고리즘을 아래와 같은 두 단계로 표현하였다. 물론 초기에는

는 랜덤값이다.

1. 입력

에 대해 가장 잘 반응하는

를 선택한다. 다시 말해,

와 가장 비슷한 벡터

를 선택한다. 그리고 가장 반응하는 출력 노드를 winner라고 하였으며,

는 winner의 가중치 벡터인 셈이다.

2. winner와 그 주위 노드( neighboring nodes )들을 학습시킨다. 아래 그림을 자세히 살펴보자. 그림 아래 부분에 입력 스트림이 있고, 그리고 원 안에 BMU(Best Matching Unit)라 하여 가장 잘 반응하는 출력 노드가 있다.

단계 1, 2를 반복한 것이 아래 그림이다. random은 초기 상태이고 각각 100번, 1000번, 10000번씩 반복 학습시켰을 때 나타나는 출력 노드들의 가중치 값들이다. 즉 m_i(t)들의 값이다.

SOM의 알고리즘을 간단히 요약하면, 특정한 입력에 대해 가장 잘 반응하는 출력 노드와 그 주위의 노드를 학습시킴으로써 자연스럽게 그 입력에 대한 대표자(representative)로써의 역할이 가능하게끔 하는 것이다. 대뇌 피질을 예들 들어 설명해보자. 인간은 수많은 정보를 받아들이고 처리하게 되는데. 수 많은 정보들중에 특정 정보를 잘 받아들이는 뇌 세포가 있을 것이며, 나중에는 신경세포의 연결 강도가 변하게 되며, 또한 주위의 신경세포도 변함으로써 대뇌피질의 어느 한 구간으로 자리잡게 된다. 그럼으로써 인간은 입력되어지는 수많은 정보들을 구별한다. 수많은 RGB값으로부터 특정 색상 정보를 구별하는 것과 비슷하다. 아래 그림은 최종으로 학습된 RGB의 색상 정보를 나타낸 것이다. 마치 대뇌 피질을 기능별 구역으로 나눈 것처럼 보인다..나만 그런가(^^;)

단,

는 입력,

는 출력 노드의 가중치(모델 벡터),

는 학습률이다. N_c(t ) 는 winner의 주위 노드들이다.

BPN의 가중치 학습과는 상이한 모습이다. BPN처럼 출력과의 오류 정보를 이용하지 않고 입력 정보만이 이용되기 때문이다. 입력에 따라 가장 잘 반응하는 출력 노드와 그 출력 노드의 주위 노드(N_c(t ))들을 선택하고, 학습률에 비례하여 가중치(모델 벡터)를 변화시킴으로써 학습하는 것이다.