티스토리 뷰
1. 수학에서 말하는 토폴로지
2. 네트워크에서 말하는 토폴로지
3. 신경망에서 말하는 토폴로지
신경망 토폴로지를 설명하기 위해서는 수학에서 말하는 토폴로지를 통해 신경망의 수학적인 방법을 이해시키고, 네트워크의 노드관계와 형태를 이용하여 학습할 구조를 이해시킬 필요가 있다.
수학에서 말하는 토폴로지
위상(位相)이나 위상수학(또는 위상기하학)이라고 불리는 현대수학의 한 분야로, 이 말이 문헌에 처음 나타난 것은 J.B.리스팅이 1847년 출판한 저서 《토폴로지의 기초연구 Vorstudien zur Topologie》에서 였는데, 현재 위상기하학의 내용에 따라서 일반위상기하학·조합위상기하학·대수적 위상기하학·미분위상기하학 등으로 나뉘어 있다.
이 말이 문헌에 처음 나타난 것은 J.B.리스팅이 1847년 출판한 저서 《토폴로지의 기초연구 Vorstudien zur Topologie》에서 였다. 이 이전에도 G.W.라이프니츠는 이미 《기하학적 위치를 다루는 해석학(위치해석학)》으로서의 위상기하학의 필요성을 발표한 바 있었고, L.오일러는 유명한 ‘쾨니히스베르크의 다리건너기 문제(한붓그리기)’를 위상적으로 해결했으며, 더구나 다면체(多面體)의 연구에서 현재 ‘오일러의 정리’라고 하는 중요한 정리를 남겼다. 이들 선구자에 이어 A.F.뫼비우스와 B.리만은 곡면의 위상적 연구에 큰 공적을 남겼다. 뫼비우스의 띠와 같이 앞뒤[表裏]가 없는 곡면의 연구도 그 일례이다. 유명한 4색문제(四色問題)도 위상적 문제이다.
1893년 F.클라인은 《에를랑겐 목록》을 발표하였는데, 그 중에서 ‘위상기하학은 위상사상(位相寫像)에 대하여 불변인 도형의 성질을 연구하는 학문’으로서 위상기하학을 정의하였다. 현재 토폴로지라는 말은 위상공간을 구성하는 ‘위상’이라는 좁은 뜻 외에 위상을 다루는 연구 전반을 나타내는 데 사용되고 있다. 연구 전반이라고 하는 것은 위상수학 또는 위상기하학과 거의 같은 뜻을 말한다. 현재는 위상기하학의 내용에 따라서 일반위상기하학·조합위상기하학·대수적 위상기하학·미분위상기하학 등으로 나뉘어 있다. 일반위상기하학은 집합론적 위상기하학이라고도 하며, 다면체라든가 유클리드공간으로 한정되지 않는 일반위상공간의 점집합(點集合)을 위상적으로 연구하는 분야이다.
이 부분은 G.칸토어에 의하여 그 기초가 구축되었다. 이것은 연구의 대상을 그때까지의 다면체나 곡면에서 벗어나 임의의 점집합까지 확대했다는 뜻에서 획기적인 발전이었다. 칸토어의 이론은 H.르베그에 의한 측도론(測度論)이나 F.E.E.보렐에 의한 보렐집합 연구, M.프레세에 의한 추상공간(抽象空間), 또는 G.페아노에 의한 페아노곡선의 연구 등을 가져오게 하는 데 있어서 큰 구실을 하였다.
20세기에 들어와서 F.하우스도르프에 의한 근방(近傍)이라는 개념의 도입, P.S.우리존에 의한 계량화정리(計量化定理), P.S.알렉산드로프에 의한 콤팩트공간 연구, 또 W.실핀스키, S.마주르키비츠, C.쿠라토스키에 의한 곡선론이나 연속체 이론 등, 흥미로운 수많은 연구가 뒤를 이었다. K.멩거는 일반공간에 대하여 차원론(次元論)을 확립하였다. 이상과 같이 수학의 이 분야는 20세기에 들어와서 수많은 분야, 특히 대수학 ·해석학 등과 더불어 깊은 관련성을 맺으면서 대약진을 하기에 이르렀다.
네트워크에서 말하는 토폴로지
수학에서는 토폴로지를 문제를 풀기 위한 방법으로 일컬어지지만, 토폴로지의 일반적인 의미는 물리적인 배치의 형태로 이루어진 어떤 현장의 종류를 설명하는 것이다. 그러나 통신 네트웍을 논하는 맥락의 토폴로지란, 노드들과 이에 연결된 회선들을 포함한 네트웍의 배열이나 구성을 개념적인 그림으로 표현한 것이다. 대표적인 네트웍 토폴로지들을 예로 들면, 성형, 망형, 버스형, 환형, 나무형 등이 있다.
신경망에서 말하는 토폴로지
네트워크에서 말하는 토폴로지는 네트워크 형태를 말하는것으로, 물리적 배치의 형태를 말하지만, 신경망에서는 이러한 물리적 배치의 형태를 이용하여 수학적으로 가장 적응도가 높은 인공 신경망 구조를 찾는것을 말한다. 이를 EANN(Evolutionay Artificial Neural Network-진화하는 인공신경망)이라 한다.
더 자세히 기술하면, 신경망의 토폴로지도 망의 형태를 만들어 입력노드 갯수, 은닉노드들의 갯수, 출력노드들의 갯수를 가지고 수많은 구조를 만들고 이 구조들중에서 수학적인 방법을 통해 최적의 구조를 찾아 이를 학습하는것이다.
신경망 토폴로지도 답을 인코딩하는 방법, 적응도를 구하는 방법, 돌연변이 그리고/혹은 교차 연산자들이 필요하다.
인코딩에는 직접 인코딩(제니터,이진 행렬 인코딩,노드 기반 인코딩,경로 기반 인코딩) 간접 인코딩(문법 기반 인코딩,이차원 성장 인코딩)이 있다.
위의 인코딩 기반의 기술을 이용하여 재귀,혁신등을 통해 적응도를 구한다.
그리고 마지막으로 노드의 추가나 변형 등을 통해서 토폴로지의 형태를 변이하거나, 다른 토폴로지와의 교차 연산, 또는 노드들간의 교차연산을 통해 최적의 신경망 토폴로지를 찾게 된다.