티스토리 뷰
뉴런
신경계의 구조적·기능적 단위. 신경 세포와 거기서 나오는 돌기를 합친 것으로, 자극을 수용하고 전달하는 기능이 있다. ≒신경 단위·신경원
시냅스
한 뉴런의 축색돌기 말단과 다음 뉴런의 수상돌기 사이의 연접 부위.
ANN(인공신경망)
Connectionist approach(ANN) - 컴퓨터에 인간두뇌에 비유(병렬 분산 처리)
스텝활성화 함수
뉴런에 입력이 들어오면 가중치를 곱하고, 이값들을 모두 합하여 활성화 값을 구합니다. 활성화값이 어떤 수준보다 높으면 신호를 발생합니다. 우리의 경우는
활성화 값이 1보다 크면 신호를 발생합니다. 이러한 형태를 스텝활성화 함수라고 합니다.
앞 먹임(Feed Forward)망
층을 사용하여 연결. 다음계층에 대해 미리 예측하고 행동.
감독학습(Supervised Learning)
감독자가 자료를 집단별로 구분해 놓고 분류기준은 컴퓨터 프로그램이 학습에 의하여 발견하도록 하는 방법. 일반화를 찾는 학습.
역전파(Backpropagation)방법
역전파는 신경망을 훈련시키기 위해 사용하는 기술이다. feed-forward networks (feedback 을 가지지 않거나, loop 연결을 가지지 않는 network) 을 위해서만 사용한다.
편향값
가중치의 -1 ~ 1 사이값으로 조절하는데, 가중치 값을 하나 더 추가하여
임계값을 가중치로 생각하여 계산한것.
가중치(w1*x1 +...) > t(임계값)
가중치(w1*x1 +...) - t(임계값) > 0
가중치(w1*x1 +...) + (-1) * t(임계값) > 0
임계값은 가중치와 -1인 입력의 곱이다.
부울린 연산
논리연산자. AND,OR,NOT
XOR함수
XOR operand1, operand2 비트연산
연결주의(Connectionism)
Connection weight(연결 가중치) - 연결과 관련된 수치적인 라벨이며 입력의 가중치 합에 사용된다.
가중치
어떤 다른 값에 곱해져서 유용한 실제값을 만드는 값
Sigmoid함수
시그모이드 함수 : F(S) = 1 / ( 1 + pow( e , -s ) )
s1(은닉층의 내적)을 시그모이드 함수에 넣어줘서 튀어나온 값이 바로 F1(은닉층의 출력) 입니다. 이 값은 은닉층의 출력이자 동시에 출력층의 입력이 됩니다.
Saturation(포화)
뉴런이 점화(fire)할 수 있는 빈도수의 제한 조건.
모멘트
어떤 종류의 물리적 효과가 하나의 물리량뿐만 아니라 그 물리량의 분포상태에 따라서 정해질 때에 정의되는 양
과대적합(Overfitting)
절편에 대한 검정의 결과가 앞의 절편차이를 검정하기위한 더미변수 회귀모형의 결과와 일치하지 않는 이유는 현 예제의 회귀모형이 필요이상으로 설명 변수를
많이 포함하기 때문이다. 이와 같이 참모형보다 설명변수를 많이 포함시키는 것을 말한다.
지터(Jitter)
훈련 집합에 노이즈(평균이 0인 임의의 값)를 추가하여 인공 신경망의 일반성을 높이는 것을 말한다.
이른 멈춤(Early Stopping)
훈련 집합이 많을 때 사용하는 방법으로 학습정도는 적게 하고 은닉 뉴런의 개수를 크게 한수 인공신경망을 훈련시킨다.
검증 집합을 사용하여 테스트하여 에러가 증가할 때 멈추게 하는 방법이다.
Softmax활성화 함수
출력뉴런에 대해서는 완전히 새로운 활성화 함수를 사용하는것
EANN(Evolutionary Artificial Neural Network)
진화하는 인공 신경망
Autoassociative(자기 연상)
하나의 패턴이나 객체로 그 자신과 대응시키는 것
SSE (Sum of the Squared Errors)
출력과 목표값의 차이를 제곱한 것의 합으로
에러를 구하는 방법이다. 미리 정의한 값보다 작아질 때 까지 실행하기 위한 값
Unsupervised Learning(자율 학습)
출력에 대한 외부의 정보가 없는 학습이며, 또한 자기 조직화나 클러스터링이라고도 불린다.
훈련집합
흔히 신경망은 학습할 수 있는 여러 예제들을 표현 하는 방법으로,
훈련 패턴으로 알려진 이러한 예제들은 벡터로 나타내어지며 영상, 음성신호, 센서 데이터, 로봇 팔의 움직임, 정적인 데이터 또는 진단을 통한 정보에서 얻어지는 것
Fully connected Network(완전 연결 네트워크)
모든 뉴런이 모든 다른 뉴런과 연결된 신경망
Heteroassociative(이질 연상)
두 개의 서로 다른 패턴이나 물체 사이의 연상을 하는 것