논문요약 - A Minimal Spiking Neural Network to Rapidly Train and Classify Handwritten Digits in Binary and 10- Digit Tasks[15.06]

원래 이걸 먼저 글을 써야 했던거 같은데...ㅎㅎ

spiking neural network라는 걸 이런저런걸 찾아가며 제일 먼저 공부하고

그 후에 이 snn 을 이용한 논문 중에 가장 이해하기 쉬웠던 논문을 리뷰해보았다. 

[2015] A Minimal Spiking Neural Network to Rapidly Train and Classify Handwritten Digits in Binary and 10- Digit Tasks

By by Amirhossein Tavanaei , Anthony S. Maida

지난snn관련 논문들에서는 새로운 learning  alogrithm을 만들고 이를 이용하여 가장 기본적인 dataset MNIST를 이용하여 다른 snn algorithm들과 결과를 비교하는게 보아하니 관습인듯 하다. 아마도 내 생각에는 아직 많이 발전하지 못했기 때문에 가장 간단한 mnist에 대해서 먼저 해보고 이를 비교해보는 것 같다. 이 논문도 마찬가지로 mnist data에 대한 classification에 대한 정확도를 높이기 위한 snn algorithm구현에 목표를 두고있다.

이 논문에서는 기존의 MNIST classification을 위한 snn algorithm들이 너무 사이즈가 크고 속도가 느리기 때문에 이를 개선하여 조금더 빠르고 크기(예를들면  node 개수)는 작은 neural network를 만드려고 한다.

이 구조는 아래 그림과 같다.

먼저 사진을 흑/백으로 converting  한 후에 이를 각 줄로 쪼개서 몇 개 줄씩 묶어서 시간차로 신호를 보낸다.(오른쪽 그림)

그 후 이를 다음 레이어에 보낸다. 2번 layer에서 3번 layer로 신호를 보내는 그 사이에서 STDP rule을 이용하여 weight를 업데이트하고 그에 따른 결과를 통해 맞으면 당근을 틀리면 채찍질을 하는 마지막 inhibition 과정(왼쪽사진의 맨밑 검은색 최종 node)을 거쳐 계속하여 사진을 보내며  network를 업데이트 시켜 나간다.