세포신경망

컴퓨터 과학과 기계 학습에서, 세포 신경 네트워크(CNN) 또는 세포 비선형 네트워크(CNN)는 신경 네트워크와 유사한 병렬 컴퓨팅 패러다임으로, 인접한 장치들 사이에만 통신이 허용된다는 차이점이 있다.대표적인 애플리케이션으로는 영상 처리, 3D 표면 분석, 부분 미분 방정식 해결, 비시각적 문제를 기하학적 지도로 축소, 생물학적 시각 모델링 및 기타 감각 운동 기관 등이 있다.^[1]

CNN은혼동해서는 안 된다 신경망(CNN이라고도 한다)과 콘볼루션.

CNN 건축

아키텍처의 수와 다양성 때문에 CNN 프로세서에 대한 정확한 정의를 내리기는 어렵다.아키텍처 관점에서, CNN 프로세서는 유한, 고정 번호, 고정 위치, 고정 토폴로지, 국소적으로 상호 연결된, 다중 입력, 단일 출력, 비선형 프로세싱 유닛의 시스템이다.비선형 처리 단위는 흔히 뉴런이나 세포라고 한다.수학적으로, 각 셀은 정보를 초기 상태, 입력, 그리고 그 행동을 정의하는 데 사용되는 변수를 통해 암호화되는 분산되고 비선형 동적 시스템으로 모델링될 수 있다.다이내믹스는 Continuous-Time CNN(CT-CNN) 프로세서의 경우처럼 대개 연속적이지만 이산 시간 CNN(DT-CNN) 프로세서의 경우처럼 분리할 수 있다.^[2][3][4]

각 셀은 하나의 출력을 가지고 있으며, 이를 통해 다른 셀과 외부 장치 둘 다와 상태를 전달한다.출력은 일반적으로 실제 가치로 평가되지만 복잡하거나 심지어 쿼터니온(MV-CNN)이 될 수 있다.대부분의 CNN 프로세서, 프로세싱 유닛은 동일하지만, 비식별 단위가 필요한 애플리케이션도 있는데, 이를 NUP-CNN(Non-Uniform Processor CNN) 프로세서라고 하며, 다른 종류의 셀로 구성된다.

추아양 CNN

원래의 Chua-Yang CNN (CY-CNN) 프로세서에서, 셀의 상태는 입력의 가중 합계였고 출력은 조각으로 된 선형 함수였다.그러나, 원래의 수용체 기반 신경망처럼, 그것이 수행할 수 있는 기능은 제한적이었다. 특히 XOR와 같은 비선형 함수를 모델링할 수 없었다.보다 복잡한 기능은 NL-CNN(Non-Linear CNN) 프로세서를 통해 실현할 수 있다.^[5]

세포는 2차원 유클리드 기하학처럼 규범화된 격자형 공간에서 정의된다.그러나, 세포는 2차원 공간에 한정되지 않는다; 그것들은 임의의 수의 차원으로 정의될 수 있고 사각형, 삼각형, 육각형 또는 다른 공간적으로 불변 배열일 수 있다.지형학적으로 세포는 무한 평면이나 토로이드 공간에 배열할 수 있다.셀 인터커넥트는 국부적인 것으로, 셀 사이의 모든 연결이 (위상적으로 측정된 거리를 가지고) 지정된 반경 내에 있다는 것을 의미한다.또한 연결은 시간적 영역에서 처리가 가능하도록 시간 지연될 수 있다.

대부분의 CNN 아키텍처는 동일한 상대적 상호연결을 가진 셀을 가지고 있지만, 공간적으로 변형된 토폴로지를 필요로 하는 어플리케이션도 있다.MNS-CNN(Multiple-Neighborhood-Size CNN) 프로세서.또한 같은 층의 모든 셀이 동일한 멀티 레이어 CNN(ML-CNN) 프로세서를 사용하여 CNN 프로세서의 기능을 확장할 수 있다.

시스템의 정의는 통합된 전체를 형성하는 독립적이고 상호 작용하는 실체들의 집합이며, 그 실체들보다 행동이 뚜렷하고 질적으로 더 크다.인맥은 국지적이지만 확산을 통해 세계적으로 정보교류가 일어날 수 있다.이런 의미에서 CNN 프로세서는 그 역동성이 처리 단위 내에서가 아니라 처리 단위 사이의 상호작용에서 파생되기 때문에 시스템이다.그 결과, 그들은 비상하고 집단적인 행동을 보인다.수학적으로, 영향 영역 내에 위치한 셀과 셀의 이웃 사이의 관계는 연결 법칙에 의해 정의될 수 있으며, 이것이 주로 프로세서의 동작을 결정하는 것이다.결합법이 퍼지 논리에 의해 모델링되면 퍼지 CNN이다.^[6]이 법칙들이 계산동사 논리에 의해 모델링되면 그것은 계산동사 CNN이 된다.^[7][8][9] 퍼지 및 동사 CNN은 지역 커플링이 언어 용어로 달성되었을 때 소셜 네트워크를 모델링하는 데 유용하다.^[10]

역사

CNN프로세서의 아이디어는 1988년 리언 추아와 린양이 도입했다.^[11]이 기사들에서 추아와 양은 CNN 프로세서의 기초 수학에 대해 개략적으로 설명한다.그들은 이 수학적 모델을 사용하여 특정 CNN 구현에 대해 입력 내용이 정적이면 처리 장치가 수렴하여 유용한 계산을 수행하는 데 사용할 수 있음을 입증한다.그런 다음 그들은 CNN 프로세서의 첫 응용 프로그램 중 하나인 이미지 처리와 패턴 인식(현재까지 가장 큰 응용 프로그램)을 제안한다.리언 추아는 여전히 CNN 연구에 적극적이며 편집자로 활동하는 국제지 '비퍼레이션과 혼돈'에 기고문을 많이 게재하고 있다.IEEE 회로 및 시스템에 관한 거래와 국제 분기 저널은 또한 다른 지식 있는 연구자들이 작성한 CNN 프로세서에 관한 다양한 유용한 기사를 포함하고 있다.전자는 새로운 CNN 아키텍처에 초점을 맞추고 후자는 CNN 프로세서의 역동적인 측면에 더 초점을 맞추는 경향이 있다.

1993년 타마스 로스카와 레온 추아는 세계 최초의 알고리즘 프로그램 아날로그 CNN 프로세서를 선보였다.^[12]다국적인 노력은 해군연구실, 국립과학재단, 헝가리 과학아카데미가 자금을 지원했고 헝가리 과학아카데미와 캘리포니아 대학이 연구했다.이 기사는 CNN 프로세서가 생산가능하다는 것을 증명했고 연구자들에게 그들의 CNN 이론을 시험할 수 있는 물리적 플랫폼을 제공했다.이 기사 이후, 기업들은 CNN 유니버설 프로세서와 동일한 기본 아키텍처를 기반으로 더 크고 더 유능한 프로세서에 투자하기 시작했다.타마스 로스카는 CNN의 또 다른 주요 기고자다.그의 이름은 생물학적으로 영감을 받은 정보처리 플랫폼 및 알고리즘과 관련되는 경우가 많으며, 수많은 주요 기사를 발표했으며, CNN 기술을 개발하는 기업 및 연구기관과 관련되었다.

문학

방대한 양의 CNN 문헌을 일관성 있는 틀로 정리할 수 있기 때문에 두 가지 참고문헌은 매우 귀중한 자료로 여겨진다.

• Valerio Cimagalli와 Marco Balsi의 개요.^[13]이 논문은 정의, CNN 유형, 역동성, 구현 및 애플리케이션에 대한 간략한 소개를 제공한다.
• 사례와 운동을 제공하는 리언 추아(Leon Chua)와 타마스 로스카(Tamas Roska)가 쓴 「세포 신경망과 비주얼 컴퓨팅 기반과 응용」.이 책은 CNN 프로세서의 다양한 측면을 다루고 있으며 석사 과정이나 박사 과정의 교과서 역할을 할 수 있다.

기타 리소스:

• "세포 신경망과 그 응용에 관한 국제 워크숍"의 진행은 CNN의 많은 문헌을 제공한다.
• 이 절차는 1990, 1992, 1994, 1996, 1998, 2000, 2002, 2005 및 2006년에 개최된 회의에 대해 IEEE Xplore를 통해 온라인으로 이용할 수 있다.
• 스페인 산티아고 데 콤소텔라에서도 워크숍이 열렸다.주제에는 이론, 설계, 애플리케이션, 알고리즘, 물리적 구현 및 프로그래밍 및 훈련 방법이 포함되었다.
• 아날로그 반도체 기반 CNN 기술에 대한 이해를 위해 애너로직컴퓨터는 홈페이지와 출판목록에 게재된 기사 외에 제품군이 있다.그들은 또한 광학 컴퓨팅과 같은 다른 CNN 기술에 대한 정보도 가지고 있다.일반적으로 사용되는 많은 기능들은 이미 CNN 프로세서를 사용하여 구현되었다.이 중 일부에 대한 좋은 참조점은 아날로그식 CNN 기반 시스템과 같은 CNN 기반 비주얼 컴퓨터의 이미지 처리 라이브러리에서 찾을 수 있다.

관련 처리 아키텍처

CNN 프로세서는 ANN과 Continuous Automata(CA) 사이의 하이브리드라고 생각할 수 있다.

인공신경망

CNN과 NN의 처리 단위는 비슷하다.두 경우 모두 프로세서 단위는 다중 입력, 동적 시스템이며, 전체 시스템의 동작은 주로 처리 단위의 선형 상호 연결의 가중치를 통해 구동된다.

그러나 CNN 프로세서에서 연결은 로컬로 이루어지는 반면, ANN에서는 글로벌이다.

예를 들어, 한 층의 뉴런은 피드-포워드 NN의 다른 층에 완전히 연결되어 있고 모든 뉴런은 홉필드 네트워크에서 완전히 상호 연결되어 있다.ANN에서, 상호연결의 가중치는 처리 시스템의 이전 상태나 피드백에 관한 정보를 포함한다.

그러나 CNN 프로세서에서는 체중이 시스템의 역학을 결정하는 데 사용된다.

더욱이, ANN의 높은 상호연결성 때문에, 그들은 데이터 세트나 처리의 지역성을 이용하지 않는 경향이 있고, 그 결과, 그것들은 대개 치명적인 오류 없이 강력하고 내결함성을 가진 행동을 가능하게 하는 고도로 중복된 시스템이다.

ANN과 CNN 프로세서의 교차점은 RMCNN이다.RMCNN 프로세서에서 셀 인터커넥트는 국소적이고 위상적으로 불변하지만, 가중치는 이전 상태를 저장하고 역학을 제어하지 않는 데 사용된다.세포의 무게는 장기기억을 생성하는 어떤 학습 상태에서 수정된다.^[14][15]

연속 오토마타

CNN프로세서의 위상과 역학은 CA와 매우 흡사하다.대부분의 CNN 프로세서와 마찬가지로, CA는 공간적으로 분리되고 위상적으로 균일한 다수의 동일한 프로세서로 구성된다.차이점은 대부분의 CNN 프로세서가 연속적으로 값을 매기는 반면 CA는 개별 값을 갖는다는 것이다.또한, CA 프로세서 셀은 일부 상태 기계에 의해 정의되는 반면, CNN 프로세서의 셀 동작은 일부 비선형 함수를 통해 정의된다.

그러나 일부 예외는 있다.연속 가치 셀룰러 오토마타는 연속 분해능의 CA이다.주어진 Continuous Automata를 어떻게 지정하느냐에 따라 CNN이 될 수도 있다.

또한 무한대 수의 공간 연속, 연속값 자동화로 구성된 연속 공간 오토마타도 있다.연속 공간은 이산 공간보다 수학적으로 모델링하기 쉬우므로 세포 자동화의 일부 연구자가 취하는 경험적 접근법과는 달리 보다 정량적인 접근을 허용하기 때문에 이 분야에서는 상당한 연구가 수행되고 있다.연속 공간 오토마타 프로세서는 화학 컴퓨터와 같은 파격적인 정보 처리 플랫폼을 통해 물리적으로 실현될 수 있다.나아가, (입출력 분해능 측면에서) 대형 CNN 프로세서를 Continuous Spatial Automata로 모델링할 수 있다고 생각할 수 있다.

연산 모델

CNN 프로세서의 동적 거동은 미분방정식을 사용하여 표현할 수 있으며, 여기서 각 방정식은 개별 처리 단위의 상태를 나타낸다.전체 CNN 프로세서의 동작은 초기 조건, 입력, 세포 상호연결(상상학 및 가중치) 및 세포 자체에 의해 정의된다.CNN 프로세서를 사용할 수 있는 한 가지 방법은 특정 동적 특성의 신호를 생성하고 대응하는 것이다.예를 들어, CNN 프로세서는 다중스크롤 혼돈(Chen 끌어당김기 등)을 발생시키고,^[16] 혼돈 시스템과 동기화하며, 다단계 이력(hysteresis)을 나타내기 위해 사용되어 왔다.^[17][18][19]CNN 프로세서는 공간과 시간의 함수로 표현되는 로컬, 저수준의 프로세서 집약적인 문제를 해결하기 위해 특별히 설계되었다.예를 들어, CNN 프로세서를 사용하여 하이패스 및 로우패스 필터와 형태론적 연산자를 구현할 수 있다.또한 열 분산 및 파장 전파와 같은 광범위한 범위의 편미분방정식(PDE)^[20]에 사용할 수 있다.^[21]

반응-디퓨전

CNN 프로세서는 RD 프로세서로 사용될 수 있다.RD 프로세서는 공간적으로 불변하고, 위상적으로 불변하며, 반응으로 특징지어지는 아날로그 병렬 프로세서로, 두 에이전트가 결합하여 제3의 에이전트를 만들 수 있고, 에이전트 확산인 확산이 가능하다.RD 프로세서는 일반적으로 페트리 접시(프로세서), 조명(입력), 카메라(출력)의 화학물질을 통해 구현되지만 RD 프로세서는 다층 CNN 프로세서를 통해서도 구현이 가능하다.D 프로세서를 사용하여 보로노이 다이어그램을 생성하고 스켈레톤화를 수행할 수 있다.화학적 구현과 CNN 구현의 주요 차이점은 CNN 구현이 화학적 구현보다 상당히 빠르고, 화학적 프로세서는 공간적으로 연속적인 반면 CNN 프로세서는 공간적으로 분리되어 있다는 것이다.가장 많이 연구된 RD프로세서인 벨루소프-자보틴스키(BZ)프로세서는 이미 4단 CNN프로세서를 사용해 시뮬레이션한 뒤 반도체에서 구현했다.^{[22][23][24][25]}

부울 함수

CA와 마찬가지로 연산은 시간이 지남에 따라 증가하거나 변화하는 신호의 생성과 전파를 통해 수행될 수 있다.계산은 신호 내에서 발생하거나 신호 간의 상호작용을 통해 발생할 수 있다.신호를 사용하고 추진력을 얻고 있는 처리의 한 종류는 파동의 발생, 팽창, 그리고 최종적인 충돌과 관련된 파동 처리다.파동 처리는 거리를 측정하고 최적의 경로를 찾는 데 사용될 수 있다.계산은 또한 입자, 글라이더, 솔루션, 필터론 국부적 구조를 통해서도 발생할 수 있으며, 그 형태와 속도를 유지할 수 있다.이러한 구조들이 서로 어떻게 상호 작용/협착하는지를 감안하여, 정보를 상태로 저장하고 다른 부울 함수를 구현하는 데 사용할 수 있다.계산은 또한 웜, 사다리 및 픽셀 스네이크를 통해 복잡하고 잠재적으로 성장하거나 진화하는 국부적 행동 사이에서 발생할 수 있다.상태 저장 및 부울 함수 수행 외에도 이러한 구조는 정적 구조를 상호 작용, 생성 및 파괴할 수 있다.^[26]

CNN의 부울 기능 적용은 팡유 첸, 구룽 허, 쉬빈 쉬, 관룽 첸이 논문에서 "CNN을 통한 임의 부울 기능 구현"^[26]에 대해 논의한다.

오토마타 및 튜링 머신

CNN 프로세서는 주로 아날로그 계산을 위한 것이지만, 특정 유형의 CNN 프로세서는 어떤 부울 기능도 구현할 수 있어 CA를 시뮬레이션할 수 있다.일부 CA는 유니버설 튜링 머신(UTM)이기 때문에 어떤 알고리즘도 시뮬레이션할 수 있는 것은 폰 노이만(Von Neuman) 아키텍처를 기반으로 한 프로세서에서 수행될 수 있으며, 이 타입의 CNN 프로세서인 유니버설 CNN(UTM)을 UTM으로 만든다.한 CNN 아키텍처는 추가 계층으로 구성되어 있다.CNN 프로세서는 가장 단순한 것으로 알려진 유니버설 튜링 머신인 콘웨이의 게임 오브 라이프와 울프램의 룰 110을 가장 단순하게 실현하는 결과를 가져왔다.오래된 시스템의 이 독특하고 역동적인 표현은 연구자들이 CNN을 위해 개발된 기술과 하드웨어를 적용하여 중요한 CA를 더 잘 이해할 수 있게 해준다.게다가, Cellular Automata에서와 동등하지 않은 약간의 수정으로 CNN 프로세서의 연속적인 상태 공간은 이전에는 볼 수 없었던 새로운 행동을 만들어낸다.^[27]

임의의 부울함수를 구성할 수 있는 어떠한 정보처리 플랫폼도 유니버설이라고 하며, 그 결과 이 등급의 CNN 프로세서를 유니버설 CNN 프로세서로 통칭한다.기존 CNN 프로세서는 선형 분리형 부울 기능만 수행할 수 있다.디지털 로직이나 룩업 테이블 도메인의 기능을 CNN 도메인으로 변환함으로써 일부 기능을 상당히 단순화할 수 있다.예를 들어, 일반적으로 8개의 내포된 배타적 또는 게이트에 의해 구현되는 9비트 홀수 패리티 생성 논리는 합계 함수와 4개의 내포된 절대값 함수로 나타낼 수도 있다.기능 복잡성이 감소할 뿐만 아니라, CNN 구현 매개변수가 연속적인 실수 도메인에서 대표될 수 있다.^[26]

템플릿이나 무게와 함께 CNN 프로세서를 선택하는 방법에는 두 가지가 있다.첫 번째는 합성에 의한 것으로, 오프라인에서 계수를 결정하는 것을 포함한다.이것은 이전 작품, 즉 도서관, 논문, 기사를 활용하거나 문제에 가장 적합한 수학적으로 도출하는 코어를 통해 이루어질 수 있다.다른 하나는 프로세서를 훈련시키는 것이다.연구자들은 역제안 및 유전 알고리즘을 사용하여 기능을 배우고 수행해 왔다.백프로포즈 알고리즘은 더 빠른 경향이 있지만 유전 알고리즘은 불연속적이고 시끄러운 검색 공간에서 해결책을 찾을 수 있는 메커니즘을 제공하기 때문에 유용하다.^[28][29][30]

물리적 구현

당구공을 이용해 CNN 프로세서를 시뮬레이션하는 장난감 모델도 있지만 이론 연구에 활용된다.실제로 CNN은 반도체 등 하드웨어와 최신 기술에 물리적으로 구현된다.향후 CNN 프로세서를 신흥 기술로 이전할 계획이다.^{[31][32][33][34][35][36]}

반도체

반도체 기반 CNN 프로세서는 아날로그 CNN 프로세서, 디지털 CNN 프로세서, 디지털 프로세서를 이용한 에뮬레이션 CNN 프로세서로 세분화할 수 있다.아날로그 CNN 프로세서가 가장 먼저 개발됐다.아날로그 컴퓨터는 1950년대와 1960년대에는 상당히 흔했지만, 1970년대에는 점차 디지털 컴퓨터로 대체되었다.아날로그 프로세서는 미분방정식의 최적화, 비선형성 모델링 등 특정 애플리케이션에서는 상당히 빨랐지만 아날로그 컴퓨팅이 선호도를 잃은 이유는 정밀도의 부족과 복잡한 방정식을 해결하기 위한 아날로그 컴퓨터 구성의 어려움 때문이었다.

아날로그 CNN 프로세서는 이전 모델과 동일한 장점들, 특히 속도를 공유한다.최초의 아날로그 CNN 프로세서는 디지털 프로세서에 의해 실현 불가능한 실시간 초고프레임 레이트(>1만 프레임/s) 프로세싱을 수행할 수 있었다.CNN 프로세서의 아날로그 구현은 디지털 프로세서에 비해 면적과 전력 소비량이 적다.아날로그 CNN 프로세서의 정확도는 디지털 프로세서와 비교되지 않지만, 많은 애플리케이션의 경우 노이즈와 프로세스 분산이 이미지 품질에 지각적으로 영향을 미치지 않을 정도로 작다.

알고리즘으로 프로그램 가능한 최초의 아날로그 CNN 프로세서가 1993년에 만들어졌다.^[12]내부 컨트롤러가 동일한 데이터 세트에서 여러 템플릿을 수행할 수 있게 해 다중 레이어를 시뮬레이션하고 범용 컴퓨팅을 가능하게 해 CNN 유니버설 프로세서라는 명칭이 붙었다.설계에는 단일 레이어 8x8 CCN, 인터페이스, 아날로그 메모리, 스위칭 로직 및 소프트웨어가 포함되었다.이 프로세서는 CNN 프로세서 생산성과 유틸리티를 결정하기 위해 개발되었다.CNN의 개념은 유망하다는 것을 증명했고 2000년까지 알고리즘으로 프로그램 가능한 아날로그 CNN 프로세서를 설계하는 최소 6개의 조직이 있었다.^[12]

애나포커스, 애나로직

2000년대 들어 세비야 대학의 혼성신호 반도체 회사인 애나포커스(AnaFocus)가 ACE 프로토타입 CNN 프로세서 제품군을 선보였다.그들의 첫 번째 ACE 프로세서는 20x20 B/W 프로세서 유닛을 포함하고, 후속 프로세서는 48x48 및 128x128 그레이스케일 프로세서 유닛을 제공하여 속도와 처리 요소를 향상시켰다.AnaFocus는 또한 다층 CASE 프로토타입 CNN 프로세서 라인을 가지고 있었다.그들의 프로세서는 감지 및 처리 사이의 실시간 상호작용을 허용했다.2014년 애나포커스(AnaFocus)는 e2v 기술에 판매된 바 있다.^[37]

또 다른 회사인 AnaLogic Computers는 알고리즘으로 프로그램 가능한 최초의 CNN 유니버설 프로세서 뒤에 있는 많은 연구원들에 의해 2000년에 설립되었다.2003년 애너로직컴퓨터는 ACE 4K 프로세서가 포함된 PCI-X 비주얼 프로세서 보드를 텍사스 인스트루먼트 DIP 모듈과 고속 프레임 그라버를 탑재해 개발했다.^[38]이를 통해 CNN 처리가 데스크톱 컴퓨터에 쉽게 포함될 수 있었다.2006년 애나로직컴퓨터는 자사의 고급 모델에 ACE 4K 프로세서를 탑재한 Bi-I Ultra High Speed Smart Camera 제품군을 개발했다.^[39]

2006년에 로스카 외 연구진은 아나로그를 위한 생체안경 설계에 관한 논문을 발표했다.바이오닉 안경은 Bi-I Ultra High Speed Smart Camera를 기반으로 한 듀얼 카메라 웨어러블 플랫폼으로 시각장애인에게 도움을 주도록 설계됐다.그 기능으로는 노선번호 인식과 컬러 처리 등이 있다.^[40][41][42]

아날로그 CNN 프로세서

일부 연구자들은 그들만의 맞춤형 아날로그 CNN 프로세서를 개발했다.예를 들면 다음과 같다.

• Delli Studi di Catania 대학의 연구팀은 육각 로봇의 게트를 만들기 위해 그것을 만들었다.
• 국립 차오퉁 대학교의 우충유와 쳉 치우훙은 패턴 학습과 인식에 대해 더 배우기 위해 RM-CNN 프로세서를 디자인했다.^[43]
• 국립 리엔호기술원(W. 옌, R.)의 연구원.Chen과 J. Lai)는 CNN 역학에 대해 더 배우기 위해 Min-Max CNNN(MMCNN) 프로세서를 개발했다.^[44]

속도와 낮은 전력 소비에도 불구하고 아날로그 CNN 프로세서에 상당한 단점이 있다.첫째, 아날로그 CNN 프로세서는 환경과 공정 변동으로 인해 잠재적으로 잘못된 결과를 초래할 수 있다.대부분의 애플리케이션에서 이러한 오류는 눈에 띄지 않지만 사소한 편차가 치명적인 시스템 고장을 초래할 수 있는 상황이 있다.예를 들어, 혼돈된 통신에서 공정 변동은 위상 공간에서 주어진 시스템의 궤적을 변경하여 동기성/안정성의 손실을 초래할 것이다.문제의 심각성 때문에, 문제를 개선하기 위해 상당한 연구가 이루어지고 있다.일부 연구자들은 더 큰 변동을 수용하기 위해 템플릿을 최적화하고 있다.다른 연구자들은 이론적인 CNN 실적에 더 가깝게 반도체 공정을 개선하고 있다.다른 연구원들은 다양하고 잠재적으로 더 강력한 CNN 구조를 조사하고 있다.마지막으로, 연구원들은 특정 칩과 작동 조건을 목표로 템플릿을 조정하는 방법을 개발하고 있다.즉, 템플리트가 정보처리 플랫폼과 일치하도록 최적화되고 있다.공정 변동은 기존의 아날로그 CNN 프로세서로 할 수 있는 것을 제한할 뿐만 아니라 보다 복잡한 처리 단위를 만드는 데 장애물이 되기도 한다.이러한 공정 변동이 해소되지 않는 한 실시간 아날로그 CNN 프로세서에서 중첩 처리 단위, 비선형 입력 등의 아이디어를 구현할 수 없다.또 가공 유닛용 반도체 '부동산'은 CNN 프로세서 크기를 제한한다.

현재 가장 큰 애너비전 CNN 기반 비전 프로세서는 4K 검출기로 구성되어 있는데, 이것은 저렴한 소비자용 카메라에서 발견되는 메가픽셀 검출기보다 훨씬 적다.불행하게도, 무어의 법칙에 의해 예측된 특징적 크기 감소는 약간의 개선만을 초래할 것이다.이 때문에 공명 터널링 다이오드, 뉴런-양극 접합 트랜지스터 등 대체 기술이 발굴되고 있다.^[45]또한 CNN 프로세서 아키텍처가 재평가되고 있다.예를 들어 하나의 아날로그 승수가 여러 프로세서 단위 사이에서 시간 공유되는 스타-CNN 프로세서가 제안되어 프로세서 단위 크기가 80%^[46] 감소할 것으로 예상된다.

디지털 CNN 프로세서, FPGA

비록 디지털 CNN 프로세서는 빠르고 에너지 효율적이지는 않지만 아날로그 프로세서의 공정 변동과 형상 크기에 대한 문제를 공유하지 않는다.이를 통해 디지털 CNN 프로세서는 중첩된 프로세서 단위, 비선형성 등을 포함할 수 있다.게다가, 디지털 CNN은 더 유연하고, 비용이 적게 들고, 통합이 더 쉽다.디지털 CNN 프로세서의 가장 일반적인 구현은 FPGA를 사용한다.2002년에 설립되어 버클리에서 운영되고 있는 유테쿠스는 알테라 FPGA로 합성할 수 있는 지적 재산을 제공한다.이들의 디지털 320x280, FPGA 기반 CNN 프로세서는 30프레임/s로 구동되며 빠른 디지털 ASIC를 만들 계획이다.유스테커스는 애나로직 컴퓨터의 전략적 파트너로, 이들의 FPGA 디자인은 애나로직의 여러 제품에서 확인할 수 있다.또한 Eutecus는 비디오 보안 시장을 위한 비디오 분석, 기능 분류, 다중 표적 추적, 신호 및 이미지 처리 및 흐름 처리를 포함하되 이에 국한되지 않는 작업을 수행하기 위한 소프트웨어 라이브러리를 개발하고 있다.이런 루틴들 중 상당수는 CNN과 같은 프로세싱을 이용해 도출된다.프로토타이핑, 저속 애플리케이션 또는 연구를 위해 CNN 시뮬레이션을 수행하고자 하는 사람들에게는 몇 가지 옵션이 있다.첫째, SCNN 2000과 같은 정확한 CNN 에뮬레이션 소프트웨어 패키지가 있다.속도가 엄청나게 빠르다면, 자코비의 반복법이나 CNN 프로세서의 안정적 상태 솔루션을 도출하는 데 사용할 수 있는 전진-후진 재귀와 같은 수학적 기법이 있다.마지막으로 디지털 CNN 프로세서는 그래픽 프로세서와 같은 애플리케이션별 고도로 병렬화된 프로세서에서 에뮬레이션될 수 있다.그래픽 프로세서를 이용한 신경망 구현은 향후 연구 영역이다.^{[47][48][49][50][51]}

홀로그래피, 나노기술

연구자들은 또한 CNN 프로세서를 위한 대체 기술을 사용하고 있다.비록 현재의 CNN 프로세서가 디지털 프로세서와 관련된 몇몇 문제들을 회피하지만, 그들은 모든 반도체 기반 프로세서에 공통적으로 나타나는 몇 가지 장기적 문제들을 공유한다.여기에는 속도, 신뢰성, 전력 소비 등이 포함된다.아나로직컴퓨터는 광학, 레이저, 생물학적, 홀로그래픽 메모리를 결합한 광학 CNN 프로세서를 개발하고 있다.처음에는 기술 개발로 500x500 CNN 프로세서가 초당 300기가 조작을 수행할 수 있게 되었다.

CNN 프로세서의 또 다른 유망한 기술은 나노기술이다.조사 중인 나노테크놀로지 개념 중 하나는 단일 전자 또는 고전류 트랜지스터로 만들 수 있는 단일 전자 터널링 접합부를 사용하여 McCulloch-Pitts CNN 처리 장치를 만드는 것이다.요약하자면, CNN 프로세서가 구현되어 사용자들에게 가치를 제공한다.그들은 이점을 효과적으로 활용할 수 있었고 그들의 언더링 기술, 즉 반도체와 관련된 몇몇 단점을 해결할 수 있었다.연구진들도 CNN 프로세서를 신흥 기술로 전환하고 있다.따라서, CNN 아키텍처가 특정 정보처리 시스템에 적합하다면, (예측 가능한 미래에 존재할 것처럼) 구입할 수 있는 프로세서가 있다.^[52]

적용들

CNN 연구자들은 물리, 공학, 이론, 수학, 계산, 철학적 응용에 이르기까지 다양한 관심사를 가지고 있다.

이미지 처리

CNN 프로세서는 이미지 프로세싱을 수행하도록 설계되었으며, 특히 제트 엔진 유체의 입자 감지 및 스파크 플러그 검출과 같은 애플리케이션을 위한 실시간 초고프레임 레이트(>10,000 프레임/s) 프로세싱이 가능하도록 설계되었다.현재 CNN 프로세서는 초당 최대 5만 프레임까지 달성할 수 있으며, 미사일 추적, 플래시 감지, 스파크 플러그 진단과 같은 특정 애플리케이션의 경우 이 마이크로프로세서가 기존 슈퍼컴퓨터를 능가했다.CNN프로세서 국내의, 처리 집중적인 운영에 및 형상 extraction,[53]수준 및 게인 조절, 색채 항등성 detection,[54]대비 강화, deconvolution,[55]이미지 compression,[56][57]운동 estimation,[58][59]이미지 인코딩, 이미지 해독, 이미지 segmentation,[60][61]orienta로 사용되어 졌다 그 자체.그것의 선호도 maps,[62]패턴을 배운다.잉그/인식,^[43][63] 다중 표적 추적,^[64] 이미지 안정화,^[58] 해상도 향상,^[65] 이미지 변형 및 매핑, 이미지 인페인팅,^[66] 광학 흐름,^[67] 윤곽선,^[68][69] 이동 물체 감지,^[70] 대칭 검출 축,^[71] 이미지 융접.^[72][73][74]

그들의 처리 능력과 유연성 때문에, CNN프로세서고 프로토 타입 염광 분석과 같은 새로운 분야 애플리케이션 개발을 위한 폐기물 incinerator,[75]mine-detection 적외선 사진을 사용하고, 잠재적인 분야 지도에 geophy에 높은 에너지 physics,[76]anomaly 발견을 위해 열량계 클러스터 절정에 연소를 감시하기 위하여 사용되어 왔다.라 sics,[77]ser dot 감지,^[78] 제조 결함 탐지를 위한 금속 검사,^[79] 지진 지평선 피킹.지문인식,^[81] 정맥특징추출, 얼굴추적,^[82] 지각공동을 측정하기 위한 돌발패턴을 통한 시각자극 생성 등의 생체기능에도^[80] 활용됐다.

생물학과 의학

CNN프로세서와 생물학적 의학 연구를 위해 계열이란 해부학적 관점에서 병적으로 의미 있는 지역, 측량하고 발작으로 이어질 것이다와 검출 심기능, 뉴런의 타이밍, 양을 뇌의 이상으로 hyperplasia,[83]부분 이미지들을 감지하기 위해 자동화 유핵 세포 계수를 수행하는데 사용되어 왔다.[84][85]

CNN 마이크로프로세서의 향후 적용 가능한 한 가지 방법은 수십만 개의 서로 다른 DNA 시퀀스에 대한 거의 실시간 DNA 분석을 허용하기 위해 이들을 DNA 마이크로레이와 결합하는 것이다.현재 DNA 마이크로어레이 분석의 주요 병목현상은 이미지 형태로 데이터를 처리하는 데 필요한 시간이며, CNN 마이크로프로세서를 사용하여 연구자들은 이 계산을 수행하는 데 필요한 시간을 7ms로 줄였다.

텍스처 인식

CNN 프로세서는 패턴과 질감을 생성, 분석하는 데도 사용되었다.한 가지 동기는 CNN 프로세서를 사용하여 자연 시스템의 패턴 생성을 이해하는 것이었다.그것들은 그들이 형성되는 상황, 나타날 수 있는 다양한 형태의 패턴, 결함이나 비대칭의 존재를 이해하기 위해 튜링 패턴을 생성하기 위해 사용되었다.^[27]또한, CNN 프로세서는 고정된 전선, 시간에 따라 진동하는 타피오-임시 패턴, 이력, 메모리, 이질성을 생성하는 패턴 생성 시스템의 근사치를 위해 사용되었다.또한, 패턴 생성은 확률적이고 거친 결이 있는 생물학적 패턴의 실시간 생성, 텍스처 경계 감지, 패턴 및 텍스처 인식 및 분류를 통한 고성능 이미지 생성과 압축을 지원하는데 사용되었다.^[86][87]

제어 및 액추에이터 시스템

Cellular Machines의 신흥 분야의 일부로 CNN 프로세서를 감각 컴퓨터 조작 기계에 통합하려는 노력이 계속되고 있다.기본 전제는 감각신호 처리에 CNN 프로세서를 사용하고 잠재적으로 의사 결정과 통제를 하는 통합 시스템을 만드는 것이다.그 이유는 CNN 프로세서가 셀룰러 머신에 적합한 저전력, 소형, 저비용 컴퓨팅 및 작동 시스템을 제공할 수 있기 때문이다.이러한 셀룰러 머신은 결국 군사 정보 수집, 주거하기 어려운 환경 감시, 넓은 지역 유지, 행성 탐사 등에 사용할 수 있는 모바일 애드혹 네트워크(^[88]MANET)의 일종인 센서-액튜레이터 네트워크(Sensor-Actuator Network)를 만들게 된다.

CNN 프로세서는 일부 제어 기능에 적합할 만큼 충분히 다용도성이 입증되었다.그것들은 유전자 알고리즘을 통해 기능을 최적화하고,^[89] 거리를 측정하고, 복잡하고 역동적인 환경에서 최적의 경로 찾기를 수행하는 데 사용되어 왔으며, 이론적으로 복잡한 자극을 배우고 연관시키는 데 사용될 수 있다.그것들은 또한 중앙 패턴 발생기(CPG)를 사용하여 로봇 네마토드, 거미, 램프리 게이트를 위한 반의어적인 게트와 저수준의 모터를 만드는 데 사용되었다.그들은 강력하고, 유연하며, 생물학적으로 영감을 받은 로봇 모터 시스템을 허용하면서, 환경의 피드백만을 사용하여 기능할 수 있었다.CNN 기반 시스템은 다른 환경에서 작동할 수 있었고 일부 처리 장치가 비활성화된 경우에도 여전히 작동한다.^[90][91][92]

통신 시스템

CNN 프로세서에서 볼 수 있는 다양한 역동적인 행동은 그들을 통신 시스템에 흥미를 느끼게 한다.CNN 프로세서를 이용한 혼돈된 통신은 잠재적으로 낮은 전력 소비량, 견고성, 확산 주파수 특성 때문에 연구되고 있다.무질서한 의사소통의 전제는 무질서한 신호를 반송파에 사용하고 무질서한 위상 동기화를 이용하여 원래의 메시지를 재구성하는 것이다.CNN 프로세서는 송신기와 수신기 양쪽 끝에서 주어진 메시지를 인코딩하고 디코딩하기 위해 사용될 수 있다.데이터 암호화 및 암호 해독, 워터마크를 통한 소스 인증,^[93] 스펙트로그램 영상의^[94] 복잡한 패턴 검출(음향 처리), 과도 스펙트럼 신호 검출에도 활용할 수 있다.

CNN 프로세서는 신경동형 프로세서로, 생물학적 신경망의 특정 측면을 모방한다는 것을 의미한다.원래 CNN 프로세서는 포유류 망막을 기반으로 했는데, 이 망막은 국소적으로 결합된 뉴런의 여러 층에 연결된 광검출기 층으로 구성되어 있다.^[95]이는 CNN 프로세서가 신경과학의 지식과 아이디어를 활용하고 이론의 실제적인 검증을 통해 다시 기여하는 시스템을 설계하는 것을 목표로 하는 학제간 연구 영역의 일부가 되게 한다.CNN 프로세서는 포유류 망막을 복제하는 실시간 시스템을 구현해, 선택된 원래의 CNN 아키텍처가 포유류 생활에서 이 작업을 수행하는 데 사용된 생물학적 신경망의 정확한 측면을 모델링했음을 검증했다.^[95]그러나 CNN프로세서 생물학적 신경 네트워크 비전 처리하는 것과 관련된 확인에;그들은 역동적 활동 포유류의 신경 네트워크가 후각 구근과 메뚜기 떼의 촉각의 측두엽에서 발견되는 패턴의 차이를 감지할 수 있는 감각적 정보 pre-processing에 대한 책임에서 보를 모의 실험하는데 사용해 왔다 제한되지 않는다.[96][97]

CNN 프로세서는 살아있는 세포, 생물학적 네트워크, 생리학적 시스템, 생태계 등 단순 결합 단위를 이용해 모델링할 수 있는 시스템을 이해하는 데 활용되고 있다.CNN 아키텍처는 자연에서 자주 볼 수 있는 역동성을 포착하고 있으며, 실험을 분석하고 수행할 수 있을 만큼 간단하다.그것들은 또한 과학자들이 스핀 문제, 인구 역학, 격자 기반 가스 모델, 퍼콜레이션, 그리고 다른 현상들을 탐구할 수 있게 해주는 확률적 시뮬레이션 기법에도 사용되고 있다.다른 시뮬레이션 애플리케이션에는 열 전달, 기계 진동 시스템, 단백질 생산,^[98] 조셉슨 접합 문제,^[99] 지진파 전파 ^[100]및 지열 구조 등이 포함된다.^[101]3d CNN의 사례는 복잡한 시스템에서 특정 긴급현상을 입증하기 위해 사용되어 왔으며, 예술, 동적 시스템 및 VLSI 기술 간의 연계를 확립했다.^{[102][103][104][105]}

CNN 프로세서는 비균형 시스템, 임의의 복잡성의 비선형 시스템 구축, 새로운 무질서한 역학, 새로운 동적 행동 발견과 같은 다양한 수학적 개념을 연구하는데 이용되어 왔다.그것들은 종종 자연 시스템을 연구하는 학문 간, 과학 분야인 시스템학을 연구하는 데 사용된다.시스템론 연구자들의 목표는 원자, 기계, 분자, 화학, 생물, 생태, 사회 및 경제 시스템을 포함하되 이에 국한되지 않고 시스템을 분석, 모델링 및 이해하는 데 필요한 개념적이고 수학적 프레임워크를 개발하는 것이다.탐구된 주제는 출현, 집단 행동, 지역 활동 및 그것이 지구적 행동에 미치는 영향, 그리고 대략적인 공간적, 위상적으로 불변하는 시스템의 복잡성을 수량화하는 것이다.^[106]복잡성에 대한 또 다른 정의(MIT 교수 Seth Lloyd는^[107] 복잡성에 대한 32개의 다른 정의를 확인했다)로, 경제 및 사회 시스템과 같은 시스템을 분석할 때 수학적으로 유리할 수 있다.

메모들