Listen to this article

연결주의

Connectionism
은닉층을 가진 '제2의 물결' 연결주의(ANN) 모델

연결주의(Connectionism)는 연결주의 네트워크 또는 인공 [1]신경망으로 알려진 수학적 모델을 사용하는 인간의 정신 과정과 인지에 대한 연구에 대한 접근 방식의 이름입니다.연결주의는 시작된 이래로 많은 '파동'이 있었습니다.

1950년대에 워렌 스터기스 맥컬로치와 월터 피츠가 둘 다 공식적이고 수학적인 접근법을 통해 신경 회로를 이해하는 것에 초점을 맞추고, 1958년 심리학 리뷰에 "The Perceptron: A Probabistic Model for Information Storage and Organization in the Brain"이라는 책을 출판한 프랭크 로젠블랫과 함께 첫 번째 물결이 나타났습니다.코넬 항공 [2]연구소에서 일하는 동안.첫 번째 물결은 1969년 마빈 민스키와 파퍼트가 쓴 오리지널 퍼셉트론 아이디어의 한계에 대한 책으로 끝이 났고, 이 책은 미국의 주요 자금 기관들이 연결주의 [3]연구에 투자하는 것을 막는데 기여했습니다.몇 가지 주목할 만한 편차와 함께, 대부분의 연결주의 연구는 1980년대 중반까지 활동하지 않는 시기에 접어들었습니다.

두 번째 물결은 제임스 L. 매클렐런드, 데이비드 E의 1987년 병렬 분산 처리에 관한 책에 이어 1980년대 후반에 시작되었습니다. Rumelhart et al.은 입력 및 출력 유닛과 함께 중간 프로세서(현재 "숨겨진 층"이라고 함)와 같은 단순한 지각자 개념에 몇 가지 개선점을 도입하고 기존의 '올 오어 낫싱(all-or-nothing)' 기능 대신 시그모이드 활성화 기능을 사용했습니다.그들의 연구는 결국 시그모이드 [2]활성화 함수의 수학적 특성을 연구하는 핵심 인물이었던 존 홉필드의 연구를 기반으로 이루어졌습니다.1980년대 후반부터 1990년대 중반까지 연결주의는 슈나이더,[4] 테렌스 호건, 티엔슨이 연결주의가 심리학과 GOFAI의 [2]근본적인 변화를 나타내는지에 대한 질문을 제기했을 때 거의 혁명적인 어조를 띠었습니다. 제2의 물결 연결주의 접근법의 일부 장점은 다양한 기능에 대한 적용 가능성을 포함했습니다.생물학적 뉴런에 대한 구조적 근사, 선천적 구조에 대한 낮은 요구 조건, 그리고 우아한 [5]분해를 위한 능력.두 번째 파동 연결주의 접근법의 몇 가지 단점은 ANN이 어떻게 정보를 처리하거나 정신적 표현의 구성성을 설명하는지를 해독하는 것의 어려움과 결과적으로 더 높은 [6]수준에서 현상을 설명하는 것의 어려움을 포함했습니다.

현재의 (세 번째) 파동은 딥 러닝의 발전으로 대형 언어 [2]모델이 가능해졌습니다.지난 10년 동안 딥 러닝 네트워크의 성공은 이 접근법의 인기를 크게 높였지만, 그러한 네트워크의 복잡성과 규모는 해석 가능성 [7]문제를 증가시켰습니다.

기본원리

중심 연결주의 원리는 정신 현상이 단순하고 종종 균일한 단위의 상호 연결된 네트워크에 의해 설명될 수 있다는 것입니다.연결 및 장치의 형태는 모델마다 다를 수 있습니다.예를 들어, 네트워크의 단위는 뉴런을 나타낼 수 있고 연결은 인간의 뇌에서처럼 시냅스를 나타낼 수 있습니다.이 원리는 GOFAI와 기호 계산에 기초한 고전적인 마음 이론에 대한 대안으로 여겨져 왔지만, 두 접근법이 어느 정도까지 양립할 수 있는지는 [7]그 시작부터 많은 논쟁의 대상이 되어 왔습니다.

활성화함수

주요 기사:활성화함수

피드포워드 네트워크의 경우 뉴런이 뉴런의 후속 계층으로 신호를 보내거나, 순환 네트워크의 경우 이전 계층으로 신호를 보내면서 네트워크 내부 상태가 시간에 따라 변화합니다.비선형 활성화 기능의 발견으로 제2의 연결주의 물결이 가능해졌습니다.

기억과 학습

주요 기사:인공신경망과 딥러닝

신경망은 두 가지 기본 원칙을 따릅니다.

  1. 모든 정신 상태는 네트워크의 신경 단위를 통한 숫자 활성화 값의 (N)차원 벡터로 설명될 수 있습니다.
  2. 메모리와 학습은 일반적으로 NxM 행렬로 표현되는 신경 단위 사이의 연결의 '가중치'를 수정함으로써 생성됩니다.Hebbian [8]학습과 같은 일부 학습 규칙이나 알고리즘에 따라 가중치가 조정됩니다.

모델별로 다양한 종류는 대부분 다음과 같습니다.

  • 단위 해석:단위는 뉴런 또는 뉴런 그룹으로 해석될 수 있습니다.
  • 활성화 정의:활성화는 다양한 방법으로 정의할 수 있습니다.예를 들어, 볼츠만 기계에서 활성화는 활동 전위 스파이크가 발생할 확률로 해석되며, 단위에 대한 입력의 합에 대한 로지스틱 함수를 통해 결정됩니다.
  • 학습 알고리즘: 네트워크마다 연결을 다르게 수정합니다.일반적으로, 시간에 따른 연결 가중치의 수학적으로 정의된 변화를 "학습 알고리즘"이라고 합니다.

생물학적 리얼리즘

일반적으로 연결주의 작업은 생물학적으로 [9][10][11][12][13][14][15]현실적일 필요가 없습니다.연결주의 모델이 생물학적으로 불가능하다고 생각되는 한 분야는 [16][17]학습을 지원하기 위해 필요한 오류 전파 네트워크와 관련된 것이지만 오류 전파는 N400과 [18]P600과 같은 사건 관련 잠재력에서 두피에서 볼 수 있는 생물학적으로 생성된 전기 활동의 일부를 설명할 수 있습니다.이는 연결주의 학습 절차의 주요 가정 중 하나에 대한 생물학적 지원을 제공합니다.많은 반복적인 연결주의 모델은 또한 동적 시스템 이론을 통합합니다.연결주의자 Paul Smolensky와 같은 많은 연구자들은 연결주의 모델이 완전히 연속적이고 고차원적이며 비선형적이며 동적인 시스템 접근 방식으로 진화할 것이라고 주장했습니다.

전구물질

연결주의 원리의 선구자는 윌리엄 제임스의 [19]것과 같은 심리학의 초기 연구로 거슬러 올라갈 수 있습니다.인간의 뇌에 대한 지식을 바탕으로 한 심리학 이론은 19세기 후반에 유행했습니다.일찍이 1869년 신경학자 존 휴링스 잭슨은 다단계 분산 시스템을 주장했습니다.이를 따라 허버트 스펜서의 심리학 원리 3판(1872년)과 지그문트 프로이트의 과학 심리학 프로젝트(1895년 작곡)가 연결주의 또는 원형 연결주의 이론을 제기했습니다.이것들은 추측적인 이론인 경향이 있었습니다.그러나 20세기 초에 에드워드 손다이크는 연결주의자 유형의 네트워크를 가정한 학습에 대한 실험을 하고 있었습니다.

Friedrich Hayek는 1920년에 발표된 논문에서 독립적으로 Hebbian 시냅스 학습 모델을 구상하고 그 모델을 Hebbian 시냅스 네트워크로 구성된 글로벌 뇌 이론으로 [citation needed]발전시켰습니다.Hayek의 획기적인 연구는 Frank Rosenblatt가 그의 퍼셉트론 논문에서 인용했습니다.

제1의 물결

첫 번째 물결은 1943년 워렌 스터기스 맥컬로치와 월터 피츠가 둘 다 공식적이고 수학적인 접근법을 통해 신경 회로를 이해하는 것에 초점을 맞추고, 1958년 심리학 리뷰에서 "The Perceptron: A Probabistic Model for Information Storage and Organization in the Brain"이라는 책을 출판한 프랭크 로젠블랫과 함께 시작되었습니다.코넬 항공 [2]연구소에서 일하는 동안.McCulloch와 Pitts는 신경 시스템이 어떻게 1차 논리를 구현할 수 있는지 보여주었습니다.그들의 고전 논문 "신경 활동에 내재된 아이디어의 논리적 미적분학"(1943)은 여기서의 발전에 중요합니다.그들은 1930년대 니콜라스 라셰프스키의 중요한 작품에 영향을 받았습니다.Hebb은 신경 기능에 대한 추측에 크게 기여했고, 오늘날에도 여전히 사용되는 학습 원리인 Hebbian 학습을 제안했습니다.Lashley는 수년간의 병변 실험에서 국부적인 엔그램 같은 것을 발견하지 못했기 때문에 분산된 표현을 주장했습니다.연결주의 모델의 또 다른 형태는 1960년대 언어학자 시드니 램(Sydney Lamb)이 개발한 관계형 네트워크 프레임워크입니다.

제2의 물결

두 번째 물결은 제임스 L. 매클렐런드, 데이비드 E의 1987년 병렬 분산 처리에 관한 책에 이어 1980년대 후반에 시작되었습니다. Rumelhart et al. 는 입력 및 출력 유닛과 함께 중간 프로세서(현재 "히든 레이어"라고 함)를 사용하고 기존의 '올 오어 낫싱(all-or-nothing)' 기능 대신 시그모이드 활성화 기능을 사용하는 등의 간단한 퍼셉트론 개념에 몇 가지 개선을 도입했습니다.이들의 연구는 시그모이드 활성화 [2]함수의 수학적 특성을 연구하는 핵심 인물이었던 존 홉필드를 기반으로 이루어졌습니다.PDP의 발전을 이끈 많은 연구들은 1970년대에 이루어졌지만, "연결주의"라는 용어는 사용되지 않았습니다.최초의 딥 러닝 MLP는 1965년 USSS(우크라이나 소비에트 사회주의 공화국)에서 알렉세이 그리고레비치 이바크넨코(Alexey Grigorevich Ivakhnenko)와 발렌틴 라파(Valentin Lapa)에 의해 데이터 처리 [20][21][22]그룹 방법으로 발표되었습니다.이 방법은 회귀 분석을 기반으로 한 계층별 증분 계층 훈련을 사용하며, 검증 세트의 도움으로 은닉 계층의 쓸모없는 유닛을 제거합니다.순환 신경망(RNN)의 역사는 1920년대까지 거슬러 올라갑니다.Wilhelm Lenz(1920)와 Ernst Ising(1925)은 본질적으로 뉴런과 유사한 임계 [20]요소로 구성된 비학습 RNN인 Ising[23] 모델을 만들어 분석했습니다.1972년 아마리 슌이치는 이 구조를 [24][20]적응적으로 만들었습니다.확률적 경사[25] 하강법에 의해 훈련된 최초의 딥 러닝 MLP는 1967년 [26][20]아마리 슌이치에 의해 출판되었습니다.Amari의 학생인 Saito가 수행한 컴퓨터 실험에서 수정 가능한 2개의 레이어가 있는 5개의 레이어 MLP는 비선형 분리 가능 패턴 [20]클래스를 분류하기 위해 유용한 내부 표현을 학습했습니다.

연결주의 대 계산주의 논쟁

1980년대 후반 연결주의가 점점 대중화되자 일부 연구자들(제리 포더, 스티븐 핑커 등)은 이에 반대하는 반응을 보였습니다.그들은 연결주의가 발달하면서 컴퓨터주의의 고전적인 접근법에 의해 인지과학과 심리학 분야에서 진보가 이루어지고 있다고 본 것을 없애버리겠다고 위협했다고 주장했습니다.계산주의(computationalism)는 정신 활동이 계산적이라고 주장하는 인지주의의 구체적인 형태로, 즉 마음이 튜링 기계처럼 기호에 대해 순수하게 형식적인 연산을 수행함으로써 작동한다고 주장합니다.일부 연구자들은 연결주의의 경향이 연관주의로의 회귀와 그들이 잘못 본 것이라고 생각하는 사고 언어에 대한 생각의 포기를 나타낸다고 주장했습니다.이와 대조적으로, 바로 그러한 경향들이 다른 연구자들에게 연결주의를 매력적으로 보이게 만들었습니다.

연결주의와 계산주의가 대립할 필요는 없지만, 1980년대 후반과 1990년대 초반의 논쟁은 두 접근법 간의 대립으로 이어졌습니다.토론 내내, 일부 연구자들은 연결주의와 계산주의가 완전히 양립할 수 있다고 주장해 왔지만, 이 문제에 대한 완전한 합의에는 이르지 못했습니다.두 접근법의 차이점은 다음과 같습니다.

  • 컴퓨터 공학자들은 기본적인 뇌 구조와 구조적으로 유사한 상징적인 모델을 배치하는 반면 연결학자들은 그들의 모델이 신경 구조와 닮도록 노력하면서 "저수준" 모델에 참여합니다.
  • 일반적으로 계산주의자들은 그들의 내부 조작을 위해 명시적인 기호(정신적 모델)의 구조와 통사적 규칙에 집중하는 반면 연결주의자들은 환경 자극으로부터 학습하고 뉴런들 사이의 연결 형태로 이 정보를 저장하는 데 집중합니다.
  • 계산주의자들은 내부 정신 활동이 명시적 기호의 조작으로 구성된다고 믿는 반면 연결주의자들은 명시적 기호의 조작이 정신 활동의 빈약한 모델을 제공한다고 믿습니다.
  • 계산주의자들은 종종 인지의 특정 영역(예: 언어, 의도성, 숫자)에서 학습을 지원하도록 설계된 도메인 특정 기호 하위 시스템을 배치하는 반면 연결주의자들은 하나 또는 작은 집합의 매우 일반적인 학습 메커니즘을 배치합니다.

이러한 차이에도 불구하고, 일부 이론가들은 연결주의 구조가 단순히 유기 뇌가 기호 조작 시스템을 구현하는 방식이라고 제안했습니다.이것은 논리적으로 가능한데, 연결주의 모델이 계산주의 [27]모델에 사용되는 종류의 기호 조작 시스템을 구현할 수 있다는 것은 잘 알려져 있기 때문입니다. 기호 조작 작업을 수행하는 인간의 능력을 설명하려면 실제로 가능해야 하기 때문입니다.기호 조작 및 연결주의 아키텍처를 모두 결합한 여러 인지 모델이 제안되었습니다.그 중에는 폴 스몰렌스키의 ICS([7][28]Integrated Connectionist/Symbolic Cognitive Architecture)와 론 선의 CLARION(Cognitive Architecture)이 있습니다.그러나 논쟁은 이 기호 조작이 일반적으로 인지의 기초를 형성하는지 여부에 달려 있으므로, 이것이 계산주의의 잠재적인 입증은 아닙니다.그럼에도 불구하고, 계산 기술은 예를 들어 논리의 인지에 대한 높은 수준의 기술에 도움이 될 수 있습니다.

토론은 주로 연결주의 네트워크가 이러한 종류의 추론에서 관찰되는 구문 구조를 생성할 수 있는지에 대한 논리적 주장에 중점을 두고 있었습니다.이것은 나중에 연결주의 [27][29]모델에서 표준적으로 가정하는 것 이외의 빠른 가변 바인딩 능력을 사용하더라도 달성할 수 있었습니다.

컴퓨터 설명의 매력 중 하나는 그것들이 비교적 해석하기 쉽기 때문에 특정 정신 과정에 대한 우리의 이해에 기여하는 것으로 보일 수 있다는 것입니다. 반면 연결주의 모델은 일반적으로 매우 일반적인 용어(학습 알고리즘 지정 등)로만 설명할 수 있는 정도로 더 불투명합니다.rdms, 유닛의 수 등), 또는 도움이 되지 않는 낮은 수준의 용어.이러한 의미에서 연결주의 모델은 모델링 중인 특정 프로세스에 대한 유용한 이론을 나타내지 않고 광범위한 인지 이론(즉, 연결주의)에 대한 증거를 제공할 수 있습니다.이러한 의미에서, 논쟁은 특정 이론이 틀을 이루는 분석 수준의 단순한 차이를 반영하는 것으로 어느 정도 고려될 수 있습니다.일부 연구자들은 분석 격차가 연결주의 메커니즘이 계산 [30]용어로 설명할 수 있는 신흥 현상을 발생시킨 결과라고 제안합니다.

2000년대에, 정신 철학에서 동적 시스템의 인기는 [31][32]논쟁에 새로운 관점을 추가했습니다. 일부 저자들은[which?] 이제 연결주의와 계산주의 사이의 분열이 계산주의와 동적 시스템 사이의 분열로 더 결정적으로 특징지어진다고 주장합니다.

2014년, 딥마인드의 알렉스 그레이브스(Alex Graves)와 다른 사람들은 테이프에 기호를 읽고 기억에 기호를 저장할 수 있는 뉴럴 튜링 머신[33](Neural Turing Machine)이라고 불리는 새로운 딥 뉴럴 네트워크 구조를 설명하는 일련의 논문을 발표했습니다.DeepMind가 출판한 또 다른 Deep Network 모듈인 Relational Networks는 객체와 같은 표현을 만들고 복잡한 질문에 대답하도록 조작할 수 있습니다.관계망과 신경 튜링 기계는 연결주의와 계산주의가 대립할 필요가 없다는 추가적인 증거입니다.

상징주의 대 연결주의 논쟁

스몰렌스키의 하위 기호[34][35] 패러다임은 현대 연결주의에서 설득력 있는 인지 이론을 위해 고전적 기호 이론에 의해 공식화된 포도르-피리신[36][37][38][39] 도전을 충족해야 합니다.인지의 적절한 대안 이론이 되기 위해서 스몰렌스키의 하위 기호 패러다임은 인지 과정이 정신적 표현의 고전적 구성 구조에 인과적으로 민감하다는 가정 없이 언어 인지의 체계성 또는 체계적 관계의 존재를 설명해야 할 것입니다.따라서 하위 기호 패러다임, 또는 일반적인 연결주의는 고전적 인지 구조의 단순한 구현에 의존하지 않고 체계성과 구성성의 존재를 설명해야 할 것입니다.이 과제는 딜레마를 내포하고 있습니다.만약 하위기호적 패러다임이 정신적 표상의 체계성과 구성성에 아무런 기여를 할 수 없다면, 그것은 인지에 대한 대안적 이론의 근거로서 불충분할 것입니다.그러나 하위 기호 패러다임의 체계성 기여가 정신 표상의 고전적 구성 구조에 근거한 정신적 과정을 필요로 한다면, 그것이 전개하는 인식 이론은 기껏해야,기호 이론의 고전적 모델의 구현 구조이며 따라서 [40]인지의 진정한 대안적(연결주의적) 이론이 아닙니다.상징주의의 고전적 모델은 포도르의 "생각의 언어(LOT)"[41][42]에 사용된 정신 표현의 구문론 및 의미론적 구성 구조의 기본 원칙에 기초하여 (1) 정신 표현의 조합 구문 및 의미론과 (2) 구조 민감 과정으로서의 정신 운영을 특징으로 합니다.이것은 인간 인지의 다음과 같은 밀접하게 관련된 특성, 즉 (1) 생산성, (2) 체계성, (3) 구성성, 그리고 (4) 추론적 [43]일관성을 설명하는 데 사용될 수 있습니다.

이러한 도전은 예를 들어 스몰렌스키의 "통합 연결주의/상징주의(ICS) 인지 아키텍처"[44][45]뿐만 아니라 Werning and Maye의 "오실리틱스 네트워크"[46][47][48]에 의해 현대 연결주의에서 충족되었습니다.이에 대한 개요는 Bechtel & Abrahamsen,[49] Marcus[50] and Maurer가 [51]예를 들어 설명합니다.

참고 항목

메모들

  1. ^ "Internet Encyclopedia of Philosophy". iep.utm.edu. Retrieved 2023-08-19.
  2. ^ a b c d e f Berkeley, Istvan S. N. (2019). "The Curious Case of Connectionism". Open Philosophy. 2019 (2): 190–205. doi:10.1515/opphil-2019-0018. S2CID 201061823.
  3. ^ Boden, Margaret (2006). Mind as Machine: A History of Cognitive Science. Oxford: Oxford U.P. p. 914. ISBN 978-0-262-63268-3.
  4. ^ Schneider, Walter (1987). "Connectionism: Is it a Paradigm Shift for Psychology?". Behavior Research Methods, Instruments, & Computers. 19: 73–83. doi:10.1515/opphil-2019-0018. S2CID 201061823.
  5. ^ Marcus, Gary F. (2001). The Algebraic Mind: Integrating Connectionism and Cognitive Science (Learning, Development, and Conceptual Change). Cambridge, Massachusetts: MIT Press. pp. 27–28. ISBN 978-0-262-63268-3.
  6. ^ Smolensky, Paul (1999). "Grammar-based Connectionist Approaches to Language". Cognitive Science. 23 (4): 589–613. doi:10.1207/s15516709cog2304_9.
  7. ^ a b c Garson, James (27 November 2018). Zalta, Edward N. (ed.). The Stanford Encyclopedia of Philosophy. Metaphysics Research Lab, Stanford University – via Stanford Encyclopedia of Philosophy.
  8. ^ Novo, María-Luisa; Alsina, Ángel; Marbán, José-María; Berciano, Ainhoa (2017). "Connective Intelligence for Childhood Mathematics Education". Comunicar (in Spanish). 25 (52): 29–39. doi:10.3916/c52-2017-03. ISSN 1134-3478.
  9. ^ "Encephalos Journal". www.encephalos.gr. Retrieved 2018-02-20.
  10. ^ Wilson, Elizabeth A. (2016-02-04). Neural Geographies: Feminism and the Microstructure of Cognition. Routledge. ISBN 978-1-317-95876-5.
  11. ^ "Organismically-inspired robotics: homeostatic adaptation and teleology beyond the closed sensorimotor loop". Semantic Scholar. S2CID 15349751.
  12. ^ Zorzi, Marco; Testolin, Alberto; Stoianov, Ivilin P. (2013-08-20). "Modeling language and cognition with deep unsupervised learning: a tutorial overview". Frontiers in Psychology. 4: 515. doi:10.3389/fpsyg.2013.00515. ISSN 1664-1078. PMC 3747356. PMID 23970869.
  13. ^ "ANALYTIC AND CONTINENTAL PHILOSOPHY".
  14. ^ Browne, A. (1997-01-01). Neural Network Perspectives on Cognition and Adaptive Robotics. CRC Press. ISBN 978-0-7503-0455-9.
  15. ^ Pfeifer, R.; Schreter, Z.; Fogelman-Soulié, F.; Steels, L. (1989-08-23). Connectionism in Perspective. Elsevier. ISBN 978-0-444-59876-9.
  16. ^ Crick, Francis (January 1989). "The recent excitement about neural networks". Nature. 337 (6203): 129–132. Bibcode:1989Natur.337..129C. doi:10.1038/337129a0. ISSN 1476-4687. PMID 2911347. S2CID 5892527.
  17. ^ Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. (October 1986). "Learning representations by back-propagating errors". Nature. 323 (6088): 533–536. Bibcode:1986Natur.323..533R. doi:10.1038/323533a0. ISSN 1476-4687. S2CID 205001834.
  18. ^ Fitz, Hartmut; Chang, Franklin (2019-06-01). "Language ERPs reflect learning through prediction error propagation". Cognitive Psychology. 111: 15–52. doi:10.1016/j.cogpsych.2019.03.002. hdl:21.11116/0000-0003-474F-6. ISSN 0010-0285. PMID 30921626. S2CID 85501792.
  19. ^ Anderson, James A.; Rosenfeld, Edward (1989). "Chapter 1: (1890) William James Psychology (Brief Course)". Neurocomputing: Foundations of Research. A Bradford Book. p. 1. ISBN 978-0-262-51048-6.
  20. ^ a b c d e Schmidhuber, Juergen (2022). "Annotated History of Modern AI and Deep Learning". arXiv:2212.11279 [cs.NE].
  21. ^ Ivakhnenko, A. G. (1973). Cybernetic Predicting Devices. CCM Information Corporation.
  22. ^ Ivakhnenko, A. G.; Grigorʹevich Lapa, Valentin (1967). Cybernetics and forecasting techniques. American Elsevier Pub. Co.
  23. ^ Brush, Stephen G. (1967). "History of the Lenz-Ising Model". Reviews of Modern Physics. 39 (4): 883–893. Bibcode:1967RvMP...39..883B. doi:10.1103/RevModPhys.39.883.
  24. ^ Amari, Shun-Ichi (1972). "Learning patterns and pattern sequences by self-organizing nets of threshold elements". IEEE Transactions. C (21): 1197–1206.
  25. ^ Robbins, H.; Monro, S. (1951). "A Stochastic Approximation Method". The Annals of Mathematical Statistics. 22 (3): 400. doi:10.1214/aoms/1177729586.
  26. ^ Amari, Shun'ichi (1967). "A theory of adaptive pattern classifier". IEEE Transactions. EC (16): 279–307.
  27. ^ a b Chang, Franklin (2002). "Symbolically speaking: a connectionist model of sentence production". Cognitive Science. 26 (5): 609–651. doi:10.1207/s15516709cog2605_3. ISSN 1551-6709.
  28. ^ Smolensky, Paul (1990). "Tensor Product Variable Binding and the Representation of Symbolic Structures in Connectionist Systems" (PDF). Artificial Intelligence. 46 (1–2): 159–216. doi:10.1016/0004-3702(90)90007-M.
  29. ^ Shastri, Lokendra; Ajjanagadde, Venkat (September 1993). "From simple associations to systematic reasoning: A connectionist representation of rules, variables and dynamic bindings using temporal synchrony". Behavioral and Brain Sciences. 16 (3): 417–451. doi:10.1017/S0140525X00030910. ISSN 1469-1825. S2CID 14973656.
  30. ^ Ellis, Nick C. (1998). "Emergentism, Connectionism and Language Learning" (PDF). Language Learning. 48 (4): 631–664. doi:10.1111/0023-8333.00063.
  31. ^ Van Gelder, Tim (1998), "The dynamical hypothesis in cognitive science", Behavioral and Brain Sciences, 21 (5): 615–28, discussion 629-65, doi:10.1017/S0140525X98001733, PMID 10097022, retrieved 28 May 2022
  32. ^ Beer, Randall D. (March 2000). "Dynamical approaches to cognitive science". Trends in Cognitive Sciences. 4 (3): 91–99. doi:10.1016/s1364-6613(99)01440-0. ISSN 1364-6613. PMID 10689343. S2CID 16515284.
  33. ^ Graves, Alex (2014). "Neural Turing Machines". arXiv:1410.5401 [cs.NE].
  34. ^ P. 스몰렌스키:연결주의의 적절한 치료에 관해.인: 행동 및 뇌 과학.밴드 11, 1988, S. 1-74
  35. ^ P. 스몰렌스키:연결주의 정신 상태의 구성 구조: 포도르와 필리신에 대한 응답.In: T. Horgan, J. Tenson (Hrsg.): Spindel Conference 1987: 연결주의와 마음의 철학.남부 철학 저널.연결주의와 인지과학의 기초에 관한 특별호보충제.밴드 26, 1988, S. 137-161.
  36. ^ J.A. Fodor, Z.W. Pylyshyn: 연결주의와 인지 아키텍처: 비판적 분석.인지.밴드 28, 1988, S. 12-13, 33-50
  37. ^ J.A. Fodor, B.맥라흘린: 연결주의와 체계성의 문제: 왜 스몰렌스키의 해결책이 작동하지 않는가.인지.밴드 35, 1990, S. 183-184.
  38. ^ B. 맥러플린:연결주의/고전주의는 영혼을 얻기 위해 투쟁합니다.철학적 연구, Band 71, 1993, S. 171-172
  39. ^ B. McLaughlin: ICS 아키텍처가 체계성 및 생산성 문제를 해결할 수 있습니까?수신인: P. Calvo, J. Symons (Hrsg.):인지의 건축.Fodor와 Pylyshyn의 체계성 도전에 대해 다시 생각해 봅니다.MIT Press, Cambridge/MA, London, 2014, S. 31-76.
  40. ^ J.A. Fodor, B.맥라흘린: 연결주의와 체계성의 문제:왜 스몰렌스키의 해결책이 통하지 않는 거지.인지.밴드 35, 1990, S. 183-184.
  41. ^ J.A. Fodor:생각의 언어.Harvester Press, Sussex, 1976, ISBN 0-85527-309-7.
  42. ^ J.A. Fodor: LOT 2: 다시 찾은 사고의 언어.Clarendon Press, Oxford, 2008, ISBN 0-19-954877-3.
  43. ^ J.A. Fodor, Z.W. Pylyshyn (1988), S. 33-48.
  44. ^ P. Smolenky: 응답: 통합연결주의/상징인지구조에서의 구성구조 및 설명인: C. MacDonald, G. MacDonald (Hrsg.): 연결주의:심리학적 설명에 대한 토론.블랙웰 출판사입니다.Oxford/UK, Cambridge/MA. Vol. 2, 1995, S. 224, 236-239, 242-244, 250-252, 282.
  45. ^ P. 스몰렌스키, G. 레전드:하모닉 마인드: 신경 계산에서 최적성 이론 문법으로.Vol. 1: 인지적 건축Bradford Book, The MIT Press, Cambridge, London, 2006a, ISBN 0-262-19526-7, S. 65-67, 69-71, 74-75, 154-155, 159-202, 209-210, 235-267, 271-342, 513
  46. ^ M. 워닝:신경세포 동기화, 공변량 및 조성 표현인: M. Werning, E. Machery, G. Schurz (Hrsg.):의미와 내용의 구성성.제2권: 언어학, 심리학 및 신경과학에 대한 응용.Ontos Verlag, 2005, S. 283-312.
  47. ^ M. 워닝: 비기호적 구성 표현 및 그 신경 기반: 에뮬레이트 시맨틱스를 향하여.인: M. Werning, W. Hinzen, E. Machery (Hrsg.):옥스포드 구성 편람.옥스퍼드 대학교 출판부, 2012, S. 633-654
  48. ^ A. 메이언드 M.착용:신경세포 동기화: 역학적 특징 결합부터 구성 표현까지.혼돈과 복잡성 편지, 밴드 2, S. 315-325
  49. ^ Bechtel, W., Abrahamsen, A.A. 연결주의와 마음: 네트워크에서의 병렬 처리, 역학 및 진화.2판.블랙웰 출판사, 옥스포드 2002
  50. ^ G.F. 마커스:대수적인 마음.연결주의와 인지과학의 통합.Bradford Book, The MIT Press, Cambridge, 2001, ISBN 0-262-13379-2.
  51. ^ H. Maurer: 인지과학:현대 연결주의의 인지 신경 구조에서 통합적 동기화 메커니즘CRC Press, Boca Raton/FL, 2021, ISBN 978-1-351-04352-6.https://doi.org/10.1201/9781351043526

참고문헌

  • Rumelhart, D.E., J.L. McCleland와 PDP 연구 그룹(1986).병렬분산처리 : 인지의 미시구조에서의 탐색 1권 : 재단, 캠브리지, 메사추세츠: MIT 프레스, ISBN 978-0-262-68053-0
  • McClelland, J.L., D.E. Rumelhart와 PDP 연구 그룹(1986).병렬분산처리 : 인지의 미시구조에서의 탐색 제2권 심리생물학적 모델, 케임브리지, 매사추세츠: MIT 프레스, ISBN 978-0-262-63110-5
  • 핑커, 스티븐과 멜러, 자크 (1988).연결 및 기호, Cambridge MA: MIT Press, ISBN 978-0-262-66064-8
  • 제프리 엘먼, 엘리자베스 A.베이츠, 마크 H. 존슨, 아네트 카르밀로프-스미스, 도메니코 파리지, 킴 플렁켓 (1996).순진성을 다시 생각하기: 발전에 대한 연결주의적 관점, 캠브리지 MA: MIT Press, ISBN 978-0-262-55030-7
  • 마커스, 게리 F. (2001)대수적 마인드: 연결주의와 인지과학의 통합(학습, 개발, 그리고 개념적 변화), 매사추세츠 캠브리지: MIT 출판사, ISBN 978-0-262-63268-3
  • David A. Medler (1998). "A Brief History of Connectionism" (PDF). Neural Computing Surveys. 1: 61–101.
  • Maurer, Harald (2021).인지과학: 현대 연결주의의 인지 신경 구조에서 통합적 동기화 메커니즘, 보카 라톤/FL: CRC Press, https://doi.org/10.1201/9781351043526, ISBN 978-1-351-04352-6

외부 링크

이 기사 듣기 (19분)
Spoken Wikipedia icon
이 오디오 파일은 2011년 11월 26일자 본 문서의 개정판(2011-11-26)에서 작성되었으며 이후의 편집 내용은 반영되지 않습니다.
(오디오 도움말 · 더 많은 음성 기사)