인공지능과 사람은 어떻게 같고, 다를까?

인공지능과 사람은 어떻게 같고, 다를까?

1. 들어가는 말

 1936년, 앨런 튜링(A. Turing 1912-1954)은 계산하는 기계를 대표하는 모형으로 “a-machine”을 세상에 내어 놓는다.^[각주:1]“a-machine”은 기계가 저장 공간의 기호들을 읽어 다른 상태로 전이할 수 있다면 스스로 연산처리 할 수 있음을 이론적으로 증명한 것이다. 이를 기반으로 연산 작용이 가능한 기계, 컴퓨터가 생겨났다. 이에 따라 기계에 위임 가능한 작용의 범위를 확대시키며 인간이 할 수 있는 모든 작용을 기계로 실현하고자 하는 시도들이 나타났다. 인간이 수행할 수 있는 작용을 기계로 위임한 모델을 ‘인공지능(Artificial Intelligence)’라고 한다. 현재는 인공지능이 한 분야에서 인간보다 높은 효율로 혹은 더욱 정교하게 작업을 수행할 수 있도록 개발되어 있다. 가볍게는 세탁량에 따라 수위 조절을 하는 세탁기부터, 심화된 인공지능으로는 2015년 등장한 소피아(Sophia)가 그러하다.

 세탁기와 소피아가 모두 ‘인공지능’이라 불릴 수 있긴 하지만, 상식적으로 이 두 가지를 동급으로 받아들이기는 어렵다. 인공지능에도 종류가 있다. 그것은 강한 인공지능(강인공지능, Strong AI, 일반 인공지능, General AI)과 약한 인공지능(약인공지능, Weak AI, 좁은 인공지능, Narrow AI)이다. 인공지능의 개발은 기술의 한계에 대한 시험 혹은 유용한 삶의 추구를 목적으로 한다. 거칠게 이 목적을 인공지능과 연관 짓는다면 강인공지능은 인간과 구분하기 어려운 인공지능의 개발을, 약인공지능은 인간이 인공지능의 기술을 효율적으로 이용하기 위한 방안을 모색하는 것을 대응시킬 수 있다.

 강한 인공지능을 살펴볼 때, 인간과 구분하기 어려운 인공지능은 인간과 같다고 말할 수 있을까? 강인공지능이라면 겉보기에 드러나는 언어적 표현을 포함한 행동은 인간과 구분하기 어려울 수 있다. 그러나 나는 인공지능은 인간과 같아질 수 없다고 생각한다. 이 말은 내가 대화하고 있는 상대가 인간인지 인공지능인지 구분하지 못할 수 있다는 것을 부정하고 싶은 것은 아니다. 오히려 인간과 인공지능에 높은 수준의 유사성이 있음은 인정한다. 그러나 인간에게는 인공지능이 구현해내지 못하는 무언가가 있다. 이 글에서는 인간과 인공지능의 유사성과 인공지능이 구현해내지 못하는 무언가를 인공지능과 인간의 공통점과 차이점으로 표현하여 제시할 것이다.

 인공지능에 대해서는, 인공지능의 일처리 방식을 ‘머신러닝’, ‘딥러닝’, ‘신경망’이라는 단어를 통해 상식적인 수준에서 알아볼 것이다. 그 후 “강한 인공지능”이란 무엇인지 규정할 것이다. 강한 인공지능의 기준을 제시하는 세 가지 입장이 있다. 이 입장들을 살펴보고 인간과 인공지능의 비교를 가능하게 하는 입장인 “인간의 마음을 구현해야 강한 인공지능이다”라는 입장을 취할 것이다. 이 글에서는 논의의 편의성을 위해 인공지능의 기반을, 분자 컴퓨터나 양자 컴퓨터로 구현되는 계산이 아닌 실리콘 기술로 한정한다.

 인간에 대해서는, 인간의 마음을 설명하는 방식 중 하나인 기능주의에 대해 살펴보고, 기능주의가 좋은 설명능력을 갖추고 있음에도 인간의 마음을 완전히 담아내지 못함을 보일 것이다. 기능주의적 입장을 바탕으로 인간과 인공지능의 일처리가 어떻게 같고 다른지 제시할 것이다. 이 글에서는 ‘인간’과 ‘사람’을 모두 사용하는데, 이는 동의어이지만 관용적 표현에 따라 다르게 사용됨을 고려한 것이다. 

2. 몸말

Ⅰ. 인공지능 알아보기

 나처럼 인공지능에 대한 배경지식이 거의 없는 사람이 ‘인공지능’을 들었을 때 떠오르는 어깨너머로 들은 말들은 “머신러닝Machine Learning”, “딥러닝Deep Learning”, “신경망” 따위일 것이다. 공중에 흩날리는 것 같은 개념들을 간단히 알아가는 방식으로 인공지능이 무엇인지 정리하겠다.

 머신러닝이란, 대량의 데이터를 컴퓨터에 입력시켜 컴퓨터가 작업수행방식을 익히도록 하는 방법이다. 기존의 컴퓨터공학은 의사결정기준을 입력시켜 데이터를 처리하도록 했다면, 머신러닝은 데이터를 입력시켜 작업수행방식을 찾아내도록 한다는 점에서 차이가 있다. 머신러닝의 활용 예시로는 자동스팸메일처리가 있다. 이 작업수행방식을 학습시키기 위해서 주어진 대량의 데이터는 (메일 내용1, 스팸), (메일 내용2, 스팸 아님), … 일 것이다. 이를 통해 스팸으로 분류되는 메일 내용 규칙들을 알아내고, 그것을 새로 수신하는 메일에 적용시켜 스팸메일과 그렇지 않은 메일을 구분하는 것이다. 머신 러닝에도 여러 종류가 있는데,^[각주:2] 그 머신러닝의 종류 중 인간의 신경망 모양을 본 떠 만든 구조, 인공신경망구조를 심화한 것이 딥러닝이다.

 그 동안 기계는 사람과 달리 구체적으로 정보를 처리했다. 예를 들어 ‘원’을 ‘한 점A에 이르는 거리가 일정한, 평면 위의 점들의 집합으로 정의되는 평면도형’이라고 컴퓨터에 입력시켰다고 하자. 그 다음 B라는 점이 다른 점들에 비해 A에 이르는 거리가 0.001만큼 짧게 그린다. 이것을 컴퓨터에게 ‘원’인지 아닌지 판단하게끔 한다면, 컴퓨터는 이것을 ‘원’이 아니라고 판단한다. 그러나 사람은 그 모양을 보고 ‘원’이라고 말할 것이다. 즉, 사람은 기계에 비해 대상을 판단하는 경계가 추상적이다. 이 추상적인 경계를 갖는 원인을 인간의 신경망에서 찾았고, 이를 머신러닝에 적용한 것이 인공 신경망 구조이다. 인공 신경망 구조를 적용시킬 때 신경망의 수를 늘릴 경우 발생했던 오류들을 해결하여 인공 신경망 구조를 강화시킨 것이 딥러닝이다. 딥러닝에도 다양한 알고리즘이 있는데, 그 중 두 가지인 CNN과 RNN의 쓰임을 간단히 비교하고자 한다. CNN은 Convolutional Neural Network의 줄임말로, 영상이나 이미지 등을 인식하는 알고리즘이다. 사과 이미지를 입력시켰을 때 그 이미지가 사과 이미지라는 것을 인공지능이 판단하여 “이것은 사과다”를 출력하게 하는 데에 쓰인다. 혹은 영상의 한 프레임을 입력시켰을 때 어떤 영상의 발췌인지 알아차리게 하는 데에 사용된다. 이 방식에서는 특징을 추출하는 연상법이 신경망 구조를 이룬다. RNN은 Recurrent Neural Network의 줄임말로, 음성인식 및 음악 혹은 필기체와 같이 입력 혹은 출력 순서에 시간 차이가 있는 데이터의 처리에 쓰인다. 입력된 과거의 내용을 통한 현재의 내용에 대한 문맥을 파악하는 Sequential Data 학습이 신경망 구조를 이룬다.

 Ⅱ. 인간과 비교될 수 있는 강한 인공지능

 서론에서 언급했듯, 인공지능은 강한 인공지능과 약한 인공지능으로 나눌 수 있다. 강한 인공지능은 인간을 전체적으로 모사하는 방향을 취하고, 약한 인공지능은 특정 분야에서 뛰어난 기능을 할 수 있도록 한다. 2016년 세계를 달궜던 알파고(AlphaGo)는 약한 인공지능에 포함된다. 인간과 인공지능의 관계를 살필 때의 ‘인공지능’이 “약한 인공지능”이라면, 인간은 인공지능을 어떻게 효율적으로 이용할 수 있을 것인가 하는 방향으로 논의가 진행될 것이다. 그러나 이 글에서는 인간과 인공지능의 공통점과 차이점을 다루고자 한다. 그렇다면 이때의 ‘인공지능’은 “강한 인공지능”일 것이다. 따라서 강한 인공지능과 약한 인공지능은 구분되어야 한다. 즉, 무엇이 강한 인공지능인가 판단할 수 있는 기준이 제시되어야 한다. 인공지능과 인간과의 관계를 논의할 때에 그것이 기준이 되어 사용되기 때문이다.

 강한 인공지능을 규정하는 관점은 크게 세 가지가 있다.^[각주:3] 첫째는 인간의 마음을 구현해야, 둘째는 인간의 능력을 포괄적으로 구현하면, 셋째는 인간보다 우월한 종으로 개발되어야 강한 인공지능이라고 주장한다.

 첫째 관점은 인간의 마음^[각주:4]을 구현하는 것을 강한 인공지능으로 본다. 다시 말하면, 강한 인공지능이란 행동으로 인간과 구분될 수 없는 정도가 아니라, 인간과 같이 행동하는 동시에 그 행동에서 인간이 느끼는 느낌을 구현해야 한다. 이 입장에 존 설(John Searle, 1932-)이 속한다. 그는 ‘강한 인공지능’은 ’말 그대로 마음mind이며, 인지적 상태를 가지는 적절하게 프로그래밍 된 컴퓨터.’라고 말하지만, 이것이 실현가능하지 못하다고 말한다. 인공지능이 인간과 비슷한 행위를 한다는 이유로 인지적 상태를 지녔다고 말할 수 없다는 것이다. 왜냐하면 프로그램은 구문론^[각주:5]적이고, 마음은 의미론^[각주:6]적인데, 구문론과 의미론이 같지도 않고 구문론이 의미론을 위해 충분하지 않기 때문이다. 이 논증을 보다 쉽게 나타낸 것이 “중국어 방” 사고실험일 것이다. 중국어 방 사고실험의 내용을 간단히 설명하자면 다음과 같다. 어떠한 방이 있고 그 방 안에는 중국어로 된 문답표와 필기구가 있다. 이 방에 영어밖에 할 수 없는 사람이 들어간다. 방 밖에서 중국어를 할 줄 아는 사람이 중국어로 된 질문지를 넣었을 때, 이 영어밖에 모르는 사람이 문답표를 보고 질문에 맞는 답을 적어 방 밖으로 내보낸다. 그렇다면 방 밖에 있던 중국어를 할 줄 아는 사람은 방 안에 있는 사람이 중국어를 할 줄 안다고 판단하지만 실제로는 그렇지 않다. 현재 인공지능이 개발되고 활용되는 모양이 “중국어 방”과 크게 다르지 않다. 둘째 관점은 여기서 시작한다.

 둘째 관점에 따르면 강한 인공지능이란 인간의 할 수 있는 기능을 포괄적으로 구현한 것이다. 즉, 입력과 출력이 인간과 유사하면 강한 인공지능이라는 것이다. 이들은 인간의 느낌이 구현되지 않아도 인간이 하는 역할을 구현하면 강한 인공지능이라 여기기 때문에 중국어 방 논증을 피할 수 있다. 이 입장에선, 이미 ‘인공지능’이라 불리는 것들이 이미 사회적으로 널리 활동하기 시작했기 때문에 그것들의 실용적이고 사회적인 존재를 인정해야 한다고 주장한다. 이 입장에서는 첫째 관점에서 주장하는 ‘강한 인공지능’이 만들어질 가능성이 낮다고 생각하며, 인간과 구분할 수 없는 인공지능을 만드는 것을 인공지능 개발의 목표로 삼지 않아도 된다고 본다. 따라서 인공지능의 마음과 의식에 관한 논의보다는 인공지능의 현실적인 작동에 의미를 둔다.

 그러나 셋째 관점에서는 초월적인 인공지능을 다룬다. 셋째 관점에 따르면 강한 인공지능은 인간보다 우월한 지성이다. 인간 수준의 인공지능이 탄생하게 된다면 인공지능은 인간의 지능을 초월할 수밖에 없는데, 그 이유는 다음과 같다. 기계는 쉽게 지식을 공유하고 자원을 공유하며 기계 지능은 최고의 기술을 늘 최고의 수준으로 수행할 수 있기 때문이다. 이들은 인간과 인공 지능과의 관계는 중요하지 않다고 본다. 인공지능이 어느 지점까지 개발되면 쉽게 인간 지능을 초월할 것으로 확신한다. 인간보다 우월한 지적 능력을 가진다는 의미가 인간이 할 수 있는 두뇌활동의 전반을 의미하는 것인지는 더 조사가 필요할 듯하다. 그러나 이미 단순한 계산 능력에서는 컴퓨터의 속도를 따라잡을 수 없고, 바둑 분야에서 알파고(AlphaGo)도 빠른 속도와 높은 승률로 인간을 이겼다. 창의성 부분에서도 이미 인공지능의 발전이 시작되었는데, 알파고와 같은 해 7월 일본 클로렛츠(Clorets)에서 선보인 광고를 만드는 인공지능 크리에이티브 디렉터(Creative Director)는 사람이 만든 광고와의 대결에서 단지 8%포인트 차이로 패했고, 인공지능이 쓴 단편소설 ‘컴퓨터가 소설을 쓰는 날’이 SF문학상 1차 심사를 통과했다.

 각 관점에 따라 강한 인공지능과 인간과의 관계에서 다른 내용을 다루게 될 것이다. 이 글에서는 첫째 관점에서의 인공지능을 바라보는 방식을 기준으로 논의할 것이다.

 Ⅲ. 인간의 마음 알아보기

 우리는 움직이기 위해 움직이지 않는다. 즉 인간의 움직임은 움직임 자체가 목적이 되지 않는다. 우리의 의지를 포함하는 행위에는 “마음”이 포함되어 있다. 그렇다면 마음은 무엇인가? 마음은 직접성, 사밀성(私密性, private), 오류가능성 없음이라는 속성을 가진다. 직접성이란 나의 나에 대한 태도로 거짓말할 수 없음을 나타낸다. 사밀성이란 마음이 경험하는 바로 그 본인을 통해서만 접근 가능함을 나타낸다. 오류가능성이 없다는 것은 “나는 이것이 검은 색으로 보인다.”라고 할 때 그것이 설령 실제로 검은 색이 아니라 하더라도 나에게 이것이 검은 색으로 보이는 것은 거짓일 수 없음을 나타낸다. 또한 마음은 지향성을 가진다. 이것은 문자 그대로, 마음은 어딘가를 향한다는 것을 의미한다. 예를 들어, 사랑에 있어서는 어떤 것이 사랑 받고, 미움에 있어서는 어떤 것이 미움 받고, 욕구에 있어서는 어떤 것이 욕구된다. 또한 마음은 비공간적이다.

 비공간적인 마음이 어떻게 물리적(공간적)인 행동을 야기할까? 심(心)적 사건과 물리적 사건의 인과관계에 대한 문제를 심신문제라 한다. 이 문제에 대해 마음을, 물리적인 것이 가지고 있는 속성으로 인식하는 물리주의가 현대 심리철학의 큰 흐름이다. 물리주의의 기본 입장을 살펴보는 것이 물리주의를 이해하는 데에 도움이 될 것이다.

 물리주의자라면 기본적으로 수반이론을 받아들인다. 수반이론이란, A와 B가 물리적인 측면에서 모두 같으면 A와 B의 심적 측면에서 차이가 없다는 이론이다. 물리주의는 인간의 마음을 물질적인 것으로 설명하려는 시도를 해왔다. 행동을 통해 인간의 마음을 알 수 있다는 행동주의나, 마음이 두뇌의 상태와 동일하다는 심신동일론, 마음이 물리적인 것에 영향을 미치는 역할로 설명하려는 기능주의가 그 시도들이다. 물론 각 입장들은 적절한 반론에 의해 반박되지만, 최근 동향이기도 하며 나의 상식에서 마음을 가장 잘 설명했다고 여겨지는 기능주의를 통해 마음을 파악하고자 한다.

 기능주의는 기계기능주의와 인과론적 기능주의로 세분화되지만, 이 글에서는 한 입장을 선택하지 않고 기능주의의 기본 입장을 취하고자 한다. 기능주의는 functionalism의 번역어로, function의 두 가지 의미―함수, 기능―를 모두 가지고 있다. 기능주의는 심적인 상태를 기능으로서 파악한다. 즉 심적 상태가 매개하는 입력과 출력의 관계들에 의해서 심적 상태가 규정될 수 있다는 것이다. 예를 들어, 심적 상태인 고통이 다른 심적 상태인 가려움과 구별되는 것은 각 상태의 특유한 입력-출력 관계라고 한다. “입력-심적 상태-출력”의 구조로 고통과 가려움을 설명하자면 “압정을 밟음-고통-움츠리고 ‘아야’소리를 냄”, “모기가 물었다-가려움-긁음”의 구조가 된다.

 기능주의의 특징은 심적인 상태가 실재한다는 존재론적 입장을 취한다는 것이다. 심적인 상태가 실재하기 때문에 인과력을 가질 수 있다. 따라서 입력과 출력에 물리적인 상태만 포함되는 것이 아니라 심적인 상태도 포함된다. 기능주의가 물리주의의 입장을 대변하여 표현될 때는 다음과 같다.

만일 x가 심적 속성 M을 가지고 있다면, x는 물질적이고 x는 M을 실현하는 물리적 속성 P를 가진다.

 예를 들어, 나x가 고통^[각주:7]M을 가지고 있다면(느낀다면), 나x는 물질적이고 나x는 고통M을 실현하는 조직 손상(tissue damage)P를 가진다고 말할 수 있다. 이때 고통M의 기능은 손상 입음을 발견하게 해서 생존에 기여하는 것으로 볼 수 있다. 마음을 기능으로 설명하고자 하는 기능주의는 인간과 다른 물리적 기반을 가진 문어와 같은 연체동물 혹은 파충류도 고통과 같은 인간과 같은 심적 속성을 가질 수 있다는 다수실현가능성 문제를 해소할 수 있다는 장점이 있다.

 그러나 기능주의도 설명하지 못하는 부분이 있다. 이 글에서는 그 중 감각질(Qualia)을 다루고자 한다. 감각질이란, 느낌 혹은 질적 상태로 설명될 수 있다. 쉽게 말하자면 느끼는 그 상태가 감각질이다. 감각질은 그 정의보다는 구체적 예에 의해 더 잘 파악될 수 있다. 하늘의 푸르름, 적당히 익은 김치의 시큼한 맛, 날카로운 것에 찔렸을 때의 아픔이 그 예시가 될 수 있다. 우리는 고통의 심적 상태에 “아픈 느낌”을 동반한다. 고통이 공유하고 있는, 그것 때문에 고통이라고 할 수 있는 것이 무엇이냐고 묻는다면, 아픈 느낌이라고 답할 수 있다. 그러나 기능주의에서는 고통이란 압정을 밟고 움츠려 ‘아야’ 소리를 낸다는 설명을 제시할 수 있을 뿐, 아픈 느낌에 대해서는 설명할 수 없다.

 감각질을 이용하여 기능주의에게 제기된 반론 중 하나는 ‘뒤바뀐 감각질’이라고 불린다. 사람 A와 B가 있다고 가정하자. B는 잘 익은 토마토를 볼 때 B의 색 경험은 A가 시금치 한 다발을 볼 때 경험하는 색깔과 같고, B가 시금치 한 다발을 볼 때 B의 색 경험은 A가 잘 익은 토마토를 볼 때 경험하는 색깔과 같다. 하지만 A와 B 모두 잘 익은 토마토를 보고 “빨간 색”이라고, 시금치 한 다발을 보고 “녹색”이라고 답한다. A와 B의 색 체계는 뒤바뀌어 있지만, 입력과 출력에서는 차이가 없다.

 이러한 경우에 우리는 직관적으로 다른 기능을 하는 심리 상태를 가진다, 다른 감각질을 가진다고 말하게 되지만, 기능주의에서는 이 차이를 설명하지 못한다는 난점이 있다.

 

Ⅳ. 인공지능과 사람의 일처리방식에서의 공통점과 차이점

ⅰ. 공통점

① 입력과 그에 상응하는 출력이 있다.

사람과 인공지능은 모두 입력되는 정보가 있으면 그것이 어떤 종류의 출력이든, 그에 대응하는 반응을 내어 놓는다.

② 신경망구조로 구성되어 추상적인 정보 처리가 가능하다.

인공지능이 사람의 구조를 본떠 만들었기 때문에 당연하게 느껴질 수도 있지만, 둘 다 일처리에서 추상적인 정보를 다룰 수 있다. 2-Ⅰ에서 들었던 원이라고 대답하는 과정의 예시를 통해 설명했던 것처럼, 인간과 인공지능 모두 경계가 모호한 추상적인 정보의 처리가 가능하다.

③ 판단을 위해 학습이 필요하다.

사람도 인공지능도 처음에 학습이 필요하다. 또한 일처리를 함에 있어서 일정한 체계를 거치며 이 작업은 각각 뇌와 CPU에 해당하는 중앙처리장치에서 이루어진다, 사람에게는 언어 구조를 이해하는 학습, 언어와 의미를 대응시키는 학습, 날씨에 관한 정보를 인터넷이나 신문 등을 통해 찾을 수 있다는 학습 등이 필요하다. 인공지능에게는 인간의 음성을 분석하는 학습, 언어 구조에 맞게 정보를 배열하는 학습 등이 필요하다.

 

ⅱ. 차이점

① 사람에게는 감각질이 있지만, 인공지능은 감각질을 가질 수 없다.

사람과 인공지능에게 동일한 입력과 출력이 나타난다고 해서 동일한 심적 상태를 가지고 있지 않다. 인공지능은 기본적으로 함수처럼 입력과 출력을 기계적으로 연결시킨다. 특정한 상황에서 인공지능도 ‘사랑해요’라고 말할 수 있다. 그러나 인공지능은 사랑한다는 느낌이 인공지능으로 하여금 ‘사랑해요’라고 말하게 하지 않는다. 특정 입력에 대해 ‘사랑해요’라는 출력만을 내 놓을 뿐이다. 이를 일반화하여 말하면, 인공지능은 감각질을 가지고 있지 않다고 할 수 있다. 인공지능의 정보 처리 과정에서 0과 1이 되풀이하여 주어지는 한, 그 0과 1의 조합이 무엇을 나타내든지 또 다른 0과 1만을 산출하게 될 것이다. 그러나 인간의 마음은 그것이 어떤 것을 향해 있다는 가리킨다는 지향성 때문에 인공지능과 다르다. “사랑한다”는 것이 무엇을 나타내는지 인간은 안다.

② 인공지능은 입력 정보에 따라 일처리방식이 다르다.

2-Ⅰ의 후반부에서 딥러닝의 종류 중 CNN방식과 RNN방식이 있음을 설명했다. 이 두 방식이 나뉘는 이유는 인공지능의 경우 입력 정보에 따라 처리 방식이 다르기 때문이다. 입력 정보가 영상이나 이미지 등 특징을 추출하는 연상법이 사용되어야 한다면 CNN, 입력 정보가 음성인식 및 음악 혹은 필기체와 같이 입력된 과거의 내용을 통한 현재의 내용에 대한 문맥을 파악해야 한다면 RNN방식으로 인공지능을 구성해야 할 것이다. 그러나 사람은 입력 정보에 따라 마음이 작용하는 방식이 달라지지 않는다.

③ 사람과 인공지능은 최초의 학습에 필요한 정보, 시간이 다르다.

무작위로 사진을 보고 사진 속 대상이 사과인지 아닌지 구분하는 인공지능이 있다고 하자. 이 인공지능은 주어진 사진 속 대상을 구분하기 위해 수많은 사진을 보고 이것이 사과인지 아닌지 확인하는 과정을 거쳐야한다. 한 사진을 보고 “이것은 사과다”라고 출력했을 때 그 답이 맞으면 강화를, 그 답이 틀리면 보정을 하는 작업이 이뤄지는 것이다. 인공지능은 철저히 학습 데이터만을 바탕으로 최적의 판단이나 예측 값을 찾아낼 뿐이다. 그러나 사람은 하나의 사진만으로도 사과 사진인지 아닌지 구분이 가능하다. 꼭 사진이 아니라 그림을 통해서라도 대상과 ‘사과’를 연결시킨다면 “사과”를 보고 ‘사과’라고 말하는 것은 어린 아이도 할 수 있는 일이다.

 

Ⅴ. 제기될 수 있는 의문과 재반박

 물론 내가 제시한 인간과 인공지능의 차이에 대하여 동의하지 않을 수 있는 방법은 이 글 자체를 무용하게 만들 수 있을 정도로 많다. 이 글에서 논의를 전개하기 위해 특정지은 분류부터 문제 삼을 수 있다. 어째서 인간의 마음을 구현해야 강한 인공지능이라고 부를 수 있는지, 다른 많은 마음에 대한 이론들도 적절한 반론을 가짐에도 어째서 기능주의의 입장을 선택했는지 등이다. 많은 지식을 가지고 있지도 않고, 아직 첨예하게 다듬어지지 않은 논의이기 때문에 그 모든 문제에 대하여 해명할 수는 없지만, 반론을 제시할 수 있는 질문을 다루어보고자 한다.

이 글에서는 느낌 혹은 의미로 표현될 수 있는 감각질을 인공지능이 가질 수 없다는 점에서 인공지능과 인간이 질적으로 다르다고 주장했다. 그러나 인간 또한 실제로는 감각질을 가지고 있지 않다는 점이 반론으로 제시될 수 있다. 미래학자 레이 커즈와일(Raymond Kurzweil, 1948-)은 그의 저서 『특이점이 온다』에서 “중국어 방”에 대해 다음과 같이 말했다.

“인간은 뇌가 있기 때문에 생각이란 것을 할 수 있다. 하지만 뇌는 결국 뉴런들의 집합일 뿐이며 이 부품(뉴런) 하나하나는 생각을 할 수 없다. 뉴런 하나는 단순히 물리, 화학 법칙을 따라서 작동할 뿐이다. 다만 이 부품들이 모여서 뇌라는 하나의 시스템을 이룰 때 비로소 생각이라는 것을 할 수 있게 되고 중국어를 이해할 수 있게 되는 것이다. 이렇게 생각해보면 중국어 방 논증 또한 시스템을 구성하는 요소들, '방', '방 안의 사람', '매뉴얼'은 중국어를 이해하지 못해도 괜찮다. 이것들이 모여서 '중국어 방'이라는 하나의 체계를 이뤄서 중국어로 아무 문제없이 소통할 수 있다면 이 '시스템'은 중국어를 이해하고 있다고 해도 무방한 것이다“

인용에서 제시한 ‘시스템’은 인간을 의미하고 ‘방’과 ‘방 안의 사람’, ‘매뉴얼’은 뉴런과 같이 인간이 작동할 수 있도록 하는 전달 체계를 의미하는 것으로 보인다. 즉 신경 과정은, 인공지능의 계산 과정이 그러하듯이 의미와 표상 내용들에 대해 반응하지 않을 것이라는 입장이다. 분자와 세포들로부터 어떻게 의미와 이해가 발생할 수 있는지는, 일련의 0과 1들로부터 어떻게 의미와 이해가 발생할 수 있는지 하는 문제와 같은 위상을 갖는다는 것이다. 인용에서의 주장은 다음과 같이 정리될 수 있다.

 그러나 이러한 분석은 옳지 않게 본 것 같다. 인공지능을 인공지능이게끔 하는 것은 무엇인가? 나는 그것이 중국어 방 논증에서는 매뉴얼, 인간에게는 뇌로 대응되는 알고리즘이라고 답하고 싶다. 여기서 알고리즘은 신경망구조를 구성하는 층(Layer), 소프트웨어 등 그것이 무엇이든 인공지능의 기능-인간과 유사한 행동을 보이게 하는-을 가능하게 하는 추상적인 어떤 것을 대변하는 말로 사용했다. 따라서 중국어 방 논증과 인공지능, 인간은 각각 다음과 같이 대응되어야 한다.

 이렇게 분류한다면 인간을 기능하게 하는 뇌는 감각질을 가질 수 있지만, 인공지능을 가능하게 하는 알고리즘은 감각질을 가질 수 없다.  

3. 나가는 말 (결론 및 요약)

 나의 직관에서 인공지능은 인간과 같을 수 없다. 그것은 정합적인 주장과 근거에서 비롯된 것이 아니라 생명이 없는 인공지능에게 인간의 고유함을 침범당하는 부정적인 느낌에서였다. 그래서 인간이 할 수 있는 행동이나 판단들을 구현해낼 수 있는 강한 인공지능이 인간과 다르다는 주장을 세워나가는 방향으로 글을 진행했다.

 인공지능에 대해서는, 인공지능의 일처리 방식을 ‘머신러닝’, ‘딥러닝’, ‘신경망’이라는 단어를 통해 상식적인 수준에서 알아보았다. 머신러닝이란, 대량의 데이터를 컴퓨터에 입력시켜 컴퓨터가 작업수행방식을 익히도록 하는 방법이다. 머신러닝의 종류 중에 인공신경망 구조가 있는데, 이것은 컴퓨터가 추상적인 정보 처리를 가능하도록 만들어 주는 모델이다. 인공신경망 구조를 심화시킨 것이 딥러닝이다.

 그 다음 강한 인공지능을 바라보는 세 가지 관점을 알아보았다. 첫째는 인간의 마음을 구현해야 강한 인공지능이라고 보는 관점이었다. 이것은 인간과 구분할 수 없는 마음을 가진 인공지능을 개발해야 한다는 목소리가 아니라 인간만이 가질 수 있는 마음을 인공지능에서 구현할 수 없기 때문에 인간의 고유성을 인공지능이 침범할 수 없다는 입장이었다. 이 관점의 주장을 존 설의 주장을 통해 알아보았다. 존 설은 “중국어 방”이라고 불리는 예시를 통해 인공지능은 인간의 마음에서만 가능한 의미론적 파악이 불가능함을 보였다. 현실에서 사용되는 인공지능은 “중국어 방”에서 제시한 비판에 반론할 수 없었다. 둘째는 인간의 능력을 포괄적으로 구현하면 강한 인공지능이라고 주장하는 입장이었다. 이 입장은 첫째 관점에 반해 인공지능이 마음을 가지지 않는 상태로서 인정되어야 한다고 주장한다. 셋째 관점은 인공지능이 인간보다 우월한 종으로 개발된다고 주장하는 관점이다. 인공지능은 항상 같은 기술을 최상의 상태로 구현할 수 있으며 지식의 공유가 빠르기 때문에 인공지능은 인간을 능가하는 초지성이 될 것이라는 입장이다. 이 글에서는 첫째 관점에서 인공지능을 다루었다.

 인간에 대해서는, 마음의 특징을 먼저 살펴보았다. 마음은 직접성, 사밀성(私密性, private), 오류가능성 없음이라는 속성을 가진다. 또한 마음에는 지향성이 있고, 또한 마음이 비공간적이라고 설명했다. 그 다음 인간의 마음을 설명하는 방식 중 하나인 기능주의에 대해 살펴보았다. 기증주의란 인간의 마음을 함수와 기능의 의미로 해석한 것이었다. 즉 사람이 갖는 어떤 마음에 대해서, 그 마음과 관계하는 입력과 출력에 의해서 심적 상태가 규정될 수 있다는 것이다. 그러나 기능주의는 인간의 마음을 해석한 여타 입장들과 달리 다른 물리적 기반을 가진 개체들이 같은 심적 상태를 가질 수 있다는 것을 설명할 수 있는 능력을 갖추고 있음에도 인간의 마음을 완전히 담아내지 못했다. 그것은 감각질에 대한 설명 때문이었다. 기능주의는 느낌과 같이 나타나는 감각질을 심적 상태에 담아내지 못하였다. 그것을 뒤바뀐 감각질의 예시를 통해 살폈다.

 이를 바탕으로 인공지능과 인간의 일처리방식에서 나타나는 공통점과 차이점을 살펴보았다. 인공지능과 인간의 일처리 방식에서 나타나는 공통점과 차이점은 다음과 같다.

① 입력과 그에 상응하는 반응이 있고, ② 신경망구조로 구성되어 추상적인 정보 처리가 가능하며, ③ 판단을 위해 학습이 필요하다는 점이 공통점으로 제시되었다.

차이점으로는 ① 사람에게는 감각질이 있지만, 인공지능은 감각질을 가질 수 없다는 점과, ② 인공지능은 입력 정보에 따라 일처리방식이 다르고, ③ 사람과 인공지능은 최초의 학습에 필요한 정보, 시간이 다르다는 것을 제시하였다.

 이러한 작업을 하는 가운데 제기될 수 있는 의문으로 “중국인 방”예시에 대한 반론, 레이 커즈와일의 의견을 살펴보았다. 그러나 레이 커즈와일의 의견에서 인공지능과 인간의 대응이 제대로 짝지어지지 않았음을 보여 인간도 감각질을 가지지 않기에 중국인 방 논증이 무력화되었다는 그의 주장 충분하지 못함 또한 보였다.

 

참고 문헌

김도식, <인공지능 로봇 ‘소피아’와 함께하는 시대>, 철학과 현실, 철학문화연구소, 2018

김영정, <형이상학적 기능주의 고찰>, 철학논구 제15집, 서울대학교 철학과, 1987

김재권, 하종호‧김선희, <<심리철학>>, 철학과현실사, 1997

김진석, <‘약한’인공지능과 ‘강한’인공지능의 구별의 문제>, 철학연구, 철학연구회, 2017

김효은, <현상적 의식과 비환원적 자연주의>, 이화여자대학교 대학원, 2005

손병홍, 송하석, 심철호, <인공지능과 인식: 강한 인공지능의 존재론적 및 의미론적 문제>,

철학적 분석, 한국 분석철학회, 2002

정대현, <현대철학과 인공지능>, 철학과 현실, 철학문화연구소, 1993

1. 튜링, A.M. (1936). “계산가능수와 결정문제에 대한 응용에 관하여”. 《런던수학회지》. 2 (1937) 42: 230–65. [본문으로]
2. 머신러닝의 종류로는 Gradient Descent, Naive Bayes Classifier, Hidden Markov Model, K-Means Clustering, Support Vector Machine 등이 있다. [본문으로]
3. 이 세 관점은 각자의 관점에서 바라보는 인공지능에 대해 설명하지만, 그것이 정합적인 논리로 무장되어 있지는 않다. ‘마음’, ‘자아’, ‘의지’와 같은 선행되어야 할 형이상학적 개념들에 대한 논의도 아직 마무리 되지 않았기 때문일 수도 있고, 인공지능 자체가 철학적으로도 공학적으로도 정의되지 않았기 때문에 이에 대한 충분한 논의가 진행되지 않았기 때문이다. 그럼에도 이 세 관점을 소개하는 이유는 인공지능을 다양한 시각에서 바라보는 모습을 다루고 싶었기 때문이다. [본문으로]
4. 이 관점에서 주장하는 인간의 ‘마음’은 참고문헌(김진석, ‘약한’ 인공지능과 ‘강한’ 인공지능의 구별의 문제, 철학연구회, 2017)에서 주장한 내용이다. [본문으로]
5. 의미를 무시하고 기호 사이의 형식적 관계를 연구하는 학문 [본문으로]
6. 기호와 그것이 가리키는 대상과의 관련 [본문으로]
7. 고통은 정신적 고통, 육체적 고통으로 크게 나누어볼 수 있다. 이 글에서는 물리적 자극에 의한 고통만을 가리키려 한다. [본문으로]