지능, 감정, 의식 - part 1. 지능

<주제 소개>

  매우 잘 발달된 강한 인공지능은 감정이나 의식을 가지고 있을까? 만약 input과 output으로만 봤을 때 감정과 의식을 갖고 있는 것 같다고 해도, 그게 '실제로' 갖고 있는 것인지는 어떻게 검증할 수 있는가?

  많이 이야기되는 주제이다. 내 생각은 다음과 같다.

_______________________________________

<예비적 고찰>

  나는 생명체의 지능, 감정, 의식 등은 온전히 뇌 속 신경세포의 연결성(그리고 연결 강도를 비롯한 여러 가지 조절 요소)으로부터 창발되는 것이며, 그 이상도 이하도 아니라고 생각한다. 비물질적인, 신비한 '영혼이 깃드는' 것 따위는 없다는 것이다.

  좀 더 확장시켜서, 세상 모든 걸 '대상자'(대부분의 물체)와 '판단자'(컴퓨터, 인간, 동물 등)로 대충 나눠 보자. 대상자와 판단자의 차이는 판단을 할 수 있느냐 없느냐이다. (이 때 철저히 논리적으로 따져서 뭔가를 결정하는 것, 감정에 치우쳐 뭔가를 결정하는 것 둘 다 '판단'이다.'지능'이라고 부르면 감정이 배제된 느낌을 주기에, 약간 생소하지만 '지능, 감정, 의식' 등을 포괄해서 판단이라고 부르겠다)

  그리고 대상자와 판단자는 하늘과 땅처럼 딱 나누어지는 것이 아니며, 그 경계가 불분명하고 연속적이다. 예를 들어, 매우 고전적인 기계장치 중에서도 어떤 '판단'을 할 수 있는 장치가 존재할 것 아닌가? 우리는 무언가를 그 위에 올려놓았을 때에 그 무게가 A보다 크면 a1이라는 소리를 내고, A보다 작으면 a2라는 소리를 내는 저울을 구상해 볼 수 있다. 실제로 만들기도 어렵지 않을 것 같다. 이 한 가지 간단한 판단밖에 못 하는 기계 장치('단위 판단 기계'라고 부르자)를 '판단 능력이 있다'고 말할 수 있을까?

  판단 능력이 '있다/없다'의 이분법적 관점에서 본다면 절대로 이 질문에 답할 수 없다. 판단 능력은 '정도'의 문제로, 아무 판단도 못 하는 바위 같은 것부터, 약간의 판단을 할 수 있는 단위 판단 기계, 미사일의 경로를 계산할 수 있는 초기 컴퓨터, 그리고 스스로의 본질과 우리 사회의 미래에 대해 논할 수 있는 인간의 뇌까지, 실로 다양한 '정도'의 복잡성을 가지고 존재하는 것이다.

※ 식물은 판단자일까? 일단 포괄적인 의미에서 판단자가 맞다고 본다. 확실히 식물은 앞서 언급한 '단위 판단 기계'보다는 훨씬 더 복잡한 시스템이다. 식물의 씨앗이 발아하고, 자라서 꽃을 피워서 자손을 퍼뜨리고 하는 과정을 봤을 때 기본적으로 식물은 외부 자극을 받고 피드백을 통해 반응하는 시스템이라고 볼 수 있는데, 얼마 전에 화제가 된, 구글의 스마트홈 진출의 시작을 알린 난방 조절 장치(Nestlab이었나?)는 식물에 비하면 비교도 안 되게 단순하다. 그러나, 식물의 가지가 뻗어나가는 양상은 의외로 정말 간단하게 재현이 된다. 유튜브의 '무니무니교수'의 영상을 보면, '더 높아지는 방향으로 뻗어나가면 좋다'는 것, 그리고 '위에서 봤을 때의 면적이 더 넓어지는 방향으로 뻗어나가면 좋다'는 두 가지 조건 사이에서 적당히 타협을 봐서 가지가 뻗어나가는 프로그래밍을 하면 놀랍도록 실제 식물과 똑같은 모양을 만들 수 있다. 여튼, 내 기준에 따르면 식물은 판단자가 맞다.

  그리고 이러한 판단능력들의 근저에는 과학이 말해주는 것 말고 어떤 '신비한 요소'도 없다고 본다. 컴퓨터도, 동물도, 인간도 마찬가지다. 애초에, 고도로 발달한 판단능력이 '신비하다'고 느끼는 것 자체도 뇌 활동의 산물일 뿐이다.

  단위 판단 기계, 컴퓨터, 동물, 인간 등은 처리할 수 있는 input의 종류가 각기 다르며, 같은 형태의 정보라도 output이 나오는 양상이 다르다. 심지어, 같은 인간이라도 사람에 따라 output이 다르다. 이 모두가 서로 다른 것은, 매우 당연하게도, input을 처리하여 output으로 내보내는 회로가 서로 다르게 설계되어 있기 때문이다.

  컴퓨터는 전기 회로를 통해 수많은 0과 1을 다루는 (디지털적) 방식으로 '숫자 계산을 통한 논리적 판단'에 특화되어 있으며, 동물은 신경망 회로를 통해 수많은 외부적 자극을 종합하는 (아날로그적) 방식으로 '어떤 근육을 어디로 얼마나 움직일지에 대한 판단'에 특화되어 있으며, '인간'이라는 동물의 한 종은 앞의 2개 둘 다 적당히 잘 함과 동시에, 동물 중에서 유일하게 '수량적이지 않은 논리적 추론', 즉 '학문'에도 특화되어 있는 것이다.

  이 정도면, 이 글의 기본적인 관점에 대해서는 충분한 설명이 되었다고 본다. 이제 이 관점에 기반하여 '지능', '감정', '의식'(이 역시 명확히 나눠진 것은 아니다)이 컴퓨터에게, 동물에게, 인간에게 '실제로' 있는가에 대해 논해 볼 것이다.
_____________________________________
<본론>
_____________________________________
<지능>

  우선 '지능'(수량적,수치적 지능, 형식논리적 추론 지능, 학문적 지능 모두 포괄한다)에 관해선 꽤나 쉽게 결론이 날 것 같다.

  아주 기초적인 c언어 프로그램을 가지고도 컴퓨터가 수치해석적으로 적분을 계산하도록 만들 수 있으며, wolframalpha 등의 프로그램은 수치해석적이 아니라 우리 인간이 하는 방식대로 식을 통해 '정확히' 적분을 계산할 수 있다. 따라서 컴퓨터에겐 수량적, 수치적 지능이 명확하게 있다.

  다만 문장으로 된 명제들을 다루는 '형식논리적 추론' 지능의 보유 여부는 컴퓨터마다 다르며, 아마도 기호논리학적 지식과 인간의 통사규칙을 정교하게 프로그래밍해 두면(그리고 통사규칙에서 크게 어긋나지 않는 문장을 input으로 주면) 충분히 가능할 것이다. 따라서 형식논리적 추론 지능 역시 크게 어렵지 않게 보유할 수 있을 것으로 보인다.

  그렇다면, 단순히 형식논리의 내적인 완결성을 통해 참/거짓을 판별하는 게 아니라, '이 말이 실제로 맞는 말인가'를 판단할 수 있는 '학문적 지능'은 컴퓨터에게 주어질 수 있을까?

  우선 컴퓨터의 내적인 계산 능력만으로는 절대 안 되며, 외부 세계의 상호 작용이 필수적이다. 인간 세상에 대한 통계 데이터이든, 물리적 세상을 측정할 수 있는 센서이든, 외부 세계에 대한 정보가 있어야 한다.

  그리고 수학과 논리학이 아닌 많은 분야의 경우, '분명히 틀린' 것은 있을 수도 있지만 '분명히 맞는' 것은 별로 없다(특히 인문학의 경우). 따라서 '이게 과연 맞는 소리인가'의 판단은 간혹 절대적인 판단 기준을 갖는 경우도 있지만, 각종 '상식'들, 그리고 학술 세계의 합의에 의해 정해진다고 보는 것이 맞다. 따라서 그런 상식과 합의들을 잘 이해하고 있는 컴퓨터가 있어야 할 것이다.

  '올해 1인당 GDP가 2만 5000달러이다'와 같은 말은 컴퓨터도 쉽게 할 수 있다. 비록 문장의 형식을 빌리고 있긴 하지만, 저 문장은 그냥 계산식을 말로 간략하게 쓴 것에 불과하기 때문이다. 통계 데이터를 주고 GDP의 정의를 주면 쉽게 계산할 수 있다.

  좀 더 엄밀하게 쓴다면 '이 통계 데이터에서, 이런 식으로 계산을 하고 모두 더하고...(그렇게 구한 값을 1인당 GDP라고 한다) 어찌저찌 명령대로 해 봤더니 2만 5000달러가 나왔다'가 더 정확할 것이다.(물론 그걸 'GDP'라고 뭉뚱그려서 쓴 건 인간이 그렇게 print하라고 시켰기 때문이며, 이 문단의 논의에서는 벗어난다. 후술한다.) 이건 수량적, 수치적 지능의 범주이다.

  그런데, 그 통계 데이터가 과연 맞게 산출된 것인지에 대한 검토는 좀 더 고차원적인 능력이 필요하다. 우선 통계 데이터 자체에서 좀 이상함을 감지할 수도 있다. 나는 잘 모르지만, '어, N이 이렇게 큰데도 제대로 된 분포가 안 나오는데요?'같은 것 말이다.

  좀 더 고차원적으로 가면, '상식에 맞지 않는 데이터'의 이상함을 감지할 수 있다. 그리고 그 상식은 역시 인간이 주입해 주는 것이다. 역시 난 전혀 모르지만, 대충 말하자면 '어라, 주인님이 말씀하시기를, 이 좁은 구역에서 각 가구마다 소득이 들쭉날쭉할 수는 없다고 했잖아요. 그런데 여기를 보세요. 뭔가 이상해요'와 같은 것 말이다.

  이제 좀 더 고차원적으로 가면, 데이터의 입력만으로 컴퓨터 스스로 상식을 갖게 할 수 있는데, 이건 최근 크게 발달하고 있는 학문 분야인 것 같다. 이를테면 '어라, 그동안은 이런 식의 패턴은 한 번도 안 나왔는데, 이건 뭔가 이상한 것 같아. 보고해야겠어.' 하도록 하는 것을 의미한다. (물론 이렇게 인간 언어로 사고한다는 건 아니고, if문, for문 등으로 이루어진 컴퓨터 언어를 통해서(좀더 본질적으로 들어가면 수많은 0과 1의 처리를 통해서)사고할 것이다.) 이건 최근 발달한 핀테크(Fintech) 분야에서, '뭔가 이상한' 거래를 감지하여 차단하고 보고하는 기술을 통해 이미 실현되었다. 예를 들어, 한국에서 3분 전에 결제된 카드로 중국에서 결제가 이루어지거나, 터무니없는 소액, 터무니없는 거액의 결제가 이루어질 때 컴퓨터 시스템은 그것을 감지하여 차단할 수 있다.

  가장 고차원적인 건 이를테면 '과연 이 GDP라는 지표가 한 국가의 발전상을 온전히 나타내 주는 기술일까? 더 좋은 지표는 없을까?' 하는 질문을 던지는, 아니, 질문을 던지는 것까진 안 가더라도 그런 질문이 들어왔을 때 이해하고 답을 내놓을 수라도 있는 능력이다. 이건 말 그대로 '학문적 지능'이다.

  이러한 '학문적 지능'엔 더 다양한 비정형 데이터 처리 능력, 더 많은 데이터, 더 복잡하고 더 좋은 학습 알고리즘 등을 통해 접근할 수 있다. 그러나 인간의 뇌와 컴퓨터의 전기회로는 전혀 다르기에, 인간이 내리는 판단과 컴퓨터가 내리는 판단은 전혀 다를 것이다.

  그러기에, 어떤 컴퓨터가 '학문적 지능'을 갖게 하려면 되도록 인간을 닮도록 하는 것이 좋다. 만약 그렇지 않다면 '대단히 파격적이지만, 인간의 입장에서 보기에 너무나도 기괴하고 이상한' 판단을 내릴 수도 있다.

  아니 당장 같은 사람들 중에서도 기괴한 판단을 내리는 사람들이 있지 않은가? 냉전 시대를 살아가면서 반공 이데올로기가 학습된 사람들, 그리고 그와 반대로 사회주의적 이데올로기에 경도된 사람들에겐 모든 게 그 관점에서밖에 파악될 수 없고, 새로운 관점을 받아들이기란 생각보다 정말로 어려운 일이다. 그래서 그들은 냉전 이데올로기에서 어느 정도 벗어나 있는 우리 세대가 보기엔 이해할 수 없는 기괴한 판단들을 하곤 한다. 아마 다음 세대가 보기에도 우리 세대의 판단 체계 중에선 언뜻 이해가 안 가는 기괴한 부분들이 분명 있을 것이다.

  더욱 극단적인 예로는, 어린 시절부터 학대만 받으며 자라온 사람이 입에 담을 수조차 없는 끔찍한 범죄를 저지르는 경우가 있다. 이 역시 일반적인 사람들과는 다른 학습 과정을 거쳤기 때문에 일반인이 볼 때 기괴한 판단을 하는 것이다. 심지어 그 판단은 '형식논리적으로 합당하며, 나름의 이론체계도 갖춘' 것일 수도 있다. 고지능 범죄자들의 개똥철학이 이런 경우에 속한다.

  하물며 같은 사람 안에서도 타고난 두뇌회로가 다르고 학습한 내용이 달라서 각자가 내리는 판단이 이렇게 다른데, 사람의 뇌와는 그 근본부터가 전혀 다른 컴퓨터가 내리는 판단은 어떻겠는가? 그래서 우리는 최대한 '선량한' 판단을 내리게 하기 위해 인간을 닮은 컴퓨터를 만드는 게 좋다. 그러나 아무리 뇌를 닮았어도 그 근본부터가 다르기 때문에 차이가 있을 수밖에 없다. 이건 시뮬레이션의 물리적 한계 때문에도 그렇다. 설령 원자 수준에서 bottom up 방식으로 뇌를 시뮬레이션하더라도 실제 원자들이 조합된 뇌와는 전혀 다르다. 물리적으로 근사가 들어갈 수밖에 없기 때문이다. 뇌와 완전히 같은 것은 뇌 자체뿐이다. 또한, 설령 정말로 뇌와 비슷한 컴퓨터가 등장한다고 해도, 학습이 약간만 이상하게 되어도 돌이킬 수 없이 너무나 기괴한 판단들을 하게 될 것이다.

(이 '기괴함'의 이슈는 이 글의 part 3. 감정 에서 매우 중요하게 다시 한번 다루어질 것이다.)

  그럼에도 불구하고 컴퓨터에게 이런 걸 시키고 싶어하는(과학자든, SF 소설가이든) 이유는 인간이 갖지 못한 엄청난 데이터 처리 능력 때문일 것이다. 그런데 '대다수의 인간과 똑같은 구조로 선량하게 사고하는데, 데이터 처리 능력은 엄청 좋은 컴퓨터'는 오로지 '인간 뇌를 그대로 시뮬레이션하되, 계산 능력에 해당하는 부분만 엄청나게 비대하게 한, 뇌 시뮬레이터'에 가까울 것이다. rough하게 말하자면 '사람 뇌에 컴퓨터 달고 인터넷선 꽂아 둔' 것 말이다.

  뭐 어쨌든, 내 개인적으로는 그냥 각 분야에 locally 전문화된 인공지능들을(굳이 인간 뇌를 닮지 않더라도 각자의 영역에 최적화된 방식으로) 발달시키는 게 좋다고 보고, 실제로도 그렇게 될 것 같지만, 사람들이 많이들 우려하는, 그리고 꼭 우려해 보아야 하는 전지전능한 인공지능에 대해서 좀 길게 써 봤다.

  어쨌든 결론은 컴퓨터 프로그램이 더 크고, 더 복잡해진다면 뇌에 준하는 '학문적 지능'(꼭 그 판단 양상이 인간과 닮진 않더라도)을 가지게 될 수 있으며, 내 개인적인 생각으로는 인간을 닮도록 하거나, 아니면 굳이 인간을 안 닮더라도 그 판단 결과를 세상에 실행하는 것만큼은 충분히 사려깊은 인간 관리자에게 맡기도록 해야 사회가 파국에 이르지 않을 것이라는 생각이다.

  그리고 어쨌든 '학문적 지능'은 아직 달성은 안 되었지만, 원리적으로 불가능한 건 아닌 듯하며(주지하였듯이, 인간에게 컴퓨터와 다른 '신비로운' 것은 없다) 많은 컴퓨터 공학자들과 미래학자, 소설가들은 그런 지능을 이미 상상하고 있다.
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _

  동물의 경우엔 수량적, 수치적 지능이 아주 초등적으로나마 존재하는 것으로 보인다.(먹이가 많다, 적다를 한눈에 보고 판단하는 건 수량적, 수치적 지능이 아니다.) 종별, 개체별로 차이는 있겠지만 원숭이 정도 되면 거의 확실히 숫자를 셀 수 있는 것으로 보이며, Alex라는 기록적인 천재 앵무새의 경우에도 숫자를 셀 수 있었다. 사칙연산을 할 수 있는지는 모르겠으나, '본질적으로 안 되는' 것은 아니며, 가능성은 거의 없겠지만 뇌 구조가 매우 특별한 outlier 개체가 있다면 '될 수도 있다'. 인간의 경우도 대체로 사칙연산을 할 수 있지만 일부 outlier의 경우 사칙연산을 못 하지 않는가? 뇌 구조가 달라서 말이다.

  동물의 경우에 형식논리적 지능, 학문적 지능은 과연 존재할까? 일단 이것은 현재까지 알려진 바로는 인간을 제외한 모든 종, 모든 개체에서 유의미한 수준으로 관찰된 바가 없는 것으로 알고 있다. 관찰되었다면 크게 화제가 되어서 내가 알고 있을 것이다.

  원숭이들이 우가우가 하면서 서로 소통하고, 적의 침입을 알리는 일종의 사회적 신호를 통해 꽤나 일사불란하게 움직이는 것은 잘 알려져 있다. 그렇다면 이건 원숭이들의 세계 속에서 합의된 일종의 실천적 '학문' 같은 거라고 볼 수 있을까? 그 전체상을 파악하여 정리하고 있는 원숭이들은 분명 있을 수 있지만, 뇌를 black box로 보고 input-output의 관점에서 본다면, 일단은 학문 비슷한 걸로는 취급할 수 없어 보인다.

  흥미로운 인지과학적 발견이 있다면 알려주기 바란다. 어쨌든 현재까지는 '형식논리적 지능', '학문적 지능'이 있다고 일반적으로 인정된 개체나 종은 없는 것 같은데, '원리적으로 불가능한' 건 아니고, 돌연변이나 진화에 의해 가능하게 될 수도 있다.

  인간의 경우는 수량적,수치적 지능, 형식논리적 지능, 학문적 지능 모두 가지고 있다. 다만 형식논리적 지능은 대체로는 '절대적으로 맞다'고 인정되는 것 같지만 (3단논법 같은 것 말이다. 물론 이상한 3단논법들도 있지만 그것은 각 명제들의 숨겨진 의미를 고려 안 해서 그렇고, 3단논법 자체가 내적으로는 '맞는' 것이다), 대체 뭐에 비추어서 맞다고 할 수 있는 거냐 하면, 신기하게도 딱히 답을 못 하겠다. 저것이 어떤 분야의 질문일지부터가 궁금하다. 그리고 학문적 지능의 경우는 '맞는 문장을 말할 수 있다'는 뜻이 아니며, '비수량적 추론을 할 수 있다'는 뜻이다.

※ 식물의 경우는 기본적으로 수량적,수치적 지능, 형식논리적 지능, 학문적 지능 모두 없다. 근데 파리지옥이라는 식충식물은 잎 안에 들어간 벌레가 특정 털(?)을 두 번 건드리면 잎을 닫는데, 이 경우는 매우 초등적인 수량적 지능이 있다고 볼 수도 있겠다.

  이로써, 인간, 동물, 컴퓨터라는 각각의 판단자가 '지능'을 가지고 있는가에 대해 논해 보았다. 다만 계속 강조하듯이, 여기에서 설명한 것들은 딱딱 나누어지는 것은 아니며, 개체마다 다를 수 있고, 시간에 따라 변할 수 있다. 나는 지금 현재 시점에서의 컴퓨터, 동물, 인간의 stereotype을 두고 이야기를 전개해 본 것이다.

______________________________________

<part 2. 의식 - preview>

흔히 말하는 '의식'이란 '내가 나로써 있음/내가 나임'(be)을 인지하는 것일 텐데, 이를 과학적으로 해부해 본다면 아마 수많은 감각 요소들을 종합하여 사고함과 동시에, '내가 감각하고 사고한다는 것을 감각하고 사고함', 즉 '메타-감각, 메타-사고'가 바로 의식의 실체일 것으로 생각된다. 이에 대해선 다음 글에서 다룬다.

_________________________

   

from facebook post https://www.facebook.com/yongjae.oh/posts/971781976246841

archived on 2018.12.31.