인공지능의 시대, 인간을 다시 묻다 - 김재인

 

알파고로 대표되는 AI 시대의 도래와 성장.

최근에서야 비로서 실감하는 인공지능의 시대는 기계에 지배받는 인간의 모습을 그저 영화속 한 장면일 뿐이라고 치부하던 사람들을 충격에 휩싸이게 했다.

(물론 일부에서는 위험성과 가능성에 대해서 계속적인 우려를 표하기도 했지만)

 

책은 단순히 인공지능에 대한 두려움이 아니라

인간지능과 인공지능의 차이에 있어 “몸” 과 “마음”, 그리고 “생각" 이라는 철학적 주제에 대한 이야기를 펼쳐간다.

“기계가 생각할 수 있을까?” 라는 질문 속에

서구 사회를 지배해온 몸과 마음의 이원론에 대한 플라톤과 데카르트의 사상에 대해서 이야기를 전개한다.

또, 마음, 몸, 생명 등에 대해 생물학, 뇌과학, 심리학, 철학, 공학 등의 분야에서 연구된 성과들을 확인하며 '마음'이 무엇인지 답하고자 했던 인간의 노력들에 대해서도 설명한다.

인간이 거쳐온 이러한 철학적 사고가 현재 인공지능 개발에 어떻게 적용되고 있는지에 대해서도 저자의 방식으로 설명해 나간다.

(철학적 기능이 갖추어지지 않은 나로서는 여전히 어렵지만)

 

저자는 인공지능이 사람을 대체하고 사람을 지배할지 모른다는 이러한 공포의 근간에는 인공지능을 과도하게 ‘의인화’한 결과일 뿐

인공지능과 인간지능은 다른 개념일 수 밖에 없다고 말한다.

우리의 '지능'이 진화의 산물이라고 할 때, 인간(생명체)이나 인공지능(기계)이나 어떠한 문제에 직면하게 되고 이를 해결해야 한다는 사실은 동일하다,

하지만 인공지능에게 문제란 인간이 정해준 과제인 반면, 생명체(인간)에게 문제는 환경으로부터 닥쳐오는 생존의 과제이고 '문제의 포착과 해결'이 진화의 과정이라는 점에서 근원적 차이가 발생하게 된다.

인공지능의 핵심인 알고리즘은 목적에 맞게 인간에 의해 주어지는 것이고, 기계는 과거의 데이터를 통계적으로 학습할 뿐이며, 알파고와 같은 인공지능도 단지 계산만 뛰어날 뿐이고, 따라서 그것을 뛰어넘을까 두려워할 필요는 없다는 게 인공지능에 대한 저자의 생각이다

따라서 인간은 변화를 수용하고 적응하면서 변화하는 것이 안정적인 생태계를 유지하는 반면,

인공지능의 알고리즘은 고정적이지 않은 변화에 취약할 수 밖에 없기에

창작과 학습을 통한 변화라는 무기는 인간지능이 인공지능과 구분될 뿐 만 아니라 우위에 설 수 있게 하는 역할을 하게 된다고 한다.

 

하지만, 저자가 이 책을 저술한 2~3년 전과 비교했을 때

인공지능의 접근방식이

사람을 모방하는 형태에서, 인공지능 스스로가 창의적으로 문제를 학습하고 해결하는 형태로 개발되고 있음을 생각해 볼 때

“인공지능이 인간지능을 넘어설 수 있는 가?” 라는 의문은

“기계가 생각할 수 있을까?” 라는 질문과 함께

여전히 현재진행형의 숙제로 남아 있는 과제가 아닐까?  

 

❝

인간은 문제도 제기하고 목표도 세웁니다.

 

인공지능은 인간지능과 마찬가지로 문제 해결이나 목표 성취를 위해 각자 합리적으로 접근하지만, 인공지능에서 문제나 목표는 에이전트 바깥에서(더 구체적으로는 인간에 의해) 주어지는 반면,

인간지능은 문제나 목표를 스스로 정한다는 점에서 이둘은 결정적으로 다릅니다.

인공지능과 인간지능의 원리상의 차이는 문제나 목표가 외적이냐 내적이냐에 있습니다.

 

❝

가장 일반적인 견해에 따르면 마음은 의식과 동일시 됩니다.

의식이 마음이라는 거죠.

그러면 의식이란 뭘까요? 의식이 없는 상태도 있죠?

의식이 무엇인지는 아직 잘 모르지만, 의식을 자각으로 보는 데에는 지금까지 대체로 이견이 없습니다.

의식이 있다는 건 ‘내가 어떠하다고 스스로 알고 느끼다’, 즉 ‘내가 자각하고 있다’라는 거고 그렇지 않으면 의식이 없는 거에요.

 

❝

니체의 요점은 우주는 물론이고 인간의 삶도 목적이 없다는 거예요.

그래서 니힐리즘, 즉 허무주의라는 거죠.

지금까지 제시되었던 모든 의미와 가치가 실제로는 허구였다는 겁니다.

그러면 어떻게 살아야 할까요?

새로운 목적, 새로운 가치를 스스로 만들어야 합니다.

외부에서 설정된 목적이 아닌, 자기만의 목적을 창조해야 합니다.

우주와 삶에 목적과 가치가 없다는 걸 딛고, 즉 무 위에서 살 수 있는 힘을 길러야 합니다.

인간은 그럴 수 있는 존재라는 겁니다.

 

❝

알고리즘은 사실상 그 안에 버그가 존재하면 작동하지 않습니다.

반면 생물은 버그나 고장에도 불구하고, 아니 어쩌면 그런 것들을 통해 작동합니다.

진화는 이를 확인시켜주고요.

진화는 생물의 기존 데이터베이스에 손상이 생기고 큰 변형이 일어나는 걸 전제로 합니다.

이 때문에 생물에게는 일종의 고장이지만 동시에 이런 고장은 진화를 가능하게 하는 추동력입니다.

그에 반해 컴퓨터의 프로그램 안에 버그가 있다면 무슨 뜻이죠? 알고리즘은 간단한 지시들의 집합인데, 하나라도 고장 나면 멈춥니다.

따라서 이렇게 질문을 바꿔도 좋겠습니다.

버그나 고장을 스스로 고쳐가면서 유지될 수 있는 프로그램이 논리‧수학적으로 성립 가능할까요?

학습도 그렇습니다.

학습이라는 것이 기존 시스템 안에 새로운 것이 들어가서 그 안에 편입되는 것인데, 새로운 것이 들어간다는 건 버그가 생겨난다는 것과 같습니다.

무언가가 새로이 들어가서, 즉 고장이 나서 그 고장 난 것을 계기로 삼고 새롭게 처리해서 자신의 일부로 만드는 것이 학습입니다.

없던 것이 생겨나는 것은 그 전의 관점에서 보면 분명한 고장, 비정상, 이상이지요.

그런데 생물이라는 시스템은 이를 능수능란하게 처리할 수 있었습니다.

과연 이게 전산으로 구현 가능할까요?

 

❝

어떤 경우에는 변화가 일어나야 안정적이라고 말할 수 있어요.

생무에게는 특히 그렇습니다.

섭취, 소화, 호흡, 배설 등이 없이는 생물은 유지될 수 없죠.

즉, 안정적이라는 것은 생명체에게 어떤 변화를 뜻합니다.

생명체가 ‘나’라는 형태로 자기 자신(정체성)을 계속 유지해가는 것은 일정한 변화 ‘속’에서입니다.

특이한 현상이지요.

생물은 일정한 변화가 함께하지 않으면 안정적이지 않습니다.

변화는 파괴를 함축하고, 파괴는 재건을 요청하니까요.

바윗돌에게 안정이라는 것은 변하지 않음입니다.

생명체가 아닌 것들의 특징이지요.

결국 ‘변화를 내포하는 안정이냐, 변화 없는 안정이냐’ 이것이 관건입니다.

어떻게 변하면서도 안정적일 수 있을까요?

생물의 안정성이라는 개념은 어려운 문제입니다.