[김도현 신부의 과학으로 하느님 알기 Ⅱ] AI와 교회 (7)AI의 한계들②

김도현 바오로 신부(대구가톨릭대학교 교수)

입력일 2023-11-14 수정일 2023-11-14 발행일 2023-11-19 제 3368호 14면

AI는 자발적 ‘지적 호기심’ 있을 리 없어… ‘상식’ 판단 능력도 미지수
의지력 없으니 문제 제기도 불가능
자발적 확장성 없다는 명확한 한계
종교 고유 정체성과 신앙 내용을
제대로 이해할 수 있을지 불확실

저는 지난번에 AI는 결정적으로 ‘의지력’(Will)이 없다는 심각한 한계가 있다고 강조해 드렸습니다. 인간의 지성에서 의지가 기억, 이해와 결코 분리될 수 없는 하나인 특성이라는 아우구스티누스 성인의 견해에 따르면, AI는 결코 인간의 지성과 동일시될 수 없다는 결론에 다다랐습니다. AI는 의지를 발휘해서 무언가를 할 욕구가 없기 때문에, 결국 AI는 단지 인간이 시키는 대로 움직이는 ‘인간의 도구에 불과하다’라고 말씀드렸습니다.

AI의 주요 특성 중 또 하나는 지적 호기심, 곧 자유롭고 자발적인 문제 제기 능력을 갖지 못한다는 점입니다. 어린이들의 경우는 어느 순간부터 “이건 왜 이래요? 저건 왜 저래요?”라는 질문을 쏟아내면서 엄마를 괴롭히곤 합니다. 인간은 이렇듯이 자유롭고 자발적인 지적 호기심이 있지만, AI는 그러한 특성을 갖지 못합니다.

사실 자유와 자발성은 바로 의지력으로부터 나오는 것입니다. 일찍이 성 토마스 아퀴나스는 「명제집 주해」(Commentum in quattuor libros Sententiarum magistri Petri Lombardi; In Sent.)를 통해, 의지가 가진 주요한 특성으로서 ‘자유’를 설명한 바 있습니다.

“의지는, 비록 이러저러한 결정된 대상이 아니라 행복을 자연적으로 욕구하도록 결정되어 있다 해도, 모든 선택의 대상 앞에서 자유롭다.”(In Sent., II, d.25, q.1, a.2) “의지는 최고로 자유로우므로, 거기서부터 의지는 예속 상태로 강요될 수 없다는 데 이르게 된다. 하지만 거기서부터 예속 상태를 따를 수 있다는 것이 배제되는 것은 아니다. 이것은 의지가 자유롭게 죄의 행위에 동의할 때 일어난다.”

(In Sent., II, d.39, q.1, a.1, ad3)

산드로 보티첼리 ‘성 토마스 아퀴나스’. 의지가 가진 주요한 특성으로서 ‘자유’를 설명한 토마스 아퀴나스 성인의 말대로, 의지력이 없는 AI가 자유롭고 자발적인 지적 호기심과 문제 제기 능력을 가질 수는 없다.

그렇기 때문에 의지력이 없는 AI가 자유롭고 자발적인 지적 호기심, 문제 제기 능력이 있을 리가 없습니다. 따라서 AI의 지적 능력은 일단 인간 명령에 의해 주입된 데이터에 입각한 학습으로 얻는 내용에 국한됩니다. 그 이상의 확장성은 자발적으로 생겨날 수가 없게 되지요.

예를 들어, 알파고는 바둑에만 특화된 AI 프로그램입니다. 만일 알파고에 체스 게임 방식을 주입시키고 역대 체스 게임들의 내용에 관해 반복 학습을 시키면, 알파고는 분명히 체스의 세계 최강자가 될 수 있을 것입니다. 하지만 이것은 알파고 자신이 ‘바둑을 완벽히 정복했으니 이제 슬슬 체스를 정복해볼까?’ 하는 자발적 의지로 체스에 관해 스스로 호기심을 가지면서 학습하는 것이 결코 아닙니다. 알파고가 체스를 학습하게 된다면 이것은 구글 딥마인드의 엔지니어들이 강제적으로 시켜서 그렇게 하는 것일 뿐이죠. 따라서 알파고가 가진 능력인 바둑에서의 기억력, 이해력 및 이성적 판단 능력은 주어진 알고리즘을 따르는 지극히 수동적인 것이며, 자발적 확장성은 없는 명확한 한계를 지니고 있습니다. AI는 단지 ‘인간이 시킬 때 일을 하는 수동적인 도구’에 불과할 뿐입니다. 이 말은 Strong AI가 출현할 가능성을 사실상 부정하는 것이 됩니다.

성 토마스 아퀴나스의 「명제집 주해」. 미국 예일대학교의 베이넥 레어 서적 및 필사본 도서관 소장.

이제 ‘상식’(Common Sense)에 대해 살펴볼까 합니다. 상식이란 한 사회 구성원이 공유하고 당연한 것으로 여기는 가치관, 판단력, 사리 분별 등을 일컫는 말입니다. 인간의 경우는 부모, 학교, 동아리 등을 통해 자신이 속한 사회에서 상식으로 통용되고 있는 내용들에 대해 배우고, 상식에 대한 감각을 키워가며, 상식에 맞게 살아가는 법을 배웁니다. 한 사회에서 상식으로 받아들여지는 것이 다른 사회에서는 상식이 아닐 가능성도 존재합니다. 따라서 상식이라는 개념은 개개인이 속한 사회 집단 고유의 특성으로 이해될 수 있습니다.

그런데 AI는 상식이라는 것을 받아들이고 판단하고 이해할 수 있을까요? AI가 상식을 이해하고 학습할 수 있는가에 대해 현재 많은 AI 전문가들이 논쟁 중에 있습니다. 또한 AI가 학습한 내용들 가운데 어떤 것이 상식적이거나 혹은 상식적이지 않은지를 판단할 수 있는지도 아직 의견이 분분한 상태입니다.

예를 들어 “쓰레기는 어디에 버려야 하는가”, “식기세척기에서 꺼낸 식기들은 어디에 두어야 하는가” 등의 아주 간단한 질문은 사실 인간이 어린아이였을 때부터 자연스럽게 익힌 상식에 속합니다. 그런데 이러한 질문에 대해 AI가 대답하기 위해서는 예상외로 상당히 많은 사전 지식과 경험이 필요합니다. 10살 정도의 어린이가 쉽게 할 수 있는 별 것 아닌 일조차도 AI가 처리하는 것은 대단히 어려운 일일 수 있다는 것입니다. 그리고 학습된 어떤 지식이 상식인지 아닌지를 판단하는 능력은 바둑판 위의 어디에 바둑돌을 두어야 하는지를 판단하는 이성적 판단 능력과는 다른 차원입니다.

만일 AI가 상식이라는 개념과 상식 판단 능력을 학습으로 받아들이게 된다면, 적어도 서구 유럽에 널리 퍼져있는 그리스도교적 문화와 상식이 이슬람 문화권에서 받아들여지지 않는 이유를 쉽게 학습하고 판단할 수 있게 될 것입니다. 만일 AI가 어느 시점에 상식 판단 능력을 갖추게 된다면, 그리스도교 국가의 AI와 이슬람 국가의 AI 사이의 종교적, 문화적 토론과 논쟁이 가능해지게 될 것입니다. 이것은 빅데이터를 입력해서 이루어지는 단순한 반복 학습과는 차원이 다릅니다.

하지만 적어도 현재까지는 하나의 지식이 특정 지역, 특정 사회, 특정 종교 집단에서 상식으로 받아들여질 수 있는지를 AI가 판단할 능력이 있는지, AI가 학습을 통해 상식 판단 능력을 키워갈 수 있는지에 대해 아직 어느 누구도 확실한 답을 주지 못하고 있습니다. 이는 AI가 그리스도교 고유의 정체성과 신앙의 내용을 제대로 이해하고 소화할 수 있는지에 대해서 아직 확실치 않다는 의미가 됩니다.

그리고 설사 AI가 대단히 높은 수준으로 발전해서 상식 판단 능력을 충분히 갖추어 그리스도교 고유의 정체성과 신앙의 내용을 제대로 받아들인다고 하더라도, AI가 신앙 행위로까지 나아가는 것은 또 다른 문제입니다. 신앙 행위는 결국 ‘의지’가 수반되어야 하기 때문입니다.

“믿는 이의 지성은 이성에 의해서가 아니라 의지에 의해서 동의하도록 결정된다.”

(assensus hic accipitur pro actu intellectus secundum quod a voluntate determinatur ad unum)