[특집 - WYD 지식여정] AI 전문가 파올로 베난티 신부 초청 특강

“현대 기술이 던지는 핵심 도전 과제는 인간의 가치와 윤리적인 틀에 대해 성찰하는 사회 전체의 담론을 요구한다는 것이다.”

가톨릭대 교수 조동원(안토니오) 신부 통역으로 진행된 강연에서 베난티 신부는 “기술 ‘혁신’을 공동선으로 향하는 ‘발전’의 원천으로 변형시켜야 한다”며 “이것이 우리의 숙제이고, 그 답은 우리에게 달려있다”고 강조했다.

이어 “기술의 윤리를 얘기하기 위해서는 우리의 관점을 약간 바꿔서 기술을 권력의 한 형태로 볼 필요가 있다”고 밝힌 베난티 신부는 “AI의 모든 명령에는 도덕적 결정이 포함돼 있으며 이는 누가 가치 있는지, 누가 그렇지 않은지에 영향을 미친다”고 설명했다.

그는 역사적 사례를 통해 기술이 사회에 미치는 영향을 밝혔다. 뉴욕의 로버티 모세스가 설계한 인프라를 예로 들어 모든 기술적 산물이 권력 이전과 질서를 재편해 사회적 역학과 접근성을 변화시킨 점을 강조했고, 70년대 미국 토마토 농장 경우를 들어 기술이 제품과 시장 성격을 어떻게 변화시키는지 들려줬다.

이제는 “기술의 문제가 인공지능 뒤에 있는 알고리즘에 있으며, 알고리즘으로 인해 어떤 사람은 인간으로 간주할 수 있지만 어떤 사람은 가치 없는 존재로 여겨질 수 있다”고 지적했다. 또 “컴퓨터 프로그래밍이나 코딩을 통해 우리는 어떤 일이 일어나도록 하고 다른 일이 일어나지 않도록 하고 있는데, 바로 이 부분에서 우리는 그리스도인으로서 몇 가지 질문을 던져야 한다”고 했다. ‘인간이 된다는 것은 무엇을 의미하는가?’와 ‘인간이 되는 것의 가치는 무엇인가?’가 그것이다.

베난티 신부는 “여기서 ‘복음’은 우리가 새로운 경계로 나아가도록 이끌어 준다”고 강조했다. 복음은 언제나 ‘인간이 된다는 것은 무엇을 의미하는가?’와 ‘창조주의 피조물이 된다는 것은 무엇을 의미하는가?’라는 질문을 우리에게 하도록 요구한다는 것이다.

“AI에 관해 이야기할 때 제기되는 핵심 질문은 ‘누가 누구를 통제하는가?’라는 점이다”라고 지목한 베난티 신부는 “‘내가 무엇을 할 수 있는지’ 또는 ‘할 수 없는지’ 결정하는 이런 새로운 권력의 변화는 정의의 문제고, 다른 국가에 영향을 미치려는 국가도 있을 수 있기에 지정학적인 문제이기도 하다”고 했다. 그는 “결국 우리는 스스로를 교육하고 이 기술을 민주주의와 호환할 수 있게 만들어야 한다”면서 “세례를 통해 고유한 이름을 지녔고 거룩함으로의 부르심이 있다는 것을 아는 우리는 우리의 자유를 지킬 필요가 있다"고 역설했다.

강연 후 질의응답 시간을 통해서 베난티 신부는 젊은이들에게 기술과 AI의 영향 속에서 어떻게 삶을 헤쳐 나가야 할지 조언했다. “베네딕토 16세 교황이 「진리 안의 사랑」에서 가르치신 바와 같이, 기술은 인간의 정신이 만들어 낸 것이고 그 인간의 정신은 하느님과 긴밀히 일치된 것이기에 기술을 두려워하지 말라”고 밝힌 베난티 신부는 프란치스코 교황이 강조한 분별의 중요성을 언급하며 ‘신중함’을 가지고 AI와 기술의 양면성을 식별하며 비판적으로 이용할 것을 당부했다.

◆ 인터뷰 - 파올로 베난티 신부
      "AI, 윤리적 발전과 성장 동반돼야

“윤리적 발전과 성장이 동반된 AI(인공지능) 기술이 중요합니다. 그렇지 않다면 AI는 매우 강력한 무기가 되어 우리를 위협할 수 있습니다.”

서울대교구 홍보위원회를 통해 진행된 인터뷰에서 AI가 미칠 전망과 부정적인 면에 대한 생각을 묻자 베난티 신부가 들려준 대답이었다.

“원자폭탄이 모든 건물을 파괴할 위험성이 있다는 우려와 걱정을 낳은 것처럼, AI 또한 인류 공동체를 파괴할 힘과 위험성을 지니고 있다”고 말한 베난티 신부는 “양극화를 야기하고 가짜 뉴스를 유포해 우리 모두를 원수로 만들 수 있는 위험성이 있다”고 덧붙여 설명했다.

베난티 신부는 가장 우려되는 AI의 오용은 “‘범죄적 목적’에 사용되는 것”이라고 했다. 그는 “문제는 AI가 아니라 이를 악용하는 사람에게 있다”며 “운전면허증처럼 AI 이용이 가능한 증명서 발급이나 AI로 제작된 것을 명시하는 방안 등은 부정적 결과를 피하는 데에 도움이 될 것"이라고 제안했다.

교황청은 지난 2020년 ‘AI 윤리에 관한 로마 선언’을 통해 인공지능 개발에 대한 입장을 밝힌 바 있다. 베난티 신부는 이 선언의 의미를 “AI 윤리와 관련된 여러 논쟁을 해결하는 데 있어 가장 보편적으로 적용할 수 있는 6가지 주요 원칙을 제공한 것과 함께 여러 정부 기관뿐 아니라 21개 종교 대표단이 함께 서명하고 동참한 점”이라고 밝혔다.

“AI는 매우 위대한 혁신입니다. 혁신이 성장을 동반할 때, 곧 공동선과 인류의 유익에 기여할 때 진정한 혁신이 됩니다. 인간이 인공지능 기술을 발전과 성장의 도구로 사용할 줄 알게 될 때 가장 훌륭한 방법으로 이 기술을 사용하게 될 것입니다.”

베난티 신부는 지난 3월 7일 교황청에서 열린 컨퍼런스에서 “AI가 ‘유사종교’로 기능할 수 있다”고 우려했다. 이에 대해서는 “당시 주제는 AI 답변을 신탁처럼 받아들이게 된다면, 즉 믿어야 할 무엇인가로 받아들이기 시작한다면 유사종교와 같은 역할을 하게 될 것이라는 내용이었다”며 “핵심은 인공지능이 생성해 낸 것을 분별할 수 있도록 훈련된 인식을 통해 비판적 사고를 제시하는 일이 중요하다는 것”이라고 말했다.

프란치스코 교황은 기회 있을 때마다 인공지능의 윤리적 사용에 대해 경고하고 있다. 교황청은 생명학술원 등을 통해 관련 연구와 성찰을 계속 진행 중이다. 생명학술원 위원인 베난티 신부는 “현재 ‘AI 윤리에 관한 로마 선언’을 토대로 전 세계 모든 이에게 적용할 수 있는, 인공지능을 위한 글로벌 거버넌스 모델 고안 연구를 진행하고 있다”고 전했다.

이주연 기자 miki@catimes.kr