신앙교리부·문화교육부,「옛것과 새것」발표…“AI가 사람을 대신할 수는 없어”
윤리적으로 투명한 사용 및 부작용 예방 대책 강조

[바티칸 CNS] 교황청이 인공지능(Artificial Intelligence, AI)은 사람 사이의 관계에 봉사하는 것이지 그 관계를 대체하는 것은 아니라는 사실을 강조했다.

교황청 신앙교리부와 문화교육부는 프란치스코 교황의 승인을 거쳐 1월 28일 AI의 올바른 사용 방향을 담은 문헌 「옛것과 새것」(Antiqua et Nova, ancient and new)을 공개했다. 신앙교리부와 문화교육부는 AI의 발전과 응용에 대한 길잡이를 제공하기 위해 문헌을 준비해 왔다. 문헌은 인공지능이 인간지능을 대신할 수 없다는 전제에서 “교사의 현실적 존재는 학생과의 사이에 상호 역동성을 창조해 내고 이 역동성은 AI가 그대로 재현할 수는 없다”고 밝혔다. 문헌은 또한 AI가 활용되는 광범위한 영역을 사람 간의 관계성, 법률, 예술, 건강, 전쟁 등으로 분석한 뒤 특히, 교육 체계에서 AI의 역할을 깊이 다루고 있다.

문헌은 “만일 신중한 방식으로 사용된다면, AI는 교육에 접근할 수 있는 기회를 확대함으로써 가치 있는 교육 자산이 될 수 있고, 학생들에게 숙련된 지원과 즉각적인 피드백을 제공할 수도 있다”며 “이러한 AI의 장점은 학생 개인에 대한 주의가 필요한 경우나 교육 자산이 부족한 경우 등에는 교육 체험을 확대할 수 있을 것”이라고 전망했다.

교황청 신앙교리부와 문화교육부는 문헌을 통해 AI에 대한 지나친 의존이 가져올 부정적 효과를 경고하면서 “교육 분야에서 AI를 지나치게 사용하면, 학생들이 기술에 점점 치우치게 되면서 독립적으로 재능을 발휘할 능력은 축소되고 화면(Screens)만 바라보는 의존성은 심화될 수 있다”고 우려했다. 

이어 “많은 AI 시스템들은 학생들 스스로가 해답을 찾거나 문서를 작성하도록 동기 부여를 하는 대신에 단순히 해답을 제공하고 있다”면서 “교육은 젊은이들이 정보들을 대량으로 수집하고 빠르게 응답하라고 훈련시키는 것이 아니라 자신의 힘으로 지적인 재능을 발휘해 도전에 나서도록 북돋아야 하는 것”이라고 덧붙였다.

「옛것과 새것」은 아울러 교황이 AI를 주제로 발표한 2024년 세계 평화의 날 메시지 내용을 인용해 “학생들은 AI로부터 제공받은 정보들과 자료들을 어떻게 식별할지를 배워야 하고, 교육을 담당하는 학교와 대학들은 학생과 전문가 그룹이 과학기술 발전과 사용의 사회적, 윤리적 양상을 파악할 수 있도록 도와야 하는 과제를 부여받고 있다”고 제시했다. 

또한 AI 프로그램들이 편향되거나 조작된 정보를 제공함으로써 학생들이 부정확한 자료를 믿도록 잘못 인도하거나, 더 나아가 교육 과정 자체를 침해할 위험성을 안고 있는 현실을 인정하고 있다. 이와 같은 위험성을 예방하기 위한 가이드라인으로 교육 분야에서의 AI 사용은 항상 투명한 방식으로 이뤄져야 한다는 점도 제안했다.

교황청 신앙교리부와 문화교육부는 “이처럼 과학기술이 빠르게 진보하는 역사의 교차로에 서 있는 가톨릭계 대학들은 희망의 연구실로 존재해야 하고, 신앙과 이성 간의 대화를 추구하면서 우리 사회와 공동선에 봉사하는 AI를 윤리적으로 온전하게 적용하도록 노력해야 한다”고 밝혔다.

교황은 「옛것과 새것」 승인에 앞서 1월 20~24일 스위스 다보스에서 열린 ‘세계 경제 포럼’ 참석자들에게 보낸 메시지에서 “AI도 인간의 창조물이기 때문에 인간에 의해 통제돼야 한다”며 “AI를 포함해 어떤 과학기술도 불평등을 심화시키거나 가짜 뉴스를 만들어 낸다면 진보라는 이름으로 받아들일 수 없다”고 말했다.