주님께서 베풀어 주시는 은총의 때인 새해를 시작하며, 하느님의 백성은 물론 이 시대를 살아가는 모든 이에게 평화를 향한 저의 간절한 바람을 전하고자 합니다.

인간의 지능은, 우리가 창조주께 받은 존엄을 표현하며, 과학과 기술은 인간 지능의 창조적 잠재력이 빚어낸 빛나는 성과입니다. 과학과 기술의 뛰어난 성취 덕분에 인류의 삶을 괴롭히고 커다란 고통을 불러일으켰던 수많은 질병을 치료하였습니다. 반면에 기술-과학의 발전 가운데 어떤 것들은 우리의 생존을 위협하고 우리 공동의 집을 위태롭게 만들지도 모릅니다. 새로운 디지털 도구들은 커뮤니케이션, 공공 행정, 교육, 소비, 개인 상호관계, 그 밖에 우리 일상생활의 수많은 측면의 양상을 바꾸고 있습니다.

우리는 과학 연구와 기술 혁신이 현실과 유리된 “중립적”인 것이 아니며 문화적 영향을 받는다는 사실을 명심하여야 합니다. 이는 인공 지능의 유형들에도 적용됩니다.

일상 언어가 되어 버린 “인공 지능” 용어 자체에는, 기계가 인간의 인지 능력을 그 기능 안에 재생하거나 모방하게 만드는 것을 목표로 다양한 과학, 이론, 기술이 망라됩니다. 아무리 놀랍고 강력하다고 한들, 결국 이 지능의 유형들은 인간 지성의 특정 기능들을 모방하거나 재생만 할 수 있다는 점에서 ‘단편적’일 뿐이며, 어떤 인공 지능 장치도, 장치 소유자들과 개발자들의 목적과 이윤 그리고 사용되는 상황에 따라 그 영향력이 달라집니다.

알고리즘과 디지털 기술을 설계하는 이들이 윤리적이고 책임감 있게 행동하고자 노력할 것이라는 가정만으로는 충분하지 않습니다. 기술의 무한 확장에는 앞으로의 발전에 대한 적절한 책임 교육이 따라야 합니다. 우리는 시야를 넓혀 기술-과학 연구가 개인과 공동체의 온전한 발전에 봉사하면서 평화와 공동선을 추구하도록 이끌어야 하는 의무가 있습니다.

인공 지능의 중요성은 점점 더 커질 것입니다. 예를 들어, 인공 지능은 데이터 축적과 구조화와 확인 과정의 혁명은 물론 고된 노동에서의 해방, 더욱 효율적인 제작 공정, 더 편리한 수송과 더욱 준비된 시장을 약속합니다. 우리는 지금 일어나는 빠른 변화에 대해서 잘 알고, 기본 인권을 보호하며, 온전한 인간 발전을 증진하는 제도와 법률을 존중하는 방식으로 그러한 변화를 관리하여야 합니다.

인공 지능이 가짜 뉴스를 퍼뜨리고 커뮤니케이션 매체의 왜곡 심화로 이어지는 허위 정보 캠페인에 동원되면 심각한 문제를 야기합니다. 그 밖에도 이러한 기술이 중대한 위험을 생겨나게 하는 분야로 사생활 보호, 데이터 저작권, 지적 재산권이 있습니다. 이러한 기술의 오용에 따른 또 다른 부정적 영향에는 차별, 선거 개입, 감시 사회의 증대, 디지털 배척, 점점 사회와 유리되는 개인주의의 팽배 등이 있습니다. 이 모든 요인이 분쟁을 부채질하고 평화를 방해할 위험이 있습니다.

우리 세상은 엄청나게 넓고 다양하며 복합적이어서 완전히 파악하고 분류할 수 없습니다. 우리의 계산 능력이 아무리 뛰어날지라도 계량화를 위한 어떤 노력도 닿을 수 없는 영역은 언제나 존재할 것입니다. 인공 지능이 분석한 방대한 양의 데이터는 결코 그 자체로 공정성을 보장하지 않습니다. 알고리즘이 정보를 추론할 때는 언제나 왜곡의 위험이 따르며 정보가 생겨난 환경이 지닌 불의와 편견도 그대로 따라갈 수 있습니다.

‘지능형’ 기계는 맡겨진 과제를 매우 효율적으로 수행할 수 있습니다만, 그 작동의 목적과 의미는 여전히 고유한 가치 체계를 소유한 인간이 결정하거나 마련할 수 있습니다. 특정 결정들을 내리는 기준들은 명확성이 떨어지고, 그 결정의 책임이 은폐되며, 생산자는 공동체의 선익을 위하여 행동할 의무를 회피할 수 있는 위험이 있습니다. 이는 현재 우리의 기술 지배적이고 효율 지향적인 사고방식 안에서 흔히 간과되지만 개인과 사회의 발전에 결정적인 그 무엇 곧 ‘한계의 자각’에 대하여 성찰하게 해 줍니다. 피조물로서 우리가 지닌 한계에 대한 인식과 수용은 성취를 선물로 받아들이고 나아가 반기는 데에 반드시 필요한 조건입니다.

미래에는 주택 담보 대출 신청자의 신용, 개인의 직무 적합성, 유죄 판결을 받은 자의 재범 가능성, 또는 정치적 비호나 사회 보호 수급자의 권리 등이 인공 지능 체계로 결정될 수 있습니다. 이러한 형태의 조종 또는 사회적 통제에 세심한 주의와 감독을 기울여야 하며, 그 생산자, 배포자, 정부 당국은 명확한 법적 책임을 져야 합니다. 알고리즘이 우리가 인권을 이해하는 방식을 결정하거나 연민과 자비와 용서가 지니는 본질적으로 인간적인 가치를 없애버릴 수 없게 하여야 합니다.

원격 제어 시스템을 통하여 군사 행동을 수행할 가능성은 이것이 야기하는 파괴에 대한 인식과 그 사용에 대한 책임감을 약화시켜, 전쟁의 엄청난 참상을 점점 더 냉담하고 무심하게 대하게 합니다. 우리는 정교한 무기가 결국 그릇된 자들의 손에 들어가, 이를테면 합법적 정부 체제의 제도들을 불안하게 만들려는 의도를 가진 테러리스트들의 공격이나 개입을 조장할 가능성 또한 무시할 수 없습니다.

인공 지능이 온전한 인간 발전을 증진하는 데에 사용된다면 이는 농업, 교육, 문화에 중요한 혁신을 가져오고, 모든 나라와 민족의 삶의 수준을 높이며, 인간의 형제애와 사회적 우애를 증진할 수 있습니다. 이 세상의 더 나은 미래를 향한 참으로 인간적인 전망과 바람은 분명 알고리즘의 윤리적 발전을, 곧 가치관이 신기술의 길을 인도하도록 하는 알고리즘 윤리(Algor-ethics)를 목표로 하는 학제 간 대화의 필요성을 제시합니다. 연구에서 출발하여 실험, 설계, 생산, 배포, 마케팅에 이르기까지 윤리 문제들을 고려하여야 합니다.

이것이 교육 기관과 의사 결정 책임자들이 중요한 역할을 하여야 하는 설계의 윤리적 접근법입니다.

디지털 기술은 소통의 가능성을 증가시키면서 우리가 새로운 방식으로 서로를 만날 수 있게 하였습니다. 그러나 우리를 움직이고 있는 이러한 방식의 관계들에 대한 지속적인 성찰이 필요합니다.

인공 지능의 유형들 사용에 관한 교육은 무엇보다도 비판적 사고를 촉진하는 데 목표를 두어야 합니다. 인공 지능의 전 세계적 규모는 그 국내 사용을 규제하는 주권 국가의 책임과 더불어 국제기구가 다자간 협약을 체결하고 그 적용과 집행을 조정하는 데 결정적인 역할을 할 수 있다는 사실을 분명히 보여 줍니다.

이와 관련하여 저는 다양한 유형의 인공 지능의 발전과 사용을 규제하는 구속력 있는 국제 조약을 채택하고자 여러 나라로 구성된 국제 공동체가 함께 힘써 주기를 권고합니다. 인공 지능의 규제에 관한 논의는 가난한 이들, 이주민들, 그리고 국제적 의사 결정 과정에서 흔히 무시되는 이들을 포함하여 모든 이해관계자의 목소리를 고려해야 합니다. 저는 인공 지능이 발전하는 유형의 행보가 궁극적으로 인류의 형제애와 평화에 기여하는 노력에 도움이 될 수 있기를 바랍니다. 이는 몇몇 사람의 책임이 아니라 인류 가족 전체의 책임입니다.

저는 새해를 시작하며 인공 지능 유형들의 급속한 발전이 오늘날 세상에 존재하는 불평등과 불의의 사례들을 늘리지 않고, 전쟁과 갈등을 종식시키며 우리 인류 가족을 괴롭히는 다양한 형태의 고통을 덜어주는 데에 도움이 될 수 있도록 기도합니다. 그리스도교 신자들과 다양한 종교를 따르는 이들, 그리고 선의를 지닌 모든 이가 조화를 이루어 함께 일하여 디지털 혁명이 제기하는 기회는 받아들이고 도전에는 맞서며 미래 세대에게 더욱 위대한 연대와 정의와 평화를 물려줄 수 있기를 바랍니다.

바티칸에서

2023년 12월 8일

프란치스코