< 홍성호 기자 > 교황 레오 14세는 AI를 산업혁명에 비유하 며, 대형 AI 기업에 대한 새로운 대안들이 형 성되고 있다. 레오 14세는 첫 번째 회칙 『안 간 존엄』을 발표하면서, 인공지능( AI) 을 우 리 시대의 가장 중요한 도덕적 과제 중 하나 로 선언했다. 이 회칙은 도덕, 사회, 신학적 사고를 이끌기 위한 공식 서한으로, ' 존중되 야 할 인류( Magnifica Humanitas,)' 라는 제 목이 붙어 있다. 기술이 권력을 집중시키거나 인간의 존엄성을 약화시키는 것이 아니라 인 류에 봉사해야 한다고 선언한다. AI 관련 사 상 첫 공식적인 기술 윤리를 강조한 것이다. 이 회칙에는 기술은 단순한 도구가 아니며, 기술이 모든 것을 판단하는 기준이 될 때, 무 엇이 중요하고 무엇을 버릴 수 있는지를 결 정하게 되며, 창조물을 착취의 대상으로, 인 간을 더 큰 효율성을 추구하는 시스템의 단 순한 부품으로 전락시킨다고 지적했다. 교황 은 AI 개발사인 앤트로픽( Anthropic) 의 공 동 창립자 크리스토퍼 올라와 함께 바티칸에 서 회칙을 발표했다. 올라는 앤트로픽 같은 기업들이 때때로 옳은 일을 하는 것과 충돌할 수 있는 달콤한 금전적 유인과 제약에 맞서기 위해 도덕적 지침이 필요하다고 인정한 것으 로 알려졌다. 이 회칙은 인공지능( AI) 이 결 코 진정으로 중립적이지 않으며, 개발, 자금 조달, 규제 및 사용 주체의 특성을 띠게 된다 고 경고한다. 또한 윤리적 감독, 사회 정의, 노 동자 보호, 책임 있는 거버넌스 및 평화를 촉 구하고 있다. 인간과 AI의 조화를 강조한 회칙 무엇보다도 인공지능( AI) 과 같이 논란이 많 고 까다로운 주제를 다루면서도 전반적으로

희망적인 어조를 유지하고 있다. 하지만 끊임 없는 전쟁으로 점철된 세계 정세를 묘사하는 데 있어서는 현실적인 시각을 보여준다. 이는 암울하고 비관적인 묘사가 아니라 필요한 비 판이다. 민간인을 향한 폭격, 병원, 학교, 주 요 기반 시설에 대한 공격, 아동에게 영향을 미치는 폭력 … 인류 자체에 상처를 입히는 스 캔들을 단호하게 언급하고 질책한다. 그러 나 인공지능( AI) 을 다루는 긍정적인 측면에 서도 AI 를 본래 인공적인 것이며 결코 자연 을 대체할 수 없다고 단언한다. 하지만 AI 는 신성한 창조 행위에 참여하는 한 형태를 나타 낼 수 있다. 이 사실은 AI 가 각각의 설계 선택 이 인류에 대한 비전을 표현하기 때문에 특별 한 윤리적, 영적 책임을 져야 한다는 것을 의 미한다. 더 나아가, 이 점은 기술과 AI 가 선 한 지 악한 지, 그리고 그 목적이 선한 지를 따 지는 것만으로는 충분하지 않다. 오히려 그것 의 근본적인 비전, 즉 인간을 완성하거나 초 월해야 할 대상으로 여기는지 아니면 도덕적, 사회적 진보를 추구하는지를 명확히 해야 한 다는 것이다. 인공지능은 도덕적으로 중립적 이지 않다. 모든 기술적 산물은 측정하는 것, 무시하는 것, 최적화하는 것, 사람과 상황을 분류하는 방식 등 여러 가지 결정과 우선순 위를 내포하고 있기 때문이다. 무엇을 설계 했고, 어떤 인간과 사회에 대한 관념이 그것 을 이끄는 데이터와 모델에 담겨 있는가?' 라 는 질문을 던져야 한다. 또한 인공지능은 본 질적으로 모호하며, 방어할 수도 있고 공격할 수도 있으며, 방어와 공격의 경계가 모호해지 는 경향이 있다. 바로 이 지점에서 교황 레오 14 세는 트랜스휴머니즘과 포스트휴머니즘이 라는 두 가지 이념을 강하게 비판한다. 이 두

이념은 기술과 인간 한계 극복이라는 꿈에 절 대적인 중심을 부여한다. 트랜스휴머니즘은( 생의학, 신체 공학, 알고리즘 등을 통해) 인 간의 능력을 기하급수적으로 향상시켜 효율 성을 높이고 수익성을 얻고자 하는 것이다. 그리고 포스트휴머니즘은 인간을 초월해 기 계와 환경에 연결하는 것을 목표로 한다. 새 로운 진화 단계를 열어줄 환경인 셈이다. 여 기서는 인간의 자연적 한계가 무시되고, 순 전히 기술적인 구원만 약속된다. 오늘날 여 러 분석가들이 지적했듯이, 기술에 대한 우상 숭배, 즉 진정한 종교가 만연해 있다고 할 수 있다. 실질적으로 이 회칙은 삶의 철학에서부 터 정치( 다양한 급진주의), 경제( 금융화와 암 호화폐), 마음의 구원, 교육, 사회적 상상력의 중요성, 노동과 생태 문제, 디지털, 기술, 사이 버 문화에 기반한 유토피아, 그리고 궁극적으 로 사랑의 문명에 이르기까지 광범위한 영역 을 아우른다. 그래서 이것은 순진한 유토피아 가 아니라, 만만치 않은 실천 과제다. 현재 일 어나고 있는 일들을 통해 이런 변증법을 새롭 게 조명한다. 일부 디지털 플랫폼, 특히 그 중 에서도 가장 악랄한 팔란티어( 미국의 모든 사 람을 통제하고 인공지능을 전쟁에 이용하려 는 플랫폼) 가 제안하는 인구 감시 및 통제 시 스템과, 인간을 돌보고 자연과 존중하는 관계 를 맺으며 인간 사이, 그리고 인간과 전체 사 이의 보편적 형제애를 중시하는 시스템 사이 의 대립을 다룬다. 모든 성찰은 이런 현재의 대립을 전제로 하 고 있다. 회칙은 분명히 돌봄, 이타적인 사랑, 희생자, 가난한 자, 억압받는 자의 관점을 옹 호한다. 그는 우리 시대의 언어를 사용해 누 구나 이해할 수 있고, 고민하고 해결해야 할 문제의 심각성과 깊이를 잃지 않고, 자연에 우호적이고 무한에 열려 있는 다른 세상의 가 능성에 대한 희망을 제시하는, 현대적이고 매 우 중요한 내용을 시대에 선사한다. 결론적 으로, 교황은 성 아우구스티누스의 발자취와 사회 문제에 대한 교리적 전통을 따라‘ 사랑 의 문명’( 바오로 6 세 교황이 만든 용어) 이라 는 주제를 다시 제시하고 있음을 확인할 수 있다. 사랑의 문명이란 자선을 정의의 구조 로 구현하고, 형제애에 제도적 형태를 부여 하며, 개인이든 공동체든 타인을 공동선 건설 에 필요한 동반자로 여기는 것이다. 오직 이 런 사랑만이 안정적인 국제 질서를 만들어내 고, 단순한 무력 공존을 운명 공동체로 변화 시킬 수 있다.

다른 종류의 AI 를 위한 건설 현장 신흥 AI 산업을 바벨탑처럼 쉽게 볼 수 있 다. 몇몇 거대 기술 기업들이 모델을 만들고 자신들의 조건에 따라 접근을 제공한다. 산업 혁명 시기와 마찬가지로, 더 정의로운 미래는 현재의 학대에 저항하는 노동자들로부터 시 작된다. 할리우드에서 나이로비에 이르기까 지, AI 가 노동자들의 직업을 변화시키는 가 운데 노동자들은 존엄성을 위해 싸워왔다. 회 칙은 건강한 사회에 있어 양질의 일자리가 중 요하다고 강조한다. 노동자들의 요구는 미래 의 일자리가 어떻게 되어야 하는지 파악하는 데 도움이 될 수 있다. 다른 접근법들은 AI 개발자들 사이에서 시 작된다. 스위스에서는 정부와 학계가 협력해 기초 모델이 탄생했다. 이는 완전히 문서화된 설계와 데이터 소스를 기반으로 한 모델로, 선도 AI 기업들의 불투명하거나 불법적인 관 행과는 거리가 멀다. 일부 개발자들은 소비자 협동조합을 만들어 사용자가 모델과 인터페 이스를 공동 소유할 수 있도록 했다.

▶3 면에 계속