🛸2024년 8월 17일, 자포리자 원전 인근에 무인기(드론) 공격이 발생하자 국제원자력기구(IAEA) 사무총장 라파엘 그로시는 유럽 최대 원자력 발전소인 우크라이나 자포리자 원전의 안전 상황이 악화하고 있다고 경고했습니다. ‘드론’은 전쟁에서 중요한 살상 무기로 사용되며 군사기지를 공격하기도 합니다. 드론 조종사들은 원격 공격과 살인에 점점 둔감해지는데, 프랑스의 철학자 그레구아르 샤마유는 이를 ‘도덕적 버퍼링’이라 부릅니다. 먼 훗날 도덕적 버퍼링 효과에 대한 죄책감으로 드론 조종사들이 심각한 외상 후 스트레스 장애(PTSD)를 입을 수도 있습니다. 이처럼 과학기술의 발달은 인류에게 후유증과 상처를 남기기도 합니다. 인공지능 시대의 윤리와 인간의 권리는 괜찮은지 생각해 보겠습니다.
👆 표지를 누르면 책 정보를 볼 수 있어요.
인공지능 윤리를 부탁해
허유선 지음 | 나무야 | 2024
―
인공지능은 기계가 수행하는 일 중에서 ‘사람에게 생각하는 힘을 요구하는 업무나 과제를 대신하는 기계’이자, ‘그러한 기계를 만들려는 연구 분야’ 전체를 의미합니다. 지적인 능력, 다시 말해 생각하는 힘을 기준으로 사람이 일부러 만든다는 점이 핵심입니다. 이런 인공지능이 인간의 더 좋은 삶을 위해 활용되는 미래는 밝아 보입니다. 위험하고 힘든 일을 로봇이 대신하듯, 시간과 노력을 덜 수 있고 더 나은 세상을 위해 인공지능이 필요하다면 반대할 사람이 없을 겁니다.
그러나, 2020년 12월 공개한 챗봇 이루다 사건을 기억하시나요? 아이돌을 좋아하는 스무 살 여대생으로 설정된 채팅 프로그램에 노출된 수많은 개인 정보와 인권 침해 문제로 세상이 떠들썩했고 3개월 만에 서비스를 종료했습니다. 윤리적 기준이 마련되지 않은 채 만들어진 인공지능은 괴물이 되었습니다. 과학기술의 눈부신 발전은 사회구성원들이 예측하지 못한 문제를 일으키고 갈등을 유발할 수 있습니다. 문제는 이것을 해결하려는 준비와 노력입니다. 인공지능은 이미 우리 삶에 깊숙이 들어와 있습니다. 계속해서 ‘윤리’ 문제를 고민하지 않으면 생각지도 못한 일들이 벌어질 것으로 예상됩니다.
칸트 철학을 전공한 허유선은 이와 같은 문제들을 폭넓게 살펴봅니다. 정보화 시대, 인공지능 시대를 맞이한 우리에게 필요한 ‘생각하는 힘’을 요구합니다. 프라이버시, 일자리, 딥페이크, 차별, 딜레마, 편향성 등 다양한 문제가 벌어지는 현실에서 인간을 위한 인공지능의 윤리는 무엇이며, 우리는 어떤 준비를 해야 할까요. 더 나은 삶을 위해 인공지능을 제대로 활용하며 행복한 미래를 꿈꿀 수 있을까요. 친절하고 쉬운 문장으로 안내하는 저자의 목소리에 귀 기울이며 함께 고민할 시간입니다.
👆 표지를 누르면 책 정보를 볼 수 있어요.
십시일反
손문상 등 지음 | 국가인권위원회 기획 | 창비 | 2024
―
『십시일反』은 노동, 장애, 여성, 이주민 등 저마다 포착된 차별을 주제로 삼고, 여러 명의 작가가 상처받는 사람들에게 밥 한술씩 보태자는 의미입니다. 인권은 아무리 강조해도 지나치지 않습니다. 군사 독재 시절부터 인공지능 시대까지 인간으로 존중받아야 할 권리보다 앞서는 일은 없기 때문입니다.
국가인권위원회가 기획한 이 책은 개성 있는 여러 명의 만화가가 여성, 장애인, 성 소수자, 이주노동자 등을 주제로 편견과 차별과 혐오에 관해 이야기합니다. 만화는 생동감 넘치는 구체적인 장면으로 ‘인권’을 설명하는 대신 보여줍니다. 누구에게나 친숙한 매체의 장점을 살려 우리 사회에서 벌어지는 인권 침해 현장을 직관적으로 드러냅니다. 어려운 용어와 복잡한 설명보다 ‘인권 감수성’에 호소하는 방식으로 여러 사람에게 공감과 응원을 받고 있습니다. 『사이시옷』과 『어깨동무』 시리즈도 같이 읽어보면 우리 사회 인권의 사각지대를 살펴볼 수 있습니다.
인간이 사회적 동물이라는 사실을 부정하는 사람은 없습니다. 개인의 행복은 타인과의 관계, 공동체 안에서 결정되기 때문입니다. 오롯이 혼자만의 노력으로 성공하거나 즐거운 인생을 꿈꿀 수 있는 사람이 있을까요. 공감도 학습이 필요하며 편견과 차별도 알아야 구별할 수 있습니다. 우리가 무의식적이고 습관적인 말과 행동으로 다른 사람에게 상처를 준 적은 없는지 돌아봅시다. 자신을 성찰하며 성숙한 인간으로 살아가기 위해서는 적지 않은 노력이 필요합니다. ‘차이’를 인정하는 태도는 ‘차별’하지 않는 사람으로 살기 위해 매우 중요합니다. ‘나’를 넘어 ‘너’와 함께 ‘우리’로 살기 위해서 인권은 포기할 수 없는 가치입니다.