다시 뜨거워진 세상 속으로

이것이 기술윤리다 : 인공지능 시대의 철학 나침반,책속에서
알라딘제공
[P.71] 만약 전쟁이 자율무기체계와 같은 기술에 아웃소싱되어 인간이 더 이상 군인의 역할을 수행할 필요가 없게 된다면, 전쟁 윤리와 관련된 여러 전통적인 생각은 근본적으로 뒤흔들릴 것이다. 앞서 언급한 것처럼, 자율적인 군사용 기술은 전쟁 중 사망한 자들에 대한 책임 및 누가 그 책임을 져야 하는지에 대한 기존의 윤리적 생각에 도전할 것이다. 일반적으로 생사를 결정하는 그 어떤 자율 기술도 도덕적 책임에 대한 우리의 생각을 재고해야 하는지, 도덕적 행위자가 된다는 것이 무엇을 의미하는지에 대한 수많은 질문을 피할 수 없다.
[P. 100] 기술윤리에서 전통적 윤리 이론을 활용할 때 발생할 수 있는 한 가지 중요한 문제는 그러한 전통적 윤리 이론이 현대 기술이 개발되기 전에 발전되었다는 것이다. 주요 윤리 이론들은 로봇이나 인공지능, 소셜미디어, 뇌 임플란트 및 도덕적 측면에서 혼란을 초래할 수 있는 새로운 기술이 존재하기 전에 발전되었다. 즉 인간-기계 상호작용이 아니라 인간-인간 상호작용을 염두에 두고 발전되었다는 것이다. 따라서 윤리의 오랜 역사에서 인간-인간 상호작용의 윤리를 위해 만들어진 생각이 우리 사회의 점점 더 증가하는 인간-기술 상호작용에 자연스럽게 적용될 수 있다는 보장은 없다.
[P. 133] 공리주의 윤리에서 배울 수 있는 교훈은 자율주행차의 충돌 방식에 대해 우리가 생각할 때 무엇이 전체적인 좋음 및 모두의 행복에 최선인가에 대해 일부 고려해야 한다는 것이다. 칸트 윤리학에서 얻을 수 있는 교훈은 모두에게 동일하게 적용되는 보편 법칙으로 우리가 의욕할 수 있는 규칙을 선택해야 한다는 것이다. 이로써 모든 것에 대한 공정성이 확보되고, 누군가에게 정당화되지 않은 이점을 제공하는 것을 방지할 수 있다. 유가 윤리에서 얻을 수 있는 교훈은 자율주행차가 사회적 조화를 촉진하는 방식으로 프로그램되어야 한다는 것이다. 그리고 우분투 윤리에서 얻을 수 있는 교훈은 자율주행차가 사람들 각자의 인간성이 증진될 수 있는 관계 맺음 방식과 일관되도록 프로그램되어야 한다는 것이다. 이 맥락에서 그것이 의미하는 바가 무엇이든 말이다. 이 모든 생각들을 한데 모으면, 인간 사회에 기술을 도입하는 방법에 대한 일반적이고 더 고차원적인 이상을 형성할 수 있을 것이다.