선동과 편향의 시대

자크 엘륄은 1965년에 출간된 책 Propaganda: The Formation of Men's Attitude에서 프로파간다(Propaganda, 선동)이 어떻게 개인을 사회나 특정 행동에 순응하도록 만드는지에 대해 기술하였습니다.
그는 프로파간다가 단순히 의견을 바꾸는 수준에서 머물지 않고, 사람들이 비이성적인 행동을 하도록 유도한다고 주장하였습니다.

이 책은 2차 세계대전 이후 시대 상을 반영하고 있지만, AI가 태동하고 알고리즘이 범람하는 지금 시대에 이러한 통찰은 여전히 유효합니다.
정보와 알고리즘의 시대, 우리는 넘치는 정보와 알고리즘에 의하여 선택적으로 소비하는 방식이 어떻게 현실을 왜곡할 수 있는지 고민해야 합니다.

알고리즘에 의한 확증편향

현대 정보 플랫폼 내의 알고리즘은 우리가 원하는 정보를 무한히 제공합니다. 문제는 이러한 정보가 실제의 세상모습을 반영하는 것이 아닌, 우리의 확증편향(Confirmation Bias)를 강화한다는 것입니다.
확증편향이란, 우리가 이미 믿고 있고 믿고 싶은 것을 강화하는 정보만 받으들이는 경향을 말합니다.

당신이 스테판 커리(Steph Curry)를 별로 좋아하지 않는다고 가정하겠습니다. 그의 태도가 건방져 보인다거나, 혹은 그가 당신이 좋아하는 선수보다 잘한다는 이유로 좋아하지 않을 수도 있습니다.
그래서 당신은 스테판 커리가 슛을 실패하고, 드리볼을 실패하는 모습을 보고 싶고, 그러한 영상을 검색하여 본다면, 알고리즘은 끝임없이 그러한 영상을 계속 보여 줄 것입니다.
그 영상과 그 사건 하나하나는 실제로 일어난 일이지만, 알고리즘이 지속해서 추천해준 그 영상의 모음은 결코 스테판 커리나 농구의 전체 모습을 대변하지 않습니다.
결국, 우리가 보는 세상은 계속 우리가 보고 싶은 것에만 치우치고, 왜곡된 세상으로 변해가고, 결국에는 스테판 커리는 실수만 하고 슛을 실패하는 고평가된 선수라는 결론에 도달할 수 있습니다.

단순하게 스포츠에만 국한되지 않습니다.
정치, 사회적 이슈, 팬데믹 같은 전세계적 주요 이슈에 대해서도 이러한 확증편향을 강화하는 알고리즘은 작동합니다.
2021년 PNAS 의 연구에 따르면, 소셜미디어 알고리즘은 편향된 컨텐츠를 더욱 증폭하는 경향이 있고, 중립적인 컨텐츠 대비 60%이상 더욱 편향성을 증폭하는 것으로 알려졌습니다.
이러한 알고리즘에 기반한 편향은, 사회적 양극화를 더욱 심화시키고, 부정확한 정보가 빠르게 확산되는 결과를 만들었습니다.

더 적게 아는 것이 더 진실에 가까울 수 있다?

명확한 단일 솔류션은 아직 존재하지 않습니다.
하지만 몇몇 정보처리 및 IT 플랫폼 설립자들은 몇 가지의 해결안을 제시하고 있습니다.

• 개인의 경험과 신뢰할 수 있는 주변인의 경험에 의존
  당신의 결혼식에 초대할, 혹은 당신의 부모님이 돌아가셨을 때 찾아와 준 100~200명 정도의 신뢰할 수 있는 사람들이 있다면, 이 그룹의 1차적인 경험을 통해서 정보를 확인하는 방법이 있습니다. 방송이나 소셜미디어에서 어떤 사건을 보도하더라도, 나의 신뢰 그룹에서 해당 사건의 정보를 확인할 수 없다면, 아직은 그 정보를 믿지 않는 것 입니다.
  신뢰집단을 만드는데 기꺼이 시간과 사실 검증의 노력을 지속하고 있었다면, 집단의 규모를 차근차근 늘려나가는 방법도 좋습니다.

• 오류를 기꺼에 감수하라
  이러한 주변 신뢰 집단에 의존하는 것은 물론 오류가 있습니다. 하지만, 어떤 사건이 정말로 중요한 일이라면, 신뢰집단 대부분의 사람들은 이를 알게되고 해당 정보를 확인해줄 것 입니다. 한두명의 개인은 틀릴 수 있지만, 다수의 신뢰 집단 내의 사람들에 의해 확인된 정보는 진실에 가까울 가능성이 충분히 있습니다.

이러한 소수 신뢰할 수 있는 집단에 의존하는 것이 중요한 이유는, 현대사회의 대부분의 사람들이 알고리즘을 통해 세상의 모든 것을 이해하려는 욕구를 채우고 있다면, 결국 모두가 확증 편향에 빠진 왜곡된 세상을 보게될 것이기 때문입니다.
그렇기에, 사람들이 더 적게 알고, 신뢰할 수 있는 소수의 집단의 경험에 많이 의존하게 된다면 혹은 그 집단의 도움을 받는다면, 전체적으로 더욱 진실에 가까운 세계관을 가질 수 있습니다. 이것을 이상한 역설 이라고 부릅니다.

무엇을 해야하는가?

스스로 질문을 던져야 합니다.
나는 어디서 정보를 얻고 있는가? 내가 신뢰할 수 있는 사람은 누구인가?
알고리즘이 제공하는 정보의 홍수 속에서, 진짜 정보를 구별하여 습득할 수 있는가?

때로는 적게 아는 것이 현명한 선택일 수 있습니다. 그리고 당신의 신뢰 네트워크 혹은 신뢰 집단을 만드려고 노력하세요. 신뢰 네트워크는, 오프라인이건 온라인이건 상관 없습니다. 편향되지 않게, 차근차근 신뢰네트워크를 구축하는 노력을 지속 기울이는 것이 중요합니다.