“이곳의 모든 게 사실이고 진짜입니다. 가짜는 없습니다.
단지 통제될 뿐이지요.”
크리스토프(영화 〈트루먼쇼〉에 나오는 설계자)
그림1. 우리는 세상 속에서 수많은 선택과 결정을 하며 산다
설계자는 우리를 위해 세상을 창조했다. 그 속에서 우리는 자유의지를 갖고 먹고 싶은 것, 가고 싶은 곳, 하고 싶은 것을 선택하며 산다. 그리고 선택에 대한 책임은 우리에게 있기에 어리석은 선택을 하지 않도록 주의를 기울인다.
어느 날 누군가 당신에게 다가와 귀띔해준다. “지금껏 당신의 자유의지로 모든 걸 선택해왔다고 생각하겠지만, 사실 그 선택들은 설계자가 예정해 놓은 것이었다!” 이 말을 들은 당신은 당황스럽고 혼란스럽다. ‘내가 그동안 고민하고 선택해온 것이 누군가가 예정해 놓은 것이었다니!’ 당신이 지금 읽고 있는 이 글, 오늘 들었던 노래, 어젯밤에 봤던 영화, 이번 주에 놀러 갔던 곳, 그리고 지금까지 했던 수많은 선택. 정말 당신의 의지로 온전히 선택한 걸까?(자유의지와 결정론에 대한 논쟁이다. 대부분 사람은 자유의지를 믿지만, 결정론을 믿는 사람은 이 세상에서 일어나는 모든 일은 이미 결정되어 있다고 믿는다. 결정론은 신이 모든 것을 예정해 놓았다는 ‘신적 결정론’(예정론)과 자연의 인과관계를 파악할 수 있다면 모든 것이 예측 가능하다는 ‘인과적 결정론’ 등이 있다. 자유의지와 결정론은 양립할 수 없는 관계처럼 보이지만, 양립이 가능하다고 주장하는 학자도 일부 있다.) 혹시나 영화 〈트루먼 쇼〉에서처럼 철저하고 치밀하게 설계된 세상 속에서 살고 있는 것은 아닐까?
나에게 일어나는 일은 우연일까, 필연일까?
트루먼은 평화롭고 조용한 마을에 살고 있다. 여느 때와 다름 없는 출근길, 티 없이 맑은 하늘로부터 괴물체가 떨어졌다. 놀란 트루먼이 다가가 살펴보니 “큰개자리 시리우스 별”이라고 적혀 있는 거대한 조명기기였다. 트루먼은 하늘을 쳐다보며 뭔가 이상하다는 생각이 든다. 그러나 잠시 후 자동차 라디오에서 “이 지역 상공을 날던 비행기에서 부품이 떨어지는 사고가 있었다”라는 뉴스가 나오고, 트루먼은 의심을 거두었다.
트루먼의 일상을 몰래 관찰하는 TV 쇼의 돔 세트장에서 조명기기 추락사고가 났다. 모든 것이 ‘쇼’였다는 사실을 트루먼이 알아차리지 못하도록 설계자는 신속히 가짜뉴스로 사고를 무마했다. 이후에도 비 내리는 장치가 오작동 되고, 쇼 제작진이 나누는 대화가 트루먼의 라디오에 잘못 잡히는 등 크고 작은 사고가 이어진다. 트루먼은 뭔가 이상하다고 느끼지만, 그 실체를 좀처럼 파악하기 어렵다.
트루먼이 진실을 쉽게 알아차리기 어려운 이유는 그가 가진 정보의 양이 턱없이 부족하기 때문이다. 그에 반해 설계자는 트루먼이 태어날 때부터 지켜보고 있었기에 그의 모든 생활 패턴을 꿰뚫어볼 수 있다. 설계자는 이 쇼의 전체 틀을 창조한 사람이고, 모든 것이 그의 지시에 따라 돌아간다. 하지만 트루먼은 설계자의 존재조차 모르고 있다. 자신에게 일어나는 일련의 사건이 왜 일어나는지 알지 못하기 때문에 그저 모든 게 우연이라고 생각하고 받아들인다.
그림2. 피드에 올라오는 뉴스, 영상, SNS 콘텐츠
우리의 피드 Feed에는 뉴스, 영상, 광고, 이름 모를 타인의 글 등 하루에도 수많은 콘텐츠가 올라온다. 막연히 우리에게 맞춰진 추천 콘텐츠라는 것만 추측할 뿐, 그게 어떤 근거로 왜 자신에게 보이는지 정확히는 모른다. 서비스 측은 우리의 이름과 나이, 성별, 사는 곳, 취향과 성격 등 우리에 대해 속속들이 알고 있지만, 우리는 서비스의 알고리즘을 알지 못하기 때문에 그저 받아들이는 수밖에 없다.
설계자와 사용자 간에 생기는 정보의 격차, 즉 ‘정보의 비대칭 nformation Asymmetry’은 힘의 불균형을 초래한다. 정보를 많이 가진 쪽에 유리하게 작용되고, 적게 가진 쪽에는 불리하게 작용되는, 불균형을 이루는 힘이다. 그래서 설령 사용자의 피드에 비합리적이거나 불쾌한 정보가 포함되어 있더라도, 알고리즘에 관한 정보가 부족하기 때문에 우리는 트루먼처럼 속수무책일 수밖에 없다.
내가 하는 선택은 자유의지에서 비롯된 것일까?
그림3. 오늘 뭘 먹을지, 뭘 볼지, 뭘 살지를 온전히 내가 결정하는 걸까.
트루먼은 아침에 이웃들과 정답게 인사를 나누고, 출근길에 가판대를 들러 신문을 산다. 직장에서는 상사 몰래 여행 계획을 세우는 등 딴 짓을 하기도 하고, 퇴근 후에는 친구와 맥주를 마시며 속 깊은 이야기를 나눈다. 주말에는 정원 잔디를 깎는등 밀린 집안일을 하고, 밤에는 가끔 아내 몰래 옛사랑을 떠올리며 그리워하기도 한다.
트루먼의 삶은 평범하면서도 자유로운 일상의 연속이었다. 하지만 밖에서 지켜보는 우리는 안다. 그의 삶이 평범하지도, 마냥 자유롭지도 않다는 것을. 그는 거대한 영화 세트장에서 일거수일투족이 감시되는 통제된 삶을 살고 있다. 친절해 보이는 트루먼의 이웃들, 트루먼이 믿고 있던 아내와 친구, 심지어 어머니까지도 모두 이 쇼를 위해 섭외된 배우들이었다. 트루먼을 둘러싼 모든 상황과 환경은 설계자가 자신이 추구하는 목적에 맞게 디자인하고 설계한 것이었다.
트루먼의 생각과 선택은 대부분 설계자가 짜놓은 시나리오와 틀 안에 있었다. 이런 사실을 모르는 트루먼은 자신이 모든 것을 결정하고 통제한다고 믿었을 것이다. 바로 ‘통제의 환상 Illusion of Control’ 이다. 1 통제의 환상은 사람들이 특정 상황을 자신이 온전히 제어한다고 믿는 현상이다. 예를 들어 슬롯머신 게임에서 자신이 레버를 어떻게 내리느냐가 결과에 큰 영향을 줄 거라고 믿는 것, 인형뽑기 기계에서 인형을 뽑았을 때 자신이 조종을 잘해서라고 착각하는 것 등이다. 2 그래서 설계자의 입장에서는 게임 플레이어에게 통제의 환상을 적절히 심어줘 흥미와 자신감을 갖게 하면, 플레이어가 게임을 지속적으로 하게 할 수 있다. 3
많은 온라인 서비스에도 ‘통제의 환상’이 활용된다. 사용자는 피드를 보고, 광고를 보고, 검색을 해보고, 검색 결과를 클릭해서 상품을 확인하고, 문의하고, 구매하게 된다. 이 과정에서 사용자는 자신이 주도적으로 쇼핑한다고 생각한다. 하지만 실상은 서비스의 추천 피드와 광고, 서비스가 내놓은 검색 결과, 서비스가 제공하는 대화형 챗봇 그리고 상품 리뷰 등에 의존하고 있다. 이 과정에서 서비스 알고리즘이 은밀하게 개입하는데, 서비스가 보여주고 싶은 것은 먼저 보여주고 보여주기 싫은 것은 감춘다. 결국 사용자는 자신이 온전히 무언가를 선택했다고 믿지만, 실상은 서비스에서 제공한 선택지 가운데 고른 것일 뿐 서비스 측이 설계한 큰 그림 안에서 결정한 셈이다.
어떻게 은밀히 통제 당하고 있는가?
트루먼은 자신의 삶에서 원인 모를 답답함을 느끼고 결국 마을을 떠나기로 한다. 가능한 한 멀리 가기 위해 비행기 표를 사러 여행사에 갔지만, 벼락을 맞는 비행기 포스터가 걸려 있어 트루먼은 섬뜩함을 느낀다. 비행기 표를 구하지 못해 시외버스를 탔지만, 출발도 하기 전에 갑자기 버스가 고장 난다. 하는 수 없이 자동차를 타고 어디든 떠나보려 하지만, 갑자기 나타난 차들 때문에 길이 막힌다. 또 멀쩡하던 도로에서 갑자기 화재가 발생하고, 방사능 유출 사고가 났다면서 경찰들이 도로를 통제하기도 한다.
그림4. 마을 밖으로 떠나고 있는 트루먼. 옆 표지판에는 “정말 좋은 생각일까요 Are You Sure It’s a Good Idea?”라고 적혀 있다(movieloci.com).
트루먼이 마을을 떠나려고 할 때 겪었던 웃지 못할 상황은 온라인 속 우리에게도 비슷하게 펼쳐진다. 서비스를 해지할 때 해지 경로를 어렵게 꼬아놓기도 하고, 생각지도 못한 곳에 해지 버튼을 배치하기도 한다. 버튼 문구를 헷갈리게 적어 놓기도 하고, 아예 버튼처럼 보이지 않게 만들기도 한다. 해지 안내가 나와 있는 페이지를 찾아내더라도 모바일이 아닌 PC에서 하라고 하거나, 평일 근무시간에 고객 센터로 전화하라며 우리에게 좌절감을 안긴다(그림5 참조).
그림5. 해지를 어렵게 만든 온라인서비스의 디자인 사례. (왼쪽부터) 간단해 보이지만 미로처럼 꼬아 놓은 해지 경로, 버튼 같지 않은 해지 버튼([해지예약])과 해지를 망설이게 하는 문구(“나중에 인상된 가격으로 구매할래요”), PC에서 다시 진행하거나 고객센터로 문의하라는 안내 문구 4
해지 버튼을 겨우 찾아내 누르면 “정말 해지할 거냐”고 반복적으로 팝업 창을 띄우거나, “지금 해지하면 다시 가입할 수 없다”라고 반협박성 문구를 띄우는 것 역시 트루먼이 마을을 빠져나갈 때 겪었던 해프닝과 상당히 유사하다(그림4 참조).
이 같은 디자인 설계는 사용자가 로그아웃하거나 회원 탈퇴를 하는 경우, 광고나 약관의 동의 설정을 바꾸는 경우 등에도 활용 된다. 서비스 입장에서는 사용자의 이런 행동이 자신들의 이익에 반하는 것이기 때문에 사용자가 포기하게 하는 전략이다. 그리고 해지 과정을 대놓고 어렵게 만들면 지탄 받을 수 있기에 해지를 못하는 이유가 서비스 측에 있는지, 아니면 사용자의 게으름이나 능력 부족 탓인지 애매하게끔 디자인을 설계한다.
교묘하고 치밀한 통제는 어떻게 가능한가?
설계자가 트루먼을 치밀하게 통제할 수 있었던 이유는 그의 일거수일투족을 오랫동안 지켜봤기 때문이다. 트루먼이 생활하는 모든 곳에 몰래카메라가 숨겨져 있고, 화장실과 침실에서의 모습까지 촬영되었다. 트루먼이 거울을 보면서 말하는 혼잣말, 사람들과 나누는 대화, 특정한 상황에 나오는 행동 등이 상세하게 관찰됨으로써 그가 어떤 것을 좋아하고 싫어하고 무서워하는지 파악할 수 있었다.
영화 속 트루먼이 가여운 이유는 트루먼 본인만 이 상황을 모르고 있다는 것이다. 자신의 일거수일투족이 촬영되고(그림6) 공개되는 것을 원하지도, 동의한 적도 없는 상황에서 마치 동물원에서 태어난 동물처럼 트루먼은 그곳이 세상의 전부인 양 생각하며 살았다.
그림6. 트루먼의 일상을 감시하는 카메라들
우리의 현 상황 역시 정도의 차이는 있겠지만 비슷한 면이 있다. 예를 들어 휴대전화, AI 스피커, 스마트홈 기기들이 ‘비활성화’된 상태에서도 카메라와 마이크, 각종 센서 등을 통해 우리 일상의 모습과 대화 내용, 여러 데이터를 수집하고 있다는 뉴스와 아티클이 지속해서 보고된다. 5, 6 2022년 〈컨슈머리포트 Consumer Reports〉도 빅테크 기업들이 사용자의 어떤 정보를 수집하고 어떻게 활용하고 있는지 아직 충분히 밝혀지지 않았다면서 잠재적 위험성에 대해 경고했다. 7
심지어 사용자 정보 수집을 ‘거부 설정’한 상태에서도 추적이 계속되어 개인정보보호정책의 실효성에 의문이 제기되기도 했다. 8 그리고 2023년 말 최근까지 국내 기업에서도 고객 정보를 무단으로 수집한 사례가 계속해서 확인되고 있다. 9
나 역시 해당 이슈와 관련한 경험을 수차례 한 적이 있다. 2023년 미국에 머무는 동안, 한국에서 치매를 앓는 가족에 관해 전화로 한 두 번 이야기를 나눴는데, 얼마 뒤 나의 SNS 피드에 평소에 본 적 없던 ‘치매’ 관련 광고가 연달아 떠서 경악했던 적이 있다(그림2 오른쪽). 그 뿐 아니라 아내와 “이발을 못 해 머리가 너무 길어져서 제어가 안 된다”라거나 “나도 ADHD가 아닐까?”라는 푸념 섞인 대화를 나눴는데, 며칠 뒤 나의 피드에 관련 콘텐츠가 뜨는 것을 경험했다 (그림2, 그림3 가운데).
마침 궁금했던 정보니까 반가워해야 하는 걸까, 아니면 서비스의 취향 저격에 감탄해야 하는 걸까. 나는 추천해 준 콘텐츠를 보면서 신기함과 더불어 섬뜩함과 불쾌감이 뒤섞인 기분이 들었다. 정말 내가 모르는 사이에 마이크와 카메라를 통해 사적 정보가 수집되고 있는 것은 아닐까. 도대체 어느 정도까지 어떻게 수집되는 것인지 알 수 없는 일이다. 사용자에게 이런 섬뜩함이나 불안, 오해와 같은 부정적 감정이 드는 것을 막으려면 콘텐츠를 추천할 때 이유와 근거를 밝히는 게 도움이 될 수 있다. 10
설계자는 우리를 어떻게 바라보고 있을까
트루먼쇼의 한 시청자가 설계자 크리스토프에게 항의하며 물었다.
“당신은 무슨 권리로 트루먼을 아기 때부터 데려다가 이렇게 구경거리로 만드는 거죠?”
그러자 그는 이렇게 답했다.
“트루먼이 사는 곳은 천국입니다. 그리고 우리가 사는 곳은 지옥이죠. 나는 트루먼에게 특별한 삶을 선사했습니다. 트루먼은 언제든 마음먹으면 떠날 수 있습니다. 트루먼이 진실을 알고자 한다면 그걸 막지 못하지요. 하지만 트루먼은 시도하지 않았고, 자신이 있는 곳에 만족하며 살고 있습니다.”
설계자는 트루먼이 사는 세계가 이상적인 세계라 주장한다.
두려울 것 없는 안전하고 평화로운 낙원 같은 삶을 트루먼에게 선사 했다는 것이다. 실제로 수천 대의 카메라가 찍고 있는 상황이니, 트루 먼이 불의의 사고를 당하거나 누군가에게 피해를 당할 확률은 낮을 것이다. 그러나 설계자는 그 이면에 있는 윤리적 문제는 철저히 외면 한다.
설계자는 트루먼을 대등한 존재가 아닌, 도구화해서 바라본 다. 설계자의 눈에 트루먼은 상품성이 높은 대상이고, 그를 아끼지만 마치 우월적 존재가 피조물에게 하듯 대한다. 11 이와 비슷하게도, 온라인서비스의 설계자 역시 사용자를 도구화해서 바라본다. 사용자의 데이터는 그들의 시스템에 막대한 이익을 가져다주는 상품성 높은 도구이기 때문이다.
사용자 데이터를 무분별하게 수집하는 것에 대해 서비스 측은 ‘사용자를 위한 것’이라고 말한다. 사용자의 편의, 사용자의 경험, 사용자의 행복을 위한 것이라고 표방하는 것이다. 하지만 결국 설계자 크리스토프가 했던 합리화와 정당화는 아닌지, 그리고 진정 우리를 위한 것인지는 논의와 합의가 따라야 한다.
무엇보다 트루먼의 행복에 대해서는 설계자 크리스토프가 아닌 트루먼의 입장에서 들어봐야 한다. 그리고 트루먼이 설령 자신이 행복하다고 말하더라도 크리스토프가 저지른 윤리적 문제는 여전히 논란이 될 것이다. 우리가 놓치고 있거나 우선순위에 밀려 잠시 미루고 있는 윤리적 문제에 대한 고민이 필요하다.
—
글 : 윤재영 홍익대학교 디자인학부 교수
출처 : 디자인 트랩, 윤재영, 김영사, 2022. (6부 선택과 통제의 딜레마 - 16장 내 선택은 자유의지에서 비롯된 것일까)
주
1. Langer, Ellen J.. “The illusion of control.” Journal of personality and social psychology 32.2 (1975): 311.
2. Dark Pattern Games. “Illusion of Control, The game cheats or hides information to make you think you’re better than you actually are.” Dark Pattern Games, n.d., https://www.darkpattern.games/pattern/48/illusion-of-control.html accessed 2023.
3. Yarritu, Ion, Helena Matute, and David Luque. “The dark side of cognitive illusions: When an illusory belief interferes with the acquisition of evidence-based knowledge.” British Journal of Psychology 106.4 (2015): 597-608.
4. 윤재영. 디자인트랩. “16장 들어올 땐 맘대로지만 나갈 때는 아니란다”, 김영사, 2022.
5. Kang, Cecilia. “Google reaches record $392M privacy settlement over location data.”
The New York Times, 14 Nov 2022, https://www.nytimes.com/2022/11/14/technology/google-privacy-settlement.html#:~:text=WASHINGTON%20%E2%80%94%20 Google%20agreed%20to%20a,company%20continued%20collecting%20that%20information
6. Singer, Natasha. “Amazon to Pay $25 Million to Settle Children’s Privacy Charges.”
The New York Times, 31 May 2023, https://www.nytimes.com/2023/05/31/technology/amazon-25-million-childrens-privacy.html?smid=url-share
7. Germain, Thomas. “How TikTok Tracks You Across the Web, Even If You Don’t Use the App.” consumer reports, 29 Sep 2022, https://www.consumerreports.org/electronics-computers/privacy/tiktok-tracks-you-across-the-web-even-if-you-dont-use-app-a4383537813/
8. Germain, Thomas. “How TikTok Tracks You Across the Web, Even If You Don’t Use the App.” consumer reports, 29 Sep. 2022, https://www.consumerreports.org/electronics-computers/privacy/tiktok-tracks-you-across-the-web-even-if-you-dont-use-app-a4383537813/
9. 오정인. “고객 정보 무단수집?…금감원, 토스 제재 착수”, SBS Biz, 2023년 11월 1일, https:// biz.sbs.co.kr/article/20000142063
10. Harley, Aurora. “UX Guidelines for Recommended Content.” Nielsen Norman Group, 4 Nov 2018, https://www.nngroup.com/articles/recommendation-guidelines/
11. Buber, Martin. I and Thou. Vol. 243. Simon and Schuster, 1970.
<다크넛지의 비밀, 윤재영> 전체 글 보기...
#넛지 #넛지디자인 #다크패턴 #다크넛지 #Nudge #Nudgedesign #Darkpattern #DarkNudge #행동경제학 #심리학 #UX디자인 #사용자경험 #행동유도 #경험디자인 #소비자심리 #디지털디자인 #윤리적디자인 #소비자행동 #디자인전략 #서비스디자인 #행동디자인 #디자인윤리 #디자인딜레마 #디자인트랩 #윤재영
