‘단골고객의 배신’ 아시나요? AI배신은?

‘단골고객의 배신’.

단골에게는 싸게 주고 덤도 더 얹어줘 왔던 우리의 상식에 뒷통수를 날리는 이야기였는데요. 당시 브리핑을 못들으신 애청자분들을 위해 짧게 요약해 드리겠습니다. 우리나라는 아니고 중국의 사례인데요. 같은 쇼핑앱에서 같은 물건을 구입할 때 자주 사용하는 이용자와 처음 들어온 사람에게 제시되는 가격이 다르다는 것입니다. 단골에게 할인쿠폰도 더 주고 싸게 줄줄 알았는데 오히려 처음 사용자에게 쿠폰을 제공하고 제시하는 가격도 훨씬 저렴했다는 것이죠. 이유는 간단합니다. 단골은 가격이 비싸도 어차피 살 것이라고 판단한다는 것이죠.

 

그런데 이런 판단을 누가 할까요? 바로 4차 산업혁명시대에 각광받는 AI입니다. 빅데이터 분석을 해봤더니 잡은 물고기에게 더 이상 먹이를 줄 필요가 없다고 나왔다는 것입니다. 이 때문에 단골이 오히려 바가지를 쓰는 피해사례가 늘고 있다고 합니다. 이에 대해 중국 정부가 쇼핑몰 업체들이 빅데이터 분석을 활용하지 못하게 하는 규정까지 만들 정도입니다. 하지만 기업들은 고객의 주거지와 평소 소비성향·습관을 분석해 수익을 극대화한 마케팅이라고 황당한 변명을 늘어놓고 있습니다. 문제는 거의 모든 온라인 거래에 이런 현상이 만연하다는 사실입니다. 항공권이나 숙박, 배달, 예약 등에서도 마찬가지의 의심이 든다는 것이죠. 특히 MBC에서는 중국 사례라고 했지만 우리나라 업체들은 이런 단골고객의 배신을 때리지 않고 있을까요?

 

그래서 오늘은 우리를 화나게 만드는 다양한 배신 사례를 몇가지 살펴볼까 합니다. 우리의 상식을 뒤집는 이런 사례를 정확히 알아야 뒷통수 맞는 것을 피할 수 있을테니까요.

 

첫 번째는 멀티태스킹의 배신입니다. 디지털 문화의 부상으로 다양한 디지털 미디어 기기를 한꺼번에 다룰 수 있는 ‘멀티태스킹’ 능력이 중요하게 평가받고 있습니다. 스마트폰을 하면서 노트북을 만지고 PC작업하는 젊은 친구들도 많죠. 시끄러운 음악을 들으면서 책을 읽거나 논문을 쓰는 것은 너무나 흔하죠. 조금만 시끄러워도 집중을 못하는 저에게는 너무나 부러운 일일인데요.

 

이 때문에 사회 각 분야에서 멀티를 못하는 사람을 능력이 없다고 치부하기도 하죠. 야구나 축구에서도 두세개 포지션을 커버할 수 있어야 인정받고요. 하지만 이런 멀티태스킹이 정말 능력일까요?

 

미국 스탠퍼드대 심리학과, 캘리포니아 샌프란시스코대(UCSF) 의대 신경과학과, 뉴로스케이프, 신경과학연구소 공동연구팀은 미디어 멀티태스킹이 청소년들의 주의집중력과 기억력에 어떤 영향을 주는 지를 연구했습니다. 그 결과를 10월 29일 세계적인 과학저널 ‘네이처’에 발표했는데요. 결과가 어땠을까요?

 

연구팀은 18~26세 건강한 남녀 80명을 대상으로 미디어 멀티태스킹이 기억과 주의력에 미치는 영향을 실험했습니다. 연구팀은 실험 참가자들에게 TV를 보면서 다양한 스마트기기를 동시에 사용하도록 하고 뇌파측정(EEG)과 동공 크기 변화를 관찰한 것이죠. 실험이 끝난 뒤에는 TV 속 내용에 대한 질문을 던지고 응답의 정확성을 측정했습니다. 또 주당 미디어 멀티태스킹 시간, 비디오게임 사용량에 대한 설문조사와 함께 주의력결핍과잉행동장애(ADHD), 주의집중력, 각종 정신장애 관련 측정을 실시했죠.

 

그 결과 미디어 멀티태스킹 시간이 길수록 심각할 정도로 주의력과 기억력이 떨어지는 것으로 나타났습니다. 연구를 이끈 앤서니 와그너 스탠퍼드대 교수(인지심리학)는 “기억은 주의력이 전제돼야 하며, 집중한다는 것은 기억을 위한 필수 준비과정”이라며 “멀티태스킹은 본인도 인식하지 못하는 수준에서 이 과정을 ‘해킹’당하는 것”이라고 지적했습니다. 와그너 교수는 “멀티태스킹은 기억을 위한 신경신호를 감소시킨다”며 “심할 경우 기억이 왜곡되거나 치매와 비슷한 상태에 이르는 경우도 생길 수 있다”고 덧붙였습니다.

 

멀티태스킹이 치매와 비슷한 상태를 일으킬 수 있다니 놀랍지 않나요. 실제로 우리 경험을 떠올려봐도 그럴 것 같습니다. TV를 보면서 책을 읽으면 아무리 재미난 책이더라도 나중에 내용이 상당부분 기억나지 않는 경우가 많습니다. 스마트폰 채팅을 하면서 상대방과 대화를 나누다 보면 뭔 이야기를 했었는지 맥락을 놓치는 경우도 많고요. 이런 사례가 주의력과 기억력 감퇴를 일으키는 것은 아닐까요?

 

실제로 독일에서 활동중인 철학자이자 문화비평가인 한병철 교수는 피로사회란 책에서 이렇게 지적했습니다.

 

“멀티태스킹은 후기 근대의 노동 및 정보사회를 사는 인간만이 갖추고 있는 능력이 아니다. 그것은 오히려 퇴화라고 할 수 있다.”

 

경불진을 들으면서 게임을 하거나 서핑을 하고 있는 애청자 분이 계시다면 퇴화하지 않기 위해서라도 경불진에만 집중해주시길 부탁드립니다.

 

다음 사례는 노벨경제학상과 관련된 내용입니다. 최근 노벨경제학상을 받은 내용중 대중에게 가장 많이 알려진 것이 바로 넛지일 것입니다. 2017년 경불진이 사랑하는 리처드 세일러 교수가 노벨경제학상을 받으면서 더욱 유명해졌고 ‘넛지’란 책도 엄청나게 팔려나겠죠. 그래서 강압적이지 않고 옆구리를 살짝 찌르는 식으로 사람들이 더 좋은 선택을 할 수 있도록 유도한다는 넛지에 대해서는 다들 잘 알고 있을 실 것입니다. 더 나아가 넛지가 골치아픈 문제를 해결할 수 있는 만병통치약처럼 여겨지기도 했습니다. 그래서 우리나라는 물론 세계 각국에서 넛지 효과를 활용하기 위해 다양한 정책들을 내놓았죠.

 

그런데 최근 넛지효과에 태클을 거는 연구가 발표됐습니다. 영국 런던 퀸메리대, 킹스칼리지 런던대, 독일 에어푸르트대, 막스플랑크 인간발달연구소 공동연구팀이 넛지효과가 얼마나 됐는지를 조사해봤다는 것이죠. 이 같은 연구 결과는 심리학 및 뇌과학분야 국제학술지 ‘인지과학 연구경향’ 10월 29일자에 실렸는데요.

 

연구팀은 2008~2019년에 발행된 65편의 연구논문들을 메타분석했다고 합니다. 그 결과 넛지가 행동을 개선하기보다는 악화시키는 ‘역효과’를 내는 경우가 더 많다는 것을 확인했다는 것이죠. 특히 일반적으로 받아들여지고 있는 사회적 규범을 고치기 위한 넛지나 개인의 행동변화를 이끌어 내기 위해 비슷한 집단의 사례를 들면서 비교하는 식의 넛지는 실패할 확률이 가장 크다고 연구팀은 지적했습니다.

 

또 넛지 수단으로 우편이나 이메일, 문자메시지를 활용할 경우 기대했던 효과를 이끌어 내는 경우는 거의 없는 것으로 나타났습니다. 넛지 효과를 설명할 때 종종 인용되는 선거전날 ‘투표할 의향이 있습니까’를 물어보면 투표율이 올라간다는 것도 초반에는 먹힐 수 있지만 초등학생들도 아는 요즘에는 효과가 거의 없다는 것입니다. 오히려 무료·할인 서비스로 모객한 후 통보없이 유료로 전환하거나 가격을 올리는 ‘다크넛지(Dark Nudge)’ 피해만 증가하고 있다는 것이죠.

 

마그다 오즈먼 런던 퀸메리대 박사(실험심리학)는 “이번 연구는 성공의 지름길처럼 받아들여지는 넛지가 많은 분야에서 효과적으로 작용할 것이라는 생각을 뒤집고 있다”며 “넛지를 설계할 때 실패 가능성을 염두에 둔다면 예산과 시간 절약은 물론 원하는 행동변화도 일부 이끌어 낼 수 있을 것”이라고 말했습니다. 한마디로 넛지는 만병통치약이 아니라는 이야기입니다. 슬쩍 옆구리 찌르는 것도 한두번이지 매번 찌르면 짜증나잖아요. 오히려 진솔하게 직접 이야기하는 것이 더 효과적일 수 있다는 말입니다.

 

세 번째 사례는 매우 충격적입니다. 앞서 언급했던 단골고객의 배신같은 이야기인데요. 배우자의 말은 안들어도 이것의 말은 반드시 듣는 다는 이야기도 있죠. 바로 내비게이션 이야기입니다. 특히 저같은 길치에게는 어디를 가든 내비게이션이 필수인데요. 아무래도 가장 빠른 길을 알기 쉽게 선택해줄 것이란 믿음 때문에 내비게이션이 좌회전하라고 하면 좌회전하고 직진하라고 하면 직전하는 등 말을 들을 수 밖에 없죠.

 

그런데 이렇게 내비게이션 말을 듣다가 낭패를 보는 사람들이 많습니다. 일반적인 경우에도 이런 일이 종종 벌어지지만 분초를 타두는 생활전선에서 내비게이션의 배신 때문에 고통을 받는 사람들이 많다고 합니다.

 

바로 배달 노동자들 이야기입니다. 배달앱을 이용해보지 않은 애청자분은 아마 없을 것입니다. 스마트폰을 누르기만해도 맛있는 음식이 문앞에 오니 외국인들은 한국을 ‘배달 천국’이라고 부를 정도죠. 그런데 이렇게 편하게 배달을 시켜먹는 동안 배달노동자들은 엄청난 배신을 당하고 있다고 합니다.

 

어떤 배신일까요? 배달앱에서 주문을 하면 30분내 도착, 50분내 도착이라는 문자메시지가 오죠. 우리는 별생각없이 받는 문자메시지 이지만 배달노동자들은 이를 족쇄같이 여긴다고 합니다. 예를들어 30분내 도착이라고 배달앱이 고객에게 문자를 보냈는데 이 시간을 초과하면 배달노동자에게 패널티가 있다는 것이죠. 아마 이런 내용은 워낙 많이 알려져 다들 알고 계실 것입니다.

 

그런데 여기에 AI의 배신이 있습니다. 배달앱이 보낸 ‘30분내 배송’이란 문자메시지의 30분은 누가 정했을까요? 한번도 생각해보지 않거나 음식점 사장이나 배달 노동자가 입력하는 것이라 여기는 분들도 많으실 것입니다.

 

그런데 이 시간을 정하는 것은 바로 배달앱에서 사용하는 빅데이터, AI라고 합니다. 실제로 대부분의 배달앱은 AI기반으로 움직입니다. 배달노동자가 배달앱을 켜면 AI가 자동으로 배달주문을 잡아주죠. 배달 노동자는 이것을 배달할지 말지만 결정하면 됩니다. 문제는 배달하겠다는 버튼을 누르는 순간부터 시작됩니다. 배달노동자 배달앱에는 음식점 주소와 배달할 품목이 스마트폰 화면에 뜹니다. 그러면 그곳으로 가서 ‘가게도착’ 버튼을 눌러야 하죠. 이게 무슨 문제일까라고 생각하는 분들도 있을텐데요. 음식점 주소가 뜰 때부터 ‘가게도착’ 버튼을 누를 때까지 정해진 시간이 있습니다. ‘픽업 20분 남음’ 이런 식입니다. 게임하는 것도 아니고 시간내에 도착하지 않으면 패널티가 있다는 것이죠.

 

이게 끝일까요? 음식점에 도착해 ‘가게도착’ 버튼을 누르면 2라운드가 시작됩니다. 배달해야 할 고객 주소가 뜨면서, 고객 집까지 배달해야 하는 시간을 알려줍니다. ‘전달 30분 남음’ 이렇게 화면에 올라옵니다. 물론 거리가 멀면 시간을 더 주긴 하죠. 하지만 문제는 배달앱에서 요구하는 시간내에 배달하는 것은 거의 불가능하다는 점입니다.

이유가 뭘까요? 배달앱에서 계산하는 이동거리는 도로의 현실을 전혀 반영하지 않고 있다는 점입니다. 음식을 들고 고객 집까지 가는 길은 구불구불한 골목길도 있고, 끝이 안 보이는 계단도 있고, 가파른 오르막도 있습니다. 신호등도 여러 군데 있죠.

 

하지만 배달앱의 AI는 그런 물리적인 현실을 외면하고 오로지 일직선으로만 시간을 계산합니다. 심지어는 도로상으로는 좌회전, 우회전 등을 해서 고객 집까지 가야 하는데, 이를 완전히 무시하고 직선만을 나타내기도 합니다. 또 아파트 단지를 통과할 수 없는데도 아파트를 가로지르는 길을 기준으로 시간을 매깁니다. 게다가 엘리베이터도 없는 곳을 계단으로 걸어올라가야 하는 경우도 감안해주지 않습니다. 그러니 배달노동자들이 과속을 하고 교통법규을 어기면서 배달을 하는데도 시간내에 배달하지 못하는 경우가 많죠.

 

게다가 배달앱AI는 빅데이터를 통해 해당 거리를 가장 빨리 배달한 사례를 기준으로 시간을 정한다는 의심도 받고 있습니다. 우사인 볼트가 100미터를 9초대에 뛰었으니 너희들도 그렇게 뛰라고 AI가 강압하는 것이죠.

 

이런 현실에 대해서는 어디 하소연할 수도 없다고 합니다. 제시간에 음식을 가져가지 못하면, 고객의 불평은 고스란히 배달원 몫이란 이야기죠. 혹시 애청자여러분 중에서는 문자메시지로 받은 시간보다 늦게 음식이 도착했더라고 화내지 않아주시길 부탁드립니다. 배달노동자들이 화장실도 마음대로 못가고 사고위험을 감수해가며 우사인 볼트급으로 달려도 시간내에 도착하지 못한 것이니까요?

 

그런데 조금 이상합니다. AI, 빅데이터 등 첨단 기술을 쓴다고 하는데 왜 이런 일이 벌어질까요? 이유는 생각보다 간단합니다. AI, 빅데이터에게는 사람이 보지 않기 때문입니다. 모든 것을 수치로 계산하기 때문에 노동자가 단순한 노동도구로 여기는 것이죠. 마치 똥개 훈련시키듯이 보다 빠르게 빠르게 만 닦달하는 것이죠. 배달노동자들이 다치거나 건강을 해치는 것은 깡그리 무시하고요. 이런 것이 AI의 배신 아닐까요? 이러다가는 ‘스카이넷’이라는 AI가 인류를 파괴한다는 영화 터미네이터가 현실이 되지 않을까 두렵습니다.

 

AI배신 사례는 이것 말고도 많습니다. AI의 총아로 여겨졌던 타다나 우버 같은 공유경제가 오히려 대도시 교통체증을 일으킨다는 사례는 정호희 대표님도 자주 언급하셨죠. 또 AI가 저소득·저학력자들에게 큰 타격이 될 것이라는 통념을 뒤집고 오히려 고소득·고학력자에게 더 큰 위협이 될 것이라는 주장도 있죠. 미국 싱크탱크 브루킹스연구소는 연구한 바에 따르면 AI 기술이 갈수록 더 정교해지고 더 많은 산업 분야에 적용되면서 대학교육을 받은 더 많은 근로자를 위협받고 있다고 지적했습니다. 특히 일부 예외는 있겠지만 교육을 더 잘 받고 임금을 더 많이 받아온 노동자들이 새로운 AI기기의 영향을 가장 많이 받게 될 것이라는 분석입니다.

 

특히 수치도 제시했는데요. 고졸 노동자보다 대졸자는 5배, 대학원 졸업자는 4배 정도 AI가 대체할 것이란 주장입니다. 이는 계산원이나 패스트푸드점 직원, 텔레마케터 등 저숙련 단순 노동자들이 가장 큰 영향을 받을 것이라는 기존 전망과 상당한 차이를 보이는 것이죠.

 

또 여성보다는 남성이 더 큰 위협이 될 것으로 내다봤습니다. 여성들은 교육과 헬스케어 등 고도의 대인관계를 필요로 하는 분야에 종사하는 경우가 많아 상대적으로 보호를 받을 수 있다는 것입니다. 이것도 우리의 일반적인 상식을 뒤집는 전망이죠.

 

지역적으로도 기술과 혁신의 도시인 샌프란시스코 실리콘밸리가 미국에서 가장 AI에 취약한 대도시일 것으로 전망됐습니다. 이는 AI에서 앞서가고 있는 우리나라도 일자리 문제에 있어서 AI에 가장 취약하다는 이야기가 아닐까요? AI가 등장해도 나는 괜찮다고 여겨왔던 고학력 대기업 노동자 여러분. 앞으로 어떤 일이 벌어질지도 모릅니다.

 

지금까지 단골고객의 배신, 멀티태스킹의 배신, 넛지의 배신, 배달앱의 배신, AI의 배신에 대해 살펴봤습니다. 기존 우리 상식에 뒷통수를 날리는 내용들이 많았죠. 정말 놀랍기도 하고 두렵기도 합니다. 하지만 이런 배신을 그냥 당해서는 안되겠죠. 우리 스스로 극복할 방법을 찾아야 합니다. 앞서 살펴본 배신의 사례에 공통점이 있습니다. 단순히 숫자나 효율만 생각하고 가장 중요한 사람이 없다는 점입니다. 단골을 호구로 생각해서 등쳐먹고 인류 진화과정을 무시하고 무조건 많은 정보를 얻으려고 하고 계속 찌르면 아프다는 것도 모르고 찌르기만 하고 현실을 무시하고 빠르게 배달하라고만 강요하고 상대적으로 안전하다고 여겨졌던 고학력·대기업 노동자들의 뒷통수를 치는 등. 모든 것을 숫자로만 생각하고 당장의 효율을 위해 희생해도 된다고 생각하는 것입니다. 바로 사람이라는, 인간성을 무시한 결과입니다.

 

따라서 이런 배신을 더 이상 당하지 않기 위해서는 영화 메트릭스에서 숫자로 가려진 현실 속에서 인간성의 참모습, 사람에 대한 사랑을 찾았던 네오처럼 우리 스스로도 조금씩 달라져야 할 것입니다. 조금은 귀찮고 어렵지만 쇼핑이나 예약을 할 때는 여러개를 비교해보고 멀티태스킹보다는 싱글태스킹으로 집중력을 높이고 진솔한 마음으로 상대방을 움직이고 배달이 조금 늦어도 이해해주고 AI에게 일자리를 빼앗길 지도 모르는 사람들과 연대하고. 남을 위하는 것이 결국 나를 위하는 것이라는 ‘이기적 이타주의’를 실천하는 것이 앞서 살펴본 배신을 물리치는 길이 아닐까요?

 

마지막으로 AI에 대한 재미나면서도 두려운 이야기를 하나 전해드릴까 합니다. 이달초 스코틀랜드 프로축구 2부 리그 경기에서 벌어진 일인데요. 최근 코로나로 인한 무관중 경기로 재정 압박을 받는 프로구단들이 여러 가지 시도를 하고 있는데요. 스코틀랜드 인버네스는 축구 중계를 할 때 중계 카메라 감독 인력을 줄이기 위해 AI를 도입했다고 합니다. 지난달 AI가 공의 움직임을 스스로 따라가며 카메라를 찍어주는 시스템을 설치했다는 것이죠. 인버네스 구단은 이를 대대적으로 홍보했고, 카메라가 만든 영상은 그대로 TV 중계에도 활용했습니다. 몇 경기를 시험 중계를 했는데 별 문제가 없었다고 합니다.

 

하지만 지난 2일 경기가 문제였다는 것이죠. 잘 작동하던 AI 카메라가 중계 도중 엉뚱한 곳을 자주 비쳤습니다. 도대체 어떤 곳일까요? 경기 선심이 마치 머리숱이 매우 없었는데 AI가 선심의 머리를 공을 착각했던 것이죠. 그래서 카메라는 공을 따라가다가도 심판이 달리기 시작하면 심판의 머리 쪽으로 시선을 자꾸 돌렸습니다. 이 장명을 중계하던 아나운서와 해설자도 사과 코멘트를 끊임없이 해야 했다는군요. 하지만 네티즌들은 이런 상황이 매우 즐거운 듯합니다. “다음부터는 머리숱이 없는 심판들에게 모자를 씌워야 한다”는 의견이 쏟아진 것이죠.

 

이처럼 AI는 우리가 생각하는 것보다 멍청할 수 있습니다. 그런데 AI카메라였으니 다행이지 자칫 군사용AI가 이런 실수를 한다면 자칫 사람을 죽일 수도 있지 않을까요? 우리가 잘만 다루면 인류에게 좋은 친구로 남을 수도 있지만 이런 AI에게 모든 것을 맡긴다면 끔찍한 일이 벌어지지도 모릅니다. 그런 일이 벌어지지 않도록 우리가 막아야겠죠,