AI 쓴다더니 사람이?!…‘AI워싱’ 논란 숨겨진 진실은?

이제는 국민앱이자만 논란도 많이 일으키는 ‘배달의 민족’. 다들 아시다시피 중국집 등에 전화할 필요없이 앱으로 편리하게 배달을 시킬 수 있어 인기잖아요. 그런데 배민은 초창기인 2010년 경에는 서비스를 어떻게 운영했을까요?

 

당연히 AI 등을 통해 자동으로 연결해주겠지라고 생각하실지 모르겠는데요. 지금으로부터 14년 전인 초창기에 가능했을까요? 거의 불가능했죠. 따라서 콜센터 방식을 썼다고 하는데요. 고객이 앱에서 주문 버튼을 누르면 배민 직원이 해당 음식점에 전화를 걸어 주문한 음식이 몇 분 안에 배달 가능한지 물어보고 업체의 답변을 고객에게 문자로 알려줬다고 합니다. 고객들은 앱을 이용하니 자동인줄 알았지만 뒤에서는 콜센터 직원들이 열심히 전화를 돌렸던 것이죠. 물론 이런 방식은 곧 사라지긴 했지만요.

 

배민만이 아닙니다. 직장인들의 필수앱인 리멤버도 마찬가지입니다. 스마트폰 사진만 찍어도 명함을 자동으로 인식해주고 연락처도 자동으로 저장해줘 너무나 편리하죠. 하지만 서비스를 시작한 2013년 경에는 달랐다고 합니다. 고객들이 명함을 찍은 사진을 앱으로 등록하면 AI 등이 자동으로 인식하는 것이 아니라 수동으로 입력했다고 하는데요. 광학인식기술(OCR)을 이용하면 오류가 많기 때문이었다는데요. 그래서인가 한 때 이 회사에는 무려 150명이 넘는 아르바이트 타이피스트가 있었다는 군요.

 

왠지 속았다는 생각이 드시나요? 그런데 최근에는 이런 일이 더 많이 일어난다고 합니다. 특히 AI기술의 발달로 ‘AI 워싱(AI Washing)’이란 신조어까지 등장했는데요. 이 용어는 최근 전세계 주식시장의 화두인 ‘AI 거품론’과도 연관이 깊습니다. 이런 AI워싱, AI거품론이 더욱 확산될까요?

많은 분들이 기억하실 것입니다. 세계 최대 전자상거래 업체 아마존이 2016년 놀라운 서비스를 선보였죠. 바로 ‘아마존 고’. 당시 아마존은 계산대에 길게 줄을 설 필요없이 고객이 필요한 물건을 들고 나가면 자동으로 계산된다고 자랑했습니다. 인공지능(AI) 시스템인 ‘저스트 워크 아웃(Just Walk Out)’을 적용해 카드결제까지 자동으로 끝낼 수 있다고 홍보했는데요. 어떻게 가능하냐는 질문에는 매장 내 수백 대의 카메라가 고객의 얼굴을 인식하고, 진열대의 센서로 고객이 고른 상품을 알아낸다고 설명했죠.

 

하지만 아마존은 2023년 돌연 이 서비스를 중단하기 시작했습니다. 실적 부진으로 인한 비용절감 차원이라고 했는데 진짜 이유는 나중에 밝혀집니다. 아마존이 자랑하던 ‘저스트 워크 아웃’ AI가 사실은 인도사람들이었거든요. BBC보도로 인도 지사에서 고용한 1000여명의 직원이 아마존 고 매장 카메라를 수동으로 체크해 결제를 진행한다는 사실이 뒤늦게 드러난 것입니다. 기가 막히죠.

 

이에 아마존은 “인도 노동자가 검수 작업을 한 것뿐”이란 입장을 냈습니다. 하지만 AI를 통한 완전 자동화를 믿었던 소비자의 신뢰엔 금이 갈 수 밖에 없죠.

 

아마존만이 아니죠. 전동칫솔 중에서 매우 고가인 P&G 오랄비의 ‘iO10’. 2023년 출시하면서 인공지능을 탑재해 일반 칫솔 대비 최대 99.7%의 플라그를 더 제거한다고 자랑했는데요. AI가 치아 위치와 밝기 등을 파악해 이가 잘 닦였는지 알아낼 수 있다고 광고도 했습니다.

하지만 워싱턴포스트(WP)는 “칫솔의 AI가 어떻게 작동하는지에 대해 질문했지만, 회사는 대답을 못 했다”고 보도했죠.

 

코카콜라도 지난해 인공지능(AI)이 이제 음료수의 맛을 결정한다며 한정판 탄산음료 ‘Y3000’을 출시했는데요. 서기 3000년 미래 시대를 상상하며 AI와 공동 개발했다고 홍보했습니다. 데이터를 수집하고 맛의 콘셉트와 이상적인 조합을 AI가 만들었다는 건데요.

 

문제는 AI가 어떤 방식으로 제품 개발에 참여했는지 문의가 쏟아졌지만, 코카콜라는 이렇다 할 설명을 내놓지 않고 있다는 점이죠.

 

이처럼 무늬만 AI인 ‘AI 워싱’이 급증하고 있습니다. AI라는 이름표를 붙이면 소비자의 관심을 끌면서 서비스나 제품을 구매할 확률이 높아지기 때문인데요. 기업 입장에선 혁신적이고 기술 선도적인 이미지를 구축할 수 있고 특히 투자자를 모으고, 정부 지원을 얻어내기도 쉽습니다. 글로벌 시장조사 업체 피치북에 따르면 올해 2분기 미국 스타트업에 몰린 자금은 556억달러(약 75조7420억원)인데 이 가운데 절반가량인 271억달러(약 36조2787억원)가 AI 스타트업에 투자됐다고 합니다.

 

포브스는 “AI를 언급한 스타트업은 그러지 않은 스타트업보다 15~50% 투자를 더 유치했다”고 분석했습니다. 2000년 ‘닷컴 버블’ 당시에도 닷컴만 붙으면 투자가 몰리고 기업가치가 올라갔었는데 비슷한 일이 반복되고 있는 셈이죠.

 

실제로 영국 벤처캐피털 회사 MMC벤처가 조사한 결과, AI 기반이라고 주장하는 유럽 스타트업 2830곳 중 44.1%가 AI 기술 활용에 대한 증거를 내놓지 못했습니다. 특히 AI 스타트업이라는 회사들은 주로 ▶AI 효율성을 과장하거나 ▶불완전한 AI가 완벽하게 작동한다고 주장하며 ▶단순한 챗봇을 AI 시스템이라고 과장하는 AI 워싱 행태를 보였다는데요.

 

이건 소비자를 기만하는 행위죠. AI가 자동으로 하는줄 알았는데 뒤에서 사람이 하고 있다는 것이 나중에 밝혀지면 투자자들은 손해를 볼 수 밖에 없잖아요. 따라서 철저한 조사와 규제가 필요해 보입니다.

 

이미 미국에서는 ‘AI워싱’에 대한 규제에 들어갔는데요. 미국 증권거래위원회(SEC)는 최근 투자자문회사 델피아와 글로벌프리딕션스에 벌금 40만 달러(5억3560만원)를 부과했습니다. 투자 결정 과정에서 AI·머신러닝을 사용한다고 광고했지만, 사실은 AI를 쓰지 않은 것으로 드러났기 때문입니다.

 

가짜 AI 기술로 투자금을 받은 혐의로 채용 소프트웨어 스타트업 준코도 SEC에 기소됐습니다. AI로 기업에 적합한 지원자를 선발하는 기술을 보유했다고 속여 2100만 달러(281억원)의 투자금을 유치한 혐의입니다.

 

최근 KB경영연구소는 ‘너도나도 AI? 말로만 AI 외치는 AI 워싱 주의보’ 보고서를 통해 “AI 워싱에 대한 규제와 소비자 보호의 중요성이 강조될 수 밖에 없다”며 “소비자와 투자자는 기업의 AI 활용 주장에 대해 비판적 태도를 가져야 한다”고 제언했습니다.

 

기업의 홍보와 뉴스만 믿지말고 실제 해당 업체가 AI를 쓰는지 확인해 보라는 거죠. 그걸 어떻게 확인해라고 하실 수도 있는데요. 당당히 요구하면 됩니다. 투자자는 물론 소비자도 AI 작동 방식에 대한 투명한 설명을 요구할 권리가 있습니다. 기업은 이에 대해 설명할 책임이 있고요. 물론 기업비밀도 있기 때문에 기술적인 것 모두를 공개하긴 힘들어도 작동원리와 방식 정보는 제공하는 것이 가능할 것입니다.

 

또 한가지. 해당 기업이 AI를 쓴다며 ‘혁신적’ 또는 ‘지능적’이라는 단어를 남발한다면 의심할 필요가 있습니다. 해당 서비스가 정말 혁신적이고 지능적이라면 이런 단어가 아니라 작동방식만 설명해도 충분히 알 수 있기 때문이죠. 그런데 이런 게 부족하니 과장하는 경우가 많습니다.

여기서 한가지 더 생각해볼 내용이 있습니다.

 

“사람들이 반드시 앉아야 하고 화면을 계속 봐야 하기 때문에 경쟁자인 라디오를 결코 이길 수 없을 것이다. 평균적인 미국 가정은 볼 시간이 없다.”

 

도대체 뭘 이야기하는 것일까요? 바로 TV입니다. TV가 처음 미국 가정에 보급되기 시작한 1939년 뉴욕타임스 사설에 실렸던 내용인데요. 지금으로써는 도저히 상상하기 힘든 사설인데요.

 

이처럼 새로운 서비스가 나와서 완전히 자리 잡기까지는 많은 공격과 비난을 받게 됩니다. 그래서 새로운 서비스가 등장했다가 일시적으로 수요가 정체되는 ‘캐즘’ 위기를 겪게 되고요. 이 과정에서 옥석가리기도 진행되죠.

 

AI도 현재 이런 캐즘 위기가 아닐까요? 닷컴버블에서 살아남은 기업들이 구글, 네이버가 됐듯이 ‘AI워싱’ 유혹에 빠지지 않고 진짜 AI 기술을 개발하며 관련 내용을 투자자, 소비자에게 투명하게 공개하는 기업이라면 AI거품 위기에서도 살아남을 수 있을 것입니다.

https://smartstore.naver.com/kbjmall/products/4875486249

닉왁스베이스워시1리터 대용량(사은품: 베이스워시 샤셰(SACHET) 50ml ) : 경불진몰