데이터를 분석할 때 피해야 할 열 가지 함정

 

 

 

데이터를 슬기롭게 다루는 방법에 관해

 

그거 알고 있는가. 데이터 사이언티스트가 하버드 비즈니스 리뷰에서 선정한 21세기에서 가장 섹시한 직업인 거(Data Scientist: The Sexxist Job of the 21st Century, 2012). 십여 년이 지났지만 현재 추이를 보면 데이터 사이언티스트가 왕좌에서 내려올 일은 아직 없는 것 같다. 

 

데이터라는 분야가 떠오른 지 십여 년이 지났고 여전히 유망하지만 우리 주변은 데이터와 내외하고 있는 듯하다. 데이터를 다루지만 도구처럼 사용하지는 못 한다. 외려 휘둘린다. 이런 기 센 데이터를 슬기롭게 잘 다루는 방법에 관해, 링크드인의 데이터 사이언티스트 모니카 로가티Monica Rogati가 정리한 글이 있어 공유해 본다. 글은 린 분석Lean analytics에서 가져왔으며 문맥에 따라 일부 수정했다.

 

데이터는 의사결정의 도구다. 휘둘리지 말고 휘둘러보자.

 

 

 

 

데이터를 분석할 때 피해야 할 열 가지 함정

 

하나, 데이터에 결점이 없다고 가정하는 것. 이건 많은 사람들이 간과하는 부분인데, 데이터는 완벽하지 않다. 수집한 데이터의 결점을 제거하는 전처리 과정이 데이터 분석 시간의 대부분을 잡아먹는 경우도 많다. 혹시, 수집한 데이터에서 null이 몇 퍼센트쯤 되는지. 그 데이터가 오측정이 됐는지 검증해 봤나. 측정 자체에 오류가 있어 null 값만 한 삼십 퍼센트 나오고 우편번호 90210 지역에 데이터가 몰려 버리는 일들도 있을 수 있다.

 

둘, 표준화하지 않는 것. 예를 들어, 결혼식 장소로 인기 있는 도시의 목록을 만들고 있다고 가정해 보자. 이런 목록을 만들려면 결혼식에 참석하기 위해 어떤 도시로 비행기를 타고 온 사람들의 수를 셀 수 있는데, 이때 그 도시를 방문하는 전 항공 승객 수를 고려하지 않으면 그저 비행기를 이용하는 방문객 수가 많은 도시들의 목록이 될 수도 있다. 분석 목적에 맞는 데이터를 이용해야만 유의미한 분석 결과를 얻을 수 있다.

 

셋, 열외의 사용자들을 배제하는 것. 어떤 웹사이트를 하루에 천 번 이상 방문하는 사람들은 웹사이트의 열혈 팬일 수도 있지만 콘텐츠를 수집해 가는 검색 봇일지도 모른다. 어떤 경우든 이들을 무시하는 것은 실수일 수 있다.

 

넷, 반대로 열외의 사용자들을 포함시키는 것. 하루에도 천 번 이상 웹사이트를 방문하는 사람들은 예상치 못한 것을 알려줄 수도 있어서 정성적인 관점에서는 흥미로운 대상이겠지만 일반 모델을 구축할 때는 도움이 되지 않는다. "데이터 기반 제품을 구축할 때는 이런 사용자들을 배제해야 합니다. 그렇지 않으면 웹사이트의 '추천' 기능에서 하드코어 팬들이 좋아하는 아이템을 모든 유저에게 추천할 겁니다." 모니카는 조언한다.

 

다섯, 계절적 변동을 무시하는 것. "올해 성장률이 가장 높은 직업이 '인턴'이라고? 잠깐, 지금은 3월이잖아." 패턴을 살펴볼 때, 시간/ 요일/ 월에 따른 변화를 고려하지 않으면 잘못된 의사결정으로 이어진다. 선풍기가 주력 제품인 쇼핑몰에서 월매출 1억을 했다면 초봄인 3월에는 선방한 거겠지만 한여름인 8월에는 완전 망한 것처럼.

 

여섯, 성장을 평가할 때 전체 규모를 무시하는 것. 정황 정보는 매우 중요하다. "사업을 막 시작했을 때는 가족이 회원 가입만 해 주셔도 사용자 수가 두 배로 증가할 수 있습니다." 모니카는 말한다.

 

일곱, 지나치게 많아 의미를 잃은 데이터. 대시보드가 있어도 어떤 데이터를 봐야 할 지 모르면 아무 소용이 없다. 이럴 경우에는 고객을 코호트나 RFM 분석, 혹은 인구통계학/ 기술적 지표로 집단을 나눠 봄으로써 분석이 원활한 범위까지 데이터를 가공해야 한다.

 

여덟, 거짓 경보를 울리는 지표. 우리는 어떤 문제가 발생했을 때 빠르게 수습하기 위해 경보 시스템을 구축한다. 그러나 경보를 울리는 기준이 지나치게 예민해서 하루 웬종일 울려 댄다면 결국 우리는 그 경보를 무시하게 될 것이다.

 

아홉, 직접 수집한 데이터만 인정하는 배타적 태도. "여러분의 데이터와 다른 곳에서 수집한 데이터를 합치면 매우 소중한 정보를 얻을 수 있습니다." 모니카는 말한다. "최고의 고객들이 스시 식당이 밀집된 지역에 주로 살고 있습니까?" 그렇다면 이로부터 다음에 어떤 실험을 실시할지 좋은 아이디어를 얻을 수 있다. 아니면, 전략 자체를 짜는 데 영향을 줄 수도 있고.

 

열, 잡음에 초점을 두는 것. "인간의 속성은 패턴이 없는데도 패턴을 발견하게 돼 있습니다." 모니카는 경고한다. "허상 지표는 무시하고 한 발 물러서서 더 큰 그림을 볼 줄 알아야 합니다."