탐욕스러운 기업이 빅데이터를 만나면

[이데일리 오현주 선임기자] 독특한 취미였다. 차창 밖을 내다보다가 지나가는 자동차의 번호판을 유심히 들여다봤다니. 특정 숫자가 하나 보이면 인수분해를 해댔다. 가령 ‘45’를 뜷어져라 보면 ‘3×3×5’로 해체됐다. 어릴 적 즐기던 놀이였단다. 이 아이는 커서 뭐가 됐을까. 그래, 수학자가 됐다. 수학자가 되니, 어차피 뛰어봐야 숫자란 수학의 편견이 화끈하게 깨졌다. 증명에 증명을 거듭하며 수학은 발전하고 있었다. 대학에서 헤지펀드로 장을 옮겨가자 수학은 더욱 ‘익사이팅’해졌다. 교과서 위 추상적 숫자가 계좌 위 정교한 달러로 변하는 마법까지 봤다.

그런데 2008년 그날이 오고 말았다. 금융세상이 붕괴한 그날, 알고 싶지 않았던 수학의 실체를 봐버린 거다. 질서정연한 도피처였는데 수학은 세상사에 얽힌 것도 모자라 세상문제를 부추기고 있었다. 주택시장이 무너지고 금융기관이 파산하고 실업률이 급등하는 모든 재앙이 수학자의 손끝에서 빚어졌다는 것도 알게 됐다.

더 기가 막힌 일은 그후. 금융위기 이후 새로운 수학기법이 줄지어 태어나 이전보다 더한 괴력을 발휘하더란 거다. 가령 금융시장의 동향이나 분석하던 수학기법이 인간의 일상을 들여다보기 시작했다. 소셜미디어나 온라인쇼핑몰에서 수집한 방대한 데이터는 24시간 내내 돌며 인간의 욕구와 행동을 따지고 소비력과의 상관관계를 쟀다. 수학자·통계전문가가 앞장서 카드비를 연체할 개개인을 미리 골라내고 학생·노동자·연인·범죄자로서의 인간잠재력까지 가늠했다. ‘빅데이터 경제’가 도래한 것이다.

깔끔했다. 시간이 줄고 경비가 줄었다. 카드를 많이 쓰는 순 덜 쓰는 순, 연체가 잦은 순 없는 순, 대출이 많은 순 적은 순, 신용평가가 높은 순 낮은 순, 원하는 대로 줄을 세울 수 있으니. 이뿐인가. 인간의 편견·차별·오해까지 코드화할 수 있다. 다만 전제가 있다. 이 모두는 인간의 일이 아닌 숫자의 일이란 것. 감정이 없는 기계가 객관적인 수치를 사심없이 처리한다는 것. ‘깜박했다’ ‘잘못 봤다’ 이런 건 있을 수도 없는 일이란 것.

하나 더 있다. ‘토 달지 말 것.’ 설사 좀 억울한 측면이 있어도 수정을 요구할 수가 없는 거다. 어떤가. 가히 신의 평결 아닌가. 이처럼 아름답고 화려한 데이터를 뽑아내는 수학모형은 누구도 들여다본 적이 없다. 게다가 힘센 이들에겐, 돈 많은 이들에겐 슬쩍 몸이 기울기도 했다. 힘없고 가난한 이들을 데이터가 몰아세우는 형국이다. 공정한 줄 알았는데 객관적인 줄 알았는데. 빅데이터가 어두운 그림자에 숨어 사람을 잡고 있다. ‘대량살상수학무기’였던 거다.

▲편견·차별 코드화땐 대량살상무기 버금

장구한 이 스토리는 하버드대 출신 수학자인 저자 캐시 오닐(45)에게서 나왔다. 종신교수직을 박차고 나와 세계 최고의 헤지펀드 퀀트, 실리콘밸리의 데이터과학자로 활약했던 그이가 거침없이 쏟아낸 ‘수학을 향한 애증의 대서사’다. 대량살상수학무기가 된 빅데이터, 알고리즘의 잔인한 위협을 내부고발한 보고서.

핵심은 이미 다 짚었다. 수학·데이터·IT기술의 합작품인 빅데이터가 개인의 권리와 이익을 보호한다는 엄청난 착각에서 빨리 벗어나라는 거다. 아니 착각 수준이 아니다. 정부·기업·사회가 도입한 데이터 기반의 알고리즘 모형이 인종차별·빈부격차·지역차별을 진두지휘하며 어떻게 불평등·반민주주의 행각을 벌이는지 제대로 보란 거다. 장밋빛은 개뿔! 시커먼 소굴이 아니냐는 거다.

그래도 그렇지. 아무리 대량살상무기에 버금간다고 ‘뻥’을 쳐도 고작 숫자가, 데이터가 핵폭탄만 하겠느냐고. 천만에! 더 위험하단다. 실체가 전혀 보이지 않으니 심각성이 와닿지 않는 거다. 게다가 확장성·효율성이란 그럴듯한 옷까지 입힌 상태다. 이 복장에 관료주의 메커니즘이란 모자를 씌우게 될 경우 피해는 걷잡을 수 없다는 소리다. ‘이의 있소’ ‘없던 일로 합시다’가 어디 먹히기나 하겠는가.

▲‘핵’보다 위협적? 사람잡는 빅데이터 경제

최근 미국서 유행하는 신조어가 있단다. ‘클로프닝’(clopening)이다. 닫는다는 ‘클로즈’와 열었다는 ‘오프닝’을 합친 말. 내용은 이렇다. 상점의 종업원이 밤늦게까지 일하다가 매장 문을 닫고 퇴근한 뒤 몇 시간 후 다시 출근해 매장 문을 여는 것이다. 클로프닝은 빅데이터가 기업에 알려준 타당한 업무방식이다. 그런데 과연 종업원에게도 똑같이 타당할까. 노동자의 불규칙한 근무는 ‘빅데이터 경제’가 만든 현란한 부산물의 지극히 사소한 부분에 불과하다고 저자는 꼬집는다.

자동화란 미명 아래 진행하는 채용과정도 다르지 않다. 중간에 이상한 데이터가 끼어들면 아무리 잘 설계한 알고리즘이라도 잘못된 결정을 내릴 수밖에 없다는 거다. ‘중간에 이상한 데이터’는 어느 선을 타고 내려온 바이러스일 테니, 자신이 바이러스가 되지 않는 이상 절대로 뒤집을 수 없는 현실인 거다.

수학이 미래를 내다볼 수 없는 것도 치명적이다. ‘데이터 처리’라는 건 오늘도 내일도 아닌 그저 어제만 훑을 뿐이다. 수학이 앞일을 예견하지 못한다는 걸 저자는 금융위기 때 제대로 봤다. 유수의 금융기관에 속한 날고 긴다는 수학자들이 위험분석은커녕 현실계산도 제대로 못했던 데서 배신을 느꼈다. 쓰레기 같은 대출채권의 가치를 잔뜩 부풀릴 줄만 알았지 그게 어떤 의미인지 가늠도 못했다. 그토록 많은 사람이 동시에 채무를 불이행할 수 있단 건 단 한번도 상상하지 못했다. ‘미래를 그릴 수 없다.’ 저자는 그 지점에서 수학의 한계와 맞닥뜨렸다. 결국 미래창조라는 작업에는 도덕적 상상력이 필요하다고, 그 능력은 인간만이 가진 거라고 탄식한다.

▲숫자가 거짓말 못하게…빅데이터 길들이기

그렇다면 답이 없는 건가. 윤리적 지표를 따르는 빅데이터 모형이 저자의 해결책이다. 오남용하지 않는다면 데이터 경제에 유용하면서도 사회에 위대한 필터링이 될 수학모형이 없지 않다고 했다. 몇몇만 보자. ‘노예모형’은 기업이 노예노동력으로 만든 부품을 완성품에 사용하지 않도록 한 조치다. ‘아동학대모형’은 아동학대사건을 데이터베이스화해 자녀학대 가능성이 큰 가정을 예측하는 형태. 이외에도 저자는 뇌졸중 위험측정 모형, 미적분 취약학생 도우미 모형 등 ‘착한 수학모형’을 줄줄이 꺼내놓는다.

혹시 빅데이터를 해체할 순 없겠나. 애석하게도 그런 일은 오지 않는다고 저자는 애써 담담하게 말한다. 결국 그 체념 덕에 인류의 미래는 다시 인간의 몫으로 떨어지게 됐다. 살상무기를 누구 손에 쥐어주느냐도, 더 이상 숫자가 거짓말을 못하게 막는 것도, 인생이 인수분해가 아니란 걸 알아차리게 하는 것도.