2022년 말 ChatGPT가 등장한 뒤로 AI 기술이 급격히 발전하면서 기업들은

인건비를 줄이기 위해 AI 기능을 계속 추가해 왔어. 그 결과, 지금은 어떤 앱을

켜도 AI 챗봇, AI 검색, AI 추천 같은 기능을 빼놓고는 설명이 안 될 정도가 됐지.
특히 AI 챗봇은 간단한 문의를 빠르게 해결해 주고, 시간 상관없이 상담을 받을 수 있다는 점에서 편리하다고 생각해 나도 잘 쓰고 있어. 그런데 얼마 전에

은행 업무를 보려고 앱을 켰는데, 평소처럼 챗봇으로 물어보다 한참 헤매고 결국 상담사한테 다시 연결해서 똑같은 걸 두 번 물어본 적이 있어. AI는 정해진 매뉴얼 안에서만 답할 수 있다 보니 조금만 구체적으로 물어보면 막혀버리더라고.

분명 더 편리해지자고 만든 기술인데, 정작 나는 한 번에 끝날 일을 두 번

거치면서 더 피곤해진 셈이었지.

그 일을 겪고 나니까 문득 이런 생각이 들더라. AI 기술은 계속 발전하고 있는데, 정말 마냥 좋은 일만 있는 걸까? 찾아보니 내가 느낀 불편보다 더 큰 변화는 AI를 직접 다뤄야 하는 노동 현장에서 나타나고 있었어.

먼저 콜센터로 그 변화를 살펴보자.

사실 2010년대 중반 스마트폰이 보급되면서 인터넷 뱅킹으로 적금 가입, 계좌

개설, 기업 거래까지 웬만한 은행 업무가 모두 가능해지면서 단순했던 상담

업무도 점점 분화하고 복잡해졌어. 그런데 여기에 AI 챗봇까지 도입되면서

그나마 남아 있던 단순 문의마저 AI가 처리하게 됐고, 기존 상담원은 더 복잡하고 까다로운 상담만 떠맡는 구조로 바뀌었어. 문제는 콜센터 상담원 다수가 '콜 수'로 임금을 받는다는 거야. AI 챗봇이 단순 콜을 가져가면서 상담원에게 배분되는 건 시간이 오래 걸리는 장콜뿐이야. 실제로 한 상담원은 80대 어르신이 인터넷 뱅킹을 이용하고 싶어 해서 공인인증서 발급부터 차근차근 안내하다 보니 상담 한 번에 1시간이 넘게 걸린 적도 있다고 했어. 받는 콜 수는 줄었는데 한 통화당 걸리는 시간은 늘어나니, 결국 더 많이 일하고 더 적게 버는 구조가 되어버린거야.

거기다 상담 품질을 평가하는 일명 ‘QA 평가’에도 AI가 도입되면서 문제가 생겼어. 기존에는 관리자가 일부 녹음만 들어 평가했지만, AI는 통화를 100% 전수조사하고 자동으로 평가까지 해. 그런데 실제 상담원들 사이에서는 사람한테 100점짜리 상담이 AI 평가에서는 저평가받는 사례가 나온다는 말이 나오고 있어. 임금과 연동되는 평가를 AI가 한다고 해서 객관성이 보장되는지 의문이라는 거야.

배달이나 대리운전 같은 플랫폼 노동자들의 상황도 다르지 않아. 한 실태조사

결과에 따르면 10명 중 6명은 출퇴근이나 휴식 시간조차 스스로 정하지 못한다고 답했어. 일감을 배정하는 게 사람이 아니라 알고리즘이기 때문이야. 알고리즘은 노동자의 수락률, 이동 속도, 취소 이력 같은 데이터를 기반으로 누구에게 어떤 콜을 줄지 결정해. 노동자를 끊임없이 평가하고 있는 거지. 그리고 그 평가가 노동자에게 불리하게 작동하는 경우는 빈번했어. 실제로 실험 결과, 라이더가

콜을 거부하자마자 바로 플랫폼 측에서 새 콜을 권유하는 연락이 왔고, 거부 이후로는 수익성 좋은 콜이 현저히 줄어들었어. 게다가 수입 대비 이동 거리가 너무 길거나, 무리한 요구를 하는 고객이 배정되는 경우도 적지 않았어. 라이더들은 사실상 콜을 거부하기 어려운 구조인 거야. 

 콜센터든 배달이든, AI가 노동자를 평가하고 일감을 나누는 기준이 점점 정교해지고 있는데 정작 그 기준이 무엇인지 노동자에게는 충분히 설명되지 않는 경우가 많아. 우리가 편리하다고 믿는 기술이 오히려 사람을 평가하고 압박하는 도구로 사용되고 있다면, 그건 우리가 바라는 방향과는 분명히 거리가 있는 것 같아. 지금 어쩌면 편리함과 효율만을 좇을 게 아니라 사람을 위한 최소한의 제도와 책임이 필요한 시점이 아닐까.
너는 AI 발전을 어떻게 바라보고 있어?