개인정보위, AI 챗봇 개발사 첫 제재

카카오톡 대화 이름·전화번호 삭제 없이
60만명 메시지 이용… 위반 정도 ‘중대’
기술 개발 제약 우려에 형사고발 안 해
업계 “정보 수집·활용 가이드라인 필요”인공지능 챗봇 ‘이루다’를 개발하는 과정에서 이용자 동의 없이 60만명의 카카오톡 대화를 무단으로 사용한 스캐터랩이 1억원이 넘는 과징금과 과태료를 내게 됐다.

개인정보보호위원회는 28일 전체회의를 열어 8가지 사안에 대해 개인정보보호법을 위반한 스캐터랩에 이 같은 제재를 내렸다. 인공지능 기술 기업이 무분별하게 개인정보를 처리한 데 대해 제재를 가한 것은 이번이 처음이다. 과징금으로는 지난해 당사자 동의 없이 제3자에게 개인정보를 제공한 페이스북에 대해 67억원의 과징금을 내린 이후 역대 최고 액수다.

개인정보위는 이루다의 개인정보 위반 정도가 ‘중대하다’고 판단해 최고 액수의 과징금을 내리면서도 형사고발 조치를 하지 않은 것은 개인정보 보호도 중요하지만 향후 관련 기술 개발에 걸림돌이 되지 않도록 하기 위한 고육지책으로 풀이된다. 이에 대해 업계에서는 ‘솜방망이 처분’이라는 반응이 나왔다.

개인정보위 조사 결과 스캐터랩은 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집목적 외에 정보를 활용한 것으로 드러났다. 자사의 애플리케이션(앱) 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를 2020년 2월부터 2021년 1월까지 페이스북 이용자 대상의 챗봇 서비스인 이루다 개발과 운영에 이용한 것이다.

스캐터랩은 이루다 모델의 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제·암호화하지 않고, 약 60만명에 달하는 이용자의 카카오톡 대화 문장 94억건을 이용했다. 또 이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화 문장 약 1억건을 응답 데이터베이스로 구축하고, 이루다가 이 중 한 문장을 선택해 발화할 수 있도록 운영했다.

개인정보위는 스캐터랩이 ‘텍스트앳’과 ‘연애의 과학’ 개인정보처리방침에 ‘신규 서비스 개발’을 포함시켜 이용자가 로그인함으로써 동의한 것으로 간주하는 것만으로는 이용자가 이루다와 같은 ‘신규 서비스 개발’ 목적의 이용에 동의했다고 보기 어렵다고 판단했다. 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것으로 예상하기 어렵고, 예측할 수 없는 손해를 입을 우려가 있는 만큼 개인정보를 수집한 목적을 벗어나 이용한 것은 문제가 있다고 본 것이다.

특히 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위, 회원 탈퇴자나 1년 이상 서비스 미사용자의 개인정보 미파기 등에 대해서도 모두 법 위반으로 인정했다. 스캐터랩은 ‘텍스트앳’에서는 4만 8000명, ‘연애의 과학’에서는 12만명, 이루다에서는 3만 9000명 등 아동 20여만명의 개인정보를 수집했다.

한 스타트업 관계자는 “1억원은 너무 솜방망이 처벌”이라며 “그동안 업계가 이런 부분에서 간과한 측면이 있었는데 개인정보 보호에 좀더 신경을 쓰는 계기가 돼야 한다”고 말했다. 또 다른 관계자는 ”개인정보 수집이나 활용 등에 관해 현장에서 지킬 수 있는 제대로 된 가이드라인이 나온다면 업체들이 이를 지키기 더 용이할 것”이라며 “마치 업계 전반에 도덕성 해이가 만연한 것으로 비쳐지는 것은 아쉽다”고 말했다.

최광숙 선임기자 bori@seoul.co.kr
한재희 기자 jh@seoul.co.kr