이용자 사진을 특정 화풍으로 변환
이후 ‘원본 사진’ 학습 과정은 미궁
국내 개인정보보호 위반 증가 추세
기업 과징금 604억…4년 새 9배↑
“생성형AI 관련 규제 조항 마련해야”

“‘지브리풍 사진’ 만들어보겠다고 챗GPT에 넣은 사진들이 어떻게 쓰이는지, 어디에 남아 있는지 몰라서 찜찜해요.”

직장인 이수연(29)씨는 10일 서울신문과 만나 지인들 사이에서 ‘지브리풍 그림 금지령’이 내려진 이유를 이렇게 설명했다.

최근 이용자의 사진을 챗GPT에 입력하면 일본 애니메이션 제작사 지브리 등 특유의 화풍을 흉내 낸 이미지로 바꿔주는 AI(인공지능) 서비스가 인기를 끌고 있지만 정작 원본 사진이 어떻게 활용되는지 등 개인정보 보호 문제는 그늘에 가려져 있다는 지적이 나온다. 기업이 수집한 개인정보를 동의 없이 마케팅 등 다른 목적으로 사용하는 행태는 현행법상 제재 대상이지만, AI 서비스를 내세워 사진 등 개인정보를 수집한 이후 다른 용도로 이용하는 경우에는 별다른 제재를 받지 않아서다. 또 하나의 ‘AI 규제 회색지대’인 셈이다.

기업에서 이용자가 동의한 수집·활용 범위를 넘어서 목적 외로 이용하다 적발될 경우 부과받은 과징금도 갈수록 늘고 있다. 서울신문이 민병덕 더불어민주당 의원실을 통해 개인정보보호위원회(개보위)로부터 받은 자료에 따르면 국내에서 영업하는 민간 기업 중 개인정보보호법을 위반해 받은 과징금은 2020년 67억 7480만여원에서 지난해 604억 7850만여원으로 9배 가까이 급증했다.



예컨대 우리카드의 경우 약 20만명에 달하는 가맹점주의 개인정보를 무단 취합해 카드 마케팅에 활용한 사실이 드러나 지난달 개인정보보호위원회에서 과징금 134억 5100만원을 부과받았다. 페이스북을 운영하는 메타도 약 330만명의 국내 이용자의 학력, 결혼 상태 등 정보를 동의 없이 제3자인 다른 사업자들에게 제공해 67억 과징금 처분을 받았다.

문제는 지브리풍 이미지처럼 이용자가 입력한 정보를 토대로 새로운 콘텐츠를 만드는 생성형 AI는 기업의 개인정보 활용처럼 위법성이 확연히 드러나지 않는다는 점이다. 김정환 법무법인 충정 변호사는 “AI가 스스로 학습하는 ‘딥러닝’을 통해 새로운 결과물이 산출됐을 때 처음 정보를 입력한 이용자가 원치 않는 개인정보나 영업 비밀까지 유출되는 일도 있다”고 말했다.

개보위가 지난해 조사한 결과를 보면, 응답자(2800명 대상 조사)의 76.1%가 AI가 유발할 수 있는 개인정보 관련 위험성에 대해 ‘심각하다’고 답했다. AI가 학습에 활용한 개인정보가 유출되거나 다른 사업자 등에 제공될 수 있다는 우려가 그만큼 크다는 얘기다. 이송희 한국폴리텍대학 사이버보안과 교수는 “개인정보보호법에 생성형 AI에 관한 조항을 추가하는 등 새로운 규제 마련이 시급하다”고 조언했다.