카카오는 내 대화 내용을 엿보고 있을까? + 이루다 카카오톡 대화내용 무단 사용

 

tv.kakao.com/v/413991950

카카오의 푸시 알림 개인 맞춤화로 푸시 클릭률 증대를 위한 서비스 개발 과정 회고를 들으며 의문이 생겼다.

 

개인 맞춤화 정보가 이미 있다는 건데, 카카오톡은 개인 맞춤화를 위해 이용자의 메시지, 정보 등을 어느 정도로 수집하고 이용하고 있을까?

 

 

먼저 카카오의 개인정보처리 방침에 따르면, 서비스 이용내역을 수집한다.

서비스에서 별도로 수집하는 개인정보 항목을 보면 개인 간의 메시지 내용 관련 항목은 없다.

 

역시 개인간의 메시지 관련 내용은 보이지 않는다.

 

왜 메시지 수집을 의심하냐면

 

페이스북과 구글이 이미 개인의 음성 내용을 인공지능 음성 인식 서비스 개발을 위해 이용자의 음성 대화를 사전 허락 없이 녹취한 전적이 있기 때문이다. 

 

https://www.ajunews.com/view/20200810095526772

'헤이, 구글' 안 했는데…사용자 모르게 녹음한 구글 홈

http://www.hani.co.kr/arti/international/globaleconomy/905725.html

당신의 혼잣말도 페이스북은 알고 있다…음성 몰래 녹취

카카오는 위의 항목을 위해 개인정보를 이용한다.

최소한으로 수집한 개인정보가 음성명령 처리와 개인화 서비스에 이용될 수 있을까?

이용자의 관심과 기호는 카카오톡의 필수 수집 내역 외에 더 많은 정보를 필요로 한다.

 

신규 서비스 개발을 위해 이용자가 검색한 내역, 이용자 간 대화, 이용자 간 음성 메시지를 녹취하여 분석했다는 건 이미 구글과 페이스북의 선례라 안심할 수 없다.

 

 

+ 

news.lawtalk.co.kr/3172

제대로 된 동의였습니까? 대화 상대방에게도 동의받았습니까? 인공지능 '이루다' 논란

 

인공지능 챗봇 '이루다'가 개인정보보호법 위반 논란에 휩싸였다.

 

①제대로 동의도 받지 않고 연인 간의 내밀한 대화들을 인공지능 학습의 재료로 사용했고, 그 대화에 담긴 ②민감한 개인 정보를 외부에 노출되도록 했다는 논란이 불거졌다.

 

온라인 심리상담 서비스 '연애의 과학'의 일부 서비스를 이용하려면, 카카오톡 대화 내역 전체를 보내야 한다. 그러면 스캐터랩이 그 대화 내역을 분석해 상대방이 의뢰인에게 얼마나 호감이 있는지를 점수로 보여준다.

 

문제는 '연애의 과학' 사용자들 대부분이 스캐터랩에 제공한 대화 내역이 어떻게 활용될지 몰랐다는 점에 있다. 스캐터랩은 확보한 대화 내용을 이루다의 학습에 사용했는데, '연애의 과학' 사용자들은 "그렇게 사용될지 전혀 몰랐다"고 주장하고 있다.

 

즉, 스캐터랩이 '제대로 된 동의'를 받지 않고 연인 간 대화 내역을 함부로 사용했다는 논란이다.

 

논란② 이루다가 말하는 '민감한' 개인정보는 문제없나

이용자들이 제기하는 두 번째 문제는 '이루다가 실제 대화에서 학습한 개인정보를 여과 없이 내뱉는다'는 점이다. 학습의 재료가 된 대화 데이터에 포함된 실명, 주소, 계좌 번호 등이 대화 도중 나타나는 이슈다.

 

스캐터랩은 "이름이나 전화번호 같은 개인정보는 알고리즘을 통해 제거했다"고 밝히고 있지만, 실제 인터넷 게시판에 올라온 대화 내역을 보면 이루다는 대화 도중 민감한 개인 정보를 말하고 있다.

 

이 캡처 증거물이 사실이라면, 스캐터랩의 개인정보보호법 제29조 위반은 명백하다. 개인정보처리자는 개인 정보가 함부로 나가지 않도록 안전조치를 해야 할 의무가 있는데, 이를 어긴 것으로 볼 수밖에 없기 때문이다. 이에 대해서는 세 명의 변호사가 모두 "법 위반 소지가 있다"고 밝혔다.

 

이 경우 스캐터랩은 과징금(매출액의 최대 3%)과 과태료(최대 3000만원)는 물론 형사처벌까지 받게 된다. 우리 개인정보보호법(제73조)은 안전 조치를 하지 않아 개인정보를 유출한 사업자를 2년 이하의 징역이나 2000만원 이하의 벌금에 처하도록 하고 있다.

 

두 가지 모두 막대한 과징금은 물론 형사처벌까지 이어질 수 있는 위험한 의혹이다.

 

 

>>> 인공지능 챗봇 이루다의 데이터 학습에 카카오톡 대화내역과 이용자의 개인정보가 제대로 된 동의 없이 사용되었다.

스캐터랩, 연애의 과학, 진저 이 서비스를 위해 카카오톡 대화내역을 제출한 사람이라면 이루다의 대화 내용 학습에 본인의 대화 내용이 허락 없이 이용되었을 확률이 있다.

 

서비스를 사용하면서도 인공지능 학습을 위해 내 개인 정보가 명확한 동의 없이 사용될까 봐 걱정스러운 세상이다.