[뉴투분석] AI에 성착취 방지 알고리즘 어떻게?…카카오, 'N번방' 대응 고심 중

이원갑 기자 입력 : 2020.06.29 07:03 |   수정 : 2020.06.29 07:03

AI에 ‘배우는 단계부터’ 공정성 부여가 최대 관건…“편향 데이터는 당연 금지”

  • 카카오스토리
  • 네이버밴드
  • 페이스북
  • 트위터
  • 구글플러스
  • 프린터
  • 이메일
  • 스크랩
  • 글자크게
  • 글자작게

[뉴스투데이=이원갑 기자] 카카오가 이른바 ‘텔레그램 N번방’ 사태와 유사한 사례가 카카오톡 등에서 발생하지 않도록 운영정책을 고쳤다. 특히 새로 추가된 윤리적 기준이 인공지능(AI)에도 적용될 것으로 보인다. 따라서 AI에 새로운 윤리성을 부여하는 이슈가 불거진다. 구글이 안고 있는 과제들을 카카오 역시 마주해야 하는 입장이 됐다. 현재로선 원론적 입장만 확인할 수 있을 뿐이다. 구체적 조치가 뭐가 될지는 시간이 걸릴 것으로 관측된다.      

 

29일 관련 업계에 따르면 카카오는 지난 24일 기존 운영정책 중 ‘서비스 이용 시 금지하는 활동’에 타인의 성 착취와 관련한 내용을 언급했다. 이에 대한 콘텐츠의 제공과  이용은 물론, 적극적 의사 표현을 하는 행위 및 착취를 목적으로 하는 협박, 유인, 모의, 조장 등의 행위를 금지한다는 내용을 담았다. 아동과 청소년 대상 성범죄에 대해 무관용 원칙을 적용한다는 조항도 추가하고 신고 방법까지 안내했다.

 

kakao.png
카카오의 AI스피커 ‘카카오C 미니’ [사진제공=카카오]

 

‘텔레그램 N번방’ 사태를 막기 위한 윤리적 원칙은 AI의 알고리즘(과제해결 절차)에도 적용될 예정이다.

 

그간 카카오는 자사의 AI 플랫폼 ‘카카오 I’에 알고리즘 윤리헌장을 적용해 왔고 개발할 때도 이를 원칙으로 삼고 있다. 

 

알고리즘 윤리헌장이란 카카오가 임지훈 전 대표 시절이던 지난 2018년 1월 31일 제정한 규범이다. 내용을 보면 △사회 윤리의 테두리 안에서의 인류의 행복 추구 △알고리즘의 사회적 차별 방지 △사회 윤리에 근거한 데이터 활용 △알고리즘의 독립성 △이용자에 대한 성실한 설명 △기술적 소외 방지 등을 포함한다.

 

이처럼 윤리헌장이 윤리성과 독립성을 동시에 갖기 위해 데이터 입력 단계와 데이터 수집 모델을 구성하는 단계서부터 윤리적 기준을 적용할 것을 요구받고 있다. 사회적 윤리와 어긋난 데이터나 모델, 알고리즘을 갖고 있는 AI는 중간에 인간이 개입하지 않아도 역시 비윤리적 결과값을 낼 수 있기 때문이다.

 

gorilla.png
2015년 6월 ‘구글 포토’ AI가 흑인 커플을 고릴라로 분류한 모습 [사진=사회관계망 트위터 캡처]

 

예를 들어 지난 2015년 6월 ‘구글 포토’의 AI가 흑인 남성과 여성의 사진에 “고릴라들”이라는 부제목을 달았다. 피부색이 검은 얼굴의 데이터를 고릴라로 인식해서다. 구글은 3년간 논의를 벌였지만 ‘고릴라’란 분류 자체를 삭제하기로 결정하는 데 그쳤다. 이듬해 AI 윤리 자문위원회가 들어섰지만 서로 다른 윤리적 견해 때문에 무산되고 말았다.

 

고릴라 사건 이후 구글이 역점을 두고 있는 부분은 AI가 ‘배우는 단계에서부터’ 공정성을 부여하는 일이다.

 

구글은 지난해 6월 AI 포럼에서 해결해야 할 주요 과제로 △데이터 자동 수집 과정에서의 편향된 데이터 학습 가능성 △계산 결과를 이용자마다 다른 가치에 바탕해 인식할 가능성 △공정성의 기준 자체에 서로 다른 견해를 가질 경우 등을 제시한 바 있다.

 

앞서 이 문제와 관련해 홍성욱 서울대 교수는 지난해 8월 기고문에서 “문제는 빅데이터 AI 알고리즘이 우리 사회에 만연한 차별을 반영하는 데 그치지 않고 이를 영속시키고 증폭시킨다는 것”이라며 “차별적인 사회가 낳은 데이터를 가지고 AI 알고리즘은 차별적인 결과를 만들어 낸다”라고 진단했다.

 

이에 대해 카카오 관계자는 “윤리헌장은 말 그대로 원칙에 대한 얘기며 이같은 원칙을 바탕으로 앞으로 알고리즘을 관리해 나가겠다는 것”이라며 “각 항목을 구현하기 위한 구체적인 방법까지 명시하고 있지는 않으며 편향된 데이터를 넣는 행위는 당연히 하지 말아야 할 일”이라는 입장을 밝히고 있다.

 

비밀번호 :
메일보내기닫기
기사제목
[뉴투분석] AI에 성착취 방지 알고리즘 어떻게?…카카오, 'N번방' 대응 고심 중
보내는 분 이메일
받는 분 이메일

주요기업 채용정보