[기자수첩] 인공지능도 편견적 결론 내놓는다
상태바
[기자수첩] 인공지능도 편견적 결론 내놓는다
  • 박효길 기자
  • 승인 2020.09.10 14:32
  • 댓글 0
이 기사를 공유합니다
산업부 박효길 기자
박효길 산업부 기자

[매일일보 박효길 기자] 윤영찬 더불어민주당 의원의 문자메시지로 국회와 인터넷업계가 떠들썩하다.

사건의 발단은 윤 의원이 보좌진과 주고받은 문자메시지가 그대로 카메라에 포착되면서다.

내용은 이렇다. 주호영 국민의힘 원내대표의 연설이 포털 다음 메인화면에 반영됐다는 보좌진의 메시지에 윤 의원이 “카카오에 강력히 항의해주세요” “카카오 너무하군요. 들어오라하세요”라고 답하면서 외압 논란이 일고 있다.

카카오는 2015년부터 AI 알고리즘 루빅스를 모바일 뉴스에 도입했다. 루빅스는 개별 독자가 평소 관심을 보인 분야의 기사, 독자와 성별 등이 같은 집단이 많이 보는 기사 등을 분석해 기사를 고르고 배치한다. 현재는 PC 뉴스 편집에도 적용돼 있다.

그러나 여기서 중요한 것은 AI가 만능이 아니라는 점이다.

다음 창업자인 이재웅 전 쏘카 대표는 지난 8일 자신의 SNS에 “국회의원이 마음에 안 드는 뉴스가 메인에 올라왔다고 바로 포털 담당자를 불러서 강력히 항의하는 것은 문제”라면서도 “포털의 ‘AI가 했으니까 우리는 중립적이다’라는 얘기도 윤 의원의 항의만큼이나 무책임한 답변”이라고 했다.

이어 “많은 사람이 AI는 가치 중립적이라고 생각하지만 그렇지 않다”며 “그래서 AI 시스템이 차별하지 않는지 정치적으로 중립적인지 판단하기 위한 감사 시스템이 필요하다”고 주장했다.

이재웅 전 대표의 말대로 AI는 가치중립적이지 않다. AI는 빅데이터를 기반으로 한다. 수집된 데이터의 질에 따라 얼마든지 편향된 결론을 내놓을 수 있다. 다시말해 차별적인 데이터를 많이 집어넣으면 결론도 차별적일 수밖에 없다.

얼마 전 미국 전자상거래기업 아마존은 AI 채용 프로그램을 도입하려다 폐기했다. 이 프로그램은 지원자들이 성별을 기입하지 않았음에도 경력에 여성 스포츠동아리 이름 등이 들어가면 채용 추천에서 배제했다. 이유는 이전까지 아마존에 여성 지원자들이 소수였고 그중에 임원으로 승진한 경우는 더욱 소수였기 때문에 AI가 남성을 먼저 추천한 것으로 분석되고 있다. 수집된 빅데이터에서 성차별을 배운 셈이다.

결국 알고리즘과 빅데이터의 수준을 어떻게 관리할 것인가가 관건이다. 편향되지 않고 차별적이지 않은 알고리즘과 빅데이터를 관리해야 한다. 최근 산업계와 일상 전반에 AI가 속속 도입되면서 AI가 가져다주는 장밋빛 미래에만 초점이 맞춰져 있는 가운데, 이번 사건이 단순 해프닝으로 끝나지 않고 AI의 부작용에 대한 장치를 마련하는 계기가 되길 바란다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.