AI가 편견을 가질 수 있을까?
enterskorea 2019.12.17 09:55:50
AI가 편견을 가질 수 있을까?
우리는 사상과 양심, 그리고 종교의 자유 같은 몇몇 기본권을 향유하고 있다. 우리는 병약한 사람이나 노인들을 돌본다. 또 남자와 여자는 동등하게 대해야 하며 인종과 민족, 종교를 이유로 사람을 차별해서는 안 된다. 우리 인간의 참모습은 함께 도우며 베푸는 친절의 미덕에서 나온다. 인류가 지구를 지배하게 된 것은 머리가 영리하기도 하지만 서로 협력하며 살아왔기 때문이다.
그렇다고 우리가 향유하는 가치들을 당연한 것으로 여겨서는 안 된다. 사회는 점점 사분오열 쪼개지고 있다. 인종차별은 여전하다. 우리의 고결한 기본 가치들이 위협을 받고 있는 상황이다. 2062년이면 AI로 인해 그 양상이 더욱 심각해질지 모른다. 의도적이든 아니든, 기계들이 우리 인간의 소중한 가치들을 거부한다면 정말 끔찍한 상황이 펼쳐질 것이다.
구글 번역기에다 'She is a doctor'란 문장을 넣고 터키어로 번역해달라고 한 뒤, 다시 터키어 문장을 영어로 번역해달라고 요청하면 다음과 같은 답변이 나온다. 'He is a doctor'. 이번에는 구글 번역기에 'He is a babysitter'란 영어 문장을 터키어로 번역하고 그 터키어 문장을 다시 영어로 재번역해달라고 청해보자. 'She is a babysitter'란 답변이 나온다.
터키어는 성별을 구별하지 않는 언어다. 따라서 영어의 성을 가르는 3인칭 대명사인 'he'와 'she'가 같은 말인 'O' 하나로 번역된다. 구글 번역기는 터키어 문장을 다시 영어로 번역하면서 의사 및 베이비시터랑 직업에 씌워져 있는 오랜 편견을 드러낸다. 따라서 우리 인간들이 지금 극복하고자 애쓰고 있는 여러 편견들이 기계들을 통해 오히려 더욱 굳혀지는 것 아니냐는 우려를 하지 않을 수 없다.
이렇게 번역 과정에서 성이 갈라지는 이유는 모든 번역 서비스들이 기계학습용 알고리즘처럼 통계에 의존하기 때문이다. 통계는 이러저러한 젠더의 편견들이 담겨 있는 텍스트에 맞춰 프로그램을 훈련시키는 과정에서 생성된다. 따라서 통계에는 기존 텍스트에 이미 담겨있는 편견들을 고스란히 드러내게 되는 것이다.
편견은 우리가, 아니 오히려 구글을 비롯한 기술 기업들이 세심하게 주의를 기울인다면 얼마든지 없앨 수 있다. 예를 들어, 알고리즘을 정교하게 개선시켜나가는 노력이 바로 그것이다. 어쩌면 우리는 더 많은 데이터로 훈련시키고 더욱 다양한 속성들을 추가해가며 모델을 바꿔 알고리즘의 정교함을 살려갈 필요가 있다. 다른 방법으로는 특정의 답변들을 블랙리스트로 분류해 배제하는 수도 있다. 하지만 블랙리스트의 작성으로는 완벽을 기하는 게 쉽지 않다는 데 문제가 있다.
편견을 다루는 또 다른 방법이 있는데, 데이터 세트에 달갑지 않은 편견을 낳을만한 특성들을 아예 지워버리는 것이다. 당신이 대출여부를 결정할 때 인종 문제가 개입되는 것을 원치 않는다면 입력 내용에 인종을 포함시키지 않으면 된다. 데이터 세트 자체를 바꿀 수도 있다. 세트에 남자에 관한 정보가 너무 많다면 여자의 정보를 늘려나가는 식으로 말이다.
하지만 결국 편견을 제거할 최후의 수단이 있다면 그것은 우리의 경각심이다. AI시스템 내부의 편견을 탐지해 바꿔놓을 완벽한 방법이란 존재하지 않는다. 우리가 어디든 편견이 있을 수 있다는 사실을 인식하고 경계하지 않는다면 편견의 문제를 해결할 가능성은 요원할 수밖에 없다.
구글의 연구 책임자 피터 노빅이 간파했듯이 인간들은 정말 끔찍한 의사 결정자이다. 행동주의 경제학자들은 우리 인간이 편견으로 가득 차 있으며 거의 매 순간 비합리적으로 처신한다는 사실을 밝혀왔다. 우리가 각성하지 않는다면 우리와 똑같은 편견 덩어리의 기계들이 등장하게 되고 말 것이다. 실제로 요즘 알고리즘은 인간보다 더 형편없는 경우가 적지 않다. 사람이라면 언제라도 그 또는 그녀에게 왜 그런 결정을 내렸는지를 물을 수 있다. 하지만 요즘의 AI 대부분은 그렇지 못해, 우리는 AI의 대답을 그냥 받아들이기만 해야 한다.
2062년에는 우리가 사람보다 기계에 더 높은 잣대의 윤리적 기준을 부여해야 한다는 주장들이 여기저기서 나오고 있다. 우리가 능히 그렇게 할 수 있으며, 기계가 인간보다 더 정확하고 기계의 사고 속도가 우리보다 더 신속하며 기계는 인간의 실수를 되풀이하지 않기 바라기 때문이다.
최종 평결을 하나 내리겠다. 우리는 인간보다 기계에 더 높은 잣대의 윤리적 기준을 부여해야 한다. 기계가 우리 인류를 위해 희생할 수 있고 희생해야 하는 것에는 이론의 여지가 없기 때문이다. 또한, 컴퓨터가 그저 낱말 하나하나의 조합에 불과한 것임을 감안하면, 우리 인류는 인간적 가치들에 대해 이전보다 훨씬 명확한 관점을 가져야 한다. 왜냐하면 우리가 AI시스템에 우리의 삶을 좌우할 의사 결정 능력을 부여하기 때문이다.
