THE MIND GAZETTE

인공지능(AI)이 우리 삶의 깊숙한 곳까지 스며들고 있는 지금, 한겨레 신문은 AI가 다수 집단 중심의 데이터로 학습하면서 특정 소수자들을 인식하지 못하고 결국 '지워버리는' 현상이 발생하고 있음을 단독 보도했습니다. AI가 그리는 세상에서 우리의 얼굴과 목소리가 사라진다는 사실은, 마치 투명인간이 된 듯한 기분을 안겨주는 듯 합니다. 이 소식을 접한 필자는 우리가 미처 깨닫지 못하는 사이에 얼마나 많은 '편향'이 우리의 생각과 선택을 지배하고 있었는지 다시금 돌아보게 됩니다. AI의 이러한 현상을 이해하기 위해 우리는 먼저 '확증편향'이라는 심리적 개념을 살펴볼 필요가 있습니다. 확증편향이란 우리가 이미 가지고 있는 믿음이나 가설을 확인하려는 경향성을 말합니다. 즉, 자신의 신념과 일치하는 정보는 쉽게 받아들이고, 그렇지 않은 정보는 무시하거나 왜곡하는 무의식적인 경향을 일컫습니다. 이는 인간의 인지 과정에서 자연스럽게 발생하는 현상으로, 우리의 뇌가 효율적으로 정보를 처리하기 위한 일종의 '지름길'을 택하는 것이라 볼 수도 있습니다. 그런데 AI가 학습하는 방식이 바로 이 인간의 확증편향을 그대로 답습하고 있다는 점이 문제입니다. AI는 방대한 데이터를 통해 학습하고 패턴을 찾아냅니다. 만약 그 데이터 자체가 특정 다수 집단의 정보에 편향되어 있다면, AI는 그 '다수'를 표준으로 인식하고 그 외의 '소수'는 예외적인 것으로, 혹은 아예 존재하지 않는 것으로 학습하게 됩니다. 마치 한 번도 사과를 먹어보지 못한 사람에게 오렌지만 잔뜩 보여주며 '세상에는 오렌지라는 과일만 있다'고 가르치는 것과 비슷합니다. AI는 오렌지 외의 과일은 '틀린 것'으로, 혹은 '없는 것'으로 분류해버릴 가능성이 큽니다. 이러한 확증편향이 AI 알고리즘에 깊이 새겨지면, 사회적 불평등은 더욱 심화될 수 있습니다. 우리가 흔히 접하는 영화나 드라마 속에서, 주인공이 특정 집단에 대한 '라벨링' 때문에 부당한 대우를 받거나 기회를 빼앗기는 장면을 보곤 합니다. 예를 들어, 영화 '가타카'에서 유전자로 인간의 능력을 미리 판단하고 '적합한 자'와 '부적합한 자'를 구분하는 시스템은, 결국 사회적 라벨링이 개인의 삶을 어떻게 규정짓는지 극적으로 보여줍니다. AI가 만들어내는 '라벨'은 더욱 강력할 수 있습니다. 사회학자 로버트 머튼(Robert K. Merton)이 제시한 '자기충족적 예언'이라는 개념은 이 상황의 위험성을 더욱 명확히 보여줍니다. 자기충족적 예언이란, 어떤 예언이나 기대가 그 자체로 상황을 변화시켜 결국 그 예언이 실현되도록 만드는 현상을 뜻합니다. AI가 특정 소수 집단을 '덜 중요한 존재'로 인식하고 그에 따라 서비스나 기회에서 배제한다면, 그 집단은 실제로 사회에서 '덜 중요한 존재'로 여겨지게 되거나, 기회로부터 멀어지는 현실에 직면하게 될 것입니다. AI가 '소수자는 존재감이 없다'고 학습하면, 실제로 소수자의 존재감을 지워버리는 결과를 초래할 수 있는 셈입니다. 필자는 언젠가 심리 상담을 받으러 온 한 젊은이의 이야기가 떠오릅니다. 그는 자신이 '노력해도 안 되는 사람'이라는 라벨을 스스로에게 붙이고 살아왔다고 고백했습니다. 주변에서 들었던 부정적인 말들이 마치 AI의 학습 데이터처럼 쌓여, 자신은 결국 아무것도 이룰 수 없을 것이라는 '자기충족적 예언' 속에 갇혀버린 것이지요. 우리는 모두 무의식적으로 '라벨링'하고 '확증편향'에 빠질 수 있는 존재입니다. AI는 단지 우리의 편향된 데이터를 거대한 스케일로 복제하고 증폭시키는 거울일 뿐입니다. 그렇다면 우리는 이 거울을 어떻게 바라봐야 할까요? AI가 인간의 편향을 학습한다는 사실은 역설적으로 우리 자신을 돌아볼 중요한 계기를 제공합니다. 우리 스스로가 어떤 편견을 가지고 세상을 바라보는지, 어떤 정보에만 귀를 기울이고 어떤 목소리는 외면하고 있었는지 성찰할 기회 말입니다. AI의 그림자가 드리운 이 시대에, 우리 마음속의 '확증편향'이라는 덫을 경계하고, 다양한 목소리에 귀 기울이는 연습이 더욱 절실하게 필요해 보입니다.