THE MIND GAZETTE

요즘 인공지능(AI)은 우리 삶의 곳곳에 깊숙이 스며들고 있습니다. 그런데 최근 한겨레 사회면에 실린 기사는 이러한 AI가 '주류 기득권 관점'을 학습해 사회적 불평등을 심화시킬 수 있다고 지적합니다. AI가 질병이나 우울 통계를 실제보다 낮게 산출하거나, 특정 소수자 집단을 외면하는 식으로 기존의 편향을 답습하고 있다는 김승섭 교수의 경고는 필자의 마음을 꽤나 무겁게 했습니다. '알파고의 아버지'로 불리는 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 향후 5~10년 안에 인간 수준의 인공지능이 등장할 것이라고 예측한 것을 보면, AI는 더 이상 먼 미래의 이야기가 아닙니다. 그렇다면 이토록 강력한 AI가 '편향된 거울'이 된다면 어떤 일이 벌어질까요? 우리는 과연 AI의 판단을 무조건적으로 신뢰할 수 있을까요? 아마도 이 질문의 답은 AI가 우리 인간의 모습을 얼마나 정직하게 비추느냐에 달려 있을 것입니다. 우리는 종종 AI를 '객관적'이고 '합리적'이며 '편견 없는' 존재로 생각하는 경향이 있습니다. 마치 차가운 이성과 데이터만을 기반으로 움직이는 기계처럼 말이지요. 하지만 AI는 결국 인간이 만들어낸 데이터로 학습합니다. 그리고 이 데이터 안에는 인간 사회의 오랜 역사와 문화, 그리고 그 속에서 형성된 수많은 '편향'들이 고스란히 담겨 있습니다. 여기서 필자는 심리학의 중요한 개념인 '확증편향'을 떠올립니다. '확증편향'이란 우리가 이미 가지고 있는 믿음이나 가설을 확인시켜주는 정보만을 선택적으로 받아들이고, 그에 반하는 정보는 무시하거나 왜곡하는 경향을 말합니다. 미국의 심리학자 레이먼드 니시벳과 리 로스 같은 학자들은 인간의 이러한 인지적 경향이 의사 결정과 판단에 얼마나 큰 영향을 미치는지 밝혀냈습니다. 우리는 무의식중에 자신이 보고 싶은 것만 보고, 듣고 싶은 것만 듣는다는 것이지요. AI의 학습 과정도 이와 크게 다르지 않습니다. 만약 AI가 학습한 데이터가 특정 성별, 인종, 사회경제적 배경을 가진 사람들의 정보에 편중되어 있다면, AI는 그 편중된 데이터 안에서 패턴을 찾아내고, 이를 바탕으로 미래를 예측하거나 결정을 내릴 것입니다. 이는 마치 특정 신문만 읽는 사람이 세상의 모든 정보를 그 신문의 관점으로만 이해하게 되는 것과 비슷합니다. AI는 스스로 '이 데이터가 편향되어 있구나'라고 판단하기 어렵습니다. 그저 주어진 데이터를 가장 효율적으로 처리할 뿐입니다. 결국 AI가 학습한 '주류 기득권 관점'은 데이터 속 '확증편향'의 결과물일 수 있습니다. 더 나아가 우리는 '인지적 구두쇠'라는 개념도 생각해볼 수 있습니다. 사회심리학자 수잔 피스크와 셸리 테일러가 제시한 이 개념은, 인간이 인지적 자원을 절약하기 위해 정보를 처리할 때 최소한의 노력으로 최대의 효과를 얻으려 한다는 것을 의미합니다. 복잡한 상황을 단순화하고, 스테레오타입(고정관념)에 의존하는 것이 대표적인 예시입니다. AI 역시 방대한 데이터를 처리하는 과정에서 일종의 '인지적 구두쇠'처럼 작동할 수 있습니다. 즉, 복잡하고 미묘한 사회적 맥락이나 소수자의 경험보다는, 다수의 데이터가 보여주는 '평균적'이고 '일반적인' 패턴에 집중하여 효율적인 결과물을 내놓으려 할 수 있습니다. 이 과정에서 필연적으로 소수자의 목소리나 예외적인 상황은 간과되거나 축소될 수 있는 것이지요. '무지개 출력'을 막는 AI의 알고리즘은 어쩌면 이러한 인지적 구두쇠적인 접근 방식이 초래한 비극적인 결과일 수 있습니다. 영화 '마이너리티 리포트'에서 미래 범죄를 예측하는 시스템은 완벽해 보였지만, 결국 인간의 오류와 편향이 개입될 여지를 남겨두었습니다. AI가 아무리 뛰어나도, 그것이 학습하는 데이터와 그 데이터를 설계하는 인간의 의도와 편향에서 자유로울 수는 없습니다. 결국 AI는 우리 사회의 그림자이자 거울입니다. 우리가 어떤 데이터를 주고, 어떤 방식으로 학습시키느냐에 따라 AI는 편향된 괴물이 될 수도, 아니면 더 나은 세상을 만드는 현명한 조력자가 될 수도 있습니다. 필자 역시 가끔은 너무나 많은 정보의 홍수 속에서 '인지적 구두쇠'처럼 단순화된 판단을 내리곤 합니다. 어떤 사람이나 사건을 마주했을 때, 성급하게 결론을 내리고 그에 맞는 정보만을 찾아 헤매는 것은 아닌지 스스로를 돌아보게 됩니다. AI의 편향성을 이야기하면서, 우리 안의 편향성을 돌아보는 것은 어쩌면 당연한 수순일 것입니다. 우리가 AI에게서 '객관성'을 기대하기 전에, 우리 스스로 얼마나 '객관적'일 수 있는지 질문해야 하는 때입니다. 우리의 인지적 편향을 이해하고, AI가 학습하는 데이터에 대한 깊은 성찰이 없다면, 우리는 '기술 발전'이라는 이름 아래 불평등을 더욱 견고히 하는 어리석음을 범할 수도 있습니다. AI의 발전 속도만큼이나, 우리 사회의 다양한 목소리에 귀 기울이려는 노력이 중요하다고 필자는 생각합니다.