입력 2026.03.19. 11:37지금은 챗GPT 같은 생성형 AI에게 질문 한 줄만 던져도 방대한 역사를 순식간에 요약 받는 시대다. 그런데 챗GPT가 작성한 역사 정보 속에 혹시 특정한 정치적 지향성이 내포돼 있다면 어떨까.최근 미국 예일대학교 사회학과 대니얼 카렐 교수팀이 이런 우려가 단순한 기우가 아님을 입증한 연구 결과를 국제학술지 ‘PNAS 넥서스’에 발표해 주목을 끌고 있다.
예일대 연구팀, ‘AI 편향성’ 실험
카렐 교수팀은 실험을 통해 챗GPT가 개인의 정치적 좌표를 은밀하게 진보적 방향으로 옮겨놓는 ‘보이지 않는 안내자’가 될 수 있다는 점을 포착했다. 설령 사실관계가 명확한 정보일지라도, 챗GPT가 문장을 구성하고 다듬는 미묘한 방식에 따라 읽는 사람의 생각이 자신도 모르는 사이에 특정 방향으로 기울 수 있다는 것이다. 이는 단순히 특정 정당을 지지하는 차원을 넘어 역사를 해석하는 알고리즘 자체가 구조적으로 편향되어 있을 가능성을 시사한다.
연구팀은 정밀한 실험을 위해 성인 1912명을 대상으로 역사적 해석이 첨예하게 엇갈리는 두 가지 사건을 제시했다. 미국에서 발생한 1919년의 ‘시애틀 총파업’과 1968년의 ‘제3세계 해방전선(TWLF) 학생 시위’다. 두 사건은 ‘노동권’과 ‘소수자의 인권’이라는 가치를 두고 보수와 진보의 논리가 여전히 팽팽하게 맞서고 있는 대표적인 사례다.
연구팀은 참가자들에게 이 사건들을 설명하는 네 가지의 서로 다른 요약문을 읽게 한 후, 그들의 정치적·사회적 견해가 어떻게 변했는지 조사했다. 참가자들의 마음속에 자리 잡은 보수와 진보의 저울추가 어느 방향으로 움직이는지 면밀히 추적한 것이다.
연구팀이 실험에 사용한 네 가지 요약문은 비교 대조군인 위키피디아의 설명, 아무런 전제 조건 없이 생성된 GPT-4o의 기본 요약본, 그리고 인위적으로 ‘진보’ ‘보수’ 성향을 입혀 생성한 GPT-4o의 요약본이다. 요약문을 모두 읽은 참가자들은 해당 사건에 대해 1점(매우 보수적)에서 5점(매우 진보적) 사이의 점수로 자신의 견해를 표현했다. 점수가 높을수록 진보적인 성향이 강하다.
실험 결과는 놀라웠다. 가장 중립적일 것이라 예상했던 위키피디아 요약문을 읽은 집단의 평균 점수는 3.47점이었고, 아무런 정치적 지시를 내리지 않은 GPT-4o 기본 요약본을 읽은 집단은 평균 3.57점이 나왔다. 수치상으로는 불과 0.1점 차이지만 이는 통계적으로 결코 무시할 수 없는 변화다. 특별한 정치적 의도를 담지 않은 AI의 글을 읽었을 뿐인데도, 사람들의 생각이 조금 더 진보적인 방향으로 이동했기 때문이다.
연구팀은 이 현상을 매우 중요하게 보고 있다. GPT-4o와 같은 AI 모델이 기본적으로 진보적인 관점에 좀 더 치우친 문장을 만들어내는, 이른바 ‘잠재적 편향(Latent Bias)’이 작용했을 가능성이 크기 때문이다. 즉 우리가 아무런 의심 없이 AI의 답변을 받아들이는 것만으로도, AI 내면에 깊숙이 자리 잡은 특정한 시각에 서서히 물들 수 있다는 경고인 셈이다.
특히 이번 연구에서 눈여겨볼 만한 대목은, 인위적으로 정치적 색깔을 입힌 요약문의 영향력이다. 진보 성향으로 작성된 요약문은 참가자의 원래 성향이 보수든 진보든 상관없이 모두의 마음을 진보적인 방향으로 ‘스윽’ 끌어당기는 강력한 동조 효과를 보였다.
반면 보수 성향으로 작성된 요약문의 효과는 상대적으로 제한적이었다. 이미 보수적 가치관을 지닌 참가자들을 조금 더 보수적으로 만드는 강화 효과는 있었지만, 진보 성향의 참가자들에게는 거의 영향을 미치지 못했다. AI의 메시지가 진보적일 때는 설득력이 광범위하게 작용하지만, 보수적일 때는 반대 진영을 설득하지 못하는 ‘비대칭적 양상’이 나타난 것이다.
실제 AI가 ‘가치중립적’일 것이라는 생각은 일종의 환상이라는 게 연구팀의 중론이다. 챗GPT 같은 대규모언어모델(LLM)은 인터넷상의 방대한 텍스트를 학습하며 성장하기 때문에 온라인상의 차별·편견을 그대로 수용할 위험성이 내재돼 있다. 다시 말해 챗GPT가 가치중립적 AI인 것처럼 포장하면서 당파적 편견을 일종의 ‘표준’으로 인식할 수 있다는 것이다.
또 개발사들이 혐오 표현이나 차별적 발언을 막기 위해 설정한 ‘안전 가이드라인’이 역설적인 결과를 낳기도 한다. 이 가이드라인이 특정 역사적 사실에 대한 균형 잡힌 서술을 가로막는 여과 장치로 작용하면서 진보적 색채를 강화하고 있다는 게 카렐 교수의 지적이다.
그렇다면 카렐 교수팀의 연구를 실제 교육 현장에 적용한다면 어떤 풍경이 펼쳐질까. 가령 역사 수업 시간에 학생들이 챗GPT를 활용해 ‘19세기 산업혁명’에 대한 보고서를 작성한다고 가정해 보자. 이때 AI는 기술의 혁신이나 눈부신 경제 성장 같은 중립적인 팩트보다는, 당시 노동자들의 비참한 환경이나 아동 착취, 불평등 심화 같은 ‘사회 정의’ 관점의 서술을 기본값으로 내놓을 가능성이 크다.
지식 습득보다 ‘비판적 읽기’가 중요
문제는 여기서 시작된다. 학생들은 교과서의 건조한 사실보다 AI가 들려주는 논리적이고 감성적인 서술에 훨씬 더 큰 영향을 받기 쉽기 때문이다. 결국 수업 시간에 이뤄지는 토론의 방향도 자연스럽게 AI가 정해준 특정 결론으로 흘러갈 위험이 있다.
이 과정에서 학생들은 각자의 성향에 따라 서로 다른 혼란을 겪게 된다. 보수적인 생각을 가진 학생들은 AI의 진보적 논리에 압도당해 내적 갈등을 겪거나, 아예 AI를 ‘믿을 수 없는 매체’로 단정 짓고 정보 자체를 거부하는 극단적 태도를 보일 수 있다.
반면 진보적 생각을 가진 학생들은 정교하게 다듬어진 AI의 답변을 보며 자신의 편향된 생각이 ‘객관적 사실’이라고 굳게 믿어버리기 쉽다. 특히 가치관이 형성되는 예민한 시기에 AI를 통해 역사를 배우게 되면, 자신도 모르는 사이에 편향된 역사관을 정답처럼 내면화할 위험이 커질 것이다.
이런 현상은 우리 교육에서 왜 교과서 검인정 제도가 중요한지를 보여준다. 교과서는 수많은 전문가의 편집과 검수를 거치지만, AI는 그런 과정 없이 독단적으로 역사를 서술한다. 이는 민주주의의 기초가 되는 ‘다양한 견해의 공존’을 위협하는 일이 된다.
지금 당장은 AI가 개인의 정치적 성향을 크게 바꾸는 수준은 아니다. 하지만 AI에 계속 의존해 정보를 얻다 보면 나도 모르게 특정 편견에 스며들 수 있다.
따라서 AI가 주는 정보의 편향성을 비판적으로 읽어내는 능력인 ‘AI 리터러시’ 교육이 꼭 필요하다. AI를 안전하게 활용할 주체적 능력을 기르는 것, 그것이 AI 시대를 살아가는 우리에게 주어진 시급한 과제다.
업데이트 2026.03.19. 14:00