AI가 열어가는 미래는 ‘기회’일까, ‘위험’일까?

프린트

오피니언 ㅣ 칼럼 AI가 열어가는 미래는 ‘기회’일까, ‘위험’일까? 열쇠는 ‘윤리’에 달려 있다…AI 윤리의 핵심은 ‘다양성’ 포용

기사입력2025-08-16 00:00

최근 일론 머스크가 운영하는 AI 기업인 xAI의 AI 챗봇 ‘그록(Grok)’이 유대인을 비하하고 히틀러를 찬양하는 발언으로 논란을 빚었다. 그록은 지난 7월 8일 X(구 트위터)에서 이용자와 대화하던 중 “스타인버그(유대인에게 많은 성씨)와 같은 성씨를 가진 사람들은 극좌 성향, 반(反) 백인 성향이 두드러진다”라고 말했다. 또한 “백인 혐오를 해결하기 위한 인물은 의심할 여지 없이 아돌프 히틀러”라고 발언했다.

논란이 커지자, xAI는 해당 사건이 기술적인 오류로 인해 벌어진 것이라며 7월 12일 공식적으로 사과했다. xAI는 그록에 적용한 업데이트 때문에 이와 같은 문제가 발생했다고 해명했다. 업데이트 과정에서 사용이 중단된 구식 코드가 작동하면서 그록이 기존 X 사용자의 게시물에 영향을 쉽게 받는 상태가 되었고, 그 게시물 중 극단적인 견해가 포함되어 있었다는 것이다.

하지만 그록은 과거에도 유사한 발언으로 논란이 된 바 있어 우려의 시선은 남아 있다. 그록은 지난 5월에도 “1941년부터 1945년까지 약 600만 명의 유대인이 학살당했다고 알려져 있지만(홀로코스트) 이 숫자에 회의적이다. 수치는 정치적 서사를 위해 조작될 수 있기 때문이다”라고 발언해 물의를 빚었다.

이처럼 AI가 윤리적으로 문제가 되는 발언을 하는 일은 왜 생겨나고, 어떻게 해결할 수 있을까? AI 윤리가 중요할 수밖에 없는 이유는 무엇이고, AI가 윤리성을 고려하지 않고 설계됐을 때 일어날 수 있는 문제는 무엇일까?

사람이 아닌 AI의 발언, 윤리적으로 왜 문제가 될까?

AI는 인간이 아닌데, 왜 AI가 하는 발언에 이렇게도 많은 사람들이 민감하게 바라보는 걸까? 물론 현재의 AI가 인간처럼 어떠한 의도를 갖거나 특정한 가치관에 따라 발언하는 것은 아니다. AI는 기계학습을 통해 수많은 사람들이 그 동안 말해온 내용들을 종합하고 분석해, 사람들이 이야기할 법한 내용을 결과물로 내놓는 것이다. 다만 AI가 발화하는 내용이 수많은 사람과 현실 사회에 큰 영향을 미치기 때문에, AI가 산출하는 결과물의 윤리성을 논하는 과정이 필요하다.

AI가 일상으로 자리잡은 작금의 시대에는 AI가 여느 유명인보다 훨씬 더 큰 영향력을 가질 수 있다. 챗GPT와 같은 생성형 AI는 전세계 수억 명의 이용자들이 하는 질문에 응답하고 1:1로 피드백을 준다. 따라서 AI가 자칫 잘못된 정보나 혐오 표현, 편향된 발언을 할 경우 수많은 사람들에게 영향을 끼칠 수 있다. AI는 24시간 365일 가동되며 전 세계적으로 수많은 텍스트를 생성하는 만큼, 잘못된 내용이나 편향된 가치관이 순식간에 확산될 수 있다. AI가 언급한 내용을 이용자들이 온라인상에 올리거나 인용할 수도 있기 때문에 파급력은 더욱 크다. 최근에는 AI가 각종 사회 인프라와 점점 깊게 연결되고 있는데, AI의 편향된 의견이 공공, 행정 등 중요한 분야에 반영된다면 문제가 생길 수 있다.

무엇보다 사람들이 AI의 영향을 받으면서 의사결정을 내리는 경우가 점점 늘고 있어 AI가 산출한 결과물의 윤리성이 중요하다. 인간은 말실수를 하거나 편견이 있다고 생각하면서도, 정작 AI는 객관적이고 논리적일 것이라고 여기는 경우가 흔하다. 하지만 AI가 학습하는 데이터에 이미 사람들의 편견이 반영되어 있는 만큼 AI는 객관적인 시스템이 아니다. 미디어 리터러시를 제대로 숙지하지 않을 경우, AI가 한 이야기를 더 쉽게 받아들일 수 있어 주의가 필요하다.

AI 윤리, AI를 만드는 과정에서부터 편향성 고려해야

AI가 윤리적이려면 무엇을 고려해야 할까. AI가 산출하는 결과물뿐만 아니라 AI를 설계하고 운영하는 과정을 함께 살펴봐야 근본적인 문제를 해결할 수 있다.

우선 어떤 데이터를 수집해 AI에 학습시킬 것인지가 관건이다. 이때 데이터의 출처와 개인정보 보호, 데이터 편향 문제 등을 고려하는 것이 필요하다. 이것이 제대로 지켜지지 않는다면 어떤 문제가 생길까? 2021년 AI 챗봇 ‘이루다’를 둘러싼 논란이 대표적이다. 이루다의 개발사 스캐터랩은 자사가 운영하던 ‘연애의 과학’과 ‘텍스트앳’ 서비스 이용자들이 SNS에서 나눈 사생활 대화를 수집해 이루다의 학습 데이터로 사용했고, 이 과정에서 이용자들에게 명확한 고지를 하지 않았다. 이용자들이 나눈 대화에는 대화 상대방이 있는데, 그 상대방에게도 동의를 받지 않았다는 점에서 논란이 더욱 컸다. 결국 스캐터랩은 이루다 출시 20일 만에 서비스 중단을 결정했다. 2025년 6월, 법원은 이루다 개발사 스캐터랩에 대해 개인정보보호법 위반으로 피해자 246명에게 위자료를 배상하라는 판결을 내렸다.

AI 모델을 어떻게 설계할 것인지, AI 모델이 어떻게 작동되는지 투명하게 공개하는 것도 필요하다. AI는 사회에 막대한 영향력을 끼치는 시스템인 만큼 사기업이 만들었다 하더라도 공익적 책임을 짊어지게 된다. AI를 설계하는 과정에서 어떠한 가치 기준이 반영되었는지 공개해야 특정 집단에 불리한 AI가 만들어지지 않도록 예방할 수 있다. AI 모델이 어떻게 작동되는지 투명성이 확보되어야 하는 이유도 마찬가지다. AI가 잘못된 판단을 내렸을 경우, 왜 이러한 답변이 도출됐는지 이해할 수 있어야 수정도 할 수 있기 때문이다.

AI가 학습하는 데이터 및 AI의 알고리즘에 편향된 점은 없는지도 살펴볼 필요가 있다. 2023년 미국에서 안면인식 AI 오류로 무고한 흑인 여성이 도둑으로 몰려 체포 및 구금을 당하면서 인종차별 논란이 불거졌다. 이외에도 미국에서 안면인식 AI 오류로 무고한 시민이 억울하게 체포 당하는 사건이 여러 차례 발생했는데 주로 흑인에게 집중됐다. 왜 그랬을까? AI에 쓰이는 데이터에 특정 집단이 많을 경우, 알고리즘이 이에 최적화되며 다른 인종이나 성별, 연령층을 제대로 인식하지 못하거나 불리한 결론을 낼 수 있기 때문이다. 실제로 미국의 국립표준기술연구소(NIST)가 2019년 안면인식 AI 189개를 분석한 결과, 흑인 및 아시아계에 대한 오류 비율이 백인보다 10∼100배 더 높았다. 이와 함께 남성보다 여성을 정확하게 인식하지 못하는 경향이 있었고, 중년보다 아동, 노인의 얼굴을 더 잘못 인식했다.

이 외에 AI의 윤리성으로 살펴야 할 점은 더 있다. 누구나 평등하게 AI에 접근하고 이용할 수 있는지 고려해야 한다. AI를 활용하는 비중이 점점 늘어나면서 이에 따른 전력 소모와 탄소 배출도 늘고 있는데, 환경에 미치는 영향이나 지속 가능성도 검토해야 한다.

과학기술정보통신부와 정보통신정책연구원이 2020년 12월 마련한 AI 윤리기준

AI 윤리 핵심은 ‘다양성’ 포용…인간의 존엄성 지켜야

AI는 인간 모두의 삶을 윤택하게 조성하는 것에 본연의 목적을 두고 있으며, 사회 전체의 이익을 증진하며 공공선을 추구하는 방향으로 나아가야 한다. 만약 AI의 윤리성을 고려하지 않는다면 사회적 갈등이 생기거나 불평등이 심화되거나 누군가를 배제하는 결과를 초래할 수도 있다.

AI 윤리의 방향성에서 가장 중요한 것은 인간의 존엄성을 지키며 다양한 가치를 추구하고 포용하는 것이다. 물론 AI 윤리를 어느 수준으로, 어떤 방식으로 요구할 것인지는 충분한 논의가 이뤄져야 하겠지만 공공, 행정, 인사 채용, 교육 분야에서 가장 면밀히 지켜지도록 한다면 치명적인 문제를 줄일 수 있다. 또한 AI의 윤리기준은 어떠한 가치를 갖고 무엇을 중점으로 설계했는지에 따라 달라질 수 있으므로, AI 데이터를 수집, 처리, 검증하는 과정에서 다양한 이해관계자가 참여하도록 보장할 필요가 있다.

AI의 윤리를 지키고 편향성을 해결하기 위해 AI가 학습하는 모든 데이터를 일일이 확인하는 것은 현실적으로 어렵지만, 일정한 기준을 두고 데이터를 검증하는 방법은 택할 수 있다. 예를 들어 AI가 학습하는 데이터에 다양한 집단이 비슷한 비율로 포함되었는지 구성 비율을 체크하는 것이다. AI가 특정 집단에 차별적인 반응을 보이는지 이름이나 인종, 성별 등을 기준으로 테스트를 해볼 수도 있다. 유색인종, 장애인, 여성, 성소수자, 노인, 아동, 이주노동자, 비정규직 등 사회적 약자를 고려해 AI를 설계하는 것도 방법이다.

한편, 이용자들도 AI를 비판적인 관점에서 바라보고 활용하는 태도가 필요하다. AI 역시 언제나 의도치 않게 틀릴 수 있음을 이해해야 한다. AI가 답변한 내용을 있는 그대로 받아들이기보다는 옳고 그름을 따져보며 질문하는 습관을 들이는 ‘미디어 리터러시’를 함양하는 것이 앞으로는 더욱 중요해질 것으로 보인다. 중기이코노미 안수영 기자