![우리가 걱정하고 있는 AI의 본질은 무엇인가[넥서스를 읽고, 1편]](https://cdn.mediafine.co.kr/news/photo/202412/63319_96266_2917.jpg)
[미디어파인=이상원 기자의 서평모음] 교보문고 베스트셀러 목록을 보던 중 갑자기 마법같이 등장한 책이 있다. 옛날 스타크래프트 기지를 생각나게 하는 책 넥서스는 AI라는 광풍을 맞고 있는 현대 시대와 접목되어서 불티나는 인기를 누리고 있었다. 사피엔스의 유명 저자이기도 한 유발 하라리는 적어도 내가 아는 한 AI 전문가는 아니었다. 그는 역사와 제도를 꿰뚫어 보는 뛰어난 통찰력을 가지고 있었지만 머신러닝, AI 등과는 관련이 멀다고 생각했다. 하지만, 역설적으로 그런 흥미가 나로 하여금 오히려 이 책을 집게 하였다.
책을 전체적으로 총평하자면 일단 매우 두껍다. 아마 이 책을 산 상당수 중에는 1/3도 못 읽고 어딘가에 넣어놓았을지도 모른다. 하지만 500페이지가 넘어가는 책을 읽는 동안 전체적인 흐름 맥락이 너무나도 자연스러워 그 사고력과 논리에 감탄하였다. 정보라는 개념을 중심으로 역사, AI, 민주주의, 전체주의 등을 연결하는 능력은 다른 어떤 책에서도 느껴보지 못했던 신선한 충격을 주었다. 그럼, 서론은 이쯤하고 이 책에서 우리가 무엇을 얻을 수 있는지, 전문가와 개인이 보는 AI 인식의 괴리가 어떤지 느낀 점을 적어본다.
2024년을 사는 사람치고 AI에 대해서 들어보지 못한 사람은 없을 것이다. 우리 주변에서 chatgpt, perplexity 등 AI를 사용하고 있는 지인을 심심치 않게 볼 수 있다. 예전에는 단순히 AI와 대화를 한다는 것에 신기해하던 사람들이 어느 순간 AI를 자신의 직업, 코딩, 정보검색에 적극적으로 활용하고 있다. 그만큼 AI의 기술 발전이 빠르다는 방증이기도 하다. 이런 놀라운 AI의 발전과는 반대로 한편에서는 우려의 목소리가 나오고 있다. 그들은 영화와 같은 일을 말하며 AI가 기술적 특이점을 넘어가는 순간 인류가 장악당할 것이라고 말한다. 하지만 우리가 현재 걱정해야 할 점은 AI의 지구 지배가 아니다.
넥서스에서 제안하고 있는 첫 번째 문제점은 정보의 편향이다. AI는 데이터를 기반하여 학습한다. 하지만 데이터는 결국 어디서 나오는가? AI 이전에 단순하게 컴퓨터 알고리즘만으로 생각해 보아도 이 문제는 심각해진다. 하루에 몇 시간 동안이나 사용하는 유튜브에 대해서 살펴보자. 유튜브의 기본 로직은 무엇일까? 사람들이 관심을 끌 만한 영상을 앞에 배치하고, 조회수나 지속시간이 많이 나오는 영상을 사용자에게 더 많이 노출한다. 핵심은 진실에 대해서 알고리즘이 그다지 중요하게 생각하지 않는다는 점이다. 예를 들어 한 사태에 대해서 교묘하게 거짓을 섞어 누군가 조회수를 끌기 위해 폭력적이고 자극적인 영상을 올렸다고 해보자. 그것에 진실을 전하는 영상보다 알고리즘은 전자를 훨씬 더 많이, 멀리 퍼 나를 것이고 그것이 지배적인 의견이 된다. 이것은 곧 여론을 형성하고 정치적인 정책의 방향성을 형성한다. 다수가 모이면 진실을 만든다고 확신하는가? 그렇다면 아마 인류에서 마녀사냥, 나치, 스탈린주의는 일어나지 않았을 것이다.
두 번째 AI의 문제점은 정보의 집중이다. 권력이 있는 곳에 정보과 집중되어 왔다. 그러나 그 정보가 계속 돌지 않고 자정작용이 일어나지 않으면 정보는 썩게 된다. 2편에서 집중적으로 다루겠지만 성경에 대해서 살펴보자. 성경은 그 말씀이 진리이고 더 이상 변하지 않는 것처럼 여겨왔다. 특히 구약에서 그랬다. 모세의 십계명을 중심으로 관료들은 십계명과 구약을 지키지 않으면 사회에서 배척당했고 구약은 절대 변하지 않았다. 하지만 시대가 바뀌며 정보도 변하게 되었고 성경도 바뀌어야 했다. 하지만 그렇지 못했고 결국 기독교는 루터의 종교 개혁 이전까지 몇백 년 동안 곪는 결과를 얻었다. 하지만 누군가는 정보의 집중이 사람에게 이루어졌고 AI가 한다면 그건 달라질지도 모른다고 말한다. 하지만 이것은 위대한 전체주의 논리와 다를 게 없다. 인류 가운데 리더십, 지성 등을 모두 따져서 가장 뛰어난 점수를 받은 사람 1명을 뽑았다고 하자. 그럼, 그 사람이 지구 전체를 다스려도 되는가? AI가 위험한 것은 단순히 AI가 똑똑해서가 아니다. AI에 수많은 데이터와 정보가 집중되고 그 가운데 AI는 스스로 자기도 모르는 사이에 정보 네트워크의 상위 포식자가 되는 것이다.
이세돌 9단과 알파고의 대결을 보며 AI가 이렇게 똑똑하다면 나중에 우리 인류를 지배하면 어쩌지? 로봇과 전쟁이 나면 어떻게 하지? 라고 걱정한다. 하지만 이런 걱정보다 훨씬 선행되어야 할 것은 AI의 정보 편향과 집중을 어떻게 통제하는지, 그것의 기술 발전을 인류가 활용할 만큼 따라가는지이다.(2편에서 계속)