서평내용
나는 서평 과제를 위해 책을 찾던 중 평소에 흥미로워하던 주제의 책을 찾았다. 나는 평소 이용하던 대화 생성형 ai인 챗-GPT가 생각이 나서 이 책을 서평의 주제로 선정하게 되었다. 하지만, 이 책에서의 ai는 ‘인공’적이거나 ‘지능’이 아니라고 주장한다. 우리가 생각하는 스스로 생각하는 프로그램이나 자율주행, 검색 알고리즘보다는 지식을 정제하는 것, 권력의 등기부로 본다. 이 책의 이름처럼 ai를 지도책으로 보아야 하는 이유로 지도책은 별개의 조각들을 제각각의 방식으로 연결하여 세계를 다시 읽을 수 있게 한다는 것처럼 ai를 지도처럼 여러 가지를 합쳐 다양하고 새로운 것들을 넓은 맥락에서 이해하게 하기 위해서이다. 또한, 지도책의 다른 비유로는 ai분야는 지구를 연산의 형태로 파악하려 지속적으로 시도하는데, ai산업에서 ai로 지식의 지도책을 만들려 하기 때문이다.
책의 일부 줄거리를 설명하자면 ai를 생산하기 위한 부정적인 면과, 인공지능은 사실 사람에서 나온다는 것과, 데이터의 역할에서 데이터는 어떻게 쓰이는가, ai와 권력의 연관성에 대하여 나온다. 부를 위한 금광채굴, 배터리를 만들기 위한 광물채굴 등은 환경파괴와 유독물질배출과 같은 큰 문제를 가져온다. ai를 생성하기 위한 광물채굴과 전기자동차를 위한 리튬채굴과 청정기술이라 불리는 것들은 사실 생산과정에서 많은 환경파괴와 오염배출을 야기한다. 전기를 생산하기 위해 화석연료가 사용되듯이 우리가 알고 있는 친환경적인 것의 이면에는 부정적인 면이 존재한다. 나는 마냥 좋다고만 생각하고 누리던 것들이 가져오는 부정적인 면들에 대해 다시 생각하게 되었다. 노동과 ai의 연관성에서 노동자의 기계화된 노동에서 ai 시스템이 구축되었다는 것이다. ai 시스템인 핵심 인프라를 생산하는 과정에서 소프트웨어 부문에서까지 인간을 이용한 자동화가 이용되었다. 이러한 종류의 노동이 없었다면 ai 시스템은 돌아갈 수 없었을 것이라고 한다. 데이터에서의 ai 중 범죄자의 얼굴을 찍는 머스샷은 본래 경찰체제에서 개인을 식별하는 수단에서, 국립표준기술연구소(NIST)에 포함되면서얼굴을 감지하는 상업적, 학술적 ai 시스템을 검증하는 기술적 기준으로 의미가 달라졌다. 머그샷은 식별의 도구에서 자동화된 형태의 시각을 미세 조정하는 도구의 역할을 하게 되었다. 머그샷 속 인물이나 그들의 가족들은 사진들의 쓰임새에 대해 발언권이 없으며, ai의 시험대가 됬다는 사실을 모를 것이다. 연구자들은 그들의 사진을 단순한 데이터로만 보았다. 얼굴 인식 시스템 개선을 위한 다수 사람들의 얼굴 데이터 수집은 동의없이 이루어졌다. 또한 누군가는 개인정보를 공적자산으로서 지식가치로 추출하여 이득을 얻기도 한다. 인공지능은 인간의 지시없이 판단을 내리는 보편적인 장치가 아니다. 인공지능 시스템은 사회적, 정치적, 문화적, 경제적 세계에 붙어 있으며, 결정하는 인간, 제도, 명령에 의해 만들어 진다. 이 시스템은 차별하고 서열을 증폭하고 편협한 분류를 구현하도록 설계되었다. 사회에 이점이 있는 맥락에 적용된다면 기존의 구조적 불평등을 재생산하고 최적화하고 확장한다. 이러한 일들은 우연이 아니라고 한다. ai 시스템은 사용하는 국가와 제도, 그들의 봉사를 받는 기업에주로 혜택을 주는 방식으로 세상을 바라보고 개입하도록 제작된다.
이 책에서 ai는 ai의 버팀목이 인공화, 추상화, 자동화라는 기술 관료적 가공물이 아니라 지구적으로 상호 연결된 추출과 권력의 체계라고 주장한다. 책에서는 ai에 대한 것을 부정적인 시선으로만 바라본다. ai는 환경을 파괴하며, 인간의 행동과 정체성을 분류해 데이터로 구성되며, 데이터를 이용한 사용자에게 권력을 준다고 한다. ai 시스템은 권력과 밀접한 관계가 있다고 강조한다. 나는 ai 의 부정적인 이면에 일부 동의한다. 하지만, 우리가 누리고 있는 편리한 것들에 대해 전부 부정할 수는 없다고 생각한다. 책에서는 ai의 부정적인 면만 강조하기에 ai의 이면에 대해 알고 싶다면 이책을 추천하지만, 내가 알고있는 ai처럼 우리 주위의 챗gpt나 자율주행, 인공지능 기술 등 ai의 이점에 대해 알고 싶은 사람들에게는 추천하지 않는다.