(서평) 알고리즘이 지배한다는 착각 (데이비드 섬프터) - 해나무

  대선이 코앞까지 다가왔다. 의혹과 가짜 뉴스들, 편향된 보도 그리고 쏟아내는 네거티브 공세는 심적으로 힘든 시간이었다. 그동안 매주 여론조사들이 쏟아졌고, 많은 유권자들은 그 결과에 일희일비하기도 했다. 하지만 그런 여론조사도 18대 총선부터 제대로 맞질 않았다. 가장 눈여겨볼 수 있었던 것은 힐러리 클린턴과 도널드 트럼프가 붙은 미국 대통령 선거였다. 누구도 트럼프가 이길 것이라고 예측하지 못했지만 빅데이터들은 트럼프의 당선을 예측하고 있었다. 구글의 딥마인드가 이세돌 9단을 이긴 이후로 급속도로 우리 속을 파고드는 빅데이터와 AI는 경이롭기도 하지만 두려움도 함께 주고 있다.

  세상을 움직이는 많은 곳에서의 알고리즘은 생각보다 완벽하지 못하다고 얘기하는 이 책은 해나무 출판사의 지원으로 읽어볼 수 있었다.

  신경망 회로가 세상에 나온지도 50년이 훌쩍 넘었다. 굉장히 많은 시도가 있었지만 많은 연산 때문에 잊힌 기술이 되었다. 2012년 알렉스 크리 제브 스키는 GPU 기반 딥러닝을 가지고 나왔다. 이는 기존의 기계 학습을 완전히 바꿔놓았다. 그것이 Convolution Neural Network, CNN이다. 이때부터 급격히 발전해 기계학습은 구글과 페이스북 등 여러 회사로 흘러 들어갔고, 뉴스를 볼 때는 추천기사를 쇼핑을 할 때는 추천 상품을 SNS를 할 때는 친구 추천을 해준다. 사람들은 기계의 추천에 익숙해지고 더욱더 단조로운 삶을 살아가는 듯하다.

  그렇다면 결국엔 알고리즘이 지배하게 될 것인가?라는 의문이 필요하다. 실제로 기계가 '초지능'을 가지게 되었을 때 어떤 나쁜 일이 있을까 하는 토론이 열기기도 한다. 하지만 이 책의 저자는 이 모든 것이 그럴만한 것이 아니라고 주장한다. 저자는 알고리즘들의 문제와 편향에 대해서 수학적으로 접근한다. 최근에 논란과 공포심은 언론과 일부 전문가로 인해서 과장되었고 주장한다.

  기계 학습이라는 것은 그 말 자체로 한계를 가지고 있는지도 모른다. 불완전하고 오류 투성이인 인간을 학습해 봤자 얼마나 완벽해질까? AI가 체스를 이기고 바둑을 이기는 것에 그렇게 공포심을 가질 필요가 있을까? 그것들은 지능이라고 보다는 고도의 계산에 가깝다. 수천 개의 CPU와 GPU가 이뤄낸 결과다. 기계가 사람보다 많은 계산을 빠르게 할 수 있다는 것은 누구나 인정할 수 있는 부분이기도 하다.

  AI가 갈 길이 아직 멀었다는 것은 자연어 처리를 보면 더욱 확고해진다. AI로 만들어진 많은 음성인식 시스템에서 우리는 거의 일방적인 대화를 하고 있다. AI는 생각보다 많이 수동적이고 순간 반응적이라고 할 수 있다. 그들에게는 기억이라는 것이 불완전하기 때문이다. 대화 중에 나오는 '그것'을 AI는 인지하지 못한다. 대화의 연속성에 대해서 반응하지 못하는 것이다.

  이 책을 처음 펼쳐 50페이지가량 넘기고 나서는 엄청 빠르게 읽었다. 내가 이해할 수 없는 수준의 이야기를 하고 있었기 때문이다. 전공자가 아니기 때문에 어떤 이유에서 알고리즘에 문제가 있는지 간단하게 알고 싶을 뿐 심도 있게 알고 싶지는 않았기 때문이다. 2부에 나온 '가짜 뉴스'에 대한 이야기가 흥미로웠고 알고리즘에도 인간을 학습한 만큼 인간이 가진 문제를 가지고 있다는 사실도 재미있었다.

  AI의 발전은 무시 못할 정도로 눈부시게 발전하고 있다. 두려움에 떨기보다는 그로 파생되는 혜택을 누리면서 균형감 있는 감각을 유지하는 것은 무엇보다 중요하다. 알고리즘에 대한 우리의 무비판적인 수용은 인간 자체를 편향되기 만들지도 모른다. AI가 추천해주는 것보다 더 많은 관심사가 있을 것이다. 과감히 '네가 추천하는 것이 다 맞지는 않아'라는 생각을 잊지 말자.

  전공자라면 꼼꼼하게 읽어보면 좋을 만큼 많은 레퍼런스들이 있다. 하지만 비전공자들에게는 다소 낯설고 어려운 얘기들이 많았다. 너무 힘들게 읽지 말고 흥미 있는 것만 꼽아 읽는 것도 이 책을 읽는 좋은 방법일 것 같다. 

알고리즘이 지배한다는 착각 - 데이비드 섬프터 저/전대호 역 YES24 구매하러 가기 (이미지를 클릭하세요)