알고리즘이 인간을 지배한다는 생각은 이제 상식이 됐다.  특히 코로나19 사태로 인한 비대면의 일상화로 '페이스북은 우리를 통제하고 있다.''SNS는 우리를 특정 견해에 가두어 사회를 두 동강 내고 있다' '트럼프의 당선은 가짜뉴스로 조작된 것이다’ ‘인간의 지능을 완벽히 모방한 인공지능(AI)이 등장해 인간을 대체할 것이다' 등 인간 개개인과 집단이 하나의 상품이 되어버린 빅데이터 알고리즘의 시대다.

구글과 페이스북의 위력 앞에서, 알고리즘이 인간의 욕망와 감성까지 추적·분류하고 마침내 조작할 것이라는 디스토피아 시나리오는 점점 뚜렷해진다.

스마트폰 화면을 켜기만 해도 그 사람이 먹고 싶은 것과 듣고 싶은 것, 하고 싶은 것, 알고 싶은 것. 사고 싶은 것. 좋아하는 취향의 영화 등등 모두 알고리즘이 알아서 알려줄 정도다. 

 이처럼 페이스북을 비롯한 SNS가 우리 삶에 미치는 영향을 두고 많은 사람이 호들갑을 떨지만, 세계적 수학자 데이비드 섬프터 스웨덴 웁살라 대학교의 응용수학과 교수가 살펴본 바 그 모든 우려는 대부분 언론의 무분별한 보도로 과장된 것이다.

저자는 "우리의 행동에 대한 알고리즘의 예측은 타인의 예측만큼 정확한 수준에 전혀 미치지 못한다. 알고리즘의 한계를 잘 아는 사람이 사용할 때, 알고리즘은 최고의 성능을 낸다." 모든 음악을 1천 가지 넘는 장르로 분류하는 스포티파이의 추천음악은 종종 취향을 벗어난다. 알고리즘을 아무리 정교하게 짜더라도, 그 결과물은 인간의 손으로 다시 가공된다. 저자가 이 과정을 '데이터 연금술'이라고 부르면서 "알고리즘의 정확도는 기껏해야 인간의 정확도와 대등하다"고 말한다.

 그는 책 '알고리즘이 지배한다는 착각'(해나무)에서 페이스북, 구글부터 가짜뉴스, AI까지 알고리즘을 수학적으로 분석하며 우리의 상식을 뒤흔든다.

저자는 페이스북이 우리를 완벽히 파악하고 있다는 주장은 과대광고일 뿐이라고 지적하는가 하면, SNS 때문에 우리가 편향된 견해 속에 갇혀 있다는 우려를 진정시키고, 가짜뉴스에도 과도한 공포를 느낄 필요가 전혀 없다고 역설한다.

저자는 조만간 인간의 인지 능력을 복제한 범용 AI가 나타나 인간을 대체하리라는 일설도 실제 연구 현황을 고려하면 근거 없는 사변이라는 점도 낱낱이 밝힌다.

테슬라 최고경영자 일론 머스크, 구글의 미래학자 레이 커즈와일, 딥마인드의 창립자 데미스 허사비스 등 빅테크 개척자들이 경영하는 회사 알고리즘을 해부해온 저자는  인간과 유사한 지능이 도래하고 있다는 단서를 전혀 발견하지 못했다고 말한다.

두뇌의 신경세포 구조를 모방한 알고리즘인 '인공 신경망'은 바둑 등 몇몇 게임에서 인상적인 기술적 성취를 보여줬지만 게임 원리를 밑바닥부터 학습하는 능력은 여전히 인간이 더 뛰어나다.

인간 언어를 모방하는 언어 알고리즘도 몇 문장을 그럴싸하게 말해 놀랄만한 결과를 보여줬지만 최고 언어 알고리즘조차 문장 속 'it(그것)'이 무엇을 가리키는지 제대로 파악하지 못한다.

인공지능은 사물을 보고 즉각적으로 반응할 수 있지만, 자신이 무엇을 보고 있는지 이해하거나 계획을 세우지는 못한다. 

그러면서 인공지능이 인간의 두뇌를 대체할지가 아니라 이미 개발된 인공지능을 어떻게 사용할지 물어야 한다고 지적한다.

 "그 알고리즘들은 우리가 해야 하는 하찮은 일들을 줄여줄 잠재력을 지녔지만 인간과 유사한 행동은 하지 못할 것이다." 그래서 저자는 심지어 현재 최고 수준의 인공지능을 박테리아에 비유한다. 

가짜뉴스 양산은 특정 견해에 가둬 사회를 양분화한다는 것이다. 또한 머지않은 미래에 인공지능(AI)이 인간을 대체할 것이란 주장은 사람들의 공포심을 자극한다. 

 '알고리즘이 지배한다는 착각'의 저자 데이비드 섬프터는 알고리즘이 인간을 지배하고 있다는 통념에 의문을 제기한다.

저자는 '필터 버블'이라는 효과를 통해 이를 증명하려고 한다. 필터 버블은 SNS가 편향되고 걸러진 정보만 제공해 사용자가 영향을 받는 현상을 뜻한다. 하지만 저자는 그 효과가 크지 않다고 말한다.

저자는 내밀히 작동하는 알고리즘의 수학적 원리를 해체해 우리가 알고리즘의 영향력을 합리적으로 평가하지 못할 때, 그리고 과학 허구 시나리오들에 휘둘릴 때 가장 큰 위험이 들이닥친다는 것을 깨닫게 해준다.