추천의 시대다. 넷플릭스나 왓챠는 내가 좋아할 법한 영화를 알아내 추천해 준다. 아마존이나 알리바바 같은 인터넷 유통 업체들은 고객이 필요한 상품 목록을 파악해 제공해준다. 개인 금융정보를 제공하면 가장 적합한 투자 상품을 추천해주는 애플리케이션도 인기다.
이 모든 것의 핵심은 바로 알고리즘이다. 기업들은 고객 데이터를 수집하고 분석해 개별 고객이 원하는 제품과 서비스를 찾아낸다. 또한 고객들이 서비스를 이용하기 위해 제공한 개인정보를 수집하고 활용해 새로운 서비스를 내놓기도 한다. 우버가 도시의 교통 시스템을 개발하겠다고 공언하고, 자율주행자동차를 개발할 수 있었던 것도 모두 공유 차량 서비스를 통해 확보한 데이터 덕분이다.
최근 5G 시대가 본격화하면서 알고리즘에 대한 관심은 더욱 높아졌다. 더욱더 방대하고 다양한 데이터를 실시간으로 전송하고 받을 수 있게 됐기 때문이다. 회사들이 필요한 데이터를 확보하기가 상대적으로 쉬워지면서 인공지능과 관련한 서비스를 개발할 수 있는 기회가 더 많아지게 됐다.
사실 인공지능은 이미 우리의 일상생활을 파고들었다. 자동차 운전을 할 때 길을 직접 찾는 대신 실시간 교통량을 반영해 최단 루트를 찾아내는 내비게이션에 의존하는 것이 대표적인 예다. 최근에는 인공지능의 역할이 사람들의 인생을 판가름하는 영역까지도 확대됐다. 미국 위스콘신주의 판사들은 한 민간 회사가 개발한 ‘콤파스’라는 위험 평가 알고리즘을 참고해 피고인의 형량을 정한다.
하지만 인공지능 서비스가 항상 합리적이고 이성적인 결과를 낳지는 않는다는 사실을 염두에 둬야 한다. 영국에선 한 운전자가 내비게이션에 의존해 운전을 하다가 잘못된 길로 들어서 큰 사고를 당할 뻔한 사건이 화제가 됐다. 심지어 이 남성은 부주의한 운전으로 벌금형까지 받았다. 또한 콤파스라는 알고리즘은 백인보다 흑인에게 훨씬 더 불리하게 작용된다는 것이 밝혀졌다. 편향된 알고리즘이 오히려 법에서 가장 중요한 공정성을 해친 것이다. 저자는 인공지능으로 인해 생길 수 있는 오류와 위험성을 다양한 사례를 통해 경고한다.
