헨리 키신저, 에릭 슈밋, 대니얼 허튼로커 지음 · 김고명 옮김 · 윌북 · 1만9800원
2017년 구글 딥마인드가 개발한 체스 인공지능(AI) ‘알파제로(AlphaZero)’가 역대 최강의 체스 프로그램이었던 스톡피시를 꺾으며 반향을 일으켰다. 알파제로는 이례적인 전술을 선보였는데 인간 플레이어였다면 어떻게든 지키려 했을 퀸을 과감히 희생시켰다. 인간의 두뇌로는 감당하지 못하는 방대한 경우의 수를 검토해 승률을 극대화할 수 있는 수를 둔 것이다.
이처럼 AI는 놀라운 결과물을 보여주지만 왜, 어떻게 이 결론에 도달했는지 인간이 공감하고 이해할 수 있는 방식으로 설명하진 않는다. 체스 게임에서 AI의 도움을 받을 땐 문제가 안 될 수 있지만 국가 안보와 직결된 사안이라면 어떨까? 재난이나 전쟁 상황에서 AI가 더 많은 사람을 구하기 위해 일부 국민의 생명을 희생시키라고 지도자에게 권고한다면 무엇을 근거로 이를 따르거나 거부할까?
