Article at a Glance
다리오 아모데이는 AI의 위험성을 가장 잘 아는 사람인 동시에 AI 개발의 최전선에 있는 인물이다. 그의 리더십은 하버드 케네디스쿨의 로널드 하이페츠가 체계화한 ‘적응적 리더십’으로 설명된다. 적응적 리더십이란 리더가 구성원이 회피하고 싶은 현실을 직면하게 하고, 조직이 감당할 수 있는 수준의 긴장을 유지하며, 공식적 권위보다 신뢰에 기반한 비공식적 권위로 변화를 이끄는 방식이다. 아모데이는 안전 조치와 상업적 압력 사이의 긴장을 숨기지 않은 채 전사 타운홀 미팅에서 공유하고, 슬랙 에세이로 정답을 주는 대신 집단 토론을 유도하며, AI 재앙 확률을 언급하거나 정부와의 위험한 계약을 거절하는 등 원칙을 제도화한다. 또한 ESG를 단순히 보고서가 아니라 AI 헌법, RSP(책임감 있는 확장 정책) 같은 의사결정 시스템으로 구현한다. AI가 가져올 혁신과 위험을 동시에 직시하는 아모데이는 AI 시대 리더십의 새로운 기준을 제시한다.
AI의 눈부신 발전 뒤에는 복잡한 사업 논리가 작동하고 있다. 빅테크 기업들도 결국 투자 대비 수익(ROI)을 맞추기 위해 매출을 늘려야 한다. 그러려면 AI의 성능과 가능성을 최대한 강조할 수밖에 없다. 일부 기업은 직원들의 AI 활용 실적을 인사 평가에 적극 반영하며 이른바 ‘토큰 맥싱(Token Maxing)’ 문화까지 조성하고 있다. 토큰 맥싱은 AI가 텍스트를 처리할 때 쓰는 기본 단위인 ‘토큰’ 사용량을 극대화한다는 뜻으로 더 많은 업무를 AI에 맡기고 더 적극적으로 AI를 활용하도록 유도하는 흐름을 가리킨다. 한동안은 AI가 인간의 일자리를 대거 대체할 것이라는 ‘공포 마케팅’도 이런 분위기를 뒷받침했다.
그러나 최근에는 분위기가 달라지고 있다. 아직 생산성이 충분히 검증되지 않은 AI에 막대한 토큰 비용을 투입하느니 오히려 사람을 활용하는 편이 더 경제적이라는 반론이 힘을 얻고 있다. 심지어 오픈AI 창업자 샘 올트먼도 AI가 인간의 일자리를 대부분 대체할 것이라는 자신의 전망에 대해 “내가 틀려서 기쁘다”고 말한 바 있다. AI가 쉽게 대체할 수 없는 인간 고유의 역량이 여전히 존재한다는 점을 간접적으로 인정한 셈이다.
AI 열풍 속에서 인간을 두렵게 하는 것은 단순히 일자리가 사라질지 모른다는 불안만이 아니다. AI가 인간의 능력을 넘어 인간에게 실제 위협이 될 수도 있다는 가능성 역시 점점 현실적인 문제로 제기되고 있다. 아이러니한 점은 이러한 위험을 가장 잘 아는 사람들이 바로 AI를 개발하는 연구자들이라는 사실이다. 그들은 위험성을 누구보다 잘 이해하면서도 기술 개발을 멈추지 않는다. 이 딜레마의 중심에 AI 스타트업 앤스로픽(Anthropic)의 최고경영자(CEO) 다리오 아모데이가 있다. 경제 전문지 포천(Fortune)과의 인터뷰에서 그는 AI 산업이 처한 현실을 이렇게 설명했다.
“우리는 엄청난 상업적 압력을 받고 있다. 그런데도 다른 회사들보다 훨씬 더 많은 안전장치를 적용하며 스스로 더 어려운 길을 선택하고 있다.”
