AI
‘AI 정체성’은 양날의 검… 비윤리적 행동 경계를
Based on “The dark side of AI identity: Investigating when and why AI identity entitles unethical behavior”(2023) by Cao, L., Chen, C., Dong, X., Wang, M., & Qin, X. in Computers in Human Behavior, Vol. 143
![GettyImages-1158120008_[변환됨]](/upload_dir/source/371/GettyImages-1158120008_[변환됨].png)
무엇을, 왜 연구했나?
인공지능(AI)은 이미 오래전부터 많은 조직에서 제품 및 서비스의 효율과 품질의 향상, 비용의 감소를 위해 활용됐다. 그 결과, 기업 내부에서는 조직 구성원들의 AI 사용과 AI 기반의 직무 재정비와 같은 지원 행동이 장려되고 촉진돼 왔다. 이와 관련한 선행 연구들은 AI의 사용과 지원 행동을 촉진하는 다양한 방법 중 하나로 개인의 ‘AI 정체성(AI Identity, AI와 관련된 지식과 능력이 인간의 핵심적인 부분을 차지함으로써 한 개인의 자아를 정의할 때 중요한 역할을 한다고 인식하는 것)’에 주목하고 있다. 즉, 조직 구성원들의 AI 정체성을 촉진하는 것이 직무 만족과 혁신적 성과에 긍정적인 영향을 미친다는 것이다. 하지만 노던켄터키대(Northern Kentucky University)의 발라푸 교수와 동료 학자들의 연구에 의하면 높은 수준의 AI 정체성을 가진 사람들은 AI가 없으면 자신의 일부가 없는 것처럼 느끼는 경우도 있었다. 이는 AI 정체성이 높으면 AI에 대한 의존성이 높다는 것을 의미한다는 뜻이다.
AI의 활용은 많은 혜택을 제공할 수 있지만 동시에 이로 인해 데이터 편향, 의사결정의 불투명성, 개인정보의 노출 등 비윤리적 행동에 노출될 수 있다는 우려의 목소리가 있는 것도 사실이다. 이에 본 연구는 AI 정체성의 긍정적 영향력이 많이 알려짐에 따라 장점만 과대평가되고 잠정적인 부정적 측면은 간과되고 있다는 점을 지적하고 있다. 이를 검증하기 위해 연구진은 개인의 역할과 정체성이 자아상을 형성해 개인의 심리 상태에 영향을 미치고 행동을 유발한다는 ‘역할 정체성 이론(Role Identity Theory)’에 근거해 AI 정체성이 ‘심리적 특권 의식’을 촉진해 조직 내 부당한 비윤리적 행동에 영향을 미친다는 가설을 세웠다.
무엇을 발견했나?
연구자들은 역할 정체성 이론을 기반으로 AI 정체성이 직장 내 비윤리적 행동에 어떠한 영향을 미치는지 설명하는 모델을 개발하고 검증했다. 역할 정체성 이론에 의하면 AI 가 일이나 삶에서 중요한 역할을 하는 조직 구성원의 경우 AI 정체성은 더욱 현저해질 것이다.
연구자들에 의하면 조직에서 높은 AI 정체성을 가지고 있는 구성원들은 AI가 기술적으로 유능할 뿐 아니라 경쟁적 상황에서 성과 향상을 도모할 때 ‘꼭 필요하지만 누구나 접근할 수 없는 희소한 자원’으로 간주한다. 따라서 높은 수준의 AI 정체성을 가지고 있는 구성원들은 자기 자신을 희소성이 있고 가치 있는 존재로 인식해 심리적 특권 의식(Psychological Entitlement)을 가지게 되고 이로 인해 조직 내 도덕적 기준이나 적절한 행동 규범을 위반하는 ‘비윤리적 행동(Unethical Behavior)’이 증가할 것이라는 가설을 세우고 이를 검증했다. 또한 AI 정체성의 희소성에 대한 인식이 높은 환경에서는 AI 정체성이 구성원들의 심리적 특권 의식에 미치는 영향력이 유의미하게 증가하는 것을 추가로 검증했다. 이는 AI 정체성에 대한 희소성을 높은 수준으로 인식하는 환경에서 AI 정체성이 심리적 특권 의식에 더욱 크게 영향을 미쳐 구성원들로 하여금 비윤리적 행동을 유도한다는 것을 의미한다.
연구 결과가 어떤 교훈을 주나?
본 연구 결과는 기존의 AI 정체성에 대한 선행 연구가 조직의 성과에 긍정적인 영향력을 미친다는 일반적 함의와는 달리 ‘AI 정체성’이 잠재적으로 미칠 수 있는 부정적 측면을 찾아내고 조직 내에서 언제, 어떤 경로를 통해 비윤리적 행동을 촉진하는지에 관해 검증했다는 점에서 의미가 있다. 구체적으로 AI 정체성이 조직 내 비윤리적 행동에 미치는 결과에 있어 AI 정체성의 희소성에 대한 인식과 심리적 특권 의식이 중요한 역할을 한다는 사실을 입증했다. 또한 AI 정체성의 가치와 희소성을 강조하면 오히려 윤리적 측면에선 잠재적인 비용이 발생할 수 있다는 것을 밝힘으로써 AI 정체성에 대한 보완적이고 균형 잡힌 이해를 촉구했다. 또한 조직 내 관리자들이 AI 사용과 관련된 행동을 지원하고 촉진할 경우, AI 정체성의 특성으로 인해 발생할 수 있는 비용에 대해 인식해야 함을 시사했다. 예를 들어, AI 정체성의 희소성에 대한 인식의 측면에서 조직 내 관리자들은 “우리는 모두 AI와 관련돼 있다” “모든 조직 구성원은 이 기술에 접근할 수 있다”는 메시지와 같이 희소성의 의미를 줄여가는 조치를 취할 수 있을 것이다. 이외에도 다양한 조치를 통해 AI 정체성이 높은 조직 구성원들이 자신을 너무 특별한 존재로 생각하지 않도록 하는 기술 이면의 보완책이 필요하다.
무엇을, 왜 연구했나?
인공지능(AI)은 이미 오래전부터 많은 조직에서 제품 및 서비스의 효율과 품질의 향상, 비용의 감소를 위해 활용됐다. 그 결과, 기업 내부에서는 조직 구성원들의 AI 사용과 AI 기반의 직무 재정비와 같은 지원 행동이 장려되고 촉진돼 왔다. 이와 관련한 선행 연구들은 AI의 사용과 지원 행동을 촉진하는 다양한 방법 중 하나로 개인의 ‘AI 정체성(AI Identity, AI와 관련된 지식과 능력이 인간의 핵심적인 부분을 차지함으로써 한 개인의 자아를 정의할 때 중요한 역할을 한다고 인식하는 것)’에 주목하고 있다. 즉, 조직 구성원들의 AI 정체성을 촉진하는 것이 직무 만족과 혁신적 성과에 긍정적인 영향을 미친다는 것이다. 하지만 노던켄터키대(Northern Kentucky University)의 발라푸 교수와 동료 학자들의 연구에 의하면 높은 수준의 AI 정체성을 가진 사람들은 AI가 없으면 자신의 일부가 없는 것처럼 느끼는 경우도 있었다. 이는 AI 정체성이 높으면 AI에 대한 의존성이 높다는 것을 의미한다는 뜻이다.
AI의 활용은 많은 혜택을 제공할 수 있지만 동시에 이로 인해 데이터 편향, 의사결정의 불투명성, 개인정보의 노출 등 비윤리적 행동에 노출될 수 있다는 우려의 목소리가 있는 것도 사실이다. 이에 본 연구는 AI 정체성의 긍정적 영향력이 많이 알려짐에 따라 장점만 과대평가되고 잠정적인 부정적 측면은 간과되고 있다는 점을 지적하고 있다. 이를 검증하기 위해 연구진은 개인의 역할과 정체성이 자아상을 형성해 개인의 심리 상태에 영향을 미치고 행동을 유발한다는 ‘역할 정체성 이론(Role Identity Theory)’에 근거해 AI 정체성이 ‘심리적 특권 의식’을 촉진해 조직 내 부당한 비윤리적 행동에 영향을 미친다는 가설을 세웠다.
무엇을 발견했나?
연구자들은 역할 정체성 이론을 기반으로 AI 정체성이 직장 내 비윤리적 행동에 어떠한 영향을 미치는지 설명하는 모델을 개발하고 검증했다. 역할 정체성 이론에 의하면 AI 가 일이나 삶에서 중요한 역할을 하는 조직 구성원의 경우 AI 정체성은 더욱 현저해질 것이다.
연구자들에 의하면 조직에서 높은 AI 정체성을 가지고 있는 구성원들은 AI가 기술적으로 유능할 뿐 아니라 경쟁적 상황에서 성과 향상을 도모할 때 ‘꼭 필요하지만 누구나 접근할 수 없는 희소한 자원’으로 간주한다. 따라서 높은 수준의 AI 정체성을 가지고 있는 구성원들은 자기 자신을 희소성이 있고 가치 있는 존재로 인식해 심리적 특권 의식(Psychological Entitlement)을 가지게 되고 이로 인해 조직 내 도덕적 기준이나 적절한 행동 규범을 위반하는 ‘비윤리적 행동(Unethical Behavior)’이 증가할 것이라는 가설을 세우고 이를 검증했다. 또한 AI 정체성의 희소성에 대한 인식이 높은 환경에서는 AI 정체성이 구성원들의 심리적 특권 의식에 미치는 영향력이 유의미하게 증가하는 것을 추가로 검증했다. 이는 AI 정체성에 대한 희소성을 높은 수준으로 인식하는 환경에서 AI 정체성이 심리적 특권 의식에 더욱 크게 영향을 미쳐 구성원들로 하여금 비윤리적 행동을 유도한다는 것을 의미한다.
연구 결과가 어떤 교훈을 주나?
본 연구 결과는 기존의 AI 정체성에 대한 선행 연구가 조직의 성과에 긍정적인 영향력을 미친다는 일반적 함의와는 달리 ‘AI 정체성’이 잠재적으로 미칠 수 있는 부정적 측면을 찾아내고 조직 내에서 언제, 어떤 경로를 통해 비윤리적 행동을 촉진하는지에 관해 검증했다는 점에서 의미가 있다. 구체적으로 AI 정체성이 조직 내 비윤리적 행동에 미치는 결과에 있어 AI 정체성의 희소성에 대한 인식과 심리적 특권 의식이 중요한 역할을 한다는 사실을 입증했다. 또한 AI 정체성의 가치와 희소성을 강조하면 오히려 윤리적 측면에선 잠재적인 비용이 발생할 수 있다는 것을 밝힘으로써 AI 정체성에 대한 보완적이고 균형 잡힌 이해를 촉구했다. 또한 조직 내 관리자들이 AI 사용과 관련된 행동을 지원하고 촉진할 경우, AI 정체성의 특성으로 인해 발생할 수 있는 비용에 대해 인식해야 함을 시사했다. 예를 들어, AI 정체성의 희소성에 대한 인식의 측면에서 조직 내 관리자들은 “우리는 모두 AI와 관련돼 있다” “모든 조직 구성원은 이 기술에 접근할 수 있다”는 메시지와 같이 희소성의 의미를 줄여가는 조치를 취할 수 있을 것이다. 이외에도 다양한 조치를 통해 AI 정체성이 높은 조직 구성원들이 자신을 너무 특별한 존재로 생각하지 않도록 하는 기술 이면의 보완책이 필요하다.
인기기사
