본문 바로가기
우리 회사 연수원 IGM의 공식 할인 제도, 지식멤버십이 궁금하다면?​

IGM 인사이트

[칼럼] 너도나도 쓰는 AI, 그런데 성과 만드는 리더는 '이것'이 다르다

페이지 정보

작성자 작성일 2026-06-08 13:43 조회 8 댓글 0

본문

​AI 도입했는데, 왜 성과는 그대로일까?

“우리 회사도 재작년부터 인공지능(AI)을 도입했어요. 필요하다고 해서 교육도 많이 했어요. 근데 잘 모르겠어요. 성과도 그렇고, 왜 달라진 것이 별로 없는 걸까요?”


최근 한 대기업의 임원교육을 진행하면서 나온 질문이다. 최근 몇 년간 누구보다도 앞다퉈 AI를 도입했던 기업들이 겪고 있는 공통적인 모습이라고 해도 과언이 아니다.

왜 이런 상황이 발생하는 것일까?

사실 기업의 AX(AI Transformation) 프로젝트를 위해 미팅과 인터뷰를 하는 과정에서 그 이유는 바로 드러난다. 기업들의 상황을 좀 더 이해해보면 실제로 변화에 대한 온도차가 있음을 알 수 있다. 핵심 질문이 바뀌어야 한다. “AI를 도입했는가”가 아니라 “AI를 중심으로 조직을 움직이는 방식과 성장의 방식을 다시 설계했는가”이다.

가장 우선적으로 필요한 것은 AI 사용 능력을 활용하는 AI 기반 리더십(AI Powered Leadership)이다.


AI 붙였더니 일이 더 늘었다?
리더는 업무 설계자(Work Architect)가 되어야

AI가 조직에 들어오면 가장 먼저 바뀌어야 하는 것은 사람이 아니라 일의 구조다. MIT Sloan Management Review(2023)에 따르면 AI 도입에 성공한 기업과 실패한 기업의 차이는 기술 수준이 아니라 업무 재설계(Workflow Redesign) 여부였다. 혁신에 성공했다고 평가받는 기업들은 70% 이상이 업무 프로세스 자체를 재설계했고, 어려움을 겪은 기업들은 기존 업무에 AI를 선택적인 사용 툴로 추가했다는 것이다.


이러한 사례가 많다. 예를 들어 모건스탠리는 생성형 AI를 도입하면서 직원에게 “AI를 써보라”고 하지 않았다. 대신 리더에게 이런 요구를 했다고 한다. AI 도입과 함께 고객 상담 흐름을 재설계하고, 다소 불필요한 업무를 선정하는 과정 속에서 필요한 것들을 챙기고 의사결정을 지원하는 작업들을 진행하는 것에 집중한 것이다.

업무 구조를 다시 설계하는 것이 중요하다. 지금의 업무 흐름(Flow)을 점검하고 과제(Task) 단위로 분해하는 작업이 필요하다. 그리고 자동화를 가능케 하는 AI를 포함해 역할을 재정의하고 개인의 과제와 조직 전체의 업무 프로세스를 재설계하는 것이 중요하다.

이 역할을 수행하지 않으면 AI는 단지 “일을 하나 더 늘리는 도구”가 될 수 있다. 이렇게 보면 AI 전환(AI Transformation)의 본질은 IT 프로젝트가 아니라 리더십 프로젝트가 맞을 수 있다.


조직 전체의 AI 활용 역량 높이는 전제 조건, '문화'
 많은 기업의 AI 활용 수준을 표현하는 말이 있다. ‘각자도생’이다. 개개인은 나름대로의 소심하거나 과감한 AI 활용 경험을 갖고 있는데 이 시도와 노력들이 조직과 팀의 역량으로 전이되지 못하고 있다는 말이다.


전문기관 가트너(2024)에 따르면 생성형 AI 라이선스를 제공받은 직원 중 정기적으로 활용하는 비율은 약 25~30% 수준에 불과하다고 말하고 있다. 이유는 다양하다. 써도 인정을 받지 못하거나 잘못 사용하게 되는 경우에 책임을 져야 하거나 하는 경우다.

AI의 적극적인 활용을 통해 조직과 팀의 역량을 키우고 조직행동을 바꿀 수 있도록 해야 한다. 그러기 위해 재설계된 업무와 일의 프로세스에서 필요한 스킬과 역량의 확장이 있어야 한다. 학습해야 할 것이 많은 것이다.

당연히 실패나 실수가 공존한다. 이를 위해서도 심리적인 안정감, 시도와 실험을 허용하는 문화를 만드는 것이 중요하다. 실패를 용인하는 문화, 빠른 실패를 통해 살아 있는 학습을 유도하고 팀의 성장 자산으로 이어가게 하는 것이다.

한 단계 더 나아가면 조직 내에서의 포지션의 변화도 유연하게 만들고 받아들이는 문화가 필요하다. 과거의 변화 혁신과 다른 점이 있다면 그 중심에 AI와 AI 활용 경험이 있다는 것이다.

이런 경험이 축적되는 과정에서 조직과 팀의 생산성과 효율성에 대한 목표와 지표관리가 이뤄진다. 결과적으로 개인 활용이 아니라 팀 생산성 개선 중심의 AI 활용 문화가 형성되는 것이 중요하다. AI를 활용한 조직문화를 구축하는 것이다.


진짜 경쟁력은 AI 자체가 아니라,
리더의 의사결정 속도


AI 기반 리더십이 챙겨야 할 것이 바로 AI를 활용한 의사결정이다. AI 시대에 앞서 나아가고 있는 기업들의 진짜 경쟁력은 AI 활용 자체가 아니라 의사결정 속도일 것이다. 결국 생산성과 효율성 모두 리더의 판단과 결정, 그리고 그 속도가 중요하다.

맥킨지 연구(2023)에 따르면 AI를 효과적으로 활용하는 조직은 의사결정 속도가 20~30% 향상되고 있고 관리자의 의사결정 과정에서의 부담과 시간 낭비를 줄이고 있다고 한다. 그리고 데이터 기반의 판단과 의사결정이 팀과 조직의 AI 혁신을 긍정적으로 만들고 있다. 결국 판단과 책임, AI 리스크에 대한 오너십을 명확하게 하고 체계를 갖추는 것이 중요하다.

정리하면 AI를 활용한 의사결정의 구조를 설계해야 하고 그 판단에 대한 기준을 명확히 해나가야 한다. 결국 데이터를 활용한 해석의 오류를 잡아내거나 해결할 수 있는 기준과 역량을 세팅함으로써 의사결정의 속도를 높일 수 있을 것이다.


AX 성패를 가르는 4가지 프레임워크

이러한 일련의 체계적인 과정을 통해 AI 기반 리더십은 업무흐름(Workflow), 인적역량(Workforce), 조직문화 운영체계(Culture OS), 거버넌스(Governance)의 네 가지 프레임으로 실행할 수 있게 된다.

이 과정을 챙기는 것은 리더의 몫이다. 리더와 리더십이 주도적으로 이끌어야 한다. 일회성의 혁신을 외치는 것이 아니라 길지만 빠른 호흡으로 변화를 관리해 나가야 한다. 그리고 그 변화의 주 대상은 구성원들의 경험이다.

많은 리더들이 바빠서 하는 실수가 있다. 
자신을 포함해서 구성원들의 경험을 자산화하는 것에 소홀한다는 점이다. 대부분의 혁신이 그러해왔듯이 시작할 때 에너지는 가득한데 점점 시간이 지날수록 희미해지는 현상을 이번에도 반복하고 있다고 본다.

AX 프로젝트의 성공을 꾀한다면 AX 과정에서 만들어지는 AX 경험을 귀하게 여기고 똑똑하게 사용할 수 있어야 한다. 단계적이고 체계적인 팀과 조직 특성을 살린 AX 경험 로드맵을 갖고 함께 만들어가야 한다. 그리고 그것이 눈에 보이는 성과로 연결되는 경험으로 연결될 때 비로소 AI 기반 팀, AI 기반 성과(AI Powered Team, AI Powered Performance)가 작동될 수 있다.

AI 시대에 조직의 성과 창출과 성장을 고민하고 있다면 일단 질문을 바꿔보자. “우리 조직은 AI를 얼마나 쓰고 있는가”가 아니라 “AI를 중심으로 우리 조직의 일하는 방식이 바뀌었는가?”

이제는 모두가 안다. AI는 도입만 하면 그냥 효과가 나는 기술이 아니다. 어떻게 쓰는가에 따라 효과는 확연히 다르다. 그리고 그것을 설계하는 것이 바로 리더의 역할이다.

더 정확히 말하면 AI 기술을 통해 이루고자 하는 변화가 무엇인지, 어떤 설계와 실천이 필요한지, 그리고 그 변화와 지향점을 조직구성원과 어떻게 나누고 소통할 것인지를 고민해야 한다.


AX 활동을 통해 얻고자 하는 메시지를 명확히 하라

AX 리더십을 위해 가장 중요한 것 한 가지를 더 챙겨보자. 전환(Transformation)이라는 말을 이해할 필요가 있다. 수많은 혁신활동에 나름 익숙해져 있는 상황에서 또 하나의 혁신을 위한 단어일 수 있다.

하지만 엄밀히 말하면 전환은 쉽지 않은 단어다. 전환은 단순히 바뀌거나 바꾸는 것이 아니다. 진지하게 설명해보면 존재와 정체성의 의미가 달라질 수 있고 형식이 아닌 체질을 바꾸는 것일 수 있다. 다른 표현으로는 방식을 아예 다르게 한다는 것이다. 형태를 넘어서 새로운 형식으로 재구성되는 것을 의미한다. 그에 맞는 역할과 역량도 달라져야 하는 것은 당연한 것일 수 있다.

원하든 원하지 않든 과거로 돌아가지 못하는 비가역성 특성을 갖고 있는 말이다. 그렇다보니 ‘어떻게 개선할까’, ‘무엇을 새롭게 도입할까’가 아닌 ‘우리가 무엇이 되어야 하고 무엇을 해야 하는가’가 더 중요할 수 있다. AX를 통해 얻고자 하는 것이 분명해야 한다는 말이다.

많은 기업들의 AX 활동에서 이 메시지가 뚜렷하지 않거나 이해가 소홀한 경우가 많다. 이에 공감하는 기업들은 역할(Role), 사고방식(Mind-set), 일하는 방식(Way)에 대한 전환과 변화에 더 많은 시간과 공을 들이고 있다. 어찌 보면 성공 여부를 가르는 가장 핵심 요소이기 때문이다. 이젠 좀 지겨울 수도 있는 이야기지만 역시 AX의 핵심도 사람과 공감이 있다. 이 이야기의 시작에서 언급한 기업이 놓친 가장 큰 실수다.

김광진 IGM세계경영연구원 교수


* IGM 한경비즈니스 칼럼을 정리한 글입니다.

주소 : 서울특별시 중구 장충단로 8길 11-16 사업자등록번호 : 101-86-24196 대표자 : 조승용 전화 : 02-2036-8300 팩스 : 02-2036-8399 Copyright©주식회사 IGM 세계경영연구원. All rights reserved.
QUICK MENU
TOP