* ‘책임 있는 사용을 위한 AI TRiSM’은 2회차로 연재됩니다. 이전 글을 보지 못하셨다면 1편을 참고해주시기 바랍니다.

AI TRiSM 실현하는 글로벌 선도 기업 사례

1) 설명 가능한 AI로 과학적 발견을 가속화하는 스타트업, 압주(Abzu)

2018년에 설립된 덴마크 AI 스타트업, 압주는 설명 가능한 AI인 ‘QLattice’을 개발해 RNA 치료와 신약개발 분야를 선도하고 있다. QLattice는 수학적으로 인과관계를 식별하여, 어떻게 결론에 도달했는지에 대한 명확한 근거를 제공한다. 기존의 의료 분야 AI는 결과 도출 과정과 근거를 설명할 수 없는 ‘블랙박스(Blackbox)’ 현상 때문에 연구를 실제 임상 현장에서 활용하기에 한계가 있었는데, QLattice가 이를 해결하고 있는 것이다.

가령 QLattice은 유방암 사망률을 예측할 수 있는 진단 모델을 만들어 냈다. 핵심은 ‘왜 그 결과가 나왔는지’ 근거를 정확히 알 수 있다는 것이다. 자세히 살펴보자.

압주는 유방암 사망자 100명을 포함해 환자 총 705명의 게놈 데이터를 수집하여, QLattice에게 이 데이터를 설명할 수 있는 가장 간단한 모델을 제공하도록 요청했다. 그러면 QLattice는 수백만 개의 잠재적 모델을 탐색한 후 최적의 모델을 찾아준다. 이 모델은 환자들의 데이터를 분석해 오직 2가지 유전자(APOB, MYOC)의 수준을 보고 사망률을 진단한다. 가장 간단한 모델임에도 불구하고, 2천 개 특징을 모두 고려한 고급 모델(0.68)과 비슷한 수준(0.65)의 예측 성능을 보였다.

이 모델을 통해 새로 발견한 과학적 사실은, 유방암의 종류에 따라서 발병 원인과 그에 따른 결과가 다를 수 있다는 것이다. 즉 같은 유방암이라도 종류에 따라 치료 전략이나 예방 방법을 다르게 결정할 수 있음을 시사한다. 이외, 간암이나 알츠하이머를 앓을 확률이 높은 특정 환자를 예측하는 모델 등 설명 가능한 AI로 압주는 가트너의 ‘Cool Vender(2022)’사로 인정받으면서 차세대 과학 혁명을 선도하는 기업으로 자리매김했다.

2) AI에 진심인 월마트(Walmart)의 AI 신뢰 가이드

‘사람 중심의 기술 혁신’을 선도하는 글로벌 유통사, 월마트는 AI로 쇼핑 및 업무 경험을 혁신하고 있다. 예를 들어, 고객이 AI 챗봇에게 “종이 타월 3개”라고 채팅을 보내거나, “헤이 구글, 내 장바구니에 우유 2개 넣어줘”라고 말하면 AI가 고객의 선호 품목을 알아서 장바구니에 넣어준다.

또한, 직원들은 공급업체와의 협상에서도 AI를 활용하고 있으며, 월마트 자체 생성 AI 도구인 ‘Playground’에서 마음껏 생성 AI를 실험해보고 있다. 월마트의 AI 투자는 계속되고 있다. 2024년 1월, 글로벌 IT·가전박람회 CES 2024에서 월마트 CEO 더그 맥밀런(Doug McMillon)은 카트에 담긴 상품을 AI로 모두 감지해 고객의 결제 대기 시간을 줄일 것이며, MS와 협업해 생성 AI 기반의 상품 검색 기능을 강화할 것이라 예고한 바 있다. 

월마트는 2018년부터 가장 신뢰받는 기업이 되겠다는 목표를 세우고, 2023년 3월, 윤리적인 데이터 사용과 책임 있는 기술 사용 원칙을 담은 ‘디지털 시민의식 지침서’를 발표했다. 그리고 지난 10월, 월마트는 책임 있는 AI 사용을 위해 6가지 약속을 공개했다. AI에 대한 접근 방식 또한 투명성, 공정성 및 신뢰에 기반한다.

<월마트의 책임 있는 AI 서약 (Walmart Responsible AI Pledge)>

1. 투명성: 데이터와 기술(AI 포함)이 어떻게 사용되고 있는지 고객, 회원, 협력사가 이해할 수 있도록 돕고, 활용 목표에 대해서도 명확히 설명할 것을 약속한다.

2. 보안: 우리는 고객의 데이터를 보호하기 위해 첨단 보안 조치를 취할 것이다. 또한 현재와 미래의 위협을 완화하기 위해 보안 관행을 지속적으로 검토한다.

3. 개인정보 보호: 우리는 민감하거나 기밀 정보를 사용할 때 개인정보 보호에 중점을 두고 AI 시스템을 평가할 것을 약속한다.

4. 공정성: 고객, 회원, 협력사의 삶에 영향을 미칠 수 있는 AI의 편향성을 정기적으로 평가하고, 완화할 것이다.

5. 책임: 우리는 사람이 관리하는 AI를 사용할 것이다. 그리고 AI가 가져오는 영향에 대해 스스로 책임진다.

6. 고객 중심: AI 상호 작용에 대한 고객 만족도를 측정하고 피드백을 듣는다. 고객이 더 나은 삶을 살 수 있도록 정확하고 유의미하고 도움이 되는 기술인지 확인하기 위해 AI 도구를 지속적으로 검토할 것이다.

예를 들어, 월마트는 고객을 대상으로 AI를 사용할 때, 시간이 지나면서 모델 성능이 저하되는 현상인 모델 드리프트(Model Drift)를 막기 위해 배포 전후에 계속해서 테스트를 진행한다. 또한 인재 채용처럼 사람과 관련된 AI 활용 상황에서는 정책과 거버넌스 기준을 철저히 준수하고 있는지 검토한다. 월마트는 자동화를 사용해 채용 후보자를 선별하는데, 의도하지 않은 편향이 개입되면 잘못된 결과를 초래할 수 있기 때문이다.

월마트의 디지털 시민권 책임자이자 수석 법률 자문인 누알라 오코너(Nuala O'Connor)는 "혁신 속도가 빨라지고 정교한 AI 모델이 비즈니스에 통합될수록 고객과 직원이 기술 사용에 대해 확신과 안정감을 느끼는 것이 중요하다."고 강조했다.

AI 시대를 혼란 없이 맞이할 준비를 마쳤는가?

역사적으로 새로운 기술은 항상 혁신과 함께 혼란과 부작용을 가져왔다. AI 기술도 마찬가지다. 생성 AI가 주류로 자리 잡은 지금, 기업은 이 기술을 윤리적으로 활용하는 동시에 잠재적인 피해를 최소화할 책임도 있다. 이 때 AI TRiSM이 안내자 역할을 할 것으로 기대된다. AI TRiSM를 통해 AI의 신뢰, 안전 및 보안을 지속적으로 강화하는 조직은 기회만큼이나 도전이 만연한 AI의 역동적인 환경에 잘 대응할 수 있을 뿐 아니라 지속 가능한 성장을 이룰 수 있을 것이다.

<References>

· “Navigating The Future With AI TRiSM For Secure Innovation”, 2024.1.3, Forbes

· “Our Responsible AI Pledge: Setting the Bar for Ethical AI”, 2023.10.17, Walmart

· “Gartner Says More Than 80% of Enterprises Will Have Used Generative AI APIs or Deployed Generative AI-Enabled Applications by 2026”, 2023.10.11, Gartner Newsroom

· "Tackling Trust, Risk and Security in AI Models", 2023.9.5, Gartner

· "Building a Value-Driving AI Strategy for Your Business", Gartner

· “Managing the Risks of Generative AI”, 2023.6.6, Harvard Business Revies

· “Digital Citizenship: Ethical Use of Data & Responsible Use of Technology”, 2023.3.17, Walmart

· “Accelerating scientific discoveries with explainable AI: A breast cancer example”, Abzu

· “교육도 안하고 생성형 AI 활용하라고? 세일즈포스 설문에서 드러난 기업 현주소”, 2023.12.11, 매일경제