:::영남뉴스 (ynnews).

사설/칼럼

ㆍ작성일	2021-07-08 18:59

ㆍ추천: 0

우리 사회 '알고리즘 리터러시'를 높여야
기술패권 시대, 과학기술 혁신전략이 필요하다
영업비밀인 알고리즘 공개 요구하기보다
피해가 났을 때 그 결과에 책임지게 하고
AI 시스템 목표를 검증할 역량을 갖춰야

프로 골프선수에게 골프를 잘 치는 비결을 시시콜콜 공개하라고 하는 것은 실례다. 영업 비밀이기 때문이다. 특급 요리사에게 요리 비법과 레시피를 공개하라고 하는 것과 마찬가지다.

방송통신위원회와 정보통신정책연구원은 ‘인공지능(AI) 기반 미디어 추천서비스 이용자 보호 기본원칙’을 지난달 30일 발표했다. 정보 공개, 선택권 보장, 자율검증 실행, 불만 및 분쟁 해결, 내부 규칙 제정이라는 실행 원칙을 제시했는데, 자율 규범이라 실효성도 없을뿐더러 사업자가 고객 만족과 품질 경쟁을 통해 취사선택할 것이므로, 정부 기관이 이런 것을 연구 발표하는 것은 예산 낭비에 불과하다.

한 국회의원은 지난달 25일 ‘알고리즘 투명화법’을 발의하면서 이용자의 알고리즘에 대한 설명 요구권을 포함시켰는데, 이는 프로 골프선수나 특급 요리사에게 영업 비밀 공개를 요구하는 것과 다르지 않다. 서비스 간 자유 경쟁이 보장된 경우라면, 소위 ‘갑’인 고객은 특정 추천 서비스가 싫으면 다른 추천 서비스로 가면 된다. 중요한 것은 ‘을’인 서비스들이 자유롭게 경쟁하는 환경을 조성하는 일이다.

그런데 사업자가 실질적으로 독점적인 상황이거나 추천 서비스가 아닐 경우, 정부의 시혜성 서비스나 예산 지원, 신용평가 등 시민이나 고객이 소위 ‘을’의 상황인 경우에는 설명이 필요할 수 있다.

미국 연방거래위원회(FTC)는 알고리즘에 의해 신용평가 등 분야에서 소비자에게 불리한 결정을 내려야 할 때 자세한 설명과 함께 부정적인 영향을 미친 상위 요인을 최소 네 가지 공개해야 한다는 원리를 제시하고 있다. 예를 들어, 사법적 판단은 아무리 AI, 기계학습에 기반한 시스템을 사용한다고 하더라도 그에 관해 설명해야 한다. 이유가 없는 사법적 판단은 민주사회에 있을 수 없기 때문이다. 따라서 아직 설명 기능이 부족한 딥러닝은 사법적 판단의 자동화엔 활용할 수 없다.

그런데 채용, 입학, 보험상품 계약에서도 상대방에게 설명해야 하는지는 논란의 여지가 있다. 이들 분야를 자유로운 계약·거래 관계로 볼 때 설명의 당위성은 떨어진다. 예를 들어, 학교는 좋은 학생을 유치해야 하고, 학생은 좋은 학교를 선택해야 하는 상호 자유경쟁의 관계다.

알고리즘의 설명 가능성에 대한 요구가 연구자나 기업의 이해관계에서 제기되는 것도 바람직하지 않다. ‘설명 가능 인공지능’은 딥러닝의 경우 형용모순과 같은 것이며, 충분히 발전하지 못한 상태다. 따라서 알고리즘의 설명성은 요구조건이 될 수 없으며, 기업이 고객 만족과 경쟁력 관점에서 선택해야 할 성격의 것이다.

2019년 11월 방통위는 이용자 중심의 지능정보사회를 위한 원칙을 제시하면서 알고리즘이 인간의 신체, 자유, 재산 및 기타 기본권을 침해했을 때 이용자에게 주요 요인을 설명할 수 있어야 한다고 했지만, 더 중요한 것은 피해를 보상하는 것이다. 알고리즘에 과정보다 결과에 대해 책임지게 하는 것이 더 엄격하게 의무를 지우는 것이다.

2020년 11월 19일 국회도서관에서 열린 한 토론회에서 궁선영 경희대 경영대학원 교수는 알고리즘의 투명성이나 설명 가능성보다 더 관심을 둬야 할 것은 알고리즘이 어떤 결과를 가져오며, 그 결과가 바람직한가에 대한 평가라고 설파했다. 추천 시스템이 고도화될수록 사용자의 입맛에 맞는 정보만 제공되고 나머지 정보는 감춰지는 위험, 이른바 ‘필터 버블’에 갇히게 될 수 있으므로, 인간 전문가의 참여가 필요하다고 역설했다. AI 기업 간 경쟁이 심화될수록 레이블링, 타기팅, 데이터 집중의 고도화가 이뤄지는데 역설적으로 고도화의 위험을 관리할 방법을 성찰해야 한다는 것이다.

시민사회는 AI 시스템 목표의 투명성을 높일 것을 요구하는 것이 더 중요하고, 알고리즘의 결과가 목표에 맞는지 검증할 능력, 즉 ‘알고리즘 리터러시’를 갖는 것이 중요하다. 시민사회는 조금 더 알고리즘에 대한 지식으로 무장해야 하고, 알고리즘 개발자들은 사회 요구에 대한 책무를 가져야 한다. 이들의 윤리적 역량을 확장하고, 이들이 인간 사회의 가치 체계와 공정성의 개념 등을 잘 이해할 수 있도록 교육하는 것 역시 중요하다.

이경전 < 경희대 경영학·빅데이터응용학과 교수 >

기술패권 시대, 과학기술 혁신전략이 필요하다

추격자에서 선도자로 바뀐 기업 전략

점점 커지는 중장기 미래 예측 중요성

구성원 지식-통찰력으로 미래 방향 도출

기업 교류로 한국형 혁신전략 수립해야

유엔무역개발회의(UNCTAD)에서 우리나라가 32번째로 선진국 그룹에 이름을 올렸다. 사실 이전에도 다수 국제기구에서 한국은 이미 선진국으로 분류됐고, 2019년 세계무역기구(WTO)에서 한국이 스스로 선진국을 선언한 바도 있어 UNCTAD의 소식이 그리 놀랍지는 않다. 다만 사회 각 영역에서, 특히 우리나라를 지금의 선진국 위치로 올려놓는 데 지대한 공헌을 했던 과학기술 분야에서 우리가 선진국다운 면모를 갖추고 있는지는 한번 살펴볼 필요가 있다. 지난 몇 년간 기업의 혁신전략 수립에 참여하며 느낀 몇 가지가 있다.

추격자 전략을 통해 성장한 다수 국내 기업은 중장기적으로 미래를 예측하기보다는 눈앞의 성과를 내는 단기 예측 혁신전략을 수립해 왔다. 해외 선진기업과 비교해 자사의 기술력을 체계적으로 분석하고, 경쟁사 모니터링으로 기술개발 전략을 수립해 왔다. 그러다 보니 체계적인 분석 절차가 혁신전략 수립에 중요한 요소로 생각돼 왔다. 또 외부와의 협력보다는 내부의 효율성 향상이 우선시됐다.

그러나 최근 과학기술 환경이 급속히 변하고 추격자 전략으로 성공해 왔던 국내 기업들이 선도자 전략을 취함에 따라 중장기 미래를 예측하고 기업의 대응 전략을 수립하는 ‘기업 예측(corporate foresight)’이 혁신전략의 핵심으로 떠오르고 있다.

1847년 설립되어 170년 이상 생존하며 세계적 기업으로 자리매김한 지멘스는 ‘미래의 그림(Pictures of the Future)’이라는 기업 예측 활동을 수행한다. 즉, 모빌리티, 신재생에너지 등 특정 주제와 관련해 사업의 미래 시나리오, 핵심 동향, 기술 전망을 도출하고 그 결과를 발표하는 것이다. IBM은 매년 ‘5 in 5’라는 이름으로 향후 5년간 우리의 삶을 가장 크게 바꿀 것으로 생각되는 5대 혁신기술을 제시한다. 이런 기업 예측은 지멘스나 IBM의 문화이자 조직 프로세스로 자리 잡았다. 반면 세계를 선도하는 산업을 여럿 보유한 국내 기업들의 중장기 기업 예측 수준은 이제 걸음마 단계로 볼 수 있다.

기업 예측에 있어 오랜 기간 축적된 내부 전문가들의 지식과 통찰력은 중요한 정보원이 된다. 중장기 미래 예측에 가용 가능한 데이터가 적은 상태로 경쟁사 모니터링을 하는 것은 선도자 전략에서는 큰 시사점을 주지 못하기 때문이다. IBM에서는 모든 구성원이 미래 예측가로 활동하길 원하는 조직 문화가 만들어졌다. 지멘스의 성공에는 구성원들의 주인의식이 자리하고 있다. 반면 국내 기업에서 구성원들은 기업 예측 활동에 다소 소극적인 경향이 있다. 경영자 입장에서는 내부 인력으로만 이루어진 예측의 결과를 완전히 신뢰하지 못하는 듯하다. 실무자들에게는 이런 예측 활동에 참여한다는 게 기존 업무 외에 부가적인 업무로 느껴질 수 있다.

내부 전문가의 역할은 최근 주목받는 애자일(agile) 방식의 미래 예측과 전략 수립에서도 강조된다. 이는 전문가들이 빠르게 미래를 예측하고 전략을 수립한 뒤, 변화하는 환경에 따라 그 결과를 지속적으로 업데이트하는 방식이다. 국내 기업들이 강조해 왔던 기존 접근법에서는 전략 수립에 소요되는 시간이 다소 긴 편이다. 이 경우 전략이 도출되는 순간 이미 그 전략은 과거의 전략이 되어 버린다. 따라서 내부 전문가들의 통찰력을 잘 활용할 수만 있다면 애자일 방식 또한 효과적일 수 있다.

특히 유럽 기업들은 기술협력이나 사업협력 외에도 경영 기법을 함께 연구하는 협의체를 운영하곤 한다. 예를 들어, 영국 케임브리지대에서 운영하는 STIM(전략기술혁신관리·Strategic Technology & Innovation Management) 컨소시엄에는 프랑스 항공기 제작사 에어버스, 스위스 기술기업 ABB, 영국 석유회사 BP, 덴마크 장난감회사 레고 등 기업들이 참여한다.

여기서 서로의 경험과 통찰력을 나누며, 대학을 중심으로 혁신전략 기법에 대한 공동연구를 진행한다. 국내 기업들 또한 이처럼 기업 간 협업을 통해 국내 기업문화에 적합한 혁신전략 수립 기법을 연구해 볼 수도 있을 것이다.

여기저기에서 경제와 안보가 과학기술에 의해 결정되는 기술패권 시대에 대비해야 한다고들 말한다. 국내 기업들이 과학기술 경쟁력 확보를 위해 미래의 이정표를 잘 설정할 수 있도록, 선진국다운 혁신전략 수립 프로세스를 구축하고 있는지 우선 점검해 볼 시점이다. 이를 위한 다양한 시도가 이뤄져야 할 것이다.

이성주 객원논설위원·아주대 산업공학과 교수