[첨단로봇 시대의 과제, 로봇윤리] "로봇에 '윤리적 블랙박스' 도입 검토해야"

 

 

▲ 영국 브리스톨 서부대학교 로봇윤리학과 앨런 윈필드 교수가 윤리적인 로봇공학자 : 원칙부터 실천까지 라는 주제로 온라인 강연을 하고 있다

 

◆‘윤리적인 로봇공학자: 원칙부터 실천까지’-앨런 윈필드(영국 브리스톨 서부대 로봇윤리학과)

 

첫번째 초청 강연자인 앨런 윈필드 영국 브리스톨 서부대 로봇윤리학과 교수는 로봇 및 인공지능(AI) 윤리 분야의 세계적 석학이다. 그는 오늘날 로봇과 AI 윤리는 개인, 사회 및 환경에 미치는 윤리적 영향, 그리고 이들이 모든 부정적 영향을 완화시키는 방법과 관련된 것이라고 정의했다. ‘로봇’은 ‘인공지능(AI)이 구현된 것’(embodied artificial intelligence)’이라고 간단히 정의했다.

 

윈필드 교수는 로봇-인간 상호작용에서 발생할 수 있는 사고에 대한 대비책으로 윤리 의식과 함께 표준, 규제로 이어지는 대비 과정이 필요하다고 강조했다. 또 ‘AI 실행 및 정책 단계에서 로봇의 사고를 막기 위한 전문 규제기관의 설립 필요성도 제기했다. 실제로 생활로봇, 자율주행차 등의 사고 발생시 조사 관리 주체가 없는 현실을 소개했다.

 

그는 로봇시대 기업들의 윤리적 책임과 해결책도 내놓았다. 제조 및 창고산업의 로봇 도입에 따른 많은 수의 일자리 이동은 재배치 및 재교육을 통해 상쇄되어야 하며, 이상적으로 말하자면 기업은 자동화를 통해 창출된 추가적인 부(wealth)를 직접적으로, 또는 세금을 통한 간접적 방식으로 대체 노동자들의 재교육에 사용해야 한다는 것이다.

 

이와함께 로봇과 AI의 개발 및 성능 향상이 지구의 지속가능성을 감안해 이뤄지도록 하는 것도 로봇 윤리적 측면임을 강조했다. 로봇 윤리와 관련해 ‘투명성’은 그가 조사한 여러곳에서 만들어진 로봇윤리 원칙 가운데 가장 많이 나타난 원칙이었다.

 

강연 내용을 요약해 소개한다.

 

◆로봇과 AI윤리가 오늘날 중요한 이유

 

실질적인 측면에서 로봇과 AI 윤리는 인간 설계자, 제조자, 운영자 및 유지 관리자들이 그들 시스템의 부정적인 윤리적 영향을 식별하고 해결하기 위해 어떻게 행동해야 하는지와 관련이 있기에 중요하다.

 

로봇 및 AI 윤리는 ‘로봇/AI가 개인, 사회 및 환경에 미치는 윤리적 영향, 그리고 이들이 모든 부정적 영향을 완화시키는 방법과 관련된 것’으로 정의할 수 있다.

 

로봇 윤리와 AI 윤리는 ‘정확히’ 같은 관심사를 공유한다. 따라서 로봇과 AI가 인권, 다양성, 존엄성 및 사생활을 존중하고, 편견이 없고 지속 가능하며, 투명하고, 해명할 수 있고, 사회적으로 책임감 있도록 해야 한다.

 

오늘날 예를 들면 로봇 장난감은 점점 더 정교해지고 있고, 많은 장난감 로봇들이 의심할 여지 없이 매우 재미있고 교육적이지만, ‘안키 코스모(Anki Cosmo)' 로봇 강아지와 같은 많은 장난감 로봇들은 인터넷과 연결된 장치여서 음성 녹음을 포함한 데이터를 수집할 수 있으며, 따라서 사생활에 대한 우려를 불러일으킬 수 있다는 점에 유의할 필요가 있다. 게다가 일부 로봇 장난감은 얼굴 인식 AI를 사용해 그것을 갖고 노는 아이들의 얼굴을 학습하기에 다시 한번 우리는 얼굴 인식에 대해 신중해야 한다. 그런 기술은 그룹 내에서 한 아이를 제외한 모든 아이들을 인식함으로써 그 한 명의 아이가 고통을 겪게 만들 수도 있다.

 

◆로봇 운영 기업에 필요한 기업 윤리

 

자율주행차량의 급속한 발전으로 가장 큰 위험에 처한 직업은 의심할 여지 없이 전문 운전자들이다. 운전자없는(무인) 트럭은 현재 개발 중이고 실제 세상에서의 시험을 거치고 있다. 단기간 내에 트럭 운전자들이 직업을 잃을 것 같지는 않지만, 그들이 차량 조종사가 될 것이다. 이들은 트럭을 창고에서부터 고속도로로 수동 운전하고 난 후 트럭의 오토파일럿을 작동시킨다. 목적지에 가까워지면 운전자는 고속도로에서 자신의 통제권을 되찾아 목적지 창고로 수동 조작해 운전해 간다. 따라서 트럭 운전사들은 항공기 조종사처럼 되지만 급여와 명성은 그렇지 못하다. 현재 자율주행차 기술이 혼잡한 도심을 안전하고 신뢰성있게 돌아다니는 것과는 거리가 멀지만 좀 더 장기적으로 보면 트럭과 택시 운전자 일자리 모두 위험에 처할 가능성이 높다.

 

산업용 로봇은 수십 년 동안 인간의 일자리를 대체해 왔다. 이러한 로봇의 도입 및 자동화를 통한 일자리 이동은 재배치 및 재교육을 통해 상쇄되어야 하며, 이상적으로 말하자면 기업은 자동화를 통해 창출된 추가적인 부(wealth)를 직접적으로, 또는 세금을 통한 간접적 방식으로 대체 노동자들의 재교육에 사용해야 한다.

 

◆AI관련 에너지 및 환경비용 소비도 ‘지속가능’해야 한다

 

AI의 큰 문제는 진정한 에너지의 투명성 부족과 환경 비용이다. 우리가 직면하고 있는 기후 비상 상황의 맥락을 고려할 때, 우리의 로봇과 AI를 지속 가능하게 만드는 것이 우선 순위가 돼야 한다.

 

지난 2019년에 언어 번역과 같은 자연어 처리를 위한 대형 AI 모델 훈련시 나오는 탄소 비용을 추정한 매우 드문 논문 중 하나가 발표됐는데 탄소 비용은 1년도 되지 않아 사람 1인 평균 탄소 발자국의 7배로 뛰어올랐다. 가장 큰 AI 모델을 최적화하는 데 드는 에너지 비용은 처음 자동차를 제조하는 것을 포함한 자동차 한 대의 평생 탄소 비용의 5배에 달하는 엄청난 규모다. 이 정도의 에너지 비용은 약 100만~300만달러(약 13억~39억원) 사이로 추산된다.

 

막대한 AI 개발에 드는 에너지 비용은 이산화탄소 배출량을 줄여야 하는 시급성과 완전히 상충되는 것으로 보인다. 최소한 AI 회사는 기계학습(ML)의 막대한 에너지 비용에 대해 정직할 필요가 있다.

 

AI는 말할 것도 없이 AI 시스템을 설계하고 구축하기 위한 고임금 컴퓨터 과학자뿐만 아니라 엄청난 양의 인간 노동력을 포함한다. 덜 알려진 내용은 원료를 채굴하고 가공하는 인간의 노동력이다. 이는 소비자용 전자제품뿐만 아니라 거대한 서버 팜 구축에도 필요하다. 또 AI 모델을 훈련하는 데 사용된 원시 데이터에 주석을 다는 사람들, 그리고 마지막으로 전자제품이 유용한 수명이 다하면 해체하고 폐기하는 사람들도 필요하다. 이런 노동력들은 매우 저임금이며 신체적으로나 심리적으로 위험하다.

 

◆로봇/AI의 4가지 윤리적 위해의 범주

 

로봇/AI의 윤리적 위해(ethical harm)의 범주는 크게 4가지로 정의할 수 있다.

 

즉, ▲신체적 위해=사람이나 재산에 대한 것 ▲심리적 위해=기만, 과도한 의존, 과도한 신뢰 등 ▲사회적 위해=프라이버시의 상실, 일자리의 상실 등 ▲환경적 위해=높은 에너지 비용, 수리 불가능 또는 재활용 불가능한 기술 등이다.

 

우리는 책임 있는 개발자로서 이러한 모든 위해를 최소화하거나 완화하기 위해 노력해야 한다.

 

◆윤리, 기준 및 규제와의 연관성

 

표준은 준수 수준을 평가하거나 설계자들에게 윤리적 지침을 제공하기 위해 사용되는 구조 안에 윤리 원칙을 공식화한다. 따라서 윤리는 표준을 뒷받침한다. 그러나 표준도 때때로 규제를 필요로 한다. 규제는 시스템들이 표준을 준수한다는 인증을 받도록 요구한다. 따라서 윤리(또는 윤리적 원칙들)는 표준과 연결되며, 이는 다시 규제와 연결된다.

 

◆AI에 있어서 윤리적 원칙의 프레임워크(틀)의 한가지 사례

 

‘고급 인공지능 전문가그룹’(AI HLEG)은 2018년 유럽연합위원회(EC)가 AI 전략의 일환으로 설립한 독립된 전문가 그룹이다. 2019년 4월에 발표된 프레임워크는 AI 시스템이 신뢰성을 갖기 위해 충족해야 할 7가지 핵심 요구 사항으로 구성돼 있다. 그 항목은 ▲인간 기관과 감독 ▲기술적 견고성과 안전성 ▲개인정보 보호 및 데이터 거버넌스 ▲투명성 ▲다양성, 비차별성, 공정성 ▲사회적, 환경적 복지 ▲책임이다. 이 7개 사항 모두 동등한 중요성을 가지며, 서로를 지원하며, AI 시스템의 라이프사이클 전반에 걸쳐 구현되고 평가돼야 한다.

 

AI HLEG의 가이드라인은 AI 시스템의 영향력이 중요하면서도 자주 간과되고 있다. 이를 지속적으로, 그리고 초기 구상에서 설계 및 배치를 거쳐 수명 종료·해체에 이르는 시스템 라이프 사이클 전반에 걸쳐 고려해야 한다.

 

◆‘투명성’은 윤리적 프레임워크 가운데 가장 자주 포함되는 원칙

 

투명성은 기존 정부, 기관, 기업들이 제시한 84개의 프레임워크 중 73개에서 나타난 가장 자주 포함되는 원칙인 것으로 드러났다.

 

◆표준없이는 로봇/AI도 없다

 

표준은 현대 사회의 인프라에서 매우 중요한 부분이다. 보이지는 않지만 도로, 공항 및 전화 네트워크에 못지 않게 중요하다. 현대 생활에서 표준이 개입돼 있지 않은 어떤 측면도 생각하기 어렵다는 것은 자명하다. 아침에 양치질을 하는 간단한 행동의 사례에서 보자면 칫솔(수동 및 전동식 모두), 치약 및 포장, 수돗물의 품질에 대한 표준이 있을 정도다. 국제표준화기구(ISO)의 표준 명단만 해도 2만 2000개가 넘는다.

 

◆가상 로봇 장난감의 사례로 본 로봇윤리 설계 및 적용

 

로봇공학 분야에서 세계 최초의 명시적 윤리 표준은 2016년 4월에 발표된 영국 표준 BS8611 ‘로봇 및 로봇 시스템의 윤리적 설계 및 적용 가이드’(Guide to the Ethical Design and Application of Robots and Robotic Systems)임이 거의 확실하다.

 

2020년 발표된 BS8611을 ‘로보 테드’(RoboTed)라고 불리는 가상의 로봇 장난감에 적용해 본 결과 드러난 심리적 장해물과 위험은 의미심장한 것이었다. 그것은 중독, 속임수, 부모의 과도한 신뢰, 불쾌한 골짜기 등으로 나타났다.

 

그 첫째로는 로봇이 너무 매력적인데 따른 ‘중독’이었다. 로보테드는 너무 매력적이어서 아이들이 로봇과 노는 데 집착하고 가족을 등한시하는 행동으로 이어질 수 있다. 이를 완화하는 전략의 하나로는 노는 시간을 제한하는 방법이 있는데 ‘로보테드는 이제 자야 돼’ 기능을 추가하는 것이 될 수 있다.

 

둘째로는 ‘속임수’였다. 아이는 로보 테드가 자신에게 감정을 가지고 있다고 믿게 될 위험이 있다. 이러한 위험을 줄이기 위해 우리는 로봇이 감정을 암시하는 언어를 피하도록 설계할 수 있다. 그렇게 해서 우리는 로봇이 결코 “사랑해”와 같은 말을 하지 않도록 할 수 있다.

 

셋째로는 부모에 의한 과도한 신뢰가 꼽혔다. 여기서 위험은 부모가 로보 테드의 ‘아이 돌봄’(보모) 기능에 과도하게 의존하게 된다는 것이다. 그 위험과 그로 인한 결과는 아이 돌봄 기능을 완전히 제거해야 한다고 제안할 정도로 크다는 결론이 났다.

 

넷째로는 불쾌한 골짜기(Uncanny Valley)였다. 이것은 로봇이 인간과 거의 비슷하긴 하지만 100% 똑같지 않을 때 나타나는 두려운 반응을 말한다. 로보 테드가 전혀 인간과 같지 않고, 아이들이 이미 ‘테디 베어’에 익숙하기 때문에 로보 테드의 경우 이러한 위험성은 낮을 것이다. 하지만 로보 테드의 초기 실험에 아이들을 참여시킴으로써 이러한 위험성을 탐구해야 하며, 만약 이 불쾌한 골짜기 반응이 입증된다면, 예를 들어 로봇에게 ‘만화’ 목소리를 탑재함으로써 로봇의 위험성을 완화시킬 수도 있다는 의견까지 제시됐을 정도다.

 

◆IEEE 표준협회의 구상

 

2016년 초 IEEE 표준협회는 아주 분명한 미션을 가지고 자율 및 지능형 시스템 윤리에 관한 글로벌 구상을 시작했다. 이는 “자율적이고 지능적인 시스템의 설계와 개발에 관련된 모든 이해 관계자들이 윤리적 고려 사항을 우선하도록 교육, 훈련 및 권한을 부여받도록 보장해 이러한 기술들이 인류의 이익을 위해 발전되도록 한다”는 것이다.

 

IEEE 표준협회의 이 구상에 따른 중요한 결실 중 하나는 ‘투명성’에 대한 새로운 표준초안(IEEE 표준 7001-2021)이다. 이는 5년 간의 초안 작성, 검토 및 개정 과정을 거쳐 2021년 12월에 승인됐으며 지난해 3월 발표됐다. 이는 투명성에 관한 세계 최초의 기술 표준이며 투명성에 대한 측정 가능하고 시험 가능한 요구 사항을 제시하고 있다. 7001을 사용해 처음으로 자율시스템의 투명성을 객관적으로 평가하고 준수 수준을 결정할 수 있었다.

 

◆투명성과 설명 가능성이 중요한 이유

 

로봇과 AI 윤리에 있어서 매우 중요한 두가지는 투명성과 설명 가능성(explainability)이다. 이는 두 가지 측면에서 매우 중요하다.

 

첫째, 로봇과 AI는 잘못될 수도 있고 잘못을 저지를 수도 있기에 그들이 잘못했을 때 우리가 그 이유를 알아낼 수 있어야 하는 것이 ‘매우’ 중요하다. 투명성이 없이는 무엇이 잘못되었는지, 왜 잘못됐는지 알아내기란 매우 어렵다.

 

둘째, 로봇과 AI는 ‘사회 기술적 시스템’이기 때문이다. 로봇은 그들이 무엇을 하고 왜 하는지 이해할 필요가 있는 인간과 함께 있거나, 함께 일하도록 설계됐다. 따라서 (로봇 사용자에게) 이해가 되지 않으면 해당 시스템을 신뢰할 수 없을 것이다.

 

◆로봇 및 AI 사고 발생시 조사 주체와 3가지 목표

 

로봇 및 AI 윤리 표준은 여러 이해 관계자 그룹의 투명성과 설명 가능성을 위한 다양한 규범적 요구 사항을 정의한다.

 

시스템 투명성 평가와 사양을 모두 보여주는 대표적 사례로 영국 옥스퍼드대학교가 주도한 로봇 사고 조사에 관련된 ‘로보 팁스’(RoboTIPS) 프로젝트 연구 작업 내용을 들 수 있다.

 

이 연구는 나이 드신 부모님이나 할머니 할아버지가 생활 보조 로봇을 데리고 있다가 사고가 났는데도 로봇이 아무런 보고가 없었다는 시나리오에 기반한다. 이 시나리오는 이와 같은 사고가 어떻게 조사되고 누구에 의해 조사될 것인지에 대한 중요한 질문을 제기한다. 즉, 사고조사를 제조업체에 맡길 것인가, 아니면 대신 로봇과 AI 사고를 조사하기 위한 기관을 세울 것인가다.

 

이 때 참고할 만한 부분은 항공사고의 경우처럼 조사의 전반적인 목표를 안전 개선을 위한 실용적이고, 달성 가능하며, 목표로 하는 권장 사항을 제시하는 것이 될 것이다. 즉, 실제로 ‘무슨 일’이 일어났는가, ‘왜’ 이런 일들이 일어났으며 이는 시스템 설계 및 운영상 어떤 약점을 드러내는가, ‘어떻게’ 향후 유사한 일이 발생하지 않도록 시스템을 개선할 수 있는가의 3가지다.

 

◆로봇이 윤리적이 되도록 하는 ‘윤리적 블랙박스’ 탑재 제안

 

로봇이 윤리적이 되도록 하기 위한 매우 간단한 방식 중 하나는 항공기의 비행 데이터 기록장치(FDR)에 해당하는 이른바 윤리적 블랙박스(Ethical Black Box·EBB)를 제시하는 것이다. 이를 통해 모든 로봇과 AI는 시스템 내부 상태의 타임 스탬프 로그, 주요 결정, 모터 출력 및 샘플링된 입력 또는 센서 데이터를 지속적으로 기록하는 표준 장치(또는 모듈)를 갖게 된다. 이러한 장치가 없다면 사고로 이어지는 순간에 로봇이나 AI가 무엇을 하고 있었는지, 그리고 왜 그랬는지를 알아내는 것이 거의 불가능해진다.

 

◆자율차와 생활로봇 안전관련 지침마련됐지만 전담 규제기관은 부재

 

자율주행자동차(AV) 영역에서 최근의 주요 표준에는 2020년에 발표된 자율주행 제품 평가를 위한 ‘UL 4600 안전’ 표준과 올해 발표된 자율주행자동차의 안전과 관련된 윤리적 고려 사항에 대한 ‘ISO 39003’ 도로 교통 안전(RTS) 지침이 있다.

 

자율주행차 운용과 이용을 규율하는 명시적 규정도 아직 없다. 여기서 명시적 규정이란 자율 기능이 안전하다고 인증받는 방법을 명시한 규정을 의미한다. 운전자 보조 기능을 갖춘 차량을 운전하는 것이 합법적인 이유는 ‘인간 운전자가 언제든 위험한 상황에서 수동으로 차량을 제어해 복구할 수 있도록 경각심을 갖고 준비하는 것이 필요하기 때문’이라는 점에 유의해야 한다.

 

현재 자율주행차(AV) 관련 전담 규제 기관은 없으며 기존 운송 기관이 규제를 담당하고 있다. 예를 들어 미국의 경우 고속도로교통안전국(NHTSA)이, 영국은 잉글랜드 고속도로국(Highways England: 영국 도로철도청이 모니터링)이 각각 맡고 있다.

 

생활 보조 로봇으로 가보면 개인용 돌봄 로봇(personal care robots)에 대한 안전 요구 사항을 명시한 ‘ISO 13482 표준: 2014’이 있다. 여기에는 ▲이동식 도우미 로봇(mobile servant robots) ▲물리적 보조 로봇(physical assistant robots) ▲사람 운반 로봇(person carrier robots)이 포함돼 있다. 그러나 로봇 장난감이나 의료 로봇은 없다.

 

이들이 사고를 냈을 때 이를 적절히 해결하기 위한 절차나 주체와 관련해 던져야 하는 질문은 “규제 기관이 개인용 돌봄 로봇과 관련된 사고를 조사할 수 있는 규약(프로토콜)과 전문 지식을 갖고 있는가?”하는 것이다.

 

◆AI표준 개발 급속히 진행되고 있다

 

AI규제가 여전히 진행 중인 작업이라는 것은 분명하다. 좋은 소식은 AI 표준 개발이 빠른 속도로 진행되고 있다는 것이다.

 

거의 확실하게, 법제화될 첫 번째 AI 규제는 유럽연합(EU)의 ‘AI법’(AI Act)이 될 것이다. 이 법은 EU에서 사용되는 “AI 시스템들이 안전하고, 투명하고, 추적 가능하고, 비차별적이며, 환경 친화적임”을 보장하는 것을 목표로 하고 있다.

 

앞서 언급한 IEEE 7000 시리즈 표준 외에도 AI에 관한 ‘ISO/IEC 1 합동기술위원회/SC 42’에서는 2018년 이래 20개의 AI 표준을 발표했고, 추가로 30개를 개발 중에 있다.

 

◆건전한 윤리원칙은 많지만 실천 증거는 거의 없다

 

로봇 공학과 AI에서 건전한 윤리 원칙이 부족한 것은 아니지만, 아직까지 그러한 원칙들이 실천, 즉 효과적이고 투명한 윤리적 거버넌스로 옮겨졌다는 증거는 거의 없다.

 

물론 윤리적 실천은 개인과 함께 시작하며, 전문가들로부터 나온 윤리 행동 규약(예를 들자면 IEEE와 ACM에서 나온 것)은 매우 고무적이다. 하지만 개인들은 강력한 제도적 틀과 원칙적인 리더십에 의해 지지되고 힘을 받을 필요가 있다.

 

우리가 윤리적 거버넌스 실천을 주장하는 로봇 공학 및 AI 회사나 조직들을 위해 제안하는 5가지의 윤리적 거버넌스 기둥(pillar)은 ▲윤리적 행동 규정 발표 ▲모두를 위한 윤리 및 책임지는 혁신 교육의 준비 ▲책임있는 혁신의 실천(윤리적으로 일치된 설계) ▲투명성 보고서 발표 등을 통한 투명한 윤리적 거버넌스 ▲이 모두를 뒷받침하는 진정한 가치와 윤리적 거버넌스에 대한 믿음이다. 이러한 기둥들은 로봇 공학과 AI뿐만 아니라 모든 기술에 동일하게 적용될 수 있다.

 

이성원 robot3@irobotnews.com

<저작권자 © 로봇신문사 무단전재 및 재배포금지>