"아시모프 로봇 3원칙에 인공지능에 관한 제4원칙 추가하자"

 

 

 

▲다리우시 제미엘니악 교수가 AI를 위한 로봇 제4원칙을 제안했다. (사진=코파일럿 생성 이미지)

 

다리우시 제미엘니악(Dariusz Jemielniak) 폴란드 코즈민스키대(Kozminski University) 교수가 아시모프의 로봇 3원칙에 인공지능에 관한 제4원칙을 추가하자고 제안했다.

 

아시모프의 로봇 3원칙은 로봇 분야에서 가장 널리 알려진 법칙 가운데 하나로, 많은 SF 작품에서 자주 인용되고 있으며, 로봇공학자들이 지켜야할 규범으로 인식되고 있다. 그는 1942년 단편 소설 '런어라운드'에서 로봇의 3원칙을 소개했으며, 이 원칙은 그의 이야기 모음집 '아이, 로봇(I, Robot)’을 통해 대중화됐다.

 

아시모프가 제시한 로봇 3원칙은, ▲제1원칙(로봇은 인간에 해를 가하거나, 혹은 지시를 무시함으로써 인간에게 해가 가도록 해서는 안된다) ▲제2원칙(제1원칙에 어긋나지 않는 한 로봇은 인간의 제1원칙에 어긋나지 않는 지시에 복종해야 한다) ▲제3원칙(로봇은 제1원칙과 제2원칙에 어긋나지 않는 한 자신의 존재를 보호해야만 한다)으로 이뤄져 있다.

 

다리우시 제미엘니악 교수는 IEEE 스펙트럼에 기고한 ‘AI를 위한 아시모프의 로봇 원칙 업데이트의 필요성(Asimov's Laws of Robotics Need an Update for AI)’이란 제목의 글에서 “오늘날 우리는 아시모프가 상상하기 힘들었던, 전례없는 ‘인간-AI 협력‘ 시대를 맞고 있다”며 제4원칙의 필요성을 제기했다. “언어와 이미지 생성 분야에서 생성형 인공지능의 급속한 발전은, 물리적인 해악과 복종에 대한 아시모프의 우려를 뛰어넘는 새로운 도전 과제를 만들어내고 있다”며 기존의 로봇 3원칙으로는 인공지능의 발전 추세를 따라가는 데 충분치 않다고 주장했다.

 

그의 이같은 주장은 AI 기만 현상이 우려스러운 상황에 처해 있다는 진단에 기초하고 있다. FBI의 ’2024년 인터넷 범죄 보고서‘에 따르면 디지털 조작과 사회공학 관련 사이버 범죄의 확산으로 103억 달러가 넘는 손실이 발생했으며, 유럽연합 ’사이버보안국(Agency for Cybersecurity)‘은 딥페이크가 디지털 정체성과 신뢰에 대한 새로운 위협으로 등장했다고 진단했다.

 

그는 “생성형 인공지능 도구의 확산으로 거짓 정보를 탐지하는 게 점점 어려워지고 있으며, 인공지능이 생성한 기사가 전통적인 '선전(propaganda)' 만큼 설득력이 있거나, 심지어 더 설득력을 갖고 있다. 사람들은 설득력 있는 콘텐츠를 만들기위해 별 노력없이 AI를 사용할 수 있다”고 지적했다. 특히 “딥페이크 영상이 사회 전반으로 확산하고 있으며, 봇넷(Botnets)을 통해 AI 생성 텍스트, 음성, 동영상을 활용해 정치적 이슈에서 잘못된 인식을 만들어 낼 수 있다. 이제 봇(bot)은 주변 사람을 사칭해 친근한 목소리로 사기 전화를 걸고, AI 렌더링 아바타를 활용해 영상 통화 사기를 벌일 수 있을 정도로 발전하고 있다”는 것이다. 제미엘니악 교수는 자신이 스페인어 초보자지만 스페인어를 유창하게 말하는 자신의 AI 편집 동영상을 보고 부친이 깜짝놀랐다는 일화도 소개했다.

 

그는 “어린이와 청소년이 AI 에이전트에 대한 정서적 애착을 형성하고 있으며, 온라인에서 실제 친구와 봇과의 상호작용을 구분하지 못하는 상황에 처해있다는 게 매우 놀랍다”고 말했다. 그의 이 같은 주장은 컴퓨터 과학자인 스튜어트 러셀이 2019년 자신의 저서 '휴먼 컴퍼터블'에서 AI시스템이 인간을 속이는 능력은, 사회적 신뢰에 근본적인 도전 과제라고 주장한 것과 맥락을 같이 한다.

 

다리우시 제미엘니악 교수는 인간-AI 협업은 건설적인 방향에서 이뤄질 수 있지만 AI 기만은 신뢰 훼손, 시간 낭비, 정서적 고통, 자원 오용을 초래한다며, 이같은 부작용을 막기위해선 아시모프의 로봇 3원칙에 인공지능에 관한 제4원칙을 추가하자고 제안했다. 그가 제안한 제4원칙은 “로봇이나 인공지능은 인간을 사칭해 인간을 기만해서는 안된다”는 것이다. 제4원칙을 준수하기위해선 ▲인공지능과의 직접 상호작용 시 인공지능 공개 의무화 ▲ AI 생성 콘텐츠의 명확한 표시 ▲ AI 식별을 위한 기술 표준 ▲ 법 및 규정의 집행을 위한 법적 프레임워크 ▲ AI 문해력을 향상시키기 위한 교육 이니셔티브 등이 요구된다고 주장했다.

 

그는 “AI 시스템의 투명성은 대중의 신뢰를 얻고, 인공지능의 책임 있는 발전을 보장하는 데 필수적이다”라고 재차 강조했다.

 

장길수 ksjang@irobotnews.com

<저작권자 © 로봇신문사 무단전재 및 재배포금지>