[ICROS 2021] "인공지능, 인과관계와 공정성 문제 해결해야"

​

​

▲ '인과관계 기반에 공정한 인공지능' 주제로 초청강연하고 있는 유창동 KAIST교수

​

23일 여수 소노캄에서 개막한 ‘2021 제어·로봇·시스템학회 학술대회(ICROS 2021)’에선 KAIST 유창동 교수가 ”인과관계 기반에 공정한 인공지능 및 딥러닝 강화학습하는 로봇‘을 주제로 초청강연을 했다. 유교수는 인공지능 연구자가 앞으로 해결해야할 과제로 인과관계와 공정성 문제를 거론했다.

​

유 교수는 인류는 사람처럼 사고할 수 있는 기계를 꿈꿔왔고 이를 실현하기 위해 1950년대 중반에 인공지능이라는 분야를 만들었다고 말했다. "최근 10년 동안 인공지능 분야에서 많은 발전이 있었으며, 이제는 인공지능이 4차 산업혁명을 견인하고 있고 단순한 도움의 역할을 뛰어넘어 사람을 평가하는 역할도 하고 있다"고 지적했다.

​

하지만 유 교수는 "인공지능의 동작원리를 잘 이해 못하고 사용하는 경우가 많아지고 있으며 인공지능이 공정하지 못하고 인과관계를 따지지 못하는 판단을 할 경우 사람이 직접적으로 피해를 볼 수 있다"고 강조했다. 또 "현재 인공지능을 연구, 그리고 활용하는 커뮤니티에서는 공정성과 인과관계 기반의 인공지능을 가장 중요한 과제 중에 하나로 삼고 있다"고 지적했다.

​

​

​

▲2021 제어·로봇·시스템학회 학술대회(ICROS 2021)가 열린 여수 소노캄 그랜드 볼룸 모습

​

이날 초청 강연에서 먼저 유교수는 인공지능이 활용되고 있는 다양한 분야를 소개했다. 인공지능 비서, 자율주행, 전문가 시스템, 건강관리, 결정시스템, 신용평가 등이 대표적이다. 구체적으로 자율주행 분야의 ‘이미지 세그멘테이션’, 비디오 튜어링테스트, 비디오 기반 대화시스템, 적대적 신경망 기반의 인공지능이 만들어낸 사진, 얼굴연산(DCGAN) 등 기술을 소개했다. 또 인류가 역사적으로 축적한 수많은 문헌들을 이해할 수 있는 인공지능 모델을 비롯해 오픈AI의 GPT와 BART,TS 등 인공지능 기술을 소개했다.

​

유 교수에 따르면 과거에는 '룰 베이스(rule base)' 기반으로 인공지능 연구가 이뤄졌으나 지금은 데이터 중심으로 변화했다고 설명했다. 지식이 데이터 기반으로 전환되면서 인공지능이 만든 이미지가 과거 애니메이션 수준이었다면 지금은 실제와 유사한 이미지를 만드는 게 가능해졌다고 덧붙였다.

​

유 교수는 딥러닝 기술이 도입되면서 축적된 데이터가 많아질수록 인공지능의 성능이 개선되고 있으며 필요한 부분의 데이터만 집중적으로 학습하는 것도 가능해졌다고 했다.

​

그러나 유 교수는 인공지능이 사람을 능가하는 계산 능력을 갖게 됐지만 효율성은 떨어지는 문제점이 있다고 지적했다. 대표적으로 기계가 사람보다 좋은 판단과 기억력을 갖고 있으나 전력 사용량은 엄청나게 많이 든다는 설명이다.

​

또한 현재의 심층신경망 기술은 약간의 작업만 하면 인공지능을 바보로 만들 수 있다며 인과관계 기반으로 발전하고 약한 인공지능에서 강한 인공지능으로 발전해야 한다고 했다. 가령 버스 사진이나 개의 사진에 약간의 변형을 가하면 인공지능이 버스나 개를 제대로 인식하지 못한다는 것.

​

유 교수는 인공지능 기술의 발전에도 "아직은 걸음마 단계에 있다"며 "사람처럼 인과관계를 따지지못하는 것"을 문제점으로 꼽았다. 현재의 인공지능은 '상관관계'를 기반으로 학습하지만 앞으로는 '인과관계'를 학습할 수 있도록 변화되어야 한다고 강조했다.

​

또한 현재의 인공지능에 편파적인 판단이나 편향성의 문제가 있다며 어떻게 공정성을 확보할 것인지가 연구자에게 중요해지고 있다고 셜명했다. 편향성 제거, 편향성 완화 알고리즘, 공정한 데이터 확보 등이 필요하다는 지적이다.

​

유 교수는 심층 강화학습이 로봇기술에 적용되고 있지만 아직은 샘플 데이터의 비효율성, 시뮬레이션 환경과 실제 환경의 불일치 문제 등도 생기고 있다고 강조했다. 이를 극복하기 위해 메타 러닝, 콘스트라티브 러닝(Contrastive learning) 등에 관한 연구가 이뤄지고 있다고 소개했다.

​

장길수 ksjang@irobotnews.com

<저작권자 © 로봇신문사 무단전재 및 재배포금지>