美 오픈AI 로봇팀 책임자가 사직한 이유는?

▲오픈AI가 미 전쟁부와 AI 사용 계약을 한 것에 반발해 사임한 칼리노우스키 오픈AI 하드웨어 팀 책임자. 그녀는 오픈AI에 합류하기 전 메타, 오큘러스 VR, 애플 등에서 일했다. (사진=메타)

“AI는 국가 안보에 중요한 역할을 한다. 하지만 사법적 감독 없이 미국인을 감시하고 인간의 승인없이 자율적으로 살상하는 것은 더 많은 숙고가 필요했던 문제다. 이는 원칙의 문제였지, 사람의 문제가 아니었다.”

​

케이틀린 칼리노프스키 오픈AI 로봇 팀 책임자가 지난 주말 회사와 미국 정부간의 원칙없는 인공지능(AI) 거래에 반발해 사임했다고 더로봇리포트가 9일(현지시간) 보도했다.

​

칼리노프스키는 소셜 미디어(SNS) X 게시물을 통해 오픈AI가 최근 미 전쟁부(국방부)와 체결한 계약에 대해 우려를 표명했다. 이 계약에 따라 오픈AI의 생성형 AI 시스템을 미 전쟁부의 보안 컴퓨팅 시스템 내에서 사용할 수 있게 됐기 때문이다.

​

칼리노프스키는 X에 올린 글에서 “오픈AI에서 사임했다. 나는 로봇공학 팀과 우리가 함께 이뤄낸 성과에 깊은 애정을 가지고 있다. 쉬운 결정은 아니었다”라면서도 “AI는 국가 안보에 중요한 역할을 한다. 하지만 사법적 감독 없이 미국인을 감시하고 인간의 승인없이 자율적으로 살상하는 것은 더 많은 숙고가 필요했던 문제다. 이는 원칙의 문제였지 사람의 문제가 아니었다. 나는 샘과 팀원들을 깊이 존경하며 우리가 함께 이뤄낸 성과에 자부심을 느낀다”고 말했다.

​

그녀는 후속 게시물에서 “분명히 말하자면 내가 문제 삼는 것은 명확한 지침도 없이 발표가 너무 성급히 나왔다는 점이다. 무엇보다도 관리(governance) 문제가 가장 중요하다. 이러한 사안들은 너무 중요하기 때문에 서둘러 거래 계약을 하거나 발표해서는 안 된다”고 주장했다.

​

칼리노프스키는 2024년 11월 오픈AI에 합류해 새롭게 개편된 회사의 HW 및 로봇 그룹을 이끌었다. 재직 중 그녀는 회사의 로봇 그룹이 성장하는 데 기여했다. 오픈AI에 입사하기 전에는 증강현실(AR) 안경을 만들면서 메타(Meta) 팀을 이끌었다.

​

◇오픈AI의 국방 계약

​

칼리노프스키의 사임은 군사 작전에서 AI의 역할에 대한 논쟁이 점점 가열되면서 이뤄졌다. 최근 몇 달 동안 미 전쟁부는 주요 AI 기업들에게 그들의 모델을 “모든 합법적인 목적”에 사용할 수 있도록 허용할 것을 압박해 왔다. 또 다른 AI 개발업체인 앤트로픽은 이러한 주장에 반대해 왔다.

​

앤트로픽은 미 전쟁부와 계약을 체결하고 자사의 AI 기술이 대규모 국내 감시나 완전 자율 무기에 사용되는 것을 방지하는 지침에 대해 협상하기를 희망했다. 협상이 결렬된 후 미 전쟁부는 앤트로픽을 공급망 위험 기업으로 지정했다. 앤트로픽은 이 지정에 대해 소송을 제기할 계획이라고 밝혔다.

​

이어 오픈AI가 지난달 말 미 전쟁부와의 계약 체결을 발표했다. 이 소식은 앤트로픽이 전쟁부와의 협상을 중단한 지 불과 며칠 만에 나왔다. 오픈AI는 전쟁부와의 계약의 일환으로 자사 기술을 기밀 환경에서 사용할 수 있도록 허용했다.

​

샘 올트먼 오픈AI 최고경영자(CEO)는 이 계약에는 미 전쟁부가 자사 기술을 감시 또는 자율 무기 개발에 사용하는 것을 막는 조항이 포함돼 있다고 주장했다. 하지만 미 정부 고위 관계자(제레미 르윈 미 외교 지원, 인도주의 업무 및 종교 자유 담당 차관 대행부차관)는 X에 샘 올트먼의 주장에 대한 반박하며 오픈AI가 미 전쟁부(DoW)에 “모든 합법적인 적”을 대상으로 모델 사용을 허용할 것이라고 밝혔다. 이는 인류가 참여를 거부했던 용도, 즉 인간의 감독이 없는 대규모 감시 도구 및 무기 시스템 개발을 허용할 수 있음을 의미한다.

​

이재구 기자 robot3@irobotnews.com

저작권자 © 로봇신문 무단전재 및 재배포 금지