로봇신문

LLM 기반 인공지능 로봇에 대한 '탈옥' 공격 우려된다

▲ 펜실베이니아대 연구팀이 인공지능의 탈옥을 유도하는 알고리즘을 개발했다. 美 펜실베이니아대 연구팀이 챗GPT 등 대형 언어모델(LLM) 기반 인공지능 로봇의 ‘탈옥(jailbreaking)’을 유도할 수 있는 알고리즘인 ‘로보페어(RoboPair)’를 개발했다고 최근 밝혔다. 이후 LLM 기반 인공지능 로봇의 탈옥 공격에 따른 위험을 경고하는 목소리가 커지고 있다. 연구팀은 로보페어를 활용해 인공지능의 ‘안전 가드레일(safety guardrails)’을 우회해 ‘탈옥’을 유도하는 데 성공했다고 밝혔다. 연구팀은 관련 논문을 ‘아카이브(arXiv)’에 게재했으며(논문 제목:Jailbreaking LLM-Controlled Robots), 내년 아틀란타에서 열리는 ‘2025 IEEE Internation..

한국법제연구원-법제처 ‘인공지능과 미래법제’ 포럼 개최

▲ 행사장 전경(사진=한국법제연구원) 한국법제연구원과 법제처는 12일 웨스틴조선에서 ‘인공지능과 미래법제’를 주제로 제1회 미래법제 국제포럼(The 1st Forum for Future Legislation)을 개최했다. 이번 포럼에서 유럽, 미국, 캐나다, 영국 등 세계 각국의 전문가들이 한자리에 모여 인공지능 법제 최신 동향을 공유하고, 책임 있는 AI 활용을 위한 입법 방향을 모색했다. 한영수 한국법제연구원장, 이완규 법제처장, 염재호 국가AI위원회 부위원장, 안데르스 라스무센 유럽의회 사무차장 등 국내외 인공지능 분야 등 관련 전문가 150여명이 참석해 기조발제와 전문가 발제 및 토론을 진행했다. 기조연설에서는 유럽집행위원회 AI 어드바이저 유하 헤이킬라가 EU의 신뢰할 수 있는 인공지능 접근방식..

메쎄뮌헨, 독일 공장자동화·로봇 전시회 '오토매티카 2025' 참가기업 모집

▲ automatica 2023 전경(사진=메쎄뮌헨) 메쎄뮌헨은 내년 6월 24~27일 독일 뮌헨에서 열리는 공장자동화ㆍ협동로봇 전시회 '오토메티카(automatica) 2025'의 한국 참가기업을 모집하고 있다고 12일 밝혔다. 오토메티카는 유럽 최대 규모의 로봇, 공장자동화 기술 솔루션 전시회로 ▲산업용 로봇과 협동로봇 ▲생산 자동화 시스템(자동 조립 설비, 물류 자동화 설비, 검사 시스템) ▲제조용 서비스 로봇(물류 로봇, 의료용 로봇, 필드 로봇) ▲머신비전 시스템 ▲스마트팩토리 등 공장자동화 및 로보틱스 관련 기술들이 집결한다. 지난 2023년 전시회는 88개국에서 4만명 이상의 참관객이 찾았으며, 34개국 650개사가 참가해 성황리에 개최된 바 있다. 2025년 전시회에는 두산로보틱스, 한화로..

마음AI, '2024 대한민국 정부박람회'에 근로감독관 AI 지원시스템 출품

마음 AI(대표 유태준)가 대통령 직속 디지털플랫폼정부위원회와 행정안전부가 주최하는 '2024 대한민국 정부 박람회'에서 근로감독관 인공지능(AI) 지원시스템을 선보인다. 근로감독관 인공지능 지원시스템은 근로감독관이 노동법 신고 사건과 근로 감독을 신속하고 정확하게 처리할 수 있으며, 국민이 노동법에 대한 다양한 질문에 대해 맞춤형 답변을 받을 수 있게 지원한다. 이번 사업은 디지털플랫폼정부위원회, 과학기술정보통신부, 한국지능정보원 추진 하에 진행된 “초거대 AI 서비스 개발 사업”으로 마음 AI는 고용노동부와 함께 AI 기반의 노동법 지식 검색부터, 참고자료 대화형 검색, 진정서 접수 지원, 문서와의 대화(근로감독관용) 시스템을 구축했다. AI가 질의응답 방식을 통해 복잡한 노동법 자료를 손쉽고 체계적..

지하공동구 재난관리, 자율주행 로봇 활용한다

정부는 다부처(행안부, 과기정통부, 국토부, 산업부) 협력 재난안전 연구개발(R&D)을 통해 개발한 ‘디지털트윈 기반 지하공동구 화재ㆍ재난지원 통합플랫폼’ 성과를 ‘2024 대한민국 정부박람회(11.13.~15. 광주 김대중컨벤션센터)’에서 소개한다. 이번 연구개발은 KT 아현지사 지하공동구 화재(2018년)를 계기로, 전기ㆍ통신ㆍ수도 등 주요 공급라인이 집중된 지하공동구의 재난 상황을 조기 예측ㆍ대응하기 위해 추진됐다. 이 연구는 총 275.6억 원을 투입해, 2020년부터 5년간 21개 연구기관(총괄 : 한국전자통신연구원)이 협력하여 지하공동구 재난관리에 디지털트윈을 적용할 수 있는 연구과제를 발굴ㆍ개발했다.   ▲ 평상시 디지털트윈 모형  ▲ 이상상황 또는 재난 시 디지털트윈 모형 이번 연구를 통해..

日 교세라, '카메라-라이다 융합 센서' 첫 개발

▲ 카메라-라이다 융합센서의 검출 결과 이미지 일본 교세라가 카메라와 라이다를 하나의 유닛(unit)에 통합한 ‘카메라-라이다 융합 센서’를 처음으로 개발했다고 11일 밝혔다. 독자적인 광학 설계 기술을 기반으로 카메라와 라이다를 하나의 센서로 통합해 시차가 없는 중첩 데이터를 실시간으로 획득할 수 있는 기술을 구현했다는 것이다. 이에 따라 각각의 감지 결과를 통합하는 과정이 용이해졌으며, 지연없이 실시간으로 카메라의 이미지 데이터와 라이다의 거리 데이터를 통합해 고도의 물체 인식이 가능해졌다는 설명이다. 이 융합 센서의 라이다는 레이저광을 조사하는 밀도를 높여 해상도를 개선하고, 먼 거리에 있는 작은 장애물도 인식할 수 있다. 100미터 앞에 있는 30cm의 낙하물도 감지할 수 있다. 라이다와 카메라 ..

법제처, 생성형 AI 법령정보 제공 서비스 제공한다

법제처는 12일 혁신적인 법령정보서비스 제공을 위한 ‘생성형 AI 법령정보서비스 정보화전략계획(ISP)’의 수립이 완료됨에 따라 미래형 AI 법령정보 제공 서비스에 대한 현장의견을 청취하기 위해 간담회를 개최했다. 이날 간담회에는 최영찬 법제처 기획조정관을 비롯한 법제처 직원과 전원영 ㈜ 티지 대표, 김사중 경북대학교 SW교육원 교수 등 생성형 AI 법령정보 제공 서비스와 관련된 민간 부문의 전문가들이 참석하여 효과적인 미래형 법령정보 서비스 제공 방안을 논의했다. ‘생성형 AI 법령정보 제공 서비스’는 법령 조문과 함께 입법 배경 및 취지, 관련 판례나 해석례 등 다양한 정보를 이용자 편의에 맞게 요약ㆍ정리하여 제공해 주는 서비스이다. 이 날 참석자들은 앞으로 효과적인 ‘생성형 AI 법령정보 제공 서비..

中 임바디드인텔리전스로봇혁신센터, 휴머노이드 로봇 오픈소스 계획 발표

중국에서 휴머노이드 로봇의 플랫폼을 오픈소스화하고, 산학연 협력을 통해 상용화를 앞당기려는 시도가 이뤄지고 있다. 11일 중국 언론 커지르바오에 따르면 '국가지방공동건설임바디드인텔리전스로봇혁신센터(国地共建具身智能机器人创新中心)'는 최근 '톈궁(天工) 오픈소스 계획'을 발표했다. 임바디드인텔리전스의 상용화를 촉진하는 것이 목표다. 혁신센터 총경리인 슝여우쥔(熊友军)은 센터가 범용 로봇 마더 플랫폼 '톈궁', 다기능 임바디드인텔리전스 플랫폼 '카이우(开物)'를 중심으로 기술 개발을 추진하고 있다고 말했다.     휴머노이드 로봇을 위한 전신 협동 지능형 소뇌 플랫폼을 기반으로 하는 톈궁은, 평균 속도가 시속 10km이며, 달릴 때 최고 속도가 시속 12km로 개선됐다. 경사면, 계단, 잔디, 자갈 및 모래 ..

中 휴머노이드 로봇 상장사 70% 이상, 올해 이익 늘어

올해 중국 휴머노이드 로봇 관련 기업들의 이익이 지난해보다 늘었다. 11일 중국 언론 정췐르바오는 윈드(Wind) 데이터를 인용해 올해 1~3분기 중국 A주 54개 휴머노이드 로봇 상장사가 총 2467억800만 위안(약 47조 7010억 원)의 매출을 기록했으며, 이는 지난해 같은 기간 보다 9.21% 늘어난 것이라고 보도했다. 순이익은 139억4000만 위안(약 2조 6953억 원)으로 지난해 같은 기간 보다 14.82% 늘었다. 이들 기업 중 70% 이상인 40개 기업이 이익을 냈다. 54개 휴머노이드 로봇 상장사의 1~3분기 연구개발 투자는 185억800만 위안(약 3조 5785억 원)에 달했으며, 이는 지난해 같은 기간 보다 7.42% 늘어난 것이다. 하이엔드 제조 영역에서 기반을 쌓고 있는 것으..

수영장 청소 로봇 전문기업 '비트봇', 솔레니스와 제휴

수영장 청소 로봇 전문기업 비트봇(Beatbot)은 솔레니스(Solenis)와 제휴해 수영장 청소 로봇 공급에 나선다고 11일(현지 시각) 밝혔다. 비트봇은 수영장 청소 로봇 솔루션을 제공하는 선도기업으로, 수영장용 첨단 청소 로봇 분야에서 주목을 받고 있다. 솔레니스는 A100 시리즈 수영장 청소 로봇을 포함해 완전한 청소 성능과 사용자 제어를 지원하는 혁신적인 수영장 청소 솔루션을 제공한다는 계획이다. ‘A100 프로‘ 로봇은 가장 폭넓은 옵션을 제공하는 제품으로, 20개의 지능형 센서, 강력한 9-모터시스템, 고급 경로 최적화 기능을 채택하고 있어 수영장 바닥, 벽 등을 효과적으로 청소할 수 있다. 이번에 비트봇과 제휴한 솔레니스는 주거용 및 상업용 수영장과 스파를 위한 수처리 솔루션을 제공하는 글..