랩 썸네일
LAB
반려로봇랩 시즌5 LAB
1월 24일 - 6월 27일
10:30 - 12:30
WEEKLYSAT요일
모두의연구소 강남캠퍼스
16

한 줄 소개

반려로봇랩은 모든 가정이 로봇과 함께 살아가는 '퍼스널 로봇 시대'를 준비하는 랩입니다.

분야

ENGINEERING, NATURAL_SCIENCES

목표 결과물

OPEN_SOURCE, PAPER

랩 소개

반려로봇랩은 머지않은 미래, 모든 가정이 로봇과 함께 살아가는 '퍼스널 로봇(Personal Robot) 시대'를 준비하는 랩입니다. 반려로봇랩의 발자취 - Season 1 & 2: ROS, Unity 시뮬레이션, SLAM 등 기초 및 환경 구축 - Season 3: 규칙 기반 임무 수행 로봇 구현 (https://with-robot.github.io/with-robot-3rd/) - Season 4: LLM을 활용한 자연어 기반 로봇 제어 실현 (https://github.com/with-robot/with-robot-4th/blob/main/MODUCON-2025.md) Season 5 목표: “단순 제어를 넘어, 인지하고 행동하는 양팔 로봇으로” 이번 시즌 5에서는 시즌 4의 LLM 제어 성과를 바탕으로, 보다 복잡하고 정교한 물리적 상호작용을 연구합니다. [핵심 연구 목표] #### 비전 & 매니퓰레이션 - Semantic 3D Mapping: RGB-D 카메라를 이용해 환경을 3D로 재구성하고, 물체의 종류(Label)와 위치를 맵에 기록. - 6D Grasp Pose Detection: 물체(비정형 물체 포함)의 Point Cloud를 분석하여 최적의 파지(잡기) 좌표 생성. - Dual-arm Motion Planning: 양팔이 서로 충돌하지 않으면서 협업(예: 왼손으로 잡고 오른손으로 뚜껑 열기)하는 경로 생성. - Visual Servoing: 목표물 접근 마지막 단계에서 카메라 피드백을 이용한 정밀 위치 보정. #### 통합 제어 & 추론 - LLM/VLM 기반 Task Planning: 자연어 명령을 로봇이 수행 가능한 단위 행동으로 분해. - Closed-loop Feedback Loop: 행동 수행 후 시각적 결과 확인 성공/실패 판단 재계획의 순환구조 구축 - Context-aware Error Recovery: 실패(예: 물건 떨어뜨림) 발생 시, 처음부터 다시 하는 게 아니라 현재 상황에 맞는 복구 명령 생성.

#llm
#vlm
#physicalai
#로보틱스
#embodiedai
#sim2real
#양팔로봇

운영 방식

시즌5는 시즌4의 결과물인 로봇에 딥러닝을 적용하여 보다 복잡한 임무 수행을 가능하도록 하는 연구를 진행합니다. 본인의 관심사에 맞춰 아래 주제 중 1~2개를 선택해 연구를 수행하며, 매주 진행 상황을 공유하고 피드백을 주고받습니다. - Semantic 3D Mapping: 환경을 단순히 점(Point)으로 보는 것을 넘어, 물체의 종류(Label)와 위치 정보가 포함된 의미론적 3D 지도를 작성합니다. - 6D Grasp Pose Detection: 비정형 물체를 포함한 다양한 사물의 형상(Point Cloud)을 분석하여, 로봇이 잡을 수 있는 최적의 위치와 각도를 산출합니다. - Dual-arm Motion Planning: 양팔이 서로 충돌하지 않으면서 협력하여 작업을 수행(예: 왼손으로 잡고 오른손으로 조작)할 수 있는 최적의 경로를 생성합니다. - Visual Servoing: 목표물 접근의 마지막 단계에서 카메라 피드백을 실시간으로 반영하여 오차를 보정하는 정밀 제어를 구현합니다. - LLM/VLM 기반 Task Planning: 추상적인 자연어 명령(예: "식탁 치워줘")을 로봇이 실행 가능한 단위 행동(Primitive Action) 시퀀스로 분해하고 계획합니다. - Closed-loop Feedback Loop: 행동을 한 번 하고 끝내는 것이 아니라, 수행 결과를 시각적으로 확인(VLM)하고 성공/실패를 판단하여 계획을 수정하는 순환 구조를 만듭니다. - Context-aware Error Recovery: 물건을 떨어뜨리거나 이동이 막히는 등 실패 상황 발생 시, 처음부터 다시 하는 비효율을 막고 현재 상황에 맞는 복구 명령을 생성합니다. ※ 비고: 위 두 연구는 시즌 4의 성과(LLM 기반 제어 프레임워크)를 기반으로 동시에 진행되며, 시뮬레이션 환경에서의 완벽한 통합을 목표로 합니다.

커리큘럼

1주차: 오리엔테이션

2주차: 시즌4 성과물 소개 및 환경설정

3주차: 시즌4 성과물 소개 및 환경설정

4주차: 연구 미션 결정

5주차 ~ 19주차: 연구 성과 공유 및 피드백

20주차 ~ 23주차: 연구 결과 통합 및 최종 산출물 작성

참여 요건

- 끈기를 가지고 끝까지 성실히 완주 할 수 있는 분 - 오픈 마인드로 함께 노력하고 성장해갈 수 있는 분 - 딥러닝과 로봇에 관심이 많으신 분 - 파이썬 등 기본적인 소프트웨어 소양을 갖추신 분 - 매주 최소 8시간 이상 연구활동을 진행하고 공유할 수 있는 분 - 랩 시작 전에 아래 경희대 김동한 교수님 강의를 모두 완강하고 이해하고 오실 수 있는 분 (https://www.youtube.com/watch?v=Y4gtuQljLrY&list=PLP4rlEcTzeFIvgNQD8M1T7_PzxO3JNK5Z)

사전 질문

이번 랩을 통해서 달성하고자 하는 개인적인 목표는 무엇인가요?

모든 연구원이 매주 연구에 최소 8시간 이상 투자하고 결과를 공유하는 것을 원칙으로 합니다. 이에 동의하시나요?

연구에 참여가 저조하거나 결석이 잦을 경우 랩에서 탈락할 수 있습니다. 이에 동의하시나요?

랩장 소개

avatar_img

현청천

주식회사 위드알엘cchyun@gmail.com

안녕하세요. 자연어처리, 로봇, 강화학습 등을 연구하는 현청천입니다. 이런 기술들을 통합하여 좋은 결과물을 만들 수 있기를 바랍니다. ^^