--- license: apache-2.0 extra_gated_prompt: >- 이 데이터셋은 2026 CS-Store Challenge 를 위해 SSU RealityLab 이 만든 것으로, 연구 목적으로만 쓸 수 있습니다. 아래 항목을 적고 신청하면 관리자가 확인한 뒤 승인합니다. 승인 전에는 파일을 받을 수 없습니다. extra_gated_fields: 대표자 이름: text 소속: text 이메일: text 사용 목적: text 연구 목적 외 사용 금지에 동의합니다: checkbox extra_gated_heading: "데이터셋 접근 신청" extra_gated_button_content: "신청" task_categories: - robotics tags: - LeRobot - robotics - manipulation - convenience-store - isaac-sim - pick-and-place - FFW-SG2 size_categories: - 1M **용어 일러두기:** 본 문서에서는 열(Column) 이름과의 혼동을 방지하기 위해 `episode`, `frame`, `state`, `action`, `chunk` 등의 핵심 데이터셋 용어는 영문 표기를 유지합니다. --- ## 1. Task 개요 세 가지 Task는 동일한 편의점 씬을 공유하지만, 평가는 독립적으로 진행됩니다. | 구분 | 과제명 | 수행 목표 | Base 구동 범위 | 폴더명 | 구축된 Episode | | --- | --- | --- | --- | --- | --- | | **A** | 진열대로 이동 | 임의의 위치에서 출발하여 장애물을 회피, 목표 진열대까지 이동 | **매장 전체 횡단 주행** | `taskA/release1/`, `taskA/release2/` | **890 + 1,602** | | **B** | 상품 진열 | 책상 위 Crate(상자)에서 상품을 꺼내 진열대의 빈 Slot에 배치 | **제자리 회전 및 근거리 이동** | `taskB/release1/`, `taskB/release2/` | **1,322 + 5,683** | | **C** | 인식과 계산 | 계산대에 놓인 상품을 순차적으로 파지하여 인식 및 가격 합산 | 정지 상태 (Base 고정, 이동 없음) | `taskC/release1/`, `taskC/release2/` | **1,089 + 560** | **데이터셋 공통 규격:** * LeRobot v2.1 포맷 / 로봇 모델: `ffw_sg2` * 주사율: 10 fps (**Task C는 30 fps** — Section 5 참조) * 카메라: 3종 (Head, Left Wrist, Right Wrist) / 해상도: 224×224 RGB * 채널: `state` 및 `action` 각각 22 Channels --- ## 2. 데이터셋 구조 및 주요 개념 ### Episode와 Frame * **Episode:** 로봇이 특정 지시(Task)를 시작부터 끝까지 완료한 1회의 시연 기록입니다. * **Frame:** 0.1초(10 fps) 단위로 샘플링된 단일 시점의 스냅샷 데이터입니다. ### Frame 데이터 구성 요소 단일 Frame은 다음 5가지 핵심 요소를 포함합니다. | Feature Name | Data Shape | 설명 | | --- | --- | --- | | `observation.images.cam_head` | 224×224×3 (uint8) | 머리 카메라 시각(RGB) 데이터 | | `observation.images.cam_left_wrist` | 224×224×3 (uint8) | 좌측 손목 카메라 시각(RGB) 데이터 | | `observation.images.cam_right_wrist` | 224×224×3 (uint8) | 우측 손목 카메라 시각(RGB) 데이터 | | `observation.state` | 22 float32 | 관절의 **실제 측정 위치(Measured)** 및 Base의 **실제 속도** | | `action` | 22 float32 | 제어기가 로봇에게 **명령한 목표(Commanded)** 위치 및 속도 | ### 🚨 `state` vs `action` 의 차이 (중요) 이 두 값의 구분은 모방 학습(Imitation Learning)에서 매우 중요합니다. * **`state` (관측값):** 해당 시점에 센서 등을 통해 측정된 로봇 관절의 *실제 물리적 상태*입니다. * **`action` (제어 명령값):** 해당 시점 `t`에 제어기가 목표로 삼고 하달한 *명령(Target) 상태*입니다. (변화량이나 `t+1` 시점의 `state`가 아닙니다.) 데이터셋을 분석해보면, 고속 이동 구간에서 `|action - state|` 간의 평균 오차는 약 **0.0072 rad**로 확인됩니다. 모델 학습 시에는 Vision 데이터와 `state`, 지시문(Task)을 입력받아 `action`을 추론하도록 설계해야 합니다. ### 22 Channel 세부 명세 (Action / State 공통) ```text [0..6] arm_l_joint1 ~ 7 : 좌팔 관절 (rad) [7] gripper_l_joint1 : 좌측 그리퍼 (rad, 값이 클수록 닫힘) [8..14] arm_r_joint1 ~ 7 : 우팔 관절 (rad) [15] gripper_r_joint1 : 우측 그리퍼 (rad) [16] head_joint1 : 머리 좌우 회전 (rad) [17] head_joint2 : 머리 상하 틸트 (rad) [18] lift_joint : 몸통 리프트 고도 (단위: m) [19] base_vx : Base 전후 속도 (m/s) [20] base_vy : Base 좌우 속도 (m/s) [21] base_wz : Base 회전 속도 (rad/s) ``` *채널 목록은 `meta/info.json`의 `features.action.names`에서도 확인할 수 있습니다.* **Base 주행 채널(19~21)에 대한 유의사항:** 해당 로봇은 작업 중 약 90도의 회전과 0.5m가량의 이동을 수반합니다. 원본 기록에 주행 명령 로그가 부재하여, 인접한 두 frame의 자세 변화량을 기반으로 로봇 운동학을 역산하여 속도를 산출했습니다. * `action`의 Base: **지금부터 수행할** 다음 스텝의 목표 속도 * `state`의 Base: **방금 완료된** 현재 스텝의 측정 속도 (첫 frame은 0) ### 시간축(Time) 및 인덱스 체계 `fps`는 10으로 고정되어 있으며, `timestamp`는 매 episode마다 0.0에서 시작합니다. 따라서 `i`번째 frame의 시각은 `i/10`초입니다. (Task C는 `fps`가 30이므로 `i/30`초입니다.) | Column | 세는 범위 | 설명 | | --- | --- | --- | | `timestamp` | Episode 내 | 해당 episode 시작 시점부터의 경과 시간(초) | | `frame_index` | Episode 내 | 해당 episode 안에서의 인덱스 (0부터 시작) | | `index` | Task 폴더 전체 | 해당 Task 폴더의 모든 frame을 관통하는 전역 인덱스(폴더 전체에서 세게 되는 프레임의 인덱스) (Task B 1,845,947개 / Task A release1 1,646,041개 · release2 2,037,078개 / Task C release1 2,186,131개 · release2 1,049,670개) | | `episode_index` | Task 폴더 전체 | Episode 번호 (Task B 0 ~ 1,499 / Task A release1 0 ~ 889 · release2 0 ~ 1,601 / Task C release1 0 ~ 1,088 · release2 0 ~ 559) | --- ## 3. Task A 상세 명세 (`taskA/release1/`, `taskA/release2/` - 진열대로 이동) ### 개요 로봇이 **식사 공간의 책상 위 Crate(파란 상자)를 양손으로 집어 들고, 매장을 횡단하여 목표 진열대 앞까지 주행한 뒤, 옆 책상에 내려놓기까지의 전체 과정**이 한 Episode 안에 연속으로 기록되어 있습니다. | 항목 | 상세 내용 | | --- | --- | | 총 Episode 수 | `release1/` **890** · `release2/` **1,602** | | 총 Frame 수 | `release1/` **1,646,041** · `release2/` **2,037,078** | | Episode 길이 | `release1/` 1,157 ~ 3,398 frames (중앙값 1,823) / 116 ~ 340초 · `release2/` 764 ~ 4,201 frames (중앙값 1,273) / 76 ~ 420초 | | 지시문(Task) 가짓수 | **1** (전 Episode 공통) | | 지시문 템플릿 | `Pick up the blue crate from the table, carry it to the target shelf, and put it down on the desk.` | | 출발 지점 통계 | `release1/` 총 12곳 / 각 좌석별 64~79 episodes | | 경로 통계 | `release1/` 최적(최단 혹은 탐색하지 않는 경로를 의미) 경로 735 (central 275 / south 245 / north 215) / 목적지 탐색 경로 155 | | 데이터셋 규격 | LeRobot **v2.1** / 로봇 `ffw_sg2` / 10 fps | | 시각(Vision) 데이터 | `cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3) | | Vector 데이터 | float32 22 Channels (관절 19 + Base 3) | Task A에는 세 개의 sub-task(집기 - 주행 - 놓기)가 있습니다. 한 Episode에서 sub-task 경계 정의는 각 release 의 `meta/episode_phases.jsonl`에 있습니다. --- ## 4. Task B 상세 명세 (`taskB/` - 상품 진열) ### 개요 로봇이 **책상 위 Crate에서 상품을 꺼내어 진열대 빈 Slot에 거치하기까지의 전체 과정**이 연속으로 기록되어 있습니다. | 항목 | 상세 내용 | | --- | --- | | 총 Episode 수 | `release1/` **1,322** · `release2/` **5,683** | | 총 Frame 수 | `release1/` **1,619,226** · `release2/` **6,960,355** | | Episode 길이 | `release1/` 882 ~ 2,870 frames (중앙값 1,138) · `release2/` 873 ~ 4,981 frames (중앙값 1,132) / 10 fps | | 지시문(Task) 가짓수 | **36** (상품 종류당 1개 매칭) | | 지시문 템플릿 | `Take the {상품 이름} out of the crate on the table and put it into the empty slot on the shelf` | | 상품 통계 | 총 36종 / `release1/` 상품별 **20~42 episodes** · `release2/` 상품별 **19~241 episodes** | | 데이터셋 규격 | LeRobot **v2.1** / 로봇 `ffw_sg2` / 10 fps | | 시각(Vision) 데이터 | `cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3) | | Vector 데이터 | float32 22 Channels (관절 19 + Base 3) | --- ## 5. Task C 상세 명세 (`taskC/release1/`, `taskC/release2/` - 인식 및 계산) ### 개요 로봇이 **계산대 위에 놓인 상품 3개 가운데 지시된 상품 1개를 왼손으로 집어, 오른손에 든 바코드 스캐너로 바코드 면을 비춘 뒤, 원래 자리에 다시 내려놓는 전 과정**이 한 Episode 안에 연속으로 기록되어 있습니다. 로봇은 계산대 앞에 선 채로 작업하며 Base(모바일 베이스)는 고정되어 움직이지 않습니다. | 항목 | 상세 내용 | | --- | --- | | 총 Episode 수 | `release1/` **1,089** · `release2/` **560** (2026-09-20 추가, 상품별 70편) | | 총 Frame 수 | `release1/` **2,186,131** · `release2/` **1,049,670** | | Episode 길이 | `release1/` 1,334 ~ 4,610 frames (중앙값 1,848) / 44 ~ 154초 · `release2/` 1,343 ~ 3,587 frames (중앙값 1,743) / 45 ~ 120초 (30 fps) | | 지시문(Task) 가짓수 | **8** (상품 종류당 1개 매칭, `tasks.jsonl` 의 `task_index` 0~7 = 아래 상품 순서) | | 지시문 템플릿 | `Pick up the {상품 이름} on the checkout counter, show its barcode to the scanner, and put it back where it was` | | 상품 통계 | 총 8종 / `release2/` 상품별 **70** episodes 균등 · `release1/` 상품별 126 ~ 143 episodes — `pringles_original_small` 131, `pringles_sourcream_small` 126, `ottogi_cupnoodle_buldak` 139, `yegam_original` 140, `samyang_buldak_cup` 139, `chilsung_cider` 130, `cocacola_zero` 141, `lotte_sand` 143 | | Episode 순서 | 폴더마다 수집(출하) 시각 순. 상품이 섞여 있으며, 각 Episode 의 상품은 그 폴더의 `meta/taskC_episodes.jsonl` 의 `product` 로 확인합니다 | | 시연 등급 | `grade` `release1/` **CLEAN 945편 / TOUCHED 144편** · `release2/` **CLEAN 520편 / TOUCHED 40편** — TOUCHED 는 과제를 완수했지만 시연 도중 집은 상품이 이웃 상품에 닿은 기록이 있는 판(대부분 내려놓을 때)입니다. **참가자 여러분의 기호에 맞게 그대로 쓰셔도 되고 제외하셔도 됩니다.** | | 데이터셋 규격 | LeRobot **v2.1** / 로봇 `ffw_sg2` / **30 fps** | | 시각(Vision) 데이터 | `cam_head`, `cam_left_wrist`, `cam_right_wrist` (각 224×224×3, JPEG 품질 95·4:4:4 임베딩, `taskB/` 와 같이 띠 없이 눌러 담음) | | Vector 데이터 | float32 22 Channels (관절 19 + Base 3, Base 3채널은 항상 0) + `observation.base_joints` 6 Channels (항상 0) | Parquet 열 구성은 `taskA/`·`taskB/` 와 완전히 같습니다(Section 6 열 명세). 주사율(30 fps)만 다릅니다. ### 상품별 TOUCHED 분포 (`release1/`) | 상품 | 전체 | CLEAN | TOUCHED | | --- | --- | --- | --- | | `pringles_original_small` | 131 | 114 | 17 | | `pringles_sourcream_small` | 126 | 107 | 19 | | `ottogi_cupnoodle_buldak` | 139 | 125 | 14 | | `yegam_original` | 140 | 135 | 5 | | `samyang_buldak_cup` | 139 | 112 | 27 | | `chilsung_cider` | 130 | 109 | 21 | | `cocacola_zero` | 141 | 117 | 24 | | `lotte_sand` | 143 | 126 | 17 | | **합계** | **1,089** | **945** | **144** | ### 상품별 TOUCHED 분포 (`release2/`) | 상품 | 전체 | CLEAN | TOUCHED | | --- | --- | --- | --- | | `pringles_original_small` | 70 | 63 | 7 | | `pringles_sourcream_small` | 70 | 64 | 6 | | `ottogi_cupnoodle_buldak` | 70 | 67 | 3 | | `yegam_original` | 70 | 70 | 0 | | `samyang_buldak_cup` | 70 | 61 | 9 | | `chilsung_cider` | 70 | 64 | 6 | | `cocacola_zero` | 70 | 61 | 9 | | `lotte_sand` | 70 | 70 | 0 | | **합계** | **560** | **520** | **40** | `release2/` 는 `release1/` 과 같은 규격이며 다음 두 가지가 다릅니다. * 기록 시작이 로봇 자세가 정착한 뒤부터입니다 — 첫 0.6초(18 frames)의 정착 구간을 잘라내어 frame 0 이 정지 자세입니다. * 모든 명령(`action`)이 관절 각속도 사양(팔 15·6, 그리퍼 2.2, 머리 2.0, 리프트 0.2 rad/s) 안에 있고, 실측(`observation.state`)이 사양을 넘은 Episode 는 제외했습니다. ### Task C 전용 메타데이터 `taskC/release1/meta/`·`taskC/release2/meta/` 에는 LeRobot 표준 4종 외에 아래 2개 파일이 더 있습니다. **`taskC_products.json`** — 상품 8종 표(`product_index`, `product`, `label_en`, `name_ko`, `shape`, `barcode`(EAN-13), `price`)와 국면 번호표(`phase_no`), 하위 작업표(`subtask`). **`taskC_episodes.jsonl`** — Episode 1개가 1개 행. 주요 필드: | 필드 | 내용 | | --- | --- | | `episode_index`, `length` | Parquet 과 같은 번호와 frame 수 | | `product`, `product_name_ko`, `label_en`, `barcode`, `price` | 집어야 할 상품(slot 0)과 바코드·가격 | | `seed` | 수집 때 상품 3개의 배치를 만든 장면 seed (같은 `source` 폴더의 장면 파일과 대응) | | `grade` | `CLEAN` 또는 `TOUCHED` (위 설명 참조) | | `instruction_ko`, `subtasks_ko` | 한국어 지시문과 3단계 하위 작업 문장 | | `phases` | 국면 이름 → 시작 frame (`start`, `approach`, `grasp`, `lift`, `sweep_00`, `sweep_01`, `ret_down`, `ret_retreat`) | | `phase_runs` | `[[phase_no, start_frame, end_frame), …]` 8구간. `taskA/release1/meta/episode_phases.jsonl` 의 `runs` 와 같은 꼴이며 끝은 배타(exclusive) | | `scan_events`, `first_scan_frame`, `scan_count` | 스캐너가 바코드를 인식한 frame 과 그때의 횡이탈·거리(mm). 대부분 1~2회, 31편은 기록 없음 | | `scene` | 계산대 위 상품 3개의 로봇 기준 위치·자세·크기(`products[0]` 이 목표 상품), 빨간 띠 범위 | | `source` | 원본 시연 폴더 이름 (`_`) | 국면 번호(`phase_no`)와 하위 작업(`subtask`)의 대응: | phase_no | 이름 | 뜻 | subtask | | --- | --- | --- | --- | | 0 | start | 대기 자세 | 1 | | 1 | approach | 손을 상품 쪽으로 | 1 (grasp the product) | | 2 | grasp | 그리퍼 닫아 파지 | 1 | | 3 | lift | 들어올림 | 2 (show its barcode to the scanner) | | 4 | sweep_00 | 스캐너 앞에서 바코드 면을 훑음 (1차) | 2 | | 5 | sweep_01 | 훑기 2차 (1차에서 인식되지 않았을 때만 길게) | 2 | | 6 | ret_down | 제자리에 내려놓음 | 3 (put it back) | | 7 | ret_retreat | 손을 빼고 대기 자세로 복귀 | 3 | **[Python] TOUCHED 제외·국면 펼치기 예시:** ```python import json, numpy as np root = f"{local_dir}/taskC/release1" # 또는 taskC/release2 eps = [json.loads(l) for l in open(f"{root}/meta/taskC_episodes.jsonl", encoding="utf-8")] clean_ids = [e["episode_index"] for e in eps if e["grade"] == "CLEAN"] # TOUCHED 를 빼고 쓰려면 touched_ids = [e["episode_index"] for e in eps if e["grade"] == "TOUCHED"] print(len(clean_ids), len(touched_ids)) # 945 144 e = eps[0] phase_of_frame = np.zeros(e["length"], dtype=np.int64) # frame 마다 phase_no for no, s, z in e["phase_runs"]: phase_of_frame[s:z] = no ``` --- ## 6. 데이터셋 디렉토리 구조 및 파싱 가이드 LeRobot 데이터셋 표준 규격에 따라 메타데이터와 실제 Parquet 파일이 분리되어 저장됩니다. ```text taskB/release1/ (`taskB/release2/` 도 같은 구조) ├── data/ │ ├── chunk-000/ │ │ ├── episode_000000.parquet (단일 Episode = 단일 Parquet 파일) │ │ ├── episode_000001.parquet │ │ └── … (단일 Chunk 내 최대 1,000개 저장) │ └── chunk-001/ … └── meta/ ├── info.json (초당 프레임, Feature 명세, Shape, 경로 포맷) ├── tasks.jsonl (36종 지시문 목록, `task_index` 포함) ├── episodes.jsonl (Episode별 인덱스, 지시문, 프레임 길이 정보) └── episodes_stats.jsonl (Episode별 각 Column의 min/max/mean/std 통계) ``` `taskC/release1/`·`taskC/release2/`도 같은 구조이며, `meta/`에 `taskC_episodes.jsonl`과 `taskC_products.json`이 추가로 있습니다 (Section 5 참조). 특정 Episode의 Parquet 파일 경로는 `meta/info.json`의 포맷팅 룰을 따릅니다. *예시:* `data/chunk-{episode_chunk:03d}/episode_{episode_index:06d}.parquet` (`chunk` = `index // 1000`) ### 메타데이터(meta) 파일 상세 각 파일은 JSON Lines 형식이며, 실제 내용은 다음과 같습니다. ```jsonc // meta/tasks.jsonl — 서로 다른 지시문 1개가 1개 행 {"task_index": 0, "task": "Take the ABC chocolate cookie box out of the crate on the table and put it into the empty slot on the shelf"} // meta/episodes.jsonl — Episode 1개가 1개 행 {"episode_index": 0, "tasks": ["Take the Yegam original potato chip tube out of …"], "length": 1100} // meta/episodes_stats.jsonl — Episode 1개가 1개 행 {"episode_index": 0, "stats": {"action": {"min": [...22개...], "max": [...], "mean": [...], "std": [...], "count": [1100]}, …}} ``` 🚨 **지시문의 기준 파일:** 학습 파이프라인은 Parquet의 `task_index`를 키로 **`tasks.jsonl`** 을 참조하여 지시문을 가져옵니다. `episodes.jsonl`의 `tasks` 필드는 참조용 메타정보이며 대부분의 학습 코드는 열지 않습니다. **두 파일의 내용이 상충할 경우 `tasks.jsonl`이 우선합니다.** ### Parquet 파일 내부 구조 (열 명세) Parquet 파일 내 1개의 Row는 1개의 Frame을 의미합니다. | Column명 | Arrow Data Type | | --- | --- | | `action` | `fixed_size_list[22]` | | `observation.state` | `fixed_size_list[22]` | | `observation.images.cam_head` | `struct` | | `observation.images.cam_left_wrist` | `struct` | | `observation.images.cam_right_wrist` | `struct` | | `timestamp` | `float` | | `observation.base_joints` | `fixed_size_list[6]` (바퀴 조향 3 + 구동 3; Task C 는 항상 0) | | `frame_index`, `episode_index`, `index`, `task_index` | `int64` | 세 Task 의 Parquet 열 구성은 동일합니다. (2026-09-15 갱신: 이전 `taskC/` 에 있던 `phase_index`·`subtask_index` 열은 없어졌고, 같은 정보는 `taskC/meta/taskC_episodes.jsonl` 의 `phase_runs` 로 옮겼습니다 — Section 5 참조.) 🚨 **이미지(Image) 데이터 추출 주의사항:** 이미지 데이터는 외부 폴더에 존재하는 것이 아니라, **Parquet 파일 내부(`struct` 내 `bytes` 필드)에 이미지 바이너리(세 Task 모두 JPEG 품질 95) 형태로 직접 임베딩**되어 있습니다. `path` 필드는 논리적 라벨에 불과합니다. **[Python] Parquet에서 이미지 직접 추출 예시:** ```python import io, pyarrow.parquet as pq from PIL import Image t = pq.read_table("data/chunk-000/episode_000000.parquet", columns=["observation.images.cam_head"]) img_binary = t.column(0)[0].as_py()["bytes"] # 첫 번째 frame의 바이너리(JPEG) 추출 img = Image.open(io.BytesIO(img_binary)) # 224x224 RGB 이미지 로드 ``` ### 데이터 로드 방법 (LeRobot API 활용) 본 레포지토리는 다중 Task 폴더를 포함하므로, 특정 과제만 선택하여 다운로드(Subfolder pattern)해야 합니다. ```python from huggingface_hub import snapshot_download from lerobot.common.datasets.lerobot_dataset import LeRobotDataset REPO = "SSU-RealityLab/2026CS-Store-Challenge" TASK = "taskB/release2" # 다운로드할 Task 폴더 지정 (예: "taskB/release1", "taskC/release1", "taskC/release2") # 1. 특정 Task 폴더만 로컬로 다운로드 local_dir = snapshot_download(REPO, repo_type="dataset", allow_patterns=f"{TASK}/*") # 2. LeRobot API로 데이터셋 로드 ds = LeRobotDataset(REPO, root=f"{local_dir}/{TASK}") print(f"Total Episodes: {ds.meta.total_episodes}, Frames: {ds.meta.total_frames}") sample = ds[0] print("Task Instruction:", sample["task"]) print("Head Camera Shape:", sample["observation.images.cam_head"].shape) ``` ### 데이터 로드 방법 (LeRobot 미사용 / PyArrow 직접 파싱) Parquet은 표준 포맷이므로 LeRobot 설치 없이도 데이터 확인이 가능합니다. 데이터 구조를 빠르게 검증할 때 유용합니다. ```python import io, json, glob import pyarrow.parquet as pq from PIL import Image root = f"{local_dir}/taskB/release2" info = json.load(open(f"{root}/meta/info.json")) tasks = [json.loads(l) for l in open(f"{root}/meta/tasks.jsonl")] t = pq.read_table(sorted(glob.glob(f"{root}/data/chunk-*/episode_*.parquet"))[0]) row = t.slice(0, 1).to_pydict() print("Instruction:", tasks[row["task_index"][0]]["task"]) print("State (22ch):", row["observation.state"][0]) img = Image.open(io.BytesIO(row["observation.images.cam_head"][0]["bytes"])) print("Image:", img.size, img.mode) # (224, 224) RGB ``` --- ## 7. 데이터셋 한계 및 유의사항 (필독) 연구 및 모델 학습 전 다음 사항을 반드시 인지하시기 바랍니다. **`taskA/` 유의사항** * **Pure Simulation Data:** Isaac Sim 물리 엔진 기반의 합성 데이터이며, 실제 로봇 데이터는 포함되어 있지 않습니다. * **단일 목적지:** 목표 진열대는 1곳으로 고정되어 있습니다. 출발 좌석(12곳)과 경로(통로 3종 + 탐색 경로)가 변인이며, 목적지 자체의 다양성은 없습니다. * **성공(Success) 시연만 포함:** 모든 Episode는 집기·주행·놓기 세 단계를 모두 완수한 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다. * **Downsized Vision:** 세 카메라 모두 224×224 이며 이미지는 **JPEG**(품질 95)로 담겨 있습니다(세 Task 공통). **두 release 의 담는 방식이 다릅니다.** * `release1/` — 머리는 원본 672×376 에 패딩 후 축소, 손목은 원본 244×244 의 위·아래 53줄(각 21.7 %)을 잘라낸 뒤 224×224 에 담았습니다. **위·아래에 검정 띠가 있습니다.** 가로 시야는 그대로입니다 (2026-09-11 갱신). * `release2/` — 원본(머리 672×376, 손목 424×240)을 비율을 무시하고 정사각으로 **눌러 담았습니다**(선형 보간, 패딩·잘라내기 없음). **검은 띠가 없으며** `taskB/`·`taskC/` 와 같은 방식입니다. 가로가 눌렸을 뿐 보이던 것은 전부 남아 있어, 원하면 가로로 늘려 원래 비율로 되돌릴 수 있습니다. * Episode당 용량은 `release1/` 55~181 MB(평균 86 MB, 총 약 77 GB) · `release2/` 35~200 MB(평균 58 MB, 총 약 94 GB) 입니다. * **State 규격 (2026-09-21 수정):** `observation.state` 의 Base 속도 3채널은 **직전 구간(`pose[t-1]`→`pose[t]`)** 의 측정값이며 첫 frame 은 0 입니다. 이전 판은 한 칸 앞선 구간(`pose[t]`→`pose[t+1]`)이 들어가 있어 `action[t]` 의 결과가 입력에 섞여 있었고, 놓는 순간에도 집게 명령이 1.0 으로 남아 있었습니다. **`release1/` 은 이 두 곳을 바로잡아 다시 올린 판이고, `release2/` 는 처음부터 바로잡힌 변환기로 만들었습니다.** **`taskB/` 유의사항** * **Pure Simulation Data:** Isaac Sim 물리 엔진 기반의 합성 데이터(Synthetic Data)이며, 실제 물리적 로봇(Real-world) 데이터는 포함되어 있지 않습니다. * **단일 아이템 수행:** 한 Episode당 오직 한 개의 상품만 진열합니다. 여러 상품을 연속으로 진열하는 Long-horizon 데이터는 포함되지 않습니다. * **성공(Success) 시연만 포함:** 모든 시연은 성공적으로 완수된 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다. * **Downsized Vision:** 세 카메라 모두 224×224 이며 **검은 띠가 없습니다.** 원본(머리 672×376, 손목 424×240)을 비율을 무시하고 정사각으로 **눌러 담았습니다**(패딩·잘라내기 없음). 가로가 눌렸을 뿐 보이던 것은 전부 남아 있어, 원하면 가로로 늘려 원래 비율로 되돌릴 수 있습니다. 이미지는 **JPEG**(품질 95, 4:4:4)입니다. * **카메라 사양:** 평가 환경과 같은 실기 사양으로 **다시 수집한 데이터**입니다 — 머리 672×376(수평 화각 85.0°), 손목 424×240(수평 화각 87.0°). 잘라내거나 띠를 넣지 않았습니다 (2026-09-14 갱신). **`taskC/` 유의사항** (`release1/`·`release2/` 공통) * **Pure Simulation Data:** Isaac Sim 물리 엔진 기반의 합성 데이터이며, 실제 로봇 데이터는 포함되어 있지 않습니다. * **정지 과제:** Base 채널(`action`/`state` [19~21])이 모든 frame에서 0이므로 주행 학습에는 쓸 수 없습니다. * **단일 상품 스캔:** 한 Episode당 상품 1개만 스캔합니다. 여러 상품을 연속으로 처리하는 Long-horizon 데이터는 포함되지 않습니다. * **성공(Success) 시연만 포함:** 모든 Episode는 파지·스캐너 인식·제자리 배치까지 완수한 케이스입니다. 실패 복구(Failure Recovery)를 학습할 수 있는 Negative Data가 없습니다. * **`grade` = `TOUCHED` 인 Episode (`release1/` 144편, `release2/` 40편):** 과제는 완수했지만 시연 도중 집은 상품이 이웃 상품에 닿은 기록이 있는 판입니다(대부분 제자리에 내려놓을 때). `taskC/meta/taskC_episodes.jsonl` 의 `grade` 로 구분되니, **참가자 여러분의 기호에 맞게 그대로 쓰셔도 되고 제외하셔도 됩니다** (Section 5 의 필터 예시 참조). * **30 fps:** `taskA/`·`taskB/`(10 fps)와 함께 사용할 경우 전처리 단계에서 주사율을 통일해야 합니다(30 fps에서 3 frame마다 1 frame을 취하면 10 fps). Episode당 용량은 `release1/` 평균 약 165 MB(총 약 176 GB), `release2/` 평균 약 98 MB(총 약 54 GB)입니다. * **Downsized Vision:** 세 카메라 모두 224×224 이며 **검은 띠가 없습니다.** `taskB/` 와 같은 방식으로, 원본(머리 672×376, 손목 424×240)을 비율을 무시하고 정사각으로 **눌러 담았습니다**(선형 보간, 패딩·잘라내기 없음). 가로가 눌렸을 뿐 보이던 것은 전부 남아 있어, 원하면 가로로 늘려 원래 비율로 되돌릴 수 있습니다. 이미지는 **JPEG**(품질 95, 4:4:4, `taskA/`·`taskB/` 와 동일)입니다. (2026-09-15 갱신 — 같은 날 앞서 올렸던 띠 있는 PNG 판은 전량 교체했습니다.) * **스캐너 인식 이벤트 누락 (`release1/` 31편, `release2/` 1편):** `scan_events` 가 비어 있는(`scan_count` 0) Episode 가 있습니다. 시연 자체는 인식까지 완수했으나 기록 로그가 남지 않은 경우이며, 그 Episode 에서는 인식 프레임을 알 수 없습니다. --- ## 8. 인용 (Citation) 본 데이터셋을 연구 및 논문에 활용하실 경우 아래 형식을 참조하여 인용해 주시기 바랍니다. ```bibtex @misc{ssu_realitylab_2026csstore, title = {2026 CS-Store Challenge: pick-and-place demonstrations for a convenience-store robot}, author = {SSU Reality Lab}, year = {2026}, url = {https://huggingface.co/datasets/SSU-RealityLab/2026CS-Store-Challenge} } ```