한 줄 소개
원자력 제어 자율 AI 에이전트의 인지 보안 취약점 평가 및 방어 체계 연구
분야
ENGINEERING
목표 결과물
PAPER, OPEN_SOURCE
랩 소개
SafeNuke Lab은 원자력 발전소 제어 시스템에 도입될 자율 AI 에이전트의 인지 보안(Cognitive Security)을 연구합니다. 가상의 원전 제어 에이전트 환경을 구축하고, 2D 위협 택소노미 기반의 자동화 레드티밍을 통해 취약점을 평가하며, 이를 방어할 수 있는 아키텍처를 설계합니다.
운영 방식
- 주 1회 위클리 미팅 (프라이빗 디스코드 채널) - KAERI: 도메인 특화 Mock 에이전트 환경 구축 및 위험 택소노미 공동 정의 - 자동화 레드티밍 수행, 취약점 분석 및 가드레일 설계 - AI 탑티어 학회 워크샵 논문 작성 및 투고
커리큘럼
1주차 오리엔테이션 및 연구 주제 논의
2주차 연구 주제 선정 및 선행 연구조사
3주차 선행 연구조사 기반 연구 문제 도출
4주차 연구 문제 기반 실험 설계
5주차 실험 수행 및 결과 해석
6주차 논문 작성 및 검수
참여 요건
- AI 보안, LLM 안전성, 또는 원자력/Safety-Critical 시스템 중 하나 이상의 분야에 관심이 있는 분 - Python 기반 개발 경험 (LLM API 호출, 프롬프트 엔지니어링 등) - 주 1회 위클리 미팅에 꾸준히 참여 가능한 분 - 연구 결과를 논문 또는 기술 보고서로 정리할 의향이 있는 분
사전 질문
AI Safety 또는 Adversarial Attack 관련 경험이나 관심 분야를 간단히 소개해 주세요.
Red Teaming(레드티밍)에 대해 알고 계신 내용이 있다면 자유롭게 작성해 주세요.
본 연구에 참여하려는 동기와 기대하는 바는 무엇인가요?
주당 투입 가능한 시간은 어느 정도인가요?
랩장 소개
최다솔
SafeNuke LAB
모임 기간
2026.03.30 - 2026.06.30
모임 일시
격주 목요일 20:00 ~ 22:00
장 소
온라인
모집 기간
2026.03.30 - 2026.03.30
모집 인원
2명
선발 방식
사전 질문 기반 심사