Lab Image

T2M LAB (Talking To Myself & Text To Music)

모임 기간

2024.08.03 - 2024.11.02

모임 일시

매주 토요일 11:00 ~ 13:00

장      소

온라인

모집 기간

2024.07.15 - 2024.08.01

모집 인원

3명

선발 방식

사전 질문 기반 심사

랩 소개
운영 방식
참여 요건
랩장 소개

⭐️ 랩 소개

한 줄 소개
Talking To Myself & Text To Music
분야
HUMANITIES_SOCIAL, ENGINEERING, ARTS
목표 결과물
COMPETITION, OPEN_SOURCE
[T2M LAB 소개] T2M LAB은 개인의 기록물(블로그, 일기 등)을 기반으로 '나'처럼 말하는 LLM(대규모 언어 모델)과 RAG(검색 증강 생성) 시스템을 구현하고, 응답에 대한 음악 생성모델 적용을 개발, 구현하는 데에 집중합니다. 모두연 KDT AI리서치 과정 6기 수료생 2명이 리드할 예정이며, 기술과 예술, '나'와 'AI'가 만나는 지점을 창조적이고 창의적으로 실험해보는 프로젝트입니다. * 목표 T2M LAB을 통해서 저희는 AI와 예술이 만나는 지점을 팀원 분들과 탐구해보고자 합니다. 이번 프로젝트의 목표는 T2M LAB 서비스를 3개월 동안 웹앱으로 구현하는 것이며, 실제로 최종 사용자들이 인터넷으로 접근하여 활용할 수 있도록 하는 것입니다. 서비스 기획부터 개발까지의 전 과정을 팀원 분들과 함께 수행해나가면서 실제 서비스 개발 과정을 경험할 예정입니다. 연말에 해당 서비스를 전시 등의 공유회에 출품할 예정입니다.(추후 결정) 프로젝트 진행 중에는 개인 사용자들의 데이터 베이스 관리와 개인정보보호, 모델의 경량화 등 실제하는 문제점들을 다룰 예정입니다. 저희 랩짱 두 명의 경험과 상호보완을 할 수 있는 역량을 갖춘 팀원 분들과 함께 소통하면서 해결해나가려고 합니다. 또한 생성모델(음악)이나 RAG모델을 위한 GPU자원을 확보해서 다양한 실험을 수행합니다. * 주요 연구 주제 - 공개된 한국어 언어모델 기반의 개인화 LLM 모델 튜닝 - 모델 튜닝을 위한 개인 기록 전처리 및 학습 방법론 - RAG 시스템의 기본 구조와 효과적인 탐색 알고리즘 - 오픈소스 LLM과 스테이블 오디오 API의 연결 파이프라인 구현 과정에서는 아래와 같은 문제들에 유의하여 치열하게 토론하고 구현가능한 가드레일을 시험해봅니다. ### 도전해볼만한 과제 - '내 개인 정보를 AI에 제공해도 괜찮을까?' : 보호해야 할 정보의 마스킹 방법 - '질문/답변의 윤리성을 어떻게 보장하지?' : 파인튜닝한 오픈소스 모델의 가드레일 설정 방법 - '내 취향/응답의 분위기를 살린 음악을 어떻게 생성하지?' : 오디오 디퓨전 모델의 효과적인 프롬프트 엔지니어링 구체적으로는 프로젝트를 제안하는 랩짱들이 보유한 기록물(블로그, 일기 등)로 '나'처럼 말하는 LLM 모델 자체 구현 혹은 RAG를 개발해보고, 구현된 LLM과 RAG의 응답을 바탕으로 Stable Audio와 같은 디퓨전 모델로 테마 음악을 만들고 재생하는 기능을 추가합니다. 이 과정에 필요한 단계를 연구하고, 역할을 나누어 구현한 후 결과물을 문서/컨텐츠 형태로 설명하는 자료를 함께 만듭니다.

⭐️ 운영 방식

모두연 AI 리서치 6기를 수료한 2명의 팀원이 리드합니다. * 일정 8월 3일부터 11월 2일까지 총 15회 진행 * 팀원 모집 추가 팀원은 3인 내외로 모집 * 운영 방식 매주 정기적인 팀원 미팅을 가집니다. (팀원 상황에 맞게 온/오프라인으로 선택) * 초기 논의 및 이후 진행 초기 3회 모임에서는 현재까지 진행된 상황을 공유하고, 팀원들의 기대와 역할을 조정하기 위해 결과물에 대한 비전을 공유합니다. 4회 모임부터는 애자일 방식으로 다음번 모임까지의 역할과 목표를 정하고 매주 피드백을 진행합니다. * 최종 결과물 활용 공모전이나 연구기관 논문 제출에 대해서는 초기 진행 단계에서 함께 제출처를 찾아봅니다. 공모전의 경우는 예술/공학 융합 분야에서 전시 형태로 팀이 만든 결과물을 관람객들이나 사용자들에게 제공할 수 있는 기회를 탐색합니다. 논문의 경우에는 RAG 채팅에 관한 정성적인 사용자 평가나 분석 결과를 중심으로 이에 관한 논의가 이루어지고 있는 국제연구기관을 찾고, 활동 종료 시점에 최종적으로 제출 준비 여부와 시즌 연장 여부를 함께 결정합니다.

⭐️ 커리큘럼

⭐️ 참여 요건

[기본 조건] - LLM 모델/공개된 모델 사용 API 활용 방법에 대한 이해 - 파이썬과 자바스크립트 문법 기본 [추가로 아시면 더 좋아요] - 직접 데이터를 이용해 모델을 파인튜닝한 경험 - 프론트엔드에서 백엔드 API를 호출해서 구현한 경험 - DB(테이블 형태의 RDB 및 비정형 JSON 형태)와 연결된 백엔드 API를 구축하고 이를 클라우드에 배포하는 방법

⭐️ 사전 질문

최근에 진행하신 AI 관련 업무나 프로젝트에 대해 말씀해주시겠어요?
깃헙 주소를 알려주세요.
마지막으로 쓴 일기나 블로그의 날짜는?
최근에 즐겨 들은 음악 / 레이블 / 가수 하나만 알려주세요.
이 프로젝트나 공동랩짱에게 묻거나 전하고 싶은 내용을 자유롭게 남겨주세요.

⭐️ 랩장 소개

avatar_img
김정현
예비창업가 · lallacri86@gmail.com
프로덕트 매니저, 모두의 연구소 리서치 과정, 창업 등의 경험을 갖고 있습니다.
avatar_img
이명준
아이펠 6기 / Heartsignal · chancecatch@icloud.com
안녕하세요 저는 음악을 좋아하고 기타를 칩니다. 곡을 만듭니다. 그리고 지금은 아이펠 6기 리서치 과정으로 모두의 연구소에서 인공지능을 공부하고 있습니다. 제 소개를 하기가 조금 복잡하긴 하지만, 저는 과거에 2년정도 Studio Blue라는 독립 음악 작업실을 운영했었습니다. 음악 작업도 하고, 커뮤니티 공간으로도 사용했었는데요, 홍대나 거리에서 주로 공연하고, 지역에서는 공연을 만들거나 실내, 야외 공연 사운드 엔지니어 등 여러가지 일을 했었습니다. 당시에는 작업실 운영하면서 음악을 해보자는 생각이었는데, 시간이 지나다보니 쉽지 않았고, 이 후에는 음악보다는 문화 기획자로 일하게 되었습니다. 그렇게 지내다가 최근까지는 서울문화재단에서 약 4년정도 일했었고, 이 후에는 커리어를 바꿔보고 싶어서 인공지능을 공부하고 있습니다. 다만 저는 계속해서 창작활동은 하고 싶은 마음입니다.(예술병이라고 하나요 이걸..?) 아무튼 인공지능과 함께 한다면 창작이 보다 수월해지는 부분도 있을 것 같고, 또 과거에 창작활동에 장애가 되었던 문제들을 해결해 볼 수 있을 것 같아서 이번 랩에 지원하게 되었습니다.! 링크드인 주소를 첨부하니 참고해주세요 : www.linkedin.com/in/chancecatch