최근 GPT를 넘어서는 Character.AI와 같이 유명인과 대화하는 서비스는 많은 사람들이 꿈꾸는 서비스라고 생각합니다.
'Persona LAB에서는 이러한 모델을 어떻게 효율적으로 학습할 수 있을지'를 중점으로 연구하고자 합니다.
그와 관련돼서 PERSONA LAB은 2가지 팀으로 랩을 운영합니다.
Paper를 목적으로 Academic한 Research를 하는 Research 팀과
Project를 목적으로 Academic한 목적보다는 하고 싶은 project를 정해서 함께 구현하는 Engineering 팀으로 이루어져 있습니다.
Research 팀의 Question Mark
1. LLM의 MBTI는 무엇일까? 다른 MBTI를 갖도록 만들 수 있을까?
2. LLM의 어떤 personality를 갖고 있는지 어떻게 평가하고 이끌어낼 수 있을까?
3. LLM의 personality 별로 특정 Task에서 우위를 갖는 personality가 있을까?와 같은 질문들을 바탕으로 연구를 시작하는 단계입니다.
이후 LLM의 personality에서 나아가 paper를 위한 research 보다는 application적인 관점에서 아래와 같은 연구도 진행할 예정입니다.
1. LLM 전체를 fine-tuning하고, 각 Character 별 AI를 모두 별도로 운용하는 것은 자원이 비효율적이지 않을까?
2. 다양한 Character를 하나의 LLM이 커버하는 것이 가능할까?
2-1. 이 와 비례해서 모델의 크기가 커진다면 오히려 비효율적일 수 있지 않을까?
Engineering 팀은 이번에 추가 모집하는 분들 + 기존 랩원 분들이 모여 새롭게 만들어지는 팀입니다! Project 목표를 함께 정하고 진행할 예정입니다.
+ Research팀과 Engineering 팀 두 팀 모두에 소속 되어 진행해도 됩니다! 지원시에 희망하시는 팀을 기재해주세요.
+ Engineering 팀은 NLP 이외에도 video, voice, multi-modal을 진행해 볼 의향도 있기에 다양한 background를 가진 분들을 환영합니다.
(필요 시 사전 조율 후 강남 캠퍼스에서 offline으로 미팅을 진행합니다.)
1 month
- baseline 구현 및 실험 진행
2 month
- prompt engineering 외의 end-to-end training strategy 실험
- personality의 task 별 성능 실험 진행
1 month
- 추가 실험 진행 / paper 작업
#논문_작성
2. 열정이 있으신 분
3. 함께 하고 토론의 준비가 되신 분
4. 기초적인 NLP에 대한 이해가 있으신 분
5. 연구 경험이 있으신 분(우대)
이대엽
자기 소개
포항공과대학교 인공지능대학원에서 석사과정을 하고 있는 이대엽입니다. 현재 첫 학기를 재학 중이며 NLP에 관심을 가지고 있어 해당 분야로 연구를 진행하고자 합니다. 스타트업과 함께 협동 로봇과 딥러닝을 활용해서 대상 물체를 운반하는 프로젝트를 진행한 경험이 있습니다. (Synthetic Data 생성, Segmentation 모델 학습, 좌표 계산을 전담했습니다.) 또 시각장애인의 보행을 보조하는 프로젝트를 진행한 경험이 있습니다. (Object Detection을 통한 장애물 탐지, Segmentation을 통한 도로 인식을 전담했습니다.) KIST에서 6개월간 현장 실습을 진행하며 모델이 bias를 학습하는 문제를 해결하는 Debiasing 연구와, pretrained-Network가 어떤 data distribution을 학습했는지 추적하는 Inversion 연구에 참여했습니다. (Debiasing: 학습한 이미지에 1은 모두 빨간색(bias) -> 모델이 빨간색 이미지는 모두 1로 구분) (Inversion: data-free KD, data-free Continual Learning, data-free Pruning과 같은 분야에 활용 가능) 최근 LLM과 Character AI와 같은 분야에 관심이 생겨 NLP 공부와 더불어 연구해보고자 하는 의문에 대해 알아보고자 LAB을 열게 되었습니다. 많은 관심 부탁드립니다^^
소속
포항공과대학교 인공지능대학원
dyl9912@naver.com
최영
자기 소개
작은 블록체인 스타트업을 운영하고 있습니다. 강화학습에 관심이 많습니다!
소속
나이팅게일코리아
rick@sheepfarm.io
- 모임시작
- 2024년 06월 15일
- 모임일시
- 매주 토요일 16:00 ~ 18:00
- 모임장소
- 온라인
- 모집기간
- 2024년 05월 10일 ~ 06월 10일
- 모집인원
- 6명
- 모집방법
- 선발
- 모임비용
- 무료
최근 GPT를 넘어서는 Character.AI와 같이 유명인과 대화하는 서비스는 많은 사람들이 꿈꾸는 서비스라고 생각합니다.
'Persona LAB에서는 이러한 모델을 어떻게 효율적으로 학습할 수 있을지'를 중점으로 연구하고자 합니다.
그와 관련돼서 PERSONA LAB은 2가지 팀으로 랩을 운영합니다.
Paper를 목적으로 Academic한 Research를 하는 Research 팀과
Project를 목적으로 Academic한 목적보다는 하고 싶은 project를 정해서 함께 구현하는 Engineering 팀으로 이루어져 있습니다.
Research 팀의 Question Mark
1. LLM의 MBTI는 무엇일까? 다른 MBTI를 갖도록 만들 수 있을까?
2. LLM의 어떤 personality를 갖고 있는지 어떻게 평가하고 이끌어낼 수 있을까?
3. LLM의 personality 별로 특정 Task에서 우위를 갖는 personality가 있을까?와 같은 질문들을 바탕으로 연구를 시작하는 단계입니다.
이후 LLM의 personality에서 나아가 paper를 위한 research 보다는 application적인 관점에서 아래와 같은 연구도 진행할 예정입니다.
1. LLM 전체를 fine-tuning하고, 각 Character 별 AI를 모두 별도로 운용하는 것은 자원이 비효율적이지 않을까?
2. 다양한 Character를 하나의 LLM이 커버하는 것이 가능할까?
2-1. 이 와 비례해서 모델의 크기가 커진다면 오히려 비효율적일 수 있지 않을까?
Engineering 팀은 이번에 추가 모집하는 분들 + 기존 랩원 분들이 모여 새롭게 만들어지는 팀입니다! Project 목표를 함께 정하고 진행할 예정입니다.
+ Research팀과 Engineering 팀 두 팀 모두에 소속 되어 진행해도 됩니다! 지원시에 희망하시는 팀을 기재해주세요.
+ Engineering 팀은 NLP 이외에도 video, voice, multi-modal을 진행해 볼 의향도 있기에 다양한 background를 가진 분들을 환영합니다.
(필요 시 사전 조율 후 강남 캠퍼스에서 offline으로 미팅을 진행합니다.)
1 month
- baseline 구현 및 실험 진행
2 month
- prompt engineering 외의 end-to-end training strategy 실험
- personality의 task 별 성능 실험 진행
1 month
- 추가 실험 진행 / paper 작업
#논문_작성
2. 열정이 있으신 분
3. 함께 하고 토론의 준비가 되신 분
4. 기초적인 NLP에 대한 이해가 있으신 분
5. 연구 경험이 있으신 분(우대)
이대엽
자기 소개
포항공과대학교 인공지능대학원에서 석사과정을 하고 있는 이대엽입니다. 현재 첫 학기를 재학 중이며 NLP에 관심을 가지고 있어 해당 분야로 연구를 진행하고자 합니다. 스타트업과 함께 협동 로봇과 딥러닝을 활용해서 대상 물체를 운반하는 프로젝트를 진행한 경험이 있습니다. (Synthetic Data 생성, Segmentation 모델 학습, 좌표 계산을 전담했습니다.) 또 시각장애인의 보행을 보조하는 프로젝트를 진행한 경험이 있습니다. (Object Detection을 통한 장애물 탐지, Segmentation을 통한 도로 인식을 전담했습니다.) KIST에서 6개월간 현장 실습을 진행하며 모델이 bias를 학습하는 문제를 해결하는 Debiasing 연구와, pretrained-Network가 어떤 data distribution을 학습했는지 추적하는 Inversion 연구에 참여했습니다. (Debiasing: 학습한 이미지에 1은 모두 빨간색(bias) -> 모델이 빨간색 이미지는 모두 1로 구분) (Inversion: data-free KD, data-free Continual Learning, data-free Pruning과 같은 분야에 활용 가능) 최근 LLM과 Character AI와 같은 분야에 관심이 생겨 NLP 공부와 더불어 연구해보고자 하는 의문에 대해 알아보고자 LAB을 열게 되었습니다. 많은 관심 부탁드립니다^^
소속
포항공과대학교 인공지능대학원
dyl9912@naver.com
최영
자기 소개
작은 블록체인 스타트업을 운영하고 있습니다. 강화학습에 관심이 많습니다!
소속
나이팅게일코리아
rick@sheepfarm.io