2022년 11월, Open AI 가 ChatGPT를 공개하였을 때 5일 만에 100만 사용자가 모였습니다. 6개월 후에는 글로벌 AI 회사의 CEO들과 전문가들이 선언문을 발표하였는데요, 그 내용은 AI로부터 인류의 생존에 대한 위험을 완화하는 것은 전 세계 차원에서 핵전쟁을 예방하는 만큼의 중요성과 우선순위를 가져야 한다는 것이었습니다. 그리고 모두 아시다시피 최근 Open AI의 CEO의 닷새 동안의 해임 역시 이런 AI의 상업화를 목적으로 한 연구 방향에 대한 의견대립에 의해서였죠. 그리고 203년 11월, 영국 정부의 주도하에 제1회 AI Safety Summit이 런던에서 열렸고 약 28개국의 대표들이 모여서 AI 안전에 대한 task force를 설립하기로 합의하였습니다. 2024년 5월, 그 2번째 회의가 서울에서 열릴 예정이고요. 현재 미국과 유럽연합에서도 AI 관련법률이 처음으로 통과되었고, 마이크로소프트, 구글 등 글로벌 기업들이 속속 AI 안전 전문가, AI 정책 전문가들을 발빠르게 채용하기 시작하였습니다. AI Safety Labs 이러한 배경에서 향후 한국, 그리고 글로벌 기업, 정부들이 AI의 상업적 개발에 대한 견제와 정책에 대해서 연구하고자 합니다. 최근 발표된 정책과 논문들, 그리고 현재 기업들의 정책들을 연구하고 이를 바탕으로 향후 자신만의 업무에 AI 정책, 안전성에 관한 프레임워크를 적용하고 이해할 수 있도록 도와주는 목표를 가지고 있습니다. 모두연구소에서 시작하는 AI Safety Lab은 AI 상업화 개발에 대한 안전성과 정책에 대한 think tank가 되고자 합니다.

격주마다 (수) 19:30~21:30 모두의연구소 강남캠퍼스에서 오프라인으로 스터디를 진행합니다. 스터디를 시작하는 첫주에 스터디 모집자가 최근의 글로벌 AI Safety 관련 정책, 스터디 범위와 방향성을 파악해서 공유해 드립니다. 관심사나 주제에 따라 2명씩 발표그룹/집필그룹을 만듭니다. 두 번재 모임부터는 각자 선정한 주제에 대해 최근 논문, 연구를 깊이 있게 리뷰하고 각 그룹별로 격주마다 돌아가면서 발표를 하게 됩니다. 이 과정에서 개별적인 AI Safety 문제에 대한 이해를 높이고, 여기에 대한 해결 방안을 찾는데 도움이 됩니다. 해당주에 발표그룹이 아닌 다른 참여자들도 발표그룹에게 각자의 경험을 바탕으로 새로운 접근 방식이나 해결방안을 공유하고, AI Safety에 관한 다양한 관점을 시사합니다. 현재 AI Safety 관련 정책과 Initiatives에 대한 연구 토픽들은 다음과 같습니다: -Explainable and accountable AI systems, -Privacy and data protection -AI-guided munitions -Emotional recognition -Social discrimination, misinformation, hate speech & democratic participation and censorship. -Automated fact-checking tools 연구목표: 2024년 Q3 AI Safety관련 도서집필 및 출간

- AI 정책, 안정성, 법률에 관심이 있고, 해외 논문 리뷰가 가능한 분. - 실제 AI 정책을 다루어본 경험이 있으신 분 (우대). - AI 스타트업에서 근무한 경험이 있으신 분 (우대). - 적극적으로 질문하고 토론하는 분. - 성숙한 커뮤니케이션 태도를 지니신 분. - 꾸준한 활동이 가능하신 분.

AI Safety Lab에 함께하고자 하는 동기에 대해서 궁금합니다 =)

현재 어떤일을 하시고 있고 그 전에는 어떤 경험을 쌓으셨나요?

AI Safety Lab에 함께할 경우 이루고 싶은 목표가 있으신가요?

당신은 어떤 사람인가요? (성격.취미.아무거나 좋습니다!)

혹시 이전에 도서집필에 도전해보신적이 있으신가요?