우리는 데이터가 연료인 시대를 살고 있습니다. 새로운 기술과 과학적 진보를 위해서는 데이터의 생성, 축적, 전송 및 분석이 필수불가결합니다. 그러나 이러한 과정에서 개인정보 유출이나 오용의 위험이 높아집니다. 특히 의료 분야와 같이 민감한 도메인에서는 데이터의 오용이 심각한 문제가 될 수 있어 개인정보 보호는 절대적으로 필수적입니다. 하지만 개인정보 보호를 강화하려는 노력은 활용 가능한 데이터 양과 질을 제한할 수 있습니다. 이는 AI 개발자들에게 모델 성능의 저하를 초래할 수 있습니다. 반면에 데이터 활용성을 강조하려면 개인정보 보호에 취약한 상황이 발생할 수 있습니다. 이러한 상황을 Privacy-Utility Tradeoff라 정의하며, 이는 데이터 보유자(개인, 회사, 정부 등)와 데이터 활용자(데이터 과학자) 간의 갈등을 유발하기도 합니다. 그렇다면 Privacy를 보호하면서 AI 개발과 유틸리티를 향상 시킬 수 있는 방법은 없을까요? Privacy Enhancing Technology (PET)은 개인정보 보호와 활용성 강화를 위한 기술입니다. 이 기술은 현재의 개인정보 보호 조치로 인해 발생할 수 있는 활용성의 손실을 최소화하고, 더 나은 개인정보 보호와 더 큰 효용성을 동시에 달성하고자 합니다. Private AI lab에서는 우리 모두가 함께 Privacy Enhancing Technology (PET)를 공부하고, 각 도메인에 맞는 적절한 사례에 이 기술을 실험적으로 적용하는 연구를 진행하려 합니다. 이를 통해 더 나은 개인정보 보호와 더 큰 데이터 활용 가능성을 조화롭게 결합하는 방법을 모색하고, 미래의 더 자유로운 데이터 분석 환경을 함께 만들어 나가고자 합니다.

Privacy-enhancing technology (PET)의 중요성은 점점 강조되고 있지만, 이를 배울수 있는 material은 많지 않습니다. CS231n 을 접하신적이 있으신가요? Andrew Ng 교수님이 "AI for Everyone" 을 듣고 AI 연구에 발을 디디셨나요? PET영역에서는 OpenMined 의 "Private AI Series" 코스가 그 역할을 할 것으로 기대하고 있습니다. "Our Privacy Opportunity" 는 PET의 개념을 잡고 그 필요성을 이해하는데 도움이 됩니다. "Foundations of Private Computation"에서는 더 실질적인 PET의 적용 사례를 경험해 볼 수 있을 겁니다. 저희 모임은 OpenMined의 Private AI series 를 한글로 번역하고 정리하여 더 많은 사람들이 PET를 쉽게 접할 수 있는 교두보가 되고자 합니다. 천천히 시작해 보자구요.

PET에 관심있는 모두.

AI 나 Data science 연구 경력

주요 연구 domain