올해 마지막 서두르세요! 현업 데이터 사이언티스트가 만든 유일한 과정 마감임박
#아이펠 #인공지능 

OpenAI DevDay 이후 급변하는 OpenAI 상황

OpenAI DevDay 이후 1주일만에 샘 알트만과 그렉 브록만이 이사회에서 해임되었다. 해임된 이유로 비영리재단적 성격을 갖고 있는 OpenAI 법인이 영리사업을 하면서 생긴 관점차이로 해석된다.

2023-11-20 | 이영빈

원래 이번에 블로그로 OpenAI DevDay와 Microsoft Ignite를 다루기 위해 글감을 모으던 중에 OpenAI CEO인 샘 알트만과 OpenAI 이사회 의장인 그렉 브록만이 해임되는걸 보고 상황을 재구성해볼 예정입니다. 이번 글의 내용은 이전에 제 개인 페이스북에 공개했던 을 확장해서 재구성할 것입니다.

OpenAI 조직 구조

이번 사건을 알기 위해서는 OpenAI 조직구조를 파악할 필요가 있습니다. OpenAI 공식 홈페이지를 보면 OpenAI는 다음과 같은 그림으로 되어 있고 다양한 조건들이 들어가 있습니다.

OpenAI Org Structure

첫째, 영리 자회사는 OpenAI 비영리단체가 완전히 통제합니다. 이를 위해 비영리 단체가 영리 자회사를 통제하고 관리할 수 있는 권한을 가진 관리 법인(OpenAI GP LLC)을 전적으로 소유하고 통제하도록 했습니다.

둘째, 이사회는 여전히 비영리단체의 이사회이기 때문에 각 이사는 광범위한 이익을 위한 미션-안전한 AGI를 위해 신탁 의무를 수행해야 합니다. 영리 자회사는 수익을 창출하고 분배하는 것이 허용되지만, 이 사명에 따라야 합니다. 비영리 자회사의 주요 수혜자는 OpenAI 투자자가 아닌 인류입니다.

셋째, 이사회는 과반수 이상의 독립성을 유지합니다. 사외이사는 OpenAI의 지분을 보유하지 않습니다. 심지어 OpenAI의 CEO인 샘 알트먼도 직접 지분을 보유하지 않습니다. 알트먼은 정규직이 되기 전에 OpenAI에 소액을 투자한 와이콤비네이터 투자 펀드를 통해 간접적으로 지분을 보유하고 있을 뿐입니다.

넷째, Microsoft를 포함한 투자자와 직원에게 배분되는 이익은 상한선이 정해져 있습니다. 한도를 초과하여 창출된 모든 잔여 가치는 인류의 이익을 위해 비영리 단체에 반환됩니다.

다섯째, 이사회는 AGI 달성 시점을 결정합니다. 다시 말하지만, AGI는 경제적으로 가장 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템을 의미합니다. 이러한 시스템은 AGI 이전 기술에만 적용되는 Microsoft와의 IP 라이선스 및 기타 상업적 조건에서 제외됩니다.

이런 5가지 조건이 생겨난 조직구조는 OpenAI가 비영리기관에서 시작되었기 때문입니다. OpenAI을 처음 설립했을 때 설립자들이 제일 우려했던 지점은 빅테크들이 OpenAI의 AGI를 독점하게 되어 만인에게 이익을 제공하지 못하게 되는 것이라 추측합니다. 그렇기에 아무리 빅테크가 OpenAI에 투자를 하더라도 배분되는 이익의 상한선이 정해져 있으며 모든 의결권은 OpenAI 이사회가 통제하는 방식을 취하게 되었습니다.

OpenAI DevDay에서 비롯한 샘 알트만과 이사회 간 갈등

OpenAI가 초기에 비영리성을 추구하고 있었지만 AGI를 만들기 위해 필요한 목표 모금액인 10억달러중에서 일론 머스크가 지원한 금액을 제외하고는 많은 금액이 모이지 않았습니다. 2019년에 OpenAI는 비영리법인하에 두는 영리법인을 만들어 모금 대신 수익사업을 시작하기로 했습니다. 이때 OpenAI 영리법인 CEO로 샘 알트만이 선입됩니다. 2021년에는 OpenAI는 GPT-3.5와 GPT-4를 만들기 위해 Microsoft와 협약을 맺었습니다. 해당 협약은 Microsoft가 OpenAI 영리법인에 투자를 하는 대신 다양한 리소스를 OpenAI에 제공하고 상호협력한다였습니다.

여기까지는 샘 알트만이 AGI를 위해 영리법인의 목적을 잘 수행했다고 볼 수 있습니다. 그러나 OpenAI DevDay때부터 문제가 터지기 시작한것 같습니다. OpenAI DevDay는 OpenAI가 주최한 최초의 컨퍼런스였으며 키노트에서의 알트만은 스티브잡스의 재림을 보는것 같았다라는 평가가 있었습니다. OpenAI DevDay는 간단하게 요약하자면

  1. GPT-4-Turbo-128k 모델 출시

  2. GPTs 출시

  3. GPT-4 파인튜닝 실시

가 대표적인 내용들이었습니다. OpenAI는 이 모든 내용들을 발표 직후 전부 출시했습니다. 여기서 알트만과 이사회 간 갈등이 깊어졌을거라 생각합니다.

알트만 해임을 주도한 대표적인 이사회 멤버 : 일리야 서츠케버

알트만을 포함한 알트만을 지지하는 구성원들(알트만, 브록만, 그외 엔지니어들)의 입장은 OpenAI도 다른 빅테크들처럼 자신들의 프로덕트를 발표하고 사람들에게 이용을 해 영리적인 목적을 최대한 달성하면서 AGI 연구를 진행하는 거라 봅니다. 반면 알트만을 지지하지 않은 구성원들(일리야, 디안젤로, 타샤 맥쿼리, 헬렌 토너)의 입장에서는 OpenAI 영리법인이 본래의 목적을 상실하고 AGI연구에 힘쓰지 않는다고 판단했다고 봅니다. 그렇기에 OpenAI의 비전을 수호하는 OpenAI 이사회 입장에서 브록만과 알트만은 비전을 전혀 지키지 않았기에 알트만은 해고하고 브록만은 이사회에서 쫓아냈다고 볼 수 있습니다.

알트만 해임 이후 상황

알트만과 브록만이 사실상 회사를 그만둔 이후에 강한 협력관계를 구축하고 있던 Microsoft가 힘을 쓰는 동시에 임시 CEO로 앉아 있는 미라 무라티도 알트만을 다시 복직하는걸 안건사항으로 올렸다고 합니다. 알트만은 트위터에 OpenAI 게스트용 출입증을 갖고 있는 사진을 올려 복귀를 암시했습니다. 그러나 현재 OpenAI 이사회는 알트만을 재신임하지 않고 전 트위치 CEO였던 에멧 쉬어를 선임했습니다. 결국 알트만의 OpenAI 복귀는 물건너갔으며 알트만을 지지했던 엔지니어들도 퇴사를 준비하고 있다고 전해졌습니다.

(추가) 샘 알트만과 그렉 브록만은 마이크로소프트로 합류할 예정입니다.

앞으로의 OpenAI는?

The future of the AGI

OpenAI는 한동안 부침이 있을거라고 생각합니다. 우선 Microsoft가 OpenAI를 더이상 신뢰하지 않을 가능성이 높고 추가적인 리소스 지원 또한 미지근해질 가능성이 높습니다. 또한 알트만을 지지하는 많은 엔지니어들이 퇴사를 고려하고 있습니다. 아직 퇴직 의사를 공식적으로 밝히지 않았지만 안드레이 카파시 또한 이번 사건을 계기로 떠난다는 이야기가 돌고 있습니다.

그렇다고 부정적인 것만 있는것은 아닙니다. OpenAI가 영리법인이 생긴 이후에 모든 모델들을 비공개했으며 LLaMA가 등장하기 이전까지 모든 빅테크들은 모델 공개를 진행하지 않았습니다. 뿐만 아니라 OpenAI는 GPT-4의 경우 논문 또한 공개하지 않고 성능 리포트만 공개했는데 이 또한 빅테크들이 업계 관례처럼 사용되고 있습니다. 적어도 이번 사건을 계기로 이러한 관행들이 점차 없어질 것이라는 생각이 듭니다.

한편으로 DevDay때 발표한 많은 내용중에서 대부분은 출시했지만 GPT-4-turbo의 경우 아직 공개를 하지 않았는데 출시일이 뒤로 밀릴 가능성도 있습니다. 실제 GPT-4-turbo의 경우 AI safety에 대한 검증이 덜 되었다는 보도들이 있기도 하고 속도조절을 하기 위해 출시일을 뒤로 미룰 것 같습니다.