2024년 12월 26일, 대한민국 국회는 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안” (가칭 “AI 기본법”)을 통과시키며 인공지능 시대의 새로운 서막을 열었습니다.
이는 EU에 이어 세계에서 두 번째로 제정된 인공지능 관련 일반법으로, 대한민국이 인공지능 선도 국가로 도약하기 위한 담대한 첫걸음이라 할 수 있습니다.
AI 기본법은 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 기본적인 사항을 규정함으로써, 국민의 권익과 존엄성을 보호하고, 국민의 삶의 질 향상과 국가 경쟁력 강화를 목표로 하고 있습니다.
그렇다면, AI 기본법은 구체적으로 어떤 내용을 담고 있으며, 우리 사회에 어떠한 변화를 가져올까요?
본 글에서는 AI 기본법의 주요 내용과 시사점을 심층적으로 분석하여, 이 법안이 대한민국 인공지능 생태계에 미칠 영향과 미래 전망을 면밀히 살펴보겠습니다.

AI 기본법 주요 내용

Imagen3로 만든 AI 기본법을 발의하는 국회의원

인공지능 발전 촉진

먼저, AI 기본법은 크게 인공지능 발전 촉진과 신뢰 기반 조성이라는 두 가지 큰 축을 중심으로 구성되어 있습니다.
인공지능 발전 촉진 측면에서는, 과학기술정보통신부 장관이 3년마다 인공지능 기술 및 산업 진흥, 국가 경쟁력 강화를 위한 기본계획을 수립하고, 국가인공지능위원회의 심의 및 의결을 거쳐 시행하도록 규정하고 있습니다.
또한, 정부는 인공지능 기술 개발, 시험, 평가, 실용화, 사업화 등을 지원하고, 특히 학습용 데이터 활용과 데이터센터 활성화를 위한 별도의 시책을 추진합니다.
더불어, 국가 기관 및 기업의 인공지능 도입, 중소기업 및 창업 지원, 전문인력 양성, 해외시장 진출 지원 등을 통해 인공지능 산업 생태계 전반을 육성하며, 인공지능과 타 산업 간 융합을 촉진하고 전 분야에서 인공지능 활용을 활성화하기 위한 시책도 적극 추진할 계획입니다.
마지막으로, 인공지능 산업 발전과 신뢰 기반 조성을 위해 법령 및 제도를 개선하고, 관련 연구 및 의견 수렴을 지원하는 등 제도적 기반도 착실히 정비해 나갈 것입니다.

신뢰 기반 조성

신뢰 기반 조성 측면에서는, 정부가 안전성, 신뢰성, 접근성, 인간의 삶과 번영에의 공헌 등을 포함하는 인공지능 윤리원칙을 제정 및 공표하고, 실천 방안을 수립하도록 명시하고 있습니다.
또한, 안전하고 신뢰할 수 있는 인공지능 이용 환경 조성, 안전기술 및 인증기술 개발, 교육 및 홍보, 자율 규약 제정 지원 등 신뢰 기반 조성을 위한 종합적인 시책을 추진합니다.
특히, 교육 및 연구기관, 인공지능 사업자 등이 자율적으로 윤리원칙 준수 여부를 확인하고, 안전 및 인권 침해를 조사하는 민간 자율 인공지능 윤리위원회를 설치할 수 있도록 하여, 민간의 자발적인 윤리 의식 함양을 장려하고 있습니다.
더불어, 과학기술정보통신부는 인공지능 관련 위험으로부터 국민을 보호하고 신뢰 기반을 유지하기 위해 인공지능 안전 연구소를 운영할 예정입니다.

거버넌스 체계 구축

이와 더불어, AI 기본법은 민관 협력을 통한 효율적인 인공지능 정책 추진을 위해 거버넌스 체계를 새롭게 구축하였습니다.
대통령을 위원장으로 하고, 민간위원이 과반을 차지하는 국가인공지능위원회를 설치하여, 민간 주도의 인공지능 정책을 추진할 수 있는 기반을 마련하였습니다.
또한, 인공지능 정책 개발 및 업무 수행을 지원하기 위한 인공지능 정책센터와 한국인공지능진흥협회를 설립하여, 전문적이고 체계적인 정책 추진을 뒷받침할 계획입니다.

인공지능 사업자의 의무와 규제

한편, AI 기본법은 인공지능 사업자에 대한 구체적인 의무를 규정함으로써, 책임 있는 혁신을 장려하고 있습니다.
인공지능 사업자를 인공지능 개발 사업자와 인공지능 이용 사업자로 구분하고, 특히 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 고영향 인공지능과 입력 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상 등 다양한 결과물을 생성하는 생성형 인공지능 사업자에게는 더욱 엄격한 의무를 부과하고 있습니다.

구체적으로, 고영향 또는 생성형 인공지능 이용 사업자는 제품 또는 서비스가 인공지능에 기반하여 운용된다는 사실을 사전에 고지해야 하며, 생성형 인공지능 사업자는 결과물이 인공지능에 의해 생성되었다는 사실을 표시해야 합니다.
특히, 딥페이크와 같이 실제와 구분하기 어려운 결과물을 제공하는 경우에는 해당 사실을 이용자가 명확하게 알 수 있도록 고지해야 합니다.
또한, 일정 규모 이상의 인공지능 사업자는 위험 식별, 평가 및 완화, 위험 관리 체계 구축 등 안전성 확보 조치를 이행하고, 그 결과를 과학기술정보통신부 장관에게 제출해야 합니다.
고영향 인공지능 사업자는 제공하는 인공지능이 고영향 인공지능에 해당하는지 사전에 검토해야 하며, 필요한 경우 과학기술정보통신부 장관에게 확인을 요청할 수 있습니다.
더불어, 고영향 인공지능 사업자는 위험 관리 방안 수립 및 운영, 인공지능 설명 방안 수립 및 시행, 이용자 보호 방안 수립 및 운영, 사람의 관리 및 감독, 문서 작성 및 보관 등의 조치를 이행해야 하며, 고영향 인공지능 이용 사업자는 사전에 사람의 기본권에 미치는 영향을 평가하기 위해 노력해야 합니다.
마지막으로, 일정 규모 이상의 해외 인공지능 사업자는 국내 대리인을 지정하고 이를 과학기술정보통신부 장관에게 신고해야 합니다. 이러한 의무를 위반할 경우, 투명성 확보 조치, 국내 대리인 지정, 사실 조사에 따른 중지 또는 시정 명령 이행 등의 규정을 위반한 인공지능 사업자는 3천만 원 이하의 과태료를 부과받을 수 있습니다.

AI 기본법 이 가져올 사회적 변화

AI 기본법이 불러올 변화들 by Imagen3

그렇다면, AI 기본법은 우리 사회에 어떠한 변화를 가져올까요?
AI 기본법은 인공지능 기술 개발과 산업 육성을 위한 체계적인 지원 체계를 마련하고, 동시에 안전하고 윤리적인 인공지능 생태계 조성을 위한 기반을 구축했다는 점에서 큰 의의를 갖습니다.
특히, 민간 주도의 국가인공지능위원회 설치는 민관 협력을 통해 인공지능 정책의 실효성을 높이고, 빠르게 변화하는 기술 환경에 유연하게 대응할 수 있는 기반을 마련했다는 평가를 받습니다.

향후 과제와 전망

그러나 AI 기본법은 이제 막 첫걸음을 뗀 것에 불과합니다.
법안의 실효성을 확보하고, 대한민국 인공지능 생태계의 지속 가능한 발전을 위해서는 구체적인 시행령 및 가이드라인 마련, 실질적인 이행 및 감독 체계 구축, 지속적인 법제 개선 및 보완, 국제 협력 강화 등 앞으로 해결해야 할 과제들이 산적해 있습니다.
특히, 고영향 인공지능의 범위, 의무 이행을 위한 구체적인 기준 및 절차 등은 시행령, 고시 및 가이드라인 등을 통해 구체화될 예정이며, 이 과정에서 산업계, 학계, 시민단체 등 다양한 이해관계자의 의견을 수렴하고, 기술 발전 속도와 규제 실효성 간의 균형을 맞추는 것이 중요합니다.
또한, 법에 명시된 의무 사항들이 현장에서 실질적으로 이행될 수 있도록 체계적인 감독 및 지원 체계를 구축하고, 중소기업 및 스타트업이 과도한 규제 부담을 느끼지 않도록 실질적인 지원 방안을 마련해야 합니다.
더불어, 인공지능 기술의 빠른 발전 속도에 발맞춰 AI 기본법 역시 지속적으로 개선되고 보완되어야 할 것이며, 예상치 못한 위험이나 부작용이 발생할 경우 신속하게 대응할 수 있는 유연한 법체계 구축이 필요합니다.
마지막으로, 인공지능은 국경을 초월하는 기술이므로, AI 기본법의 성공적인 안착을 위해서는 EU AI Act 등 국제적인 인공지능 규범과의 조화를 꾀하고, 글로벌 인공지능 거버넌스 구축에 적극적으로 참여해야 합니다.

결론적으로, AI 기본법은 대한민국이 인공지능 강국으로 도약하는 데 있어 든든한 초석이 될 것입니다.
이 법을 통해 인공지능 기술 혁신과 산업 육성이 촉진되고, 안전하고 윤리적인 인공지능 생태계가 조성됨으로써, 국민의 삶의 질 향상과 국가 경쟁력 강화에 크게 기여할 것으로 기대됩니다.
AI 기본법이 성공적으로 안착되기 위해서는 정부, 기업, 학계, 시민사회 등 모든 이해관계자의 적극적인 참여와 협력이 필수적이며, 특히 인공지능 사업자는 AI 기본법에 규정된 의무를 성실히 이행하고, 책임 있는 혁신을 통해 인공지능 기술의 혜택이 사회 전반에 확산될 수 있도록 부단히 노력해야 할 것입니다.
앞으로 AI 기본법이 대한민국 인공지능 생태계에 어떠한 변화를 가져올지, 그리고 대한민국이 글로벌 인공지능 시대를 어떻게 선도해 나갈지 그 귀추가 주목됩니다.