성장과 책임의 균형을 묻다

AI 기본법의 등장

글 편집실

AI 기본법이란?

•

AI 기본법은 AI 기술의 개발과 활용을 지원하는 동시에, 안전성과 신뢰를 확보하기 위한 기준을 마련한 법이다. 특히 생성형 AI를 활용한 영상과 서비스에 AI 생성 사실을 표시하도록 하는 투명성 의무를 핵심으로 한다. 또한 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미칠 수 있는 ‘고영향 인공지능’* 개념을 도입해 별도의 관리 체계를 마련했다.

기업 현장을 어떻게 바꾸고 있을까? 

•

AI 기본법은 윤리 기준 마련, 검·인증 체계 구축, 투명성 확보, 고영향 인공지능 관리 등을 통해 AI에 대한 신뢰 기반을 강화하고 있다. 법 적용 대상은 ‘인공지능사업자’로, 인공지능을 개발·제공하는 사업자와 이를 활용해 제품·서비스를 제공하는 사업자로 구분된다. 생성형 인공지능 표시 의무는 해당 기술을 기반으로 서비스를 직접 제공하는 사업자에게 적용되며, 내부 업무 보조 용도로 활용하는 경우에는 적용되지 않는다.

이러한 변화에 따라 국내 기업들도 AI 생성물 표시와 관련한 대응에 나서고 있다. 대표적으로 네이버는 이용자 생성 콘텐츠(UGC) 영역에 AI 생성물 표시 기능을 적용하고, 커머스 영역까지 워터마크 적용 확대를 추진하고 있다. 카카오 역시 AI 서비스 결과물에 자동으로 워터마크를 삽입하는 기능을 도입하고, 관련 약관을 개정해 AI 생성 콘텐츠임을 명시하고 있다. 글로벌 기업인 구글 역시 생성형 AI 서비스 결과물에 워터마크를 적용한 형태로 서비스를 제공하며, 투명성 기준에 맞춘 대응을 이어가고 있다. 광고 영역에서도 변화가 나타나고 있다. 생성형 AI로 만든 가상 인물을 활용한 광고의 경우, 소비자 혼동을 방지하기 위해 ‘가상인물’이라는 표시를 의무화하는 방향으로 제도가 정비되고 있으며, 이에 따라 기업들은 콘텐츠 제작 및 마케팅 과정에서도 AI 활용 여부를 명확히 표시해야 하는 환경에 놓이게 됐다. 

한편 AI 기본법 시행 초기, 기업들은 투명성 확보 의무와 고영향 인공지능 해당 여부 등에 대한 해석을 두고 혼선을 겪기도 했다. 실제로 AI 기본법 지원데스크에 접수된 문의 중 절반 이상이 ‘AI 생성물 표시’와 관련된 내용으로 나타나, 기업 현장에서 해당 의무가 중요한 대응 과제로 인식되고 있는 것으로 나타났다. 

글로벌 AI 규제 흐름과 국내 AI 기본법의 차이

•

EU(유럽연합)은 2024년 6월 ‘AI 법(AI Act)’을 제정한 이후 단계적으로 제도를 시행하고 있다. 2025년 2월에는 금지 AI 관련 규제가, 같은 해 8월에는 범용 AI 규정이 적용됐으며, 나머지 규정은 2026년 8월까지 순차적으로 시행될 예정이다. 미국 캘리포니아주 역시 2026년 1월 1일부터 이른바 ‘프론티어 인공지능 모델’ 규제를 시행하며 글로벌 차원의 제도 정비가 본격화되고 있다.

이처럼 국내 AI 기본법은 글로벌 AI 규제 흐름 속에서 등장했으며, 특히 EU의 ‘AI 법(AI Act)’과 비교할 수 있다. 두 제도는 모두 AI의 위험 수준에 따라 규제를 달리 적용하는 ‘위험 기반 접근 방식’을 채택하고 있다는 공통점이 있다. 그러나 규제의 구조와 적용 방식에서는 차이가 나타난다. EU는 AI를 ‘허용불가’, ‘고위험’, ‘제한된 위험’, ‘저위험’의 4단계로 세분화해 관리하는 반면, 국내 AI 기본법은 고영향 인공지능과 생성형 인공지능을 중심으로 규제 대상을 설정하고 있다. 

또한 책임 주체 구분에서도 차이가 있다. EU는 제공자, 배포자 등 역할별로 의무를 구분해 부과하는 반면, 국내는 ‘인공지능사업자’ 중심으로 비교적 단순한 구조를 취하고 있다. 제재 수준도 다르다. 국내는 과태료 중심의 제재가 적용되는 반면, EU는 기업 규모에 따라 전 세계 매출의 일정 비율 또는 수천만 유로에 달하는 과징금을 부과할 수 있다. 전반적으로 EU가 위험 통제와 기본권 보호를 중심으로 강한 규제 체계를 구축한 반면, 국내 AI 기본법은 산업 성장과 규제의 균형을 고려한 보다 유연한 접근 방식을 취하고 있다는 평이다.