“일부 금지안 검토하되 산업 지원 고려해야”
EU AI법안에는 ‘AI 금지 규정+벌금’ 명시 유럽연합(EU) 의회 의원들이 지난 13일(현지시간) 프랑스 스트라스부르에서 열린 본회의에서 인공지능(AI) 법안 표결에 참여하고 있다. 이 법안은 찬성 523표, 반대 46표, 기권 49표로 가결됐다. AP연합뉴스
유럽연합(EU)이 세계 최초의 인공지능(AI) 규제법을 마련해 단계적으로 시행키로 했다. 국내 AI 규제 논의는 이 법안의 영향을 적지 않게 받을 전망이다. 다른 국가에서도 EU 법안을 검토해 이를 일부 반영한 AI법을 내놓을 가능성이 크기 때문이다.

EU 법안에는 ‘유해한’ AI 시스템에 관한 폭넓은 규제안을 담고 있다. 국내에서 논의 중인 주요 AI법안에는 특정 AI 기능을 금지하는 조항이 없다. 전문가들은 EU 법안과 비슷한 제재 규정을 일부 받아들이되 AI산업 지원을 아울러 고려하는 방향으로 입법이 추진돼야 한다고 지적한다.

EU 의회가 지난 13일(현지시간) 프랑스 스트라스부르에서 열린 본회의에서 통과시킨 AI법안에는 AI에 대한 규제가 포괄적으로 명시돼 있다. 이 법안은 EU 회원국 승인 과정을 거쳐 올해 말부터 2027년까지 단계적으로 시행될 예정이다.

EU의 AI법은 조작이나 기만 기술 등을 사용하거나 나이와 장애 또는 사회적 취약성을 이용하는 AI 시스템을 금지한다. 또 공공기관에서 사회적 점수 매기기(social scoring)를 목적으로 사용하는 AI 시스템뿐 아니라 공공장소에서의 실시간 원격 생체인식 기능(일부 범죄 대응 목적은 제외)도 금지하도록 했다.

현재 한국 국회에서 논의 중인 AI 법안에 ‘고위험 AI’에 관한 규정은 있지만 특정 AI 시스템을 금지하는 내용은 없다. 국내 법안은 의료기기에 사용하는 AI, 생체정보를 분석·활용하는 데 사용하는 AI 등을 고위험 영역에서 활용하는 AI로 규정한다. 또 고위험 AI를 이용한 제품이나 서비스에 대해선 ‘고위험 AI를 기반으로 운용된다’는 사실을 이용자에게 사전 고지하도록 하고 있다. AI 서비스나 제품이 국민의 생명이나 안전 등에 위해가 될 경우 출시를 제한하는 원론적 규정도 있다.

다만 EU의 AI법처럼 구체적인 AI 금지 규정이나 벌금을 부과하도록 하는 조항은 없다. EU의 AI법은 법 위반 시 연간 전 세계 매출의 최대 7%에 해당하는 과징금을 부과할 수 있도록 했다.

과학기술정보통신부 관계자는 “EU AI법의 처벌 조항이 국내 기업에 어떤 영향을 미칠지에 대해 살펴보는 중”이라며 “국내 법은 AI 산업이 위축되지 않도록 관련 사업자들의 책무를 규정하면서도 처벌 조항은 나중에 보완하는 방향으로 논의가 이뤄질 것으로 보인다”고 말했다.

EU AI법은 당초 비교적 제한된 업무를 수행하는 AI 규제에 초점을 맞췄다. 이후 생성형 AI 모델이 급속도로 진화하면서 다양한 규제 논의를 서둘러 진행해 최종안을 만들었다.

EU AI법은 EU의 저작권법에 따라 AI 학습 과정에 활용한 콘텐츠나 데이터를 요약해 공개하도록 했다. GPT-4 같은 이전보다 향상된 AI 모델에 대해선 철저한 평가를 거치도록 했으며 심각한 사고 발생 시 EU 집행위원회에 보고하도록 했다.

현재 국내 AI법 논의에선 AI 학습에 관한 규제 수위를 어느 정도로 해야 할지에 대한 구체적 방향 설정이 이뤄지지 않았다.


EU AI법은 또 AI를 활용해 정교하게 만든 영상이나 이미지 등 딥페이크 콘텐츠에 대해 AI로 만든 것이라는 사실을 알 수 있는 표시를 하도록 했다. 딥페이크 대응 기술에 관한 내용은 국내 법안에도 상당 부분 반영될 전망이다.

김명주 서울여대 정보보호학과 교수는 17일 “EU AI법과 마찬가지로 국내에서도 ‘금지된 AI’ 규정을 일부 포함시키는 논의는 필요해 보인다. 다만 앞으로 규제 시행 이후 AI 학습과 관련해 추가로 들어가는 비용에 대해선 정부가 어느 정도 지원하는 방안이 뒷받침돼야 할 것”이라고 말했다.