자고 나면 달라지는 AI 기술…EU서 ‘포괄적 규제’ 법안 세계 첫 제정
자유인44
IT과학
1
336
2023.12.09 19:06
약 100명 참석해 37시간 마라톤 회의…세계 첫 ‘AI 규제법’ 마련
안면 인식·범용 AI 등 두고 입장 차…결국 포괄적 규제에 합의
시행까진 약 2년 소요…세부적 기술 사항 규제 논의는 지속될 듯 
[제공 게티이미지뱅크]
[이코노미스트 정두용 기자] 세계에서 처음으로 인공지능(AI)에 대한 구체적이고 포괄적인 국가 차원의 규제 법안이 나왔다. 유럽연합(EU)은 장시간 논의 끝에 8일(현지시간) AI 기술 규제 법안을 합의했다.
유럽연합 집행위원회(EC)·유럽의회·EU 27개 회원국 대표 등 약 100명은 37시간 회의 끝에 ‘AI 규제법’(The AI Act)을 도입하기로 했다. 회원국 사이의 협상은 6부터 7일까지 22시간 동안 1차로 진행됐다. 2차 회의는 8일 오전 재개돼 약 15시간 이어졌다. 프랑스·독일·이탈리아 등 일부 국가들이 자국 기업에 불리할 수 있다는 이유로 일부 규정 완화를 주장하면서 한때 난항이 빚어졌으나, 최종적으론 AI에 대한 포괄적인 규제 적용 방향으로 법안이 만들어졌다. AI에 관한 세계 첫 규제 법안의 탄생이다.
이번 법안은 시민의 권리와 민주주의에 잠재적 위협이 될 수 있는 AI 활용 금지를 골자로 한다. ▲AI 위험성 분류 ▲투명성 강화 ▲규정 미준수 기업에 벌금 부과 등이 내용에 담겼다.
특히 안면 인식에 대한 정보 축적이 금지됐다. ▲정치·종교적 신념 ▲성적 지향 ▲인종 등 민감한 특성을 기준으로 사람을 분류하는 등의 부작용 발생을 우려한 결정이다. 이에 따라 안면 인식 데이터베이스(DB) 구축을 위해 인터넷·보안 영상 등에서 생체 정보 취득할 수 없게 됐다. 소비자가 AI 기술과 관련한 문제를 제기해 의미 있는 설명을 들을 권리도 규정했다. 다만 사법당국의 ▲인신매매 피해자 수색 ▲테러 위협 예방 ▲살인·강간 등 범죄 용의자 추적 등을 위한 ‘실시간’ 안면 인식은 허용하는 등 일부 예외 조항을 뒀다.
미국 기업 오픈AI가 2022년 11월 챗GPT 공개 후 세계 다양한 빅테크에서 개발 중인 대규모언어모델(LLM)에 대한 규제도 이뤄진다. 챗GPT나 구글의 ‘바드’와 같은 범용적 모델을 대상으로 규제를 적용하기로 했다. EU에서 사업을 추진하려면 데이터를 공개하고 엄격한 테스트를 수행해야 한다. AI 학습 데이터를 문서로 명시하고, AI의 잠재적 위험 완화를 위한 조치 이행 사실을 외부 연구진을 통해 감사가 이뤄져야 한다는 의미다. AI가 생성한 콘텐츠에 대한 표시도 의무화됐다. 자율주행차나 의료 장비와 같은 ‘고위험’ 기술을 선보이는 기업도 마찬가지다.
EU는 다만 국가 안보와 법 집행을 위해 활용하는 AI에는 광범위한 예외 조항을 두기로 했다. AP통신은 “EU의 AI 규제법은 자동차·장난감·화장품과 마찬가지로 AI라는 제품의 안전성을 보장하기 위해 만들어진 법”이라고 전했다.
유럽연합(EU)은 8일(현지시간) ‘AI 규제법’(The AI Act)을 도입하기로 했다. 오픈AI의 ‘챗GPT’나 구글의 ‘바드’와 같은 범용적 모델을 대상으로도 규제가 시행된다. [사진 AFP/연합뉴스]
이 같은 규제를 지키지 않은 기업에 대한 처분도 강력한 수준으로 합의됐다. 규정 미준수 기업에 최대 3500만유로(약 497억원) 또는 전 세계 매출의 7%에 해당하는 벌금이 부과된다.
해당 법안이 처음으로 논의되기 시작한 시점은 2021년 4월이다. 당시 EU 행정부 격인 집행위원회가 법안 초안을 발의한 바 있다. 초기 법안에는 범용 AI에 대한 언급이 없었다. 발의 당시에는 챗GPT 등 생성형 AI에 대한 서비스가 많지 않아 논의가 지지부진했으나, 최근 다양한 모델이 출시되고 ‘딥페이크’ 등에 따른 허위 정보 확산 등의 부작용이 나타나면서 급물살을 탔다. ‘기술 발전에 규제가 따라가지 못한다’는 공감대 형성되면서 법안 제정의 필요성이 지속해 제기된 바 있다.
최종 합의문은 아직 공개되지 않았다. 기술적인 세부 사항에 관한 논의는 향후에도 지속될 전망이라는 게 외신들의 공통된 분석이다. 법안 초안은 유럽 의회와 회원국들의 공식 승인을 거쳐야 한다. 승인 후 완전히 발효되기까지는 약 2년이 소요될 전망이다. EU는 AI 규제를 위한 국가 및 범유럽 규제 기관을 창설할 예정이다.
티에리 브르통 EU 내수시장 담당 집행위원은 성명에서 “우리는 시민의 기본권을 보호하면서 법 집행 지원을 위해 AI의 잠재력을 최대한 활용하는 것 사이의 적절한 균형을 찾는 데 많은 시간을 보냈다”며 “우리는 유럽에서 대규모 감시를 원하지 않는다”고 말했다.
안면 인식·범용 AI 등 두고 입장 차…결국 포괄적 규제에 합의
시행까진 약 2년 소요…세부적 기술 사항 규제 논의는 지속될 듯
[이코노미스트 정두용 기자] 세계에서 처음으로 인공지능(AI)에 대한 구체적이고 포괄적인 국가 차원의 규제 법안이 나왔다. 유럽연합(EU)은 장시간 논의 끝에 8일(현지시간) AI 기술 규제 법안을 합의했다.
유럽연합 집행위원회(EC)·유럽의회·EU 27개 회원국 대표 등 약 100명은 37시간 회의 끝에 ‘AI 규제법’(The AI Act)을 도입하기로 했다. 회원국 사이의 협상은 6부터 7일까지 22시간 동안 1차로 진행됐다. 2차 회의는 8일 오전 재개돼 약 15시간 이어졌다. 프랑스·독일·이탈리아 등 일부 국가들이 자국 기업에 불리할 수 있다는 이유로 일부 규정 완화를 주장하면서 한때 난항이 빚어졌으나, 최종적으론 AI에 대한 포괄적인 규제 적용 방향으로 법안이 만들어졌다. AI에 관한 세계 첫 규제 법안의 탄생이다.
이번 법안은 시민의 권리와 민주주의에 잠재적 위협이 될 수 있는 AI 활용 금지를 골자로 한다. ▲AI 위험성 분류 ▲투명성 강화 ▲규정 미준수 기업에 벌금 부과 등이 내용에 담겼다.
특히 안면 인식에 대한 정보 축적이 금지됐다. ▲정치·종교적 신념 ▲성적 지향 ▲인종 등 민감한 특성을 기준으로 사람을 분류하는 등의 부작용 발생을 우려한 결정이다. 이에 따라 안면 인식 데이터베이스(DB) 구축을 위해 인터넷·보안 영상 등에서 생체 정보 취득할 수 없게 됐다. 소비자가 AI 기술과 관련한 문제를 제기해 의미 있는 설명을 들을 권리도 규정했다. 다만 사법당국의 ▲인신매매 피해자 수색 ▲테러 위협 예방 ▲살인·강간 등 범죄 용의자 추적 등을 위한 ‘실시간’ 안면 인식은 허용하는 등 일부 예외 조항을 뒀다.
미국 기업 오픈AI가 2022년 11월 챗GPT 공개 후 세계 다양한 빅테크에서 개발 중인 대규모언어모델(LLM)에 대한 규제도 이뤄진다. 챗GPT나 구글의 ‘바드’와 같은 범용적 모델을 대상으로 규제를 적용하기로 했다. EU에서 사업을 추진하려면 데이터를 공개하고 엄격한 테스트를 수행해야 한다. AI 학습 데이터를 문서로 명시하고, AI의 잠재적 위험 완화를 위한 조치 이행 사실을 외부 연구진을 통해 감사가 이뤄져야 한다는 의미다. AI가 생성한 콘텐츠에 대한 표시도 의무화됐다. 자율주행차나 의료 장비와 같은 ‘고위험’ 기술을 선보이는 기업도 마찬가지다.
EU는 다만 국가 안보와 법 집행을 위해 활용하는 AI에는 광범위한 예외 조항을 두기로 했다. AP통신은 “EU의 AI 규제법은 자동차·장난감·화장품과 마찬가지로 AI라는 제품의 안전성을 보장하기 위해 만들어진 법”이라고 전했다.
이 같은 규제를 지키지 않은 기업에 대한 처분도 강력한 수준으로 합의됐다. 규정 미준수 기업에 최대 3500만유로(약 497억원) 또는 전 세계 매출의 7%에 해당하는 벌금이 부과된다.
해당 법안이 처음으로 논의되기 시작한 시점은 2021년 4월이다. 당시 EU 행정부 격인 집행위원회가 법안 초안을 발의한 바 있다. 초기 법안에는 범용 AI에 대한 언급이 없었다. 발의 당시에는 챗GPT 등 생성형 AI에 대한 서비스가 많지 않아 논의가 지지부진했으나, 최근 다양한 모델이 출시되고 ‘딥페이크’ 등에 따른 허위 정보 확산 등의 부작용이 나타나면서 급물살을 탔다. ‘기술 발전에 규제가 따라가지 못한다’는 공감대 형성되면서 법안 제정의 필요성이 지속해 제기된 바 있다.
최종 합의문은 아직 공개되지 않았다. 기술적인 세부 사항에 관한 논의는 향후에도 지속될 전망이라는 게 외신들의 공통된 분석이다. 법안 초안은 유럽 의회와 회원국들의 공식 승인을 거쳐야 한다. 승인 후 완전히 발효되기까지는 약 2년이 소요될 전망이다. EU는 AI 규제를 위한 국가 및 범유럽 규제 기관을 창설할 예정이다.
티에리 브르통 EU 내수시장 담당 집행위원은 성명에서 “우리는 시민의 기본권을 보호하면서 법 집행 지원을 위해 AI의 잠재력을 최대한 활용하는 것 사이의 적절한 균형을 찾는 데 많은 시간을 보냈다”며 “우리는 유럽에서 대규모 감시를 원하지 않는다”고 말했다.
