미국 빅테크들의 인공지능(AI) 경쟁이 심화하는 가운데 유럽에서 세계 첫 AI 규제법이 나왔다. 생체 정보 수집을 제한하고 자율주행차 기업의 AI 데이터 공개를 요구하는 등 엄격한 기준을 정했다. 글로벌 AI 빅테크가 없는 유럽이 AI 주도권을 잡기 위해 기술 규제 카드를 선보였다는 평가가 지배적이다.

10일 워싱턴포스트, 뉴욕타임스 등 주요 외신에 따르면 유럽연합 집행위원회(EC)와 유럽의회, 유럽연합(EU) 27개 회원국 대표는 지난 8일(현지시간) 벨기에 브뤼셀에서 ‘AI 법’(AI Act)으로 알려진 규제 법안에 합의했다. 챗GPT 등 민간 서비스부터 정부의 생체인식 정보 수집까지 모든 AI를 포괄하는 규제법으로는 세계 최초다. 최종 합의문은 공개되지 않았다.

우선 민주주의에 잠재적 위협을 미칠 수 있는 AI를 엄격히 제한했다. 이에 따라 정치·종교·인종 등의 특성으로 사람을 분류하는 것, 안면 인식 데이터베이스 구축을 위해 인터넷‧CCTV 영상에서의 생체 정보를 수집하는 것이 금지된다. 단 사법당국에 대한 테러 위협 예방, 범죄 용의자 추적 등을 위한 실시간 안면 인식은 허용하는 등 일부 예외를 뒀다. AI를 이용한 ‘소셜 스코어링’(개인의 특성, 사회적 행동과 관련된 데이터로 점수를 매기는 것)도 허용되지 않는다.

범용 AI(GPAI‧다양한 용도로 사용할 수 있는 강력한 AI 모델)를 개발하는 기업은 AI 모델의 학습 과정을 보고해야 한다. 블룸버그에 따르면 모델 학습 방법과 모델 학습에 사용된 데이터에 대한 보고 등이 포함된다. EU 저작권법 준수, AI 학습에 이용된 콘텐트 명시 등의 투명성 요건도 지켜야 한다. GPT-4와 같이 영향력이 크고 시스템적 위험이 있는 AI 모델은 더 강력한 규제 대상이다. 모델 평가, 위험성 평가와 완화, 심각한 사고에 대한 EU 집행위원회 보고, 에너지 효율성 보고 등의 의무를 수행해야 한다.

특히 자율주행 자동차나 의료 장비와 같은 고위험 기술을 사용하는 기업은 AI 관련 데이터를 공개하고 엄격한 테스트를 거쳐야 한다. 규정을 위반하는 기업은 최대 3500만 유로(약 497억원) 또는 전 세계 매출의 7%에 해당하는 벌금을 내야 한다.

EU가 ‘기술 규제’로 AI 빅테크의 목줄을 쥐려는 목적이 다분하다는 평가. 워싱턴포스트는 “AI 법은 기술 규제에 관한 유럽의 리더십을 더욱 강화할 것”이라며 “이미 디지털서비스법(DSA), 디지털시장법(DMA)와 같은 디지털 법률은 거대 기술 기업에 영향을 미쳤다”고 했다. AI법이 현실화되면 미국 빅테크들의 유럽 시장 진출 계획에도 차질이 불가피하다. 유럽에 상륙했다가 자칫 AI로 모델을 학습시킨 방법, 학습 데이터 등 기업 기밀까지 알려질 수 있기 때문이다.

AI 법은 빅테크뿐만 아니라 AI 기술을 사용하는 기업 전반에 영향을 미칠 가능성이 높다. 뉴욕타임스(NYT)는 “이 규정은 구글, 메타, 마이크로소프트, 오픈AI와 같은 주요 AI 개발 기업뿐만 아니라 교육, 의료, 금융과 같은 분야에서 AI 기술을 사용할 것으로 예상되는 기업에도 영향을 미칠 것”이라고 보도했다.

외부를 겨눈 칼이 내부에 위해를 가할 수 있다는 우려도 나온다. 미스트랄AI(프랑스), 알레프알파(독일) 등 유럽 AI 기업의 기술 혁신을 가로막을 수 있기 때문이다. 기술기업 모임 ‘디지털유럽’의 사무총장 세실리아 보네펠드 달은 “기업들이 AI 엔지니어 대신 변호사를 고용할 판이다”고 반발했다.

AI 법이 발효되기까지는 상당한 시간이 걸릴 것으로 보인다. 법의 세부사항은 추가 논의가 필요하기 때문이다. 유럽의회와 회원국들의 공식 승인 거친 뒤 이르면 2026년 전면 발효될 것으로 예상된다. EU의 AI 규제법이 벤치마크 역할을 하며 국가별 규제 논의에도 속도가 붙을 전망이다.

조 바이든 미국 대통령은 AI 모델이 국가안보나 경제 안보 등의 위험을 초래할 경우 이를 연방정부에 통지해야 한다는 내용의 ‘AI 행정명령’을 지난 10월 발표했다. 미 의회에서도 AI 규제법이 논의되고 있다. 영국은 지난 9월 AI 혁신을 가로막는 기업의 독과점 행위를 금지하는 AI 규제 원칙을 내놓았다.

마이크로소프트(MS)와 오픈AI에는 AI 규제법 외에도 또 다른 위기가 닥쳐올 수 있다. 미‧영 당국이 두 기업의 실질적 관계를 살펴보고 있어서다. MS는 오픈AI의 지분 49%를 보유한 최대 투자자이자, 기술적 협력을 긴밀히 하고 있는 기업이다.

영국 경쟁시장청(CMA)은 8일(현지시간) MS와 오픈AI의 투자·협력 관계를 사실상 합병으로 볼 것인지를 조사하기 위한 예비 자료 수집에 착수했다. CMA는 “최근 오픈AI 지배구조에 많은 변화가 있었고, 그 중 일부는 MS가 관련된 것으로 파악된다”고 설명했다. 미국 연방거래위원회(FTC)도 MS의 오픈AI 투자에 대한 반독점법 위반 가능성에 대해 예비조사에 들어간 상태다.