EU 위험 AI 기술 규제 본격 적용

AI로 사회적 점수평가·결정조작 전면 금지. 

실시간 생체인식 등도 '불법화'

유럽연합(EU)이 지난해 공표한 인공지능(AI)법 4단계 규정 중 '위험성 높은 AI 시스템' 전면 금지 조치가 본격 적용된다. 

테크크런치에 따르면 EU는 2025년 2월 2일(현지시간)부터 '용납할 수 없는 위험'을 초래하는 AI 시스템의 사용을 금지한다.

https://techcrunch.com/2025/02/02/ai-systems-with-unacceptable-risk-are-now-banned-in-the-eu/

유럽 의회가 2024년 3월 최종 승인한 'AI법'은 같은 해 8월부터 공식 발효됐다. 

이 법이 규정한 가장 위험성이 높은 '용납할 수 없는 AI'는 6개월 준수 시한을 거친 뒤 이날부터 전면 금지된다. 

AI 법은 위험 수준을 네 단계로 나누고 있다. AI 스팸 필터 등의 '최소 위험군'은 규제 대상이 아니며 챗봇 등 '제한적 위험군'은 가벼운 감독을 받는다. AI 의료 추천 기능 등 '고위험군'은 강한 규제를 받으며 가장 위험한 '용납할 수 없는 AI'는 법적으로 전면 금지된다.

이번 규제로 ▲사회적 점수 평가(social scoring) ▲사람의 결정을 기만적으로 조작 ▲취약 계층 악용 ▲외모로 범죄 가능성을 예측하는 AI 기술 사용이 금지된다. 

또 ▲생체 데이터를 활용해 성적 지향 등 개인 특성을 추론하는 AI ▲공공장소에서 실시간 생체인식을 수행하는 AI ▲직장과 학교에서 감정을 분석하는 AI ▲온라인 및 보안 카메라를 활용해 얼굴인식 데이터베이스를 구축하는 AI도 금지 대상이다.

기업이 이러한 AI 시스템을 EU 내에서 운영할 경우 본사의 소재지와 관계없이 강력한 제재를 받는다. 

위반 시 최대 3천500만 유로 또는 연 매출의 7% 중 높은 금액이 벌금으로 부과된다. 다만 본격적인 벌금 부과는 오는 8월부터 시작된다.

EU는 법 시행에 앞서 지난해 9월 'EU AI 협약'에 참여한 100여 개 기업의 자율 준수를 유도했다. 

아마존, 구글, 오픈AI 등 주요 기업이 동참했으나 메타와 애플, 프랑스 AI 스타트업 미스트랄은 서명을 거부했다.

다만 전문가들은 금지 대상 AI가 극히 일부의 기술에 해당하기 때문에 대부분의 기업이 큰 영향을 받지 않을 것으로 보고 있다.

규제에는 일부 예외도 있다. 공공장소 생체 인식 시스템은 특정 위협을 예방하거나 실종자를 찾는 경우 법 집행 기관이 제한적으로 사용할 수 있다. 

또 직장·학교 내 감정 분석 AI도 의료적 필요성이 입증되면 허용된다. 

다만 모든 예외 적용에는 엄격한 정부 승인 절차가 필요하다.

전문가들은 기업들은 AI 규제가 단독으로 존재하는 것이 아님을 기억해야 하며 일반데이터 보호법(GDPR) 등 기타 법률 프레임워크들이 이미 존재하는 상황에서 이들이 AI 기본법과 어떻게 엮여있는지 이해하는 것이 매우 중요하다고 강조한다.

참고| https://techcrunch.com/2025/02/02/ai-systems-with-unacceptable-risk-are-now-banned-in-the-eu/