2023. 8. 9. 23:04ㆍIT정보
안녕하세요!
오늘은 EU AI Act의 주요 내용에 대해 포스팅을 하려고 합니다.
생성형 AI의 등장으로 인해 강력한 규제가 필요한 EU(유럽연합)의 상황에 대해서는 지난번 포스팅을 참고 부탁드립니다.
2023.08.09 - [IT정보] - [해외기술규제] EU AI Act 발의 배경(2023년 6월 24일)
[해외기술규제] EU AI Act 발의 배경(2023년 6월 24일 발의(안) 발표)
안녕하세요. 오늘은 TBT에 대한 주제로 포스팅을 하고자 합니다. EU AI ACT 발의 배경 TBT란 Technical Barrier to Trade의 약자로 타 국가로 수출을 위해 충족해야 하는 기술적인 요인이나 장벽을 의미합니
ddoggu1988.tistory.com
EU AI Act 적용대상
EU AI Act 적용대상으로 EC(유럽집행위원회)는 아래와 같이 지정했습니다.
1. EU내에 AI시스템을 출시하거나 서비스를 제공하려는 모든 공급자
- 어디 국가에 기반을 두는지에 관계없이 EU내에 AI서비스를 공급하려는 모든 공급자가 포함
2. 유럽연합 내의 AI 시스템 사용자
3. AI 시스템에서 생성된 결과물이 EU 내에서 사용되는 경우, 제3 국에 위치한 AI 시스템의 제공자 및 사용자
또한, 적용 시점을 EU 관보에 게재된 날로부터 20일 후부터 효력을 발휘하도록 지정했고 실제 적용은 법안이 발휘되는 날로부터 24개월 후로 지정했습니다. 다만, 위험도에 따라 AI를 4단계(금지 AI, 고위험 AI, 제한된 AI, 최소위험 AI)로 분류하고 각각의 분류에 따라 규제안 적용 시점에 차등을 두었습니다. 그리고 이미 시장에 진출한 사업자들의 영업행위를 과도하게 제한하지 않으려는 일환으로 법안이 적용되기 1년 전에 진출한 서비스에 대해서는 큰 수정 없이 기존의 목적을 그대로 유지하며 서비스를 하는 한 이번 규제안을 적용하지 않기로 했습니다.
EU AI Act 구성
이번 EU AI Act는 총 12개의 주제로 구분이 되며 세부적으로 85개의 조항이 있습니다.
| 연번 | 주제 | 요약 내용 | |
| 1 | 범위 및 정의 | AI 사용과 관련한 신규 규제의 적용 범위를 정의하고 법안에서 전반적으로 사용하는 용어 정의 | |
| 2 | 금지대상 AI | 유럽 내 사용이 금지된 AI 목록 제시 | |
| 3 | 고위험 AI | 인간의 건강과 안전 또는 기본권에 높은 위험을 초래하는 AI시스템 규칙 명시 | |
| 4 | 일부 AI 시스템에 대한 투명성 의무 |
1. 인간과 상호 작용하거나, 2. 생체 인식 데이터를 활용하여 감정을 감지하거나, 3. 콘텐츠를 생성 또는 조작하는 시스템에 적용되는 일부 AI 시스템에 대한 투명성 의무 명시 | |
| 5 | 혁신 지원 조치 | 혁신적이고 미래 지향적인 프레임워크를 만들기 위한 규제당국의 규제 샌드박스 설정 등을 명시 | |
| 6 | 거버넌스 및 실행 |
거버넌스 | 회원국과 위원회의 대표로 구성된 유럽 AI이사회(이하 '이사회')를 설립 등 EU 및 회원국 차원의 거버넌스 시스템에 대해 명시 |
| 7 | EU 자립형 고위험 AI시스템 데이터베이스 |
고위험 AI 시스템에 대한 EU 차원의 데이터베이스 구축 (집행위원회가 운영함)을 통해 위원회 및 국가 당국의 모니터링 작업을 한다는 내용 명시 | |
| 8 | 시판 후 모니터링, 정보 공유, 시장 감시 |
시장 출시 후 AI 관련사고 및 오작동에 대한 사후관리에 관한 의무사항 명시 | |
| 9 | 행동강령 | 고위험 AI 시스템 제공자가 지켜야할 행동 강령을 수립하여 명시하고 있음 | |
| 10 | 처벌, 권한 위임 및 최종 조항 |
기밀 유지 및 처벌 | 위반 시 처벌 등의 모든 당사자의 의무를 강조하고 법안 시행 중에 획득한 정보 교환에 대한 규칙에 대해 명시 |
| 11 | 권한위임 및 위원회 절차 |
위임 행위 및 권한 이행 규칙에 대해 명시 | |
| 12 | 최종조항 | 법안의 정기적인 평가 및 검토에 대한 정기 보고서 작성의 의무, 규제 적용시점에 과도기 기간을 지정 등에 대한 조항 안내 | |
눈여겨볼 점은 1) 금지대상 AI와 2) 고위험 AI입니다.
금지대상은 사용이 아예 불가능한 AI서비스입니다. 이 분류에 속하는 대상은 인간의 행동, 의견 및 결정에 영향을 주거나 감시할 수 있는 서비스가 해당됩니다. 가장 상위에 있는 금지 항목으로 어떤 경우에도 수용 불가능하다는 입장을 EC에서는 표명했습니다.
세부적으로 보면 아래의 시스템들이 포함됩니다.
1. 의식을 넘어서는 잠재의식 기술을 통해 인간의 행동을 조종하는 시스템
2. 아동, 장애인 등 특정 취약 집단의 취약성을 악용하여 인간의 심리 또는 신체 피해를 유발하며 행동을 실질적으로 왜곡할 가능성이 있는 시스템
3. 일반인의 사회적 행동, 개인적 성격을 평가, 분류, 점수화하는 시스템
4. 성인에게 영향을 미칠 가능성이 있는 기타 조종 또는 착취 행위가 포함될 우려가 있는 시스템
5. 법 집행을 목적으로 공공 개방된 공간에서 ‘실시간’ 원격 생체정보 인식 시스템을 사용하는 것 금지(단, 실종아동 수색, 범죄 잠재 피해자 수색, 테러방지 등 제외)
그리고 고위험 AI에는 아래의 시스템들이 적용됩니다. 세부내용들은 너무 길어 간단하게 중요 포인트별로 한 줄씩만 설명을 기재하겠습니다.
1. 일반인 생체인식 식별 지원 : 사람의 '실시간' 및 '사후' 원격 생체인식 식별에 사용되는 AI
2. 중요 인프라의 관리·운영지원 : 중요 인프라(전기, 물, 가스 등)를 공급하고 관리하는 AI
3. 교육 및 직업훈련 지원 : 특정 인물을 특정 기관에 배치하기 위한 시스템
4. 고용, 근로자 관리 및 자영업 계약관계 평가지원 : 채용, 선발 등에 사용하는 AI
5. 필수 민간 서비스와 공공 서비스지원 : 공공서비스 지원자를 선발하기 위해 평가하는 AI
6. 법 집행 지원 : 범죄를 저지르거나 재범 가능성이 높은 피해자를 평가하기 위한 AI
7. 이주, 망명 및 국경관리 지원 : 여행인 및 이주민의 서류 진위여부 판별을 위해 사용하는 AI
8. 사법행정 지원 : 사법당국이 사실과 관련 법률을 조사·해석하고 구체적인 사실에 법률을 적용하는 데 도움을 주는 AI
그런데 조사를 하다 보니 EU가 정의한 금지 AI와 고위험 AI를 전부 하고 있는 국가가 하나 생각났습니다. 바로 중국인데, 중국은 천문학적인 CCTV를 설치하여 모든 시민들의 일거수일투족을 감시하고 관리하고 있으며 나아가서는 자국의 정치 이념에 반하는 언행을 하는 사람들을 구속하고 있습니다. 특히, 중국은 사람수가 많은 만큼 통제를 위한 AI 기술도 매우 빠르게 발전을 하는데 이런 중국의 AI시스템이 EU내로 보급되는 것을 막기 위한 조치가 아닐까라는 생각이 많이 들었습니다.
추가적인 내용들이 궁금하시다면 아래에 달아둔 EU 의회 사이트를 가셔서 발행한 자료를 확인하시면 더욱 많은 내용이 있습니다.
EU AI Act: first regulation on artificial intelligence | News | European Parliament
The use of artificial intelligence in the EU will be regulated by the AI Act, the world’s first comprehensive AI law. Find out how it will protect you.
www.europarl.europa.eu
이상으로 EU AI Act 주요 내용에 대한 포스팅을 마치겠습니다.
오늘도 똑구의 블로그를 방문해 주셔서 감사합니다.
'IT정보' 카테고리의 다른 글
| [해외기술규제] EU AI Act 발의 배경(2023년 6월 24일 발의(안) 발표) (0) | 2023.08.09 |
|---|---|
| [스타트업 육성] 2023 SW고성장클럽 사업 소개 (0) | 2023.08.09 |
| [클라우드] 클라우드 플랫폼을 제공해주는 CSP(Cloud Service Provider) 기업별 특징 (0) | 2023.08.08 |
| [클라우드] 클라우드를 운영 및 관리해주는 MSP기업의 필요성 (0) | 2023.08.08 |