제안이유

  세계적으로 인공지능이 교통, 의료, 서비스 등 다양한 분야에 활용되면서 일상생활의 편의 증진은 물론 산업적 활용 가능성에 대한 기대를 높이고 있음. 
  이처럼 인공지능의 개발ㆍ이용이 거의 모든 산업분야에 적용되어 부가가치를 창출할 것으로 예상되고 있으나, 다른 한편으로는 인공지능의 위험성에 대한 우려도 확대되고 있음. 특히 인공지능기술은 대량의 데이터를 학습하여 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성을 가지고 있으며, 노이즈 데이터로 인한 오류생성  가능성도 큼. 
  따라서 인공지능기술이 특정 분야에서 인간의 통제수준을 넘어서서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있음. ChatGPT 4.0 출시 이후 법률을 통해 무엇을 허용하고 무엇을 허용하지 말아야 할지 ‘가이드라인’을 설정하는 것이 더욱 시급해졌고 유럽의회가 ‘인공지능법’을 세계 최초로 제정할 예정(2025년경)인 상황을 고려할 때, 우리나라도 인공지능의 부작용과 위험이 무엇인지 정확하게 파악하고 인공지능 규제 정책을 형성해 나가는 것이 필요할 것임. 단순한 신기술의 위험성에 대한 규제를 넘어, 개인의 자유에 대한 억압이나 제한을 지양하고, 지속적인 성장이 가능한 사회로 나아가는 것이 인공지능 관련 규제의 목표가 되어야 할 것임. 
 이에 향후 신뢰할 수 있는 인공지능의 사용환경을 조성하기 위하여 인공지능의 개발 및 이용에 관한 기본원칙, 인공지능사업자의 책무 및 이용자의 권리를 규정하고, 금지된 인공지능ㆍ고위험 인공지능ㆍ저위험 인공지능으로 인공지능의 유형을 구분하여 이용자를 보호하기 위한 인공지능과 관련한 시책을 구분하여 마련하도록 하는 등 안전하고 신뢰할 수 있는 인공지능기술ㆍ정책의 제도적 기반을 조성하려는 것임.


주요내용

가. 안전하고 신뢰할 수 있는 인공지능의 개발ㆍ이용을 위한 기반 조성 및 인공지능 관련 정책의 수립ㆍ추진에 필요한 사항을 규정하여 국민의 권익과 존엄성을 보호하고 국민의 삶의 질을 높이는 것을 목적으로 함(안 제1조).
나. 인공지능, 금지된 인공지능, 고위험 인공지능, 저위험 인공지능 및 인공지능사업자 등에 대하여 정의함(안 제2조).
다. 금지된 인공지능 이외의 인공지능 개발 및 이용에 대하여 우선허용ㆍ사후규제 원칙을 정함(안 제5조).
라. 금지된 인공지능은 원칙적으로 개발을 금지함(안 제6조).
마. 저위험 인공지능의 개발 및 이용은 원칙적으로 허용하되, 이용자의 생체정보를 감지해서 상호작용을 하는 경우 또는 사진ㆍ음성ㆍ영상 등을 실제와 같이 만들어 내는 경우에는 해당 사실을 공시하도록 함(안 제7조).
바. 고위험 인공지능으로부터 이용자 보호를 위한 정부의 역할, 사업자의 책무, 이용자의 권리 등을 규정함(안 제8조부터 제11조까지).
사. 과학기술정보통신부장관이 3년마다 인공지능의 안전하고 합리적인 개발 및 이용을 위하여 인공지능 기본계획을 인공지능위원회의 심의ㆍ의결을 거쳐 수립ㆍ시행하도록 하고, 기본계획에는 인공지능에 관한 정책의 기본 방향과 전략, 신뢰 기반 조성 등에 관한 사항이 포함되도록 함(안 제12조).
아. 인공지능사회의 구현, 인공지능산업의 신뢰 확보와 관련된 사항을 심의ㆍ의결하기 위하여 국무총리 소속으로 인공지능위원회를 두도록 하고, 인공지능위원회는 기본계획의 수립 및 그 추진상황 점검ㆍ분석에 관한 사항 등을 심의ㆍ의결하도록 함(안 제13조 및 제14조).
자. 과학기술정보통신부장관이 인공지능 등이 국민의 생활에 미치는 잠재적 위험을 최소화하고 안전한 인공지능의 이용을 위한 신뢰 기반을 조성하기 위한 시책을 마련하도록 함(안 제19조).
차. 금지된 인공지능 및 고위험 인공지능에 대한 확인제도를 마련함(안 제21조부터 제23조까지).
카. 고위험 인공지능사업자는 인공지능의 신뢰성과 안전성을 확보하기 위한 조치를 하도록 함(안 제24조).

안 제5조(우선허용  사후규제 원칙), 안 제6조(금지된 인공지능의 원칙적 금지)