참여적 인공지능 규제 디자인: AI 리걸디자인(Legal Design) 

2020. 5. 12.
류호경 한양대학교 기술경영전문대학원장  

기술이 사회로부터 선택되는 것을 이해하는 데 있어, 기술 개발자의 역량과 판단을 믿고, 시장과 사용자에게 선택받는 기술들은 사회에 필요한 좋은 기술이라는 인식이 있었다.
이러한 인식은 인공지능기술에도 똑같이 적용될 수 있을까? 

2018년 EU에서 제정한 유럽연합 일반 데이터 보호 규정 (GDPR), 미국의 규제법 등은 인공지능을 적용한 서비스와 제품을 개발할 때 기술 개발자 및 사업자에 대한 다양한 제약 및 책임성을 요구한다. 과연 이러한 규제가 최종 사용자 (end user)를 고려하고 있을까? 왜 인공지능기술을 법으로 제약하기 위해 노력하는 것일까?  

프랑스 국가정보처리자유위원회 (CNIL)의 쿠키 정보 수집 규제 사례는 앞선 질문의 길을 찾는 데 있어 힌트를 줄 수 있다. 쿠키 (HTTP cookie)는 사용자가 웹사이트를 탐색하는 동안 생성된 작은 데이터 조각으로, 웹사이트가 사용하고 있는 서버를 통해 사용자의 컴퓨터나 다른 장치에 저장된다. 쿠키에는 개인의 이름이나 주소, 계정 정보 등이 저장되어 있으며, 오용될 경우 스파이웨어를 통해 웹사이트 사용자의 행동을 추적하거나 웹 계정 접근 권한을 획득하는 데 사용될 위험이 있다. 

최근 프랑스 국가정보처리자유위원회 (CNIL)는 Google, Facebook 등 빅 테크 기업의 웹사이트에서 사용자의 쿠키 정보 수집 동의 절차를 제공하지 않거나, 혹은 거부 절차를 어렵게 설계하는 것과 관련하여, 프랑스 데이터 보호법 제82조 동의의 자유를 위반하는 것으로 판단하였다. 결과적으로 Google에 1억 5천만 유로, Facebook의 경우 6천만 유로의 벌금을 부과하였으며, 프랑스 사용자에게 동의의 자유를 보장할 수 있도록 3개월 내에 쿠키 정보 수집 수락 및 거부를 쉽게 수행할 수 있는 기능을 제공하도록 명령하였다.

프랑스 국가정보처리자유위원회는 개인 정보의 기술적 침탈을 법적으로 보호하기 위해 이와 같은 조치를 취한 것이다. 개인 정보의 수집, 사용에 대한 충분한 동의 혹은 거부가 전제되지 않고서는 개인의 법적 권리를 제대로 보호할 수 없다. 더군다나 프로세스 간소화, 자동화에 강점이 있는 인공지능이 규제 없이 개인 정보에 접근하는 경우, 쿠키 수준의 문제를 넘어서는 광범위한 사회적 문제를 일으킬 수 있다. 이러한 측면에서 인공지능에 대한 규제가 주목받고 있는 것이다. 

또한, 최종 사용자 관점에서 교육, 사회, 문화적 환경에 따라 인공지능/머신러닝이 적용된 제품 및 서비스에 대한 이해도의 차이가 자동화 기술에 의한 또 다른 차별을 부를 수 있다는 우려가 커지고 있다. 학계에서는 믿을 수 있고 책임질 수 있는 인공지능에 대한 논의를 진행중에 있으며, 특히 리걸디자인 분야에서는 최종 사용자를 고려한 참여적 인공지능 규제 디자인도 주된 논의 주제 중 하나로 다뤄지고 있다. 관련된 주요 이슈는 다음과 같다. 

[리걸디자인 분야의 인공지능 규제 이슈]
 

이슈 #1 개인정보에 대한 동의 없는 사용, 자동화된 의사결정 등 최종 사용자 입장에서 불확실한 것으로 여겨지는 이슈로 인한 근심, 공포감, 적개심은 점점 더 커질 것이다. 

이슈 #2 현재 기술 전문가 집단에 의해 인공지능 기술이 독점되고 있다. 이해관계적으로 상충될 수 있는 특정 집단, 분야만을 고려한 규제 디자인이 아닌, 사회 전체를 고려한 규제 정책을 만들어야 한다. 특히, 향후 HCI 전문가, 디자이너, 윤리학자, 사회과학자, 정치학자 등 여러 이해관계자를 중심으로 팀을 구성하고, 집단 지성, 통찰력을 이끌어낼 수 있는 참여적 AI 규제 법률 디자인이 요구된다.

이슈 #3 초기 인공지능 규제는 의료 분야 등 고위험 혹은 전문 분야에만 적용될 수 있는 수직적 논의부터 시작하였다. 이후 사회적 파장이나 기업의 책임이 적은 이슈는 개별로 법률을 제정하고, 사회적 파장이나 기업의 책임이 큰 이슈는 모든 분야에 공통적으로 적용하는 수평적 규제로 논의되고 있다. 이처럼 인공지능 기술 규제 디자인을 위한 참여적 디자인이 논의되고 있으나, 아직은 활성화되지 않은 실정이다. 

이슈 #4 인공지능 기술에 대한 사용자 불만, 문제제기가 소수라도 존재하는 경우, 책임자는 모든 것을 설명해야만 하고 (AI가 위험한 경우, 사용자가 일정 기준 이상인 경우 사용성에 대한 테스트를 실시해야 한다), 제대로 설명되지 않는 경우 처음부터 다시 기술을 디자인해야 한다고 주장하고 있다. 하지만, 이를 판단하고 관장하기 위한 권위 있는 기관 및 절차가 부재한 상황이다.

이슈 #5 모든 사람을 만족시키는 인공지능 기술은 존재할 수 없다. 하지만 사회가 용납할 수 있는 범위를 정하기 위한 노력이 필요하다. 우리가 보호해야 하는 집단을 일정 부분으로 정하고 (예: 20%), 이들의 불만족에 대한 주기적이고, 신속한 대응이 가능한 체계 구축이 필요하다. 이슈 4와 같이 관리의 법적 주체와 규정이 없으니, 보호해야 하는 집단을 무시하는 경우가 대부분이다. 

앞선 이슈들은 사용자와 이해관계자, 사용 맥락을 고려하고, 적극적인 참여를 독려할 것을 구체적으로 요구하고 있다. 이러한 상황에서 사용자 중심의 AI 기술 규제를 실현하는데 참여적 디자인 방법의 활용을 고려해볼 수 있다. 

[제언: 참여적 디자인을 통한 인공지능 규제 디자인]
 

인공지능 기술 규제 맥락에서 참여적 디자인 방법은 AI 분야와 다른 분야의 참여자들이 함께 디자인하는 것을 전제로 한다. 이를 통해 분야 간의 경계를 넘어 다양한 니즈와 지식이 공유되면서 새로운 AI 기술 규제가 만들어질 수 있다. 이렇게 만들어진 규제는 통합적 니즈와 지식이 반영되었기 때문에, 사용자와 이해관계자, 사용 맥락을 온전히 고려한 디자인 결과물로 사회에 인식될 가능성이 높다. 현재의 AI 규제 도입, 실행 의사결정 구조는 규제의 혁신을 목표로 하고 있지만, 한 분야 내에서 다른 분야와의 협력 없이 이루어지는 경우가 대부분이다. 민주적, 참여적, 인간 중심적 AI 규제의 도입, 실행은 AI 사용자와 학계, 산업계를 포함한 다양한 이해관계자 중심의 지속적인 논의와 구체적 사례 도출 시도를 포함한 참여적 의사결정 구조 디자인을 통해 변화될 수 있을 것이다.