경기도, 도내 인공지능 기업과 ‘인공지능 알고리즘 윤리 공동대응’ 모색

경기도, 도내 인공지능 기업과 ‘인공지능 알고리즘 윤리 공동대응’ 모색

○ 인공지능 알고리즘의 편향성과 공정성 확보 방안 논의

- 기업의 경험 및 사례 공유, 대응방안 아이디어 논의

○ 경기도 정보시스템의 알고리즘 윤리 확보를 위한 정책 아이디어 수렴

- 경기도가 지원해야하는 정책에 대한 기업의 의견과 아이디어 제안

- 사업추진 시 의무적으로 검토해야할 지침, 가이드라인 등 법제 전문가 자문

 

문의(담당부서) : 데이터정책과 | 2021.03.30 17:30:52

경기도, 도내 인공지능 기업과 ‘인공지능 알고리즘 윤리 공동대응’ 모색

○ 인공지능 알고리즘의 편향성과 공정성 확보 방안 논의
- 기업의 경험 및 사례 공유, 대응방안 아이디어 논의
○ 경기도 정보시스템의 알고리즘 윤리 확보를 위한 정책 아이디어 수렴
- 경기도가 지원해야하는 정책에 대한 기업의 의견과 아이디어 제안
- 사업추진 시 의무적으로 검토해야할 지침, 가이드라인 등 법제 전문가 자문

최근 인공지능 챗봇 ‘이루다’를 둘러싼 논란으로 윤리적 인공지능 개발과 활용에 대한 관심이 높아지는 가운데, 알고리즘 및 인공지능의 윤리와 공정성 확보를 위한 대응방안을 모색하는 자리가 마련됐다.
경기도는 30일 성남 판교 스타트업캠퍼스에서 ‘도-기업 간 인공지능 알고리즘 윤리 공동대응을 위한 간담회’를 개최했다. 간담회에는 마인즈랩, 와이즈넛, 에이모 등 도내 인공지능 기업과 경기연구원, 한국지역정보개발원 관계자 등이 참석했다.
알고리즘 윤리는 예를 들어 음성이나 글로 서비스하는 봇 서비스의 경우 그 서비스 내용에 나이, 성별, 인종, 신체조건, 출신 등에 대한 차별이 있어서는 안 된다는 것이다. 인공지능 챗봇 ‘이루다’도 동성애, 장애인 등 사회적 소수자에 대한 혐오발언으로 논란을 일으키며 서비스가 중단된 바 있다.
이는 학습 데이터의 공정성과 알고리즘 선택 등 머신 러닝 전 과정에서 편향이나 차별이 들어갈 수 있기 때문에 사전에 매우 세심한 준비와 검증이 필요하다.
간담회에서는 먼저 경기연구원 최성환 연구위원이 데이터 기반의 적극행정을 위한 법제 개선방안 과제 ‘알고리즘의 편향성과 공정성 확보 방안’ 연구결과를 발표했다. 이어 도내 인공지능 알고리즘 관련 기업인 마인즈랩, 와이즈넛, 에이모 관계자들이 데이터 편향성 및 인공지능 개발 시의 공정성과 윤리성 확보 등에 대해 기업의 사례를 공유하고 다양한 아이디어를 제안했다.
한국지역정보개발원 윤종인 법학박사는 알고리즘 공정성을 위해 경기도가 추진하는 알고리즘 및 인공지능 영향성평가 지침마련에 대해 자문했다.
도는 직접 구축하는 정보시스템 내에 구현되는 알고리즘 공정성 확보를 위해 추진해야 할 절차를 마련 중이며 알고리즘 공정윤리 확산을 위해 도-기업간 협력체계를 구축해 나갈 계획이다.
임문영 도 미래성장정책관은 “인공지능 윤리는 경기도와 기업이 선제적으로 대응해야 할 과제이고 나아가 모두가 참여하고 관심을 가져야 한다”면서 “인공지능 윤리 문제가 기술·산업 발전을 저해하는 방향보다는 공정 원칙에 근거해 평가됨으로써 모두에게 신뢰받을 수 있는 방식으로 해결되기를 바란다. 경기도가 추진하는 사업부터 공정성 마련을 위한 정책을 추진해 나가겠다”고 말했다.