안녕하세요, 아주대학교 대학원 컴퓨터공학과 석박사통합과정으로 재학 중인 최재원(jaewon.james.choi@gmail.com, github: https://github.com/jafffy) 이라고 합니다.
저는 2019년 SW 마에스트로 10기 전형 절차 중 AI 면접에 보이콧합니다.
저는 SW 마에스트로 사업에 지원하여 서류 전형에 합격하였고, 적성검사 진행을 위해 AI 면접에 접속했는데 시스템이 마이크와 카메라 접근 권한을 요청했습니다.
해당 시스템이 어떤 판단을 어떻게 내릴지에 대해서는 저는 알지 못합니다. 하지만, 이러한 privacy 침해 소지가 다분한 시스템을 받아들이고 선발된 사람들이 SW 마에스트로의 목적인 한국 최고의 SW 인재이거나 한국의 스티브 잡스가 되지 않을 것이라고 믿고 있고, 그렇지 않았으면 좋겠습니다.
국제적인 학술 단체인 ACM(Association for Computing Machinery)에서는 Code of Ethics라는 윤리 지침을 제시하고 있습니다. (https://www.acm.org/code-of-ethics) 해당 문서의 1.6절은 아래와 같이 쓰여져 있습니다.
1.6 Respect privacy.
The responsibility of respecting privacy applies to computing professionals in a particularly profound way. Technology enables the collection, monitoring, and exchange of personal information quickly, inexpensively, and often without the knowledge of the people affected. Therefore, a computing professional should become conversant in the various definitions and forms of privacy and should understand the rights and responsibilities associated with the collection and use of personal information.
**Computing professionals should only use personal information for legitimate ends and without violating the rights of individuals and groups.** This requires taking precautions to prevent re-identification of anonymized data or unauthorized data collection, ensuring the accuracy of data, understanding the provenance of the data, and protecting it from unauthorized access and accidental disclosure. Computing professionals should establish transparent policies and procedures that allow individuals to understand what data is being collected and how it is being used, to give informed consent for automatic data collection, and to review, obtain, correct inaccuracies in, and delete their personal data.
Only the minimum amount of personal information necessary should be collected in a system. The retention and disposal periods for that information should be clearly defined, enforced, and communicated to data subjects. Personal information gathered for a specific purpose should not be used for other purposes without the person's consent. Merged data collections can compromise privacy features present in the original collections. Therefore, computing professionals should take special care for privacy when merging data collections.
이제 시작하는 입장이지만 대학원생 신분으로 인류에게 기여 하기 위한 연구를 하고 싶고, 하려고 하는 사람으로써, 학교에서 학생들 과제를 채점하는 교육 조교로써, 그리고 ACM에서 제시하는 커리큘럼으로부터 교육 받았고 교육 받고 있는 학생으로써 저는 이 문제를 도외시하는 소프트웨어 전문가는 정당하지 않다고 생각하고, 개인적으로 그들이 성공하지 못하는 사회였으면 좋겠습니다.
저한테 SW 마에스트로는 학부 시절부터 꼭 해보고 싶은 경험이었고, 현재 창업을 고려하고 있는 저에게도 꼭 필요한 프로그램이기도 하구요, 이번이 군 문제를 비롯한 여러가지 이유로 마지막 기회이지만, 제가 AI 면접에 받아들이면 어쨌든 다음번에도 누군가는 AI 면접에 참여해야 하게 될 것이고, 이것은 정당하지 않다고 생각하기 때문에 용기를 내어서 보이콧합니다.
아래는 제가 국민신문고를 통해 과학기술정보통신부에 제기한 민원입니다. 구체적인 내용 이해에 참고 바랍니다.
현재 과학기술정보통신부와 정보통신기술진흥센터가 주관하고 한국정보산업연합회가 운영하는 SW 마에스트로의 전형 절차에서 AI 면접을 거부할 수 있는 권리가 필요합니다. 이에는 첫번째로 "지원자의 개인권 및 잠재적인 제 3자 개인권의 침해 가능성" 그리고 "정부 사업 진행에 있어서의 사기업의 부당한 잠재적 이득 존재" 두 가지의 문제에 기반합니다. 아래는 각 항에 대한 설명입니다.
- 지원자의 개인권 및 잠재적인 제 3자 개인권의 침해 가능성
AI 면접에서 지원자는 마이크와 카메라에 대한 접근 권한을 마이다스아이티의 솔루션에 허용해야 합니다. 마이크와 카메라의 특성 상, 지원자의 얼굴과 환경 정보, 마이크를 통한 목소리 정보, 해당 지원자의 인적사항과 잠재적으로 스피커 기능을 함께 이용한 주변의 지형 지물을 판단하고 인식할 수 있는 가능성이 있습니다. 이에 대한 연구가 국제적인 연구 협회인 IEEE와 ACM이 주관하는 우수학술학회(NIPS, CVPR, ACM MobiSys, ACM SenSys 등)에서 활발히 이뤄지고 있고, 만약 정부에서 요청시 민원인은 이에 대한 참고자료 제출에 적극적으로 협조하겠습니다. 즉, AI 면접 시스템은 비단 지원자 뿐만 아닌 이 면접 과정에 정보가 알려지는 것을 허락하지 않은 제 3자의 개인권을 침해하게 할 가능성이 있습니다.
또한, 대한민국 헌법 제11조의 1항인 "모든 국민은 법 앞에서 평등하다. 누구든지 성별, 종교, 또는 사회적 신분에 의하여 정치적, 경제적, 사회적, 문화적 생활 모든 영역에 있어서 차별을 받지 아니한다" 을 위배할 소지가 있습니다. SW 마에스트로 전형 과정에서 마이다스아이티의 AI 면접 솔루션의 지원자에 대한 구체적인 판단 기준을 공개하지 않거나 적극적으로 공지하지 않았고, 침해 가능성이 있는 개인권에 대한 기준 역시 공지하지 않았습니다. 그렇기에 지원자의 입장에서는 최악의 경우 지원자가 받게 될 개인권 침해를 상상할 수 있는 가장 큰 형태로 생각할 수 밖에 없습니다. 이렇게 생각했을 때 기본적으로 카메라를 통해 개인의 성별이 나타날 수 있고, 면접에서 발생할 수 있는 질문에 대한 개인의 종교적 성향과 사회적 신분에 대한 정보가 노출 될 수 있다고 가정할 수 있습니다. 마이다스아이티의 AI 면접 솔루션이 합격과 불합격을 판단할 때의 기준을 공개/명시/공지하지 않았기 때문에 성별과 종교적 성향, 사회적 신분을 포함한 어떠한 개인적인 정보들을 통해 AI 면접 시스템이 불합격을 결정할지 지원자는 알 수 있는 방법이 있고, 이러한 요소는 SW 마에스트로에서 활동을 하면서 잠재적/비잠재적으로 얻을 수 있다고 예상할 수 있는 경제적, 사회적, 문화적 생활의 영역에서의 이득이나 혜택을 보지 못하는, 차별로서 작동할 가능성이 있습니다.
- 정부 사업 진행에 있어서의 사기업의 부당한 잠재적 이득 존재
현재 AI 면접은 마이다스아이티 라는 기업이 만들고 있고, 이는 다양한 매체를 통해 소개되기도 했습니다. 이는 사기업이 진행하고 있는 프로젝트이므로, 이 프로젝트가 1항에서 민원인이 제기한 문제를 일으킨다고 하는 것이 일반적인 경우에는 문제가 되지 않습니다.
하지만 SW 마에스트로 전형 절차라는 공적 영역에서 1항을 침해하는 것과 더불어 사기업의 제품을 통해 지원자를 판단 하는 것, 그리고 마이다스아이티의 AI 면접 솔루션이 전형 절차에 도입되었다는 것이 공표되는 것은 심각한 도덕적인 문제를 일으킵니다.
첫 번째로 마이다스아이티는 이 사업에 참여했다는 사실을 "공표하는 것" 만으로도 부당한 방법으로 잠재적인 이득을 얻습니다. 마이다스아이티의 AI 면접의 성능과 상관없이, 마이다스아이티가 "SW 마에스트로에 참여한 인재들을 선발하는데에 당사의 AI 면접 솔루션을 적용했다" 라는 주장을 할 수 있는 권리가 마이다스아이티에게 있거나 정부가 해당 사실을 공표하는 것에 동의한다면, 해당 업체의 솔루션의 "성능과 상관없이" 국내 최고의 SW 인재들을 선발하는데 이용되었다고 주장하게 되고, 이것은 크고 작음에 상관없이 해당 업체의 마케팅적인 이득으로 작동할 가능성이 있습니다. 이러한 이득은 성능과는 상관이 없게 얻게 된 마케팅적인 이득이기 때문에 정말 그 이득을 얻게 된다면 부당 이득에 해당한다고 생각합니다.
두 번째로 정부 사업이 작은 규모의 지원 대상이 되어야 하는 규모의 업체가 아닌 이미 세계적으로 분야를 선도하는 업체의 테스트 베드가 되는 것은 도덕적이지 않습니다. 본 전형 절차를 통해 마이다스 아이티는 자신의 완성이 되었거나 완성이 되지 않은 솔루션을 테스트 해볼 수 있는 기회를 얻게 됩니다. 이러한 테스트를 특히 최고의 SW 인재를 선발하는 과정에서 해볼 수 있다는 것은 명백한 특혜이며, 이러한 기업의 경험을 쌓는 것에 지원자들은 거부할만한 권리가 있습니다.
세 번째로 최고의 SW 인재를 지원하는 사업의 측면에서 마이다스아이티의 AI 면접은 그 효과가 검증된 바가 없거나, 최소한 지원자들에게 알려지지 않았습니다. 그럼에도 불구하고 1항의 개인권 문제를 담보하고서 AI 면접을 필수 사항으로 고정하는 것은 어떠한 견지에서는 정부 사업이 검증되지 않은 솔루션을 파는 세계적인 기업에게 부당한 이득을 주는 것으로 비춰질 수 있습니다. 이는 우리나라의 국민으로서도 지지할 수 없는 결정입니다.
아래 사항들은 제가 SW 마에스트로 사무국의 백송이 연구원 (한국정보산업연합회 미래양성실) 님을 통해 유선으로 확인한 SW 마에스트로 사무국의 공식 입장입니다.
- 소프트웨어 마에스트로 사무국은 마이다스 아이티의 AI 면접이 소프트웨어 마에스트로 전형 절차에 사용되었다는 사실이 공중에 밝혀지는 것에 대한 권리 행사를 할 계획이 없고, 이 권리 행사에 대한 결정권과 권리에 대한 협의에 대한 권한은 소프트웨어 마에스트로 사무국이 아닌 과학기술정통부에 있다.
- 이미 소프트웨어 마에스트로 전형 절차에 AI 면접은 필수적인 면접 과정으로 결정되었고, AI 면접에 동의하지 않으면 소프트웨어 마에스트로의 전형 절차를 진행할 수 있는 다른 방법은 없다.
위 주장과 근거들에 기반해 이 문제에 대한 결정권은 과학기술정보통신부에게 있다고 판단하여, "SW 마에스트로 전형 절차에서 AI 면접을 거부할 권리" 가 지원자들에게 있어야 한다고 주장하며 민원을 제기합니다.
일단 최대한 빨리 저 직원분의 이름부터 가리시는게 좋겠네요. 자신의 개인권이 침해당하고 있다는 글 안에서 남의 개인권를 침해하고 있지 않으신가요?