바디캠, 7000명 얼굴을 AI로 감시? 캐나다 경찰의 '소름 돋는' 논란

AI 바디캠, 감시의 시작?

캐나다 애드먼턴 경찰이 인공지능(AI)으로 훈련한 바디캠으로 약 7000명에 달하는 ‘고위험’ 감시 대상자를 자동 식별하도록 해 논란이 불거졌다. 7일(현지시간) AP통신에 따르면 애드먼턴 경찰은 감시 대상자들의 얼굴을 감지하도록 AI로 훈련한 바디캠을 경찰관들의 몸에 장착하는 시범 사업을 지난주부터 시작했다. 에드먼턴 경찰청(EPS)은 이 시범 사업이 경찰관들의 안전을 높이는 데 목적이 있다고 밝혔다.

 

 

 

 

고위험 감시 대상자, 그들은 누구인가?

바디캠은 경찰청이 무장했거나 폭력적이며, 도주 위험이 있는 고위험 범죄자를 감지한다. EPS의 커트 마틴 경무대행은 고위험 감시 목록에 약 7000명이 등록돼 있다고 밝혔다. 약 50명의 경찰관이 참여하는 이 시범사업은 12월 말까지 일광 시간 동안만 진행된다. 현재로서는 경찰관이 현장에서 안면 인식 일치 여부를 알 수 없다. 결과는 나중에 경찰서에서 분석된다.

 

 

 

 

사생활 보호, 과연 지켜질까?

경찰은 수사가 시작되거나 신고에 대응하는 경우에만 카메라를 고화질의 ‘활성 녹화 모드’로 전환해 개인의 권리와 사생활 보호에 유의하려 한다고 밝혔다.

 

 

 

 

윤리적 논란과 기술적 불확실성

시범사업은 윤리적 문제로 강하게 비판받고 있다. 캐나다에서는 이미 6년 전 바디캠 제조업체 액슨 엔터프라이즈가 제작한 바디캠을 도입하려고 했으나 역시 윤리적인 이유로 도입이 취소된 바 있다. 이번 시범사업에도 액슨이 생산한 바디캠이 사용되고 있다. 2019년 액슨의 AI 윤리위원회 의장직을 맡아 안면 인식 도입 보류를 이끌었던 배리 프리드먼 뉴욕대 법학 교수는 회사가 충분한 공론화, 테스트, 전문가 검증 없이 기술을 추진하는 것에 대해 우려를 표했다.

 

 

 

 

기술의 책임 있는 사용, 가능한가?

반면, 액슨의 창립자이자 최고경영자(CEO)인 릭 스미스는 “이번 에드먼턴 시범사업은 제품 출시가 아닌 초기 현장 연구”라며 “기술의 성능을 평가하고, 책임 있는 사용에 필요한 안전장치를 파악하는 것이 목적”이라고 반박했다. 그는 미국 외 지역에서 테스트함으로써 얻은 데이터를 분석해 향후 미국 내 시범사업에 적용할 계획이라고 덧붙였다.

 

 

 

 

국가별 상반된 입장: 사용 제한 vs 적극 활용

미국과 유럽은 사용 제한...영국은 적극 활용 안면 인식 기술은 인종, 성별, 연령에 따른 편향된 결과를 보여주고, 실시간 영상에서 식별 정확도가 낮다는 연구 결과 때문에 미국 내에서는 시민 자유 옹호자들의 반발을 샀다. 이에 따라 미국 여러 주와 도시 경찰은 사용을 제한하고 있다. 유럽연합(EU)은 납치나 테러 같은 심각한 범죄를 제외하고 27개 회원국 전체에서 실시간 공공 안면 스캔 기술 사용을 금지했다. 그러나 EU를 탈퇴한 영국은 런던 거리에서 10년 전부터 이 기술을 시험해왔으며, 지난 2년 동안 1300건의 체포에 사용했다고 밝혔다.

 

 

 

 

AI 바디캠 논란, 핵심을 짚어보자!

캐나다 경찰의 AI 바디캠 도입이 윤리적 문제와 기술적 불확실성으로 인해 논란의 중심에 섰습니다. 7000명에 달하는 고위험 감시 대상자의 얼굴을 AI로 식별하는 시도는 사생활 침해 논란을 야기하며, 기술의 책임 있는 사용에 대한 의문을 제기합니다. 미국과 유럽은 사용을 제한하는 반면, 영국은 적극적으로 활용하며 국가별 상반된 입장을 보이고 있습니다.

 

 

 

 

자주 묻는 질문, 궁금증 해결!

Q.AI 바디캠은 어떤 방식으로 작동하나요?

A.AI로 훈련된 바디캠은 경찰관의 몸에 부착되어, 고위험 감시 대상자의 얼굴을 자동으로 인식합니다. 수사가 시작되거나 신고에 대응하는 경우에만 고화질로 녹화됩니다.

 

Q.AI 바디캠 사용에 대한 윤리적 문제는 무엇인가요?

A.사전 공론화 부족, 사생활 침해 우려, 인종/성별 등 편향된 결과 가능성 등이 주요 윤리적 문제입니다.

 

Q.미국과 유럽, 영국의 입장은 어떻게 다른가요?

A.미국과 유럽은 안면 인식 기술 사용을 제한하는 반면, 영국은 런던 거리에서 10년 이상 이 기술을 시험하며 적극적으로 활용하고 있습니다.