[K-MOOC] 인공지능 시대의 사회적 쟁점 - Privacy

왜 인공지능과 윤리인가?

지금까지 나온 그 어떤 발명에 대해서도 인간은 본인의 판단을 맡기지 않았다. 하지만 인공지능은 다르다. 따라서 지금까지 나온 발명과는 다른 관점에서 인공지능을 고려해야하는 필요성이 발생했다.

 

프라이버시와 감시(Privacy & Surveilllance)

사생활(Privacy) : The right to be let alone 혼자될 권리

프라이버시의 종류

정보에 대한 프라이버시 : 개인이 살아가면서 자동으로 부여받는 프라이버시. 주민번호, 주소, 전화번호 등이 있다.
개인적인 측면에 대한 프라이버시 : 개인의 취향이나 행동 궤적이 반영된 프라이버시.

프라이버시의 제어에 대한 권리

자신의 정보 제어 : 본인의 정보를 누구에게, 얼마나 오래 공개할 지 제어하는 권리.
자신의 비밀을 유지할 권리 :  자신이 공개를 허용하지 않은 정보는 기본적으로 프라이버시. 본인이 비공개를 원하는 정보를 공개하지 않도록 유지할 권리는 누구에게나 있다.

 

디지털 시대의 프라이버시

디지털 시대는 정보들이 디지털화된 시대다. 디지털 기술이 발전함에 따라 모든 정보들을 Digit 형태로 바꿔서 저장하고 관리하는 기술도 발전되었다. 정보를 디지털화하면 물리적인 제약이 사라질 뿐만 아니라 데이터에 대한 분석도 쉬워진다. 빅데이터 자체에 개인 프라이버시 관련 정보가 모이기도 한다.

디지털화 된 정보의 특징

1.  저장, 유지, 관리, 전송, 배포가 용이하다.
2.  정보를 조작하는 과정 또한 쉬워진다.
3.  접근 권한을 제어하기가 힘들다.

 

프라이버시의 침해

디지털 기술의 발전은 프라이버시 침해를 쉽게 만든다. 그러나 기술의 발전속도는 규제의 발전 속도보다 훨씬 빠르기 때문에 악용할 수 있는 사각지대가 많다.

IoT기술에 의한 프라이버시 침해의 가능성(디지털시대)

- 프라이버시를 지키기 위해 기술적인 배경이 매우 취약하다. 보안을 유지하기 힘들기 때문에 해킹에 취약하다. 
- 인공지능 스피커는 항상 사용자의 말을 듣고 있어야 한다. 듣는 것을 넘어서 사용자의 소리가 누군가에게로 넘어갈 가능성이 있다.
- 자율주행 자동차 역시 항상 인터넷에 연결되어 있기 때문에 보안에 취약할 수 있다.

AI기술에 의한 프라이버시 침해의 가능성(AI시대)

- AI기술로 개인정보로부터 더 민감한 정보까지 추출할 수 있게 된다.
- AI기술에 의해 발전한 Deep fake 기술은 개인정보를 위조해 보안 시스템을 무력화할 수 있다.

 

프라이버시 보호 규제

- 규제에 대한 각 나라의 태도는 각 나라의 사회적인 이슈, 역사적인 문화 배경, 개인이 경험한 사건들에 따라 찬반이 달라진다.
- 선제 보호 규제 : 영국, 독일, 일본 등
  - 데이터 수집부터 조항을 만든다.
- 강력한 사후 처벌 : 미국
- 기술발전에 더 가치 : 중국
  - 초상권>기술발전
- 한국의 규제 예시(데이터3법) - 개인정보 보호 소관 부처를 하나로 모아서 중복 규제를 없애고 개인과 기업이 정보를 활용할 수 있는 폭을 넓히기 위해 마련됐다. 가명정보개념을 도입해 익명화를 하면 그 정보를 활용할 수 있게 했다. 

디지털 시대와 AI시대의 프라이버시 보호장치

디지털 시대는 정보의 유추를 막는데 집중하고 그 다음 직접적인 프라이버시를 사용하는 것을 제한했다. 개인정보를 연구용으로 사용할 때 비식별조치를 통해 익명화하는 규제도 있다. 그러나 AI시대에는 이것으로 부족하다. 아주 사소한 정보로도 민감한 정보를 끌어낼 수 있기 때문이다. 때문에 수집된 정보에만 초점을 맞춰 보호해야하는 것이 아니라 유추하는 것까지 규제해야한다. 

 GDPR(General Data Privacy Regulation)

2016년에 EU가 제정한 규칙. 사용자 국가는 개인의 정보를 사용하는 자동 의사 결정 프로세스에 대한 설명을 요구하고 이의를 제기할 권리가 있음을 포함하는 내용이다.

 

감시 경제(Surveillance Economy)

당신은 돈을 내고 스마트 기기를 구입하지만, 회사는 돈을 받고 당신의 데이터를 받아간다.

- 소비자들의 경제활동이나 인간관계를 파악해 개인이나 기업 등 어떤 집단이 경제적인 이득을 추구하는 것.
- 감시경제가 나타나게 된 기술적인 배경 : AI + Big Data + IoT
- 언제 어디서나 감시하고(IoT), 수집된 정보를 저장하며(Big Data), 이를 분석해서 파악(AI)하는 산업
- 카메라만으로 감시할 수 있는 게 아니라 구매이력, 검색이력, 방문정보로도 감시가 가능하다. 예시로 기업들이 마켓 리서치라는 명목으로 개인의 행동패턴들을 수집하고 있는 것을 들 수 있다. 
- 프라이버시와 생활의 윤택함 사이에서 생각해보아야 할 이슈이다.

 

개발자의 역할

제품을 만드는 주체나 그에 가담하고 있는 개발자들은 사용자의 불안요소까지도 미리 예측해 감안해야한다.  보안은 물론 프라이버시 이슈까지 선제적으로 생각하고 개발하는 것이 바람직하다.