얼마 전 인공지능(AI)의 악의적 사용을 강력하게 경고하는 보고서가 나왔다. ‘인공지능 악용 보고서(The Malicious Use of artificial Intelligence)’는 영국 옥스퍼드대학교에서 열린 ‘인공지능의 위험성’ 워크숍의 논의를 모아낸 결과물이다. 보고서를 작성한 26명의 인공지능 연구자 그룹은 인공지능의 악용과 그에 따른 위협이 이미 우리에게 명백한 현실임을 경고하며 이에 대한 대비를 촉구하고 나섰다.
이 보고서는 지금으로부터 몇십 년이 흐른 먼 미래가 아니라, 5년 정도의 비교적 가까운 미래를 내다보며 인공지능과 같은 첨단 기술이 가져올 위협과 위험을 경고하고 있다는 점에서 특히 주목할 만하다. 범죄자가 무인항공기(드론)와 얼굴 인식 기술을 악용하여 특정한 사람을 공격한다거나, 알파고와 같이 이미 인간의 능력을 뛰어넘은 인공지능 기술이 해커에게 넘어가서 악용될 경우 상상을 초월하는 위협이 될 것이라고 경고한다. ‘봇(bot)’과 같은 자동게시프로그램을 이용하여 ‘가짜’ 뉴스와 영상을 유포해 정치적 여론을 조작하는 사례는 미래에 닥쳐올 위험이 아니라 지금 현실에서도 충분히 일어날 수 있는 실제적 위협이라고 경고하고 있다.
보고서는 이미 우리가 인공지능의 악용에 매일 노출되어 있으며, 이 문제를 우리 스스로의 문제로 인식해야 한다고 강조하고 있다. 각 나라 정책 입안자들과 기술 연구원들이 협력하여 이 문제에 대해 적극적인 대비를 해야 한다는 것이 이 보고서가 내놓은 가장 중요한 제안이다.
급증하는 디지털 위험
그런가 하면 최근 디지털 흔적(기록)을 남기지 않기 위해 페이스북을 떠나는 젊은이들이 급속하게 늘고 있다고 한다. 미국 시장조사기관인 이마케터에 의하면, 280만 명에 달하는 24세 이하 젊은 이용자들이 지난해 페이스북을 떠난 것으로 조사됐다. 특히 12~17세의 연령층에서는 9.9%에 해당하는 이용자들이 빠져나간 것으로 밝혀졌다.
페이스북이 더 이상 젊은이들에게 매력적인 공간이 아니라는 점이 이용자 감소 요인으로 작용했겠지만, 무엇보다도 자신이 남긴 기록을 추적할 수 있는 페이스북에 ‘디지털 흔적(발자국)’을 남기고 싶지 않은 심리가 반영된 결과라는 분석이 제시됐다. 일정한 시간이 지나면 자동으로 게시물이 사라지는 기능을 채택한 인스타그램이나 스냅챗이 페이스북의 대안으로 인기를 끌고 있는 점을 고려해 볼 때, 이 같은 분석은 꽤 설득력 있게 들린다. 실제로 채용 과정에서 소셜네트워크(SNS) 평판 조회를 활용하는 사례가 늘면서 젊은 계층을 중심으로 디지털 흔적에 대한 경각심이 높아지고 있는 것이 사실이다.
인터넷 공간에 올린 게시물을 사후에 지운다는 것은 여간 어려운 일이 아니다. 특히 한번 다른 곳으로 퍼져 나간 게시물을 일일이 추적해서 삭제하기란 개인에게는 불가능에 가까운 일이다. 온라인에 남긴 디지털 흔적을 지워주는 것을 주된 업으로 하는 ‘디지털 장의사’라는 신규 직종이 생겨날 정도로 이 문제는 심각한 단계에 이르렀다.
극히 비밀스러운 사생활이 담긴 사진이나 영상이 유출되어 극심한 고통을 겪는 사람들은 지푸라기라도 잡는 심정으로 디지털 장의 업체를 이용하지 않을 수 없다. 하지만 비용은 비싸고 삭제가 제대로 이루어지지 않아 또 다른 피해를 입는 사례가 심심치 않게 나타나고 있다. 심지어는 피해자의 절박한 고통을 악용하여 금전을 갈취하는 업체도 있다고 한다. 해외사이트를 이용하여 악의적으로 유포한 경우에는 완전한 해결이 더욱 어려워진다.
온라인 공간에서 이루어지는 사이버 범죄는 최근 몇 년간 폭발적으로 증가하고 있다. 온라인 생활의 비중이 커지면 커질수록 사이버 범죄는 늘어날 수밖에 없는 구조지만, 이에 대한 예방과 대처를 충분히 하기에는 그 증가 폭이 너무 가파르다. 범죄의 수법도 갈수록 지능화되고 새로운 양상으로 전개되고 있어 문제해결이 더욱 어려워지고 있다. 디지털 세계의 확장은 이미 우리의 통제 범위를 훨씬 넘어서 있다.
디지털 위험과 시민교육
지난 2월 6일 인터넷 안전의 날을 맞아, 유니세프는 어린이의 디지털 지능(DQ, Digital Quotient)을 높이는 캠페인을 시작했다. ‘디큐에브리차일드(DQEveryChild)’라는 이름으로 진행된 이 캠페인은 디지털 이용 시간 조절, 사이버폭력 대처, 사이버 보안, 디지털 공감, 온라인 정보 선별, 디지털 발자국 관리와 같은 디지털 안전 교육을 중심으로 진행되고 있다. DQ란, 디지털 시대를 살아가는 데 필요한 사회적, 감성적, 인지적 능력을 지수화한 것으로 미국과 싱가포르를 중심으로 어린이 교육에 활용되고 있는 개념이다.
DQ교육을 제안하는 사람들은 디지털 네이티브 세대인 어린이들에게 DQ교육은 필연적으로 이루어져야 하는 교육과정이라고 주장한다. 디지털 세상에서 대부분의 삶이 이루어지는 현실을 고려할 때, 디지털 세계에 대한 이해와 적응은 필수이며 디지털 능력과 지능, 인격과 인성을 갖추는 일은 지극히 당연한 일이라는 것이다. 결국 DQ란 디지털 시대를 살아가는 데 필요한 모든 역량을 의미한다.
DQ라는 개념이 생소하게 느껴질지 모르지만, 이는 이미 오래전에 제안된 ‘디지털시티즌십’(디지털시민교육)과 크게 다르지 않다. 디지털시티즌십이 지능화된 능력으로 표현되어 있을 뿐이다. 디지털 기술에 대한 이해, 디지털 위험에 대처하는 능력, 그리고 디지털 세계에서 살아갈 기본적인 시민의식을 함양하는 것이 디지털시티즌십의 중심 내용이다.
문제는 그 개념을 무엇으로 부르든 간에 디지털 세계에 깊이 편입된 삶을 살게 되는 아이들에게 디지털 위험에 관한 교육이 이루어질 수밖에 없다는 점이다. 이러한 현상은 디지털 위험이 그만큼 우리 사회를 위협할 정도로 심각하게 전개되고 있다는 것을 의미하는 것이기도 하다.
DQ재단과 세계경제포럼이 발표한 DQ보고서에 따르면 전 세계 8~12세 아동의 56%가 사이버불링(왕따), 폭력, 게임중독, 거짓 정보 등 디지털 위험에 노출된 것으로 나타났다. 개인이 스마트폰을 소지하고 있는 아이들의 경우 위험도가 70%로 높아진다고 한다. 우리처럼 어린이들의 스마트폰 보급률이 매우 높은 사회의 경우에는 위험에 노출되는 빈도가 더 높아질 것은 자명한 이치다.
디지털 위험사회와 시민의 책임
근대산업사회의 근본적인 문제를 깊이 통찰한 독일의 사회학자 울리히 벡은, 우리가 살아가는 현대사회를 ‘위험사회’로 규정했다. 그는 지난 세기 가장 주목할 만한 사회학 저서인 『위험사회』를 통해 우리가 마주하는 위험의 근본을 파헤쳤다. 벡은 근대산업사회의 진보가 만들어낸 인위적 재앙들이 우리 삶에 위험으로 상존하고 있다고 파악했다. 그가 말하는 위험은 근본적으로 통제 불가능성과 불확실성에 기반하고 있다.
벡은 현대사회에 편입된 사회구성원은 자본이나 권력의 소유 여부와 상관없이 산업사회의 부산물인 환경재앙 앞에서 누구나 위험을 감수할 수밖에 없다고 보았다. 오염된 물과 공기, 가공할 만한 핵 위협 앞에서 사람들은 평등한 위험에 처해 있다는 것이다. 그러므로 벡이 말하는 현대사회의 위험은 초국가적이고 초계급적인 성격을 지닌다. 개인의 힘으로 빠져나갈 수 없는 제도적 위기인 셈이다.
벡에 의하면 이러한 제도적 위기는 산업사회의 새로운 이데올로기가 되어버린 과학기술 발전의 이면에서 발생한다. 위험이 커질수록 사람들은 과학기술에 기대어 이를 해결하려는 경향을 보인다는 것이다. 하지만 이러한 방식은 결코 성공할 수 없다. 위험의 근본적인 원천인 과학기술에 의존하여 문제해결을 구하는 것은 결국 사태를 악화시킬 뿐이다. 벡은 위험을 극복하기 위해 과학기술에 의존하는 태도는 결과적으로 기술지배주의를 공고히 하는 결과를 가져온다고 비판했다.
우리가 벡의 견해 중에 가장 주목해야 할 부분은, 첨단 기술이 만들어내는 위협과 재앙에 대한 결정과 책임 주체가 없다는 점이다. 국가, 정부, 자본가, 노동자가 인류의 생존을 위협하는 기술 재앙에 대해 어떠한 결정도 내리지 못한다는 것이다. 책임 주체의 부재는 필연적으로 자멸을 잉태한다. 그리고 현대적 위험의 속성상 그 재앙의 결과는 인류 전체에 영향을 미칠 것이다.
울리히 벡의 ‘위험사회’에 관한 성찰은, ‘4차 산업혁명’이라는 말로 기술 재앙의 현실과 미래를 장밋빛으로 미화하고 있는 지금 우리 사회를 진단하는 데 여전히 유효하다. 지금 우리가 속해 있는 디지털 위험사회는 벡이 분석한 사회적 현실보다도 더 깊은 위험으로 진보해 있다.
이러한 상황에서 인류 전체를 위험에 빠뜨리는 기술전체주의에 제동을 걸고 책임 있는 자세로 문제를 해결할 수 있는 주체는 결국 우리들 자신, 즉 시민일 수밖에 없다. 기술전체주의 사회가 제어장치 없이 폭주할수록 시민이 주체가 되어 예견되는 재앙과 위험에 맞서는 수밖에 별다른 방법이 없다. 그러기 위해서는 시민의 정치 영역에서 과학과 기술 발전에 대한 책임 있는 통제를 민주주의와 시민의 이름으로 실천해야 한다.
