한빛출판네트워크

말이 일자리를 잃던 날, 

인간도 일자리를 잃을 날이 올 것인가?

1922년 12월 20일 뉴욕 한 거리에 말발굽 소리가 울려퍼졌다. 205호 소방차의 소방관들은 부서장이 신호를 보내자, “이랴!” 하고 채찍을 내리쳤다.

소방차를 끄는 말들이 내달리기 시작했지만 정작 불이 난 곳은 없었다. 말들이 끄는 소방차는 브루클린 버로 홀(Brooklyn Borough Hall)을 향하고 있었다. 그곳에서 기다리고 있는 자동차에 고삐를 넘겨주기 위해서였다.

이 날이 이 말들의 마지막 근무였고, 뉴욕시에서 소방차를 끄는 모든 말들이 마지막으로 운행하는 날이었다.

50년 이상 묵묵히 일했던 소방차용 말들이 직장을 잃었다. 변화하는 기술과 그 기술이 일자리에 미치는 영향력을 보여주는 사례였다.

300년 가까이 진행된 기술 변화는 계속해서 업무의 성질을 바꿔놓았고 전반적으로 생활 수준을 향상시켰다. 그러나 불가피하게도 거기에는 언제나 승자와 패자가 있었다. 

오늘날 전 세계가 이와 비슷한 희망과 불안 섞인 눈초리로 인공지능을 바라보고 있다. 기계가 말들에게 끼쳤던 영향을 컴퓨터도 우리에게 끼치게 될까? 우리의 일자리는 어느 정도의 위험에 처해 있는 것일까?

마이크로소프트의 CEO인 브래드 스미스는 가는 곳마다 이런 질문을 받는다. 그는 기술 발전의 속도가 인간을 앞서갈 때 기술 선도 기업과 사회는 어떻게 대비해야 하는지에 대한 고민과 통찰을 이 책에 담았다. 

기술의 발전 속도는 

이미 인류를 앞서 나가기 시작했다

스티븐 스필버그 감독의 영화 〈마이너리티 리포트〉의 배경은 2054년, 범죄라고는 찾아볼 수 없는 워싱턴 D.C.다. 영화배우 톰 크루즈가 연기한 주인공은 살인범들이 범죄를 저지르기 전에 그들을 체포하는 프리크라임(Precrime) 팀의 팀장이다. 톰 크루즈는 모든 사람과 사물이 추적되는 도시에서 자신의 팀원들을 피해 도망다니게 된다. 예지자들이 그가 살인을 저지를 것이라고 예측했기 때문이다.

사법기관에 대한 이러한 접근법은 15년이 지나도 얼토당토않은 것처럼 보인다. 하지만 영화 〈마이너리티 리포트〉에 나왔던 기술 중 하나는 2054년보다는 훨씬 더 빨리 현실이 될 것으로 보인다. 

도망을 치고 있던 톰 크루즈는 한 의류상점에 들어간다. 상점의 프로그램은 매장에 들어오는 고객 한 명 한 명이 누구인지 알아보고 고객이 좋아할 것이라고 생각되는 옷 이미지들을 즉각 키오스크에 보여주기 시작한다. 

하지만 우리는 이미 이런 경험을 하고 있다. 어떤 웹사이트를 둘러본 후에 내 소셜 미디어 피드로 돌아왔을 때, 내가 조금 전에 보았던 것을 홍보하는 새 광고가 갑자기 나타난 적이 있을 것이다. 

영화에서 의류매장의 시스템은 톰 크루즈에 내장되어 있는 칩으로부터 정보를 받는다. 하지만 현실은 이미 스필버그의 상상력을 뛰어넘었다. 지금은 칩 자체가 필요하지 않은 것이다. 고객이 지난주에, 또는 한 시간 전에 이곳을 방문했다면 안면인식 기술은 클라우드에 있는 데이터와 카메라를 활용한 AI 기반 컴퓨터 영상인식 기술을 동원해 매장으로 들어오는 고객의 얼굴을 식별할 수 있다. 

기술 발전은 

우리를 위협하는 무기가 될 수도 있다

이처럼 이제 컴퓨터는 대부분의 인간이 태어나면서부터 해왔던 일, 즉 사람의 얼굴을 인식하는 일을 해낼 수 있다. 이미 많은 사람들이 아이폰이나 윈도 노트북 컴퓨터의 잠금을 해제할 때 비밀번호보다는 안면인식 방법을 더 편안하게 생각한다. 

그러나 안면인식이라는 도구가 우리를 위협하는 무기로 돌변할 수도 있다. 예를 들어, 어느 정부가 안면인식 기술을 이용해 평화로운 집회에 참석한 모든 개인을 식별해서 표현의 자유와 집회의 자유를 위축시키는 후속조치를 취할지도 모른다. 그리고 심지어 민주사회에서조차 다른 모든 기술과 마찬가지로 안면인식 기술도 늘 완벽한 것은 아니라는 사실을 망각한 채 경찰이 안면인식 기술에 과도하게 의존해 용의자를 식별할지도 모를 일이다.

안면인식 기술은 더 큰 정치, 사회적 이슈와 얽혀 우리에게 중요한 질문을 제기한다. ‘우리는 안면인식이라는 형태의 인공지능이 우리 사회에서 어떤 역할을 하기를 바라는가?’

브래드 스미스는 이 지점이야말로 IT 업계와 정부가 인공 지능에 관한 윤리적 문제와 인권 문제에 구체적으로 접근할 수 있는 기회라고 말한다. 오늘날 기술 관련 이슈들은 20년 전보다 훨씬 더 넓고 깊다. 우리는 기술적으로나 사회적으로나 중요한 변곡점에 도달했다. 하루빨리 처리해야 할 시급한 문제들이 대두되고 있다. 

중요한 변곡점에 도달한 사회에서

기술 선도 기업의 역할 

〈마이너리티 리포트〉에서 스필버그 감독은 기술이 어떻게 잘 이용될 수도 있고 남용 혹은 오용될 수도 있는지 생각해보라고 관객들에게 묻는다. 범죄를 저지르기 전에 범죄자를 제거할 수도 있겠지만 일이 잘못됐을 때는 사람들의 인권을 짓밟게 될 것이다. 

소설 《1984》에서 조지 오웰이 묘사해놓은 미래의 모습을 보면 시민들이 정부의 감시를 피하기 위해 어두운 방에 몰래 모여 서로의 팔에 암호의 말을 두드린다. 그렇지 않으면 카메라와 마이크가 그들의 얼굴, 목소리, 말 한마디 한마디까지 모조리 포착해 기록하기 때문이다. 오웰은 거의 70년 전에 이미 그런 비전을 그려놓았다. 우리는 이제 기술이 이런 미래를 정말로 가능하게 만들까 봐 걱정하고 있다. 

브래드 스미스의 해답은 사법기관이 기술을 사용할 수 있는 경우를 입법으로 정해두는 것이다. 당장 사람의 목숨이 위험한 것 같은 긴급 상황이나 감시를 위해 수색영장과 같은 법원의 명령을 받았을 때에만 안면인식 기술을 사용할 수 있도록 하는 것처럼 말이다. 

우리는 역사적으로 다른 기술 규제 사례에서 통찰을 이끌어냈다. 규제에 대한 균형 있는 접근법을 통해 소비자와 생산자 모두에게 좀 더 건전한 역학관계를 창출해낸 시장은 많다. 자동차 산업의 경우 20세기에 수십 년간 규제에 대한 저항이 있었다. 그러나 지금에 와서 보면 모든 사람이 안전벨트를 매고, 모든 차량에 에어백을 설치하고, 모든 기업이 연비 효율을 높이려고 노력하는 것은 법률이 핵심적 역할을 했기 때문이다. 항공 안전이나 식품업계, 제약업계의 경우도 마찬가지다.  

세상을 변화시킬 기술을 만들었다면 

사람들이 적응하도록 도울 의무도 있다

인류가 따라가지 못한 기술 발전 속도는 이미 사회 곳곳에서 인류를 위협하고있다. 인터넷의 경우 오늘날 그 영향력이 전 세계 곳곳에 미치지 않는 곳이 없다. 각국 정부나 테러리스트, 범죄자들은 소셜 미디어 사이트를 불법적인 목적에 이용하고 있고, 점점 더 많은 사람들이 소셜 미디어가 법적 제재를 받지 않는 것에 의문을 제기하고 있다. 

버지니아주 상원위원인 마크 워너는 ‘딥페이크(deep fake)’, 즉 “거짓으로 누가 무언가를 발언하거나 행동한 것처럼 꾸미는 정교한 오디오 비디오 합성 툴”이 곧 확산될 것이라고 지적했다. 소셜 미디어 사이트가 자신들의 콘텐츠를 단속하도록 새로운 법적 책임을 지워야 할 이유가 하나 더 늘어난 것이다.

이렇듯 현대 사회에 발생하고 있는 사생활 침해, 사이버 범죄와 사이버 전쟁, 소셜 미디어, 인공지능의 도덕적 문제, 불평등과 빅 테크놀로지의 관계, 그리고 민주주의를 향한 도전 등은 그동안 가이드가 전혀 없었던 문제들이다. 

이 책의 저자 브래드 스미스는 우리에게 중요한 통찰을 던진다. 오늘날 우리는 기본적이지만 너무나 중요한 원칙 하나를 인식하게 됐다. 어떤 기술이 세상을 변화시킨다면, 그렇게 변화된 세상에 사람들이 적응하도록 도와줄 책임도 그 기술을 만든 기업에게 있다는 원칙이다.

MS나 구글, 페이스북처럼 강력한 제품과 서비스로 ‘제국’ 같은 힘을 갖게 되는 회사나 기술을 창출하는 기업들은 미래에 대한 더 큰 책임을 져야 하고, 정부는 혁신의 속도를 따라잡음으로써 기술을 규제해야 한다고 주장한다. 

이 책은 우리 사회의 중대한 변곡점에서, 기술 선도 기업이 사회를 위협하지 않으면서 지속적으로 성장하고 혁신할 수 있는 인사이트를 제공한다. 

“기술 위협 문제에 대한 가장 명확한 가이드”  - 빌 게이츠 

브래드의 생각은 마이크로소프트의 이익에만 머물지 않았다. 그는 기술이 얼마나 중요한지, 그리고 정책이 기술에 얼마나 큰 영향을 주고 중심적인 역할을 하는지 이해했다. 브래드는 계속 구경꾼으로만 남는 것은 우리 회사에도 도움이 되지 않을 뿐만 아니라 업계 전체를 위해서도 잘못하는 일이라고 결론 내렸다. 서로 협력했을 때 모두에게 훨씬 큰 이익이 되는 경우도 많이 있다. 인공지능, 안면인식, 사이버보안과 관련된 사안 등이 바로 그런 예다.

이 책에서 설명하듯이 정부가 더 많은 규제를 가지고 개입하는 것이 모두를 위해 더 좋을 경우도 있다. 사업하는 사람으로서 정부에 더 많은 규제를 요청하는 것은 분명 아이러니컬하다. 특히 마이크로소프트를 비롯한 IT 기업들이 미국과 유럽, 기타 여러 나라들의 지도자들과 더 많이 교류해야 한다고 브래드는 생각하고 있다. 

브래드의 비전이 지금보다 더 중요했던 때는 없다. 전 세계 정부들이 수많은 IT 기업들을, 산업계 전체를 매의 눈으로 바라보고 있다. 이들의 기술이 어떻게 사용되는가? 어떤 영향을 끼치고 있는가? IT 기업은 어떤 책임을 갖는가? 각국의 정부, 그리고 더 큰 커뮤니티 차원에서 이들 이슈를 어떻게 생각해야 하는가?

이런 질문들이 20년 전과 꼭 같지는 않지만, 그 당시 브래드가 보여주었던 통찰은 현재의 우리에게도 절실하다.

지금도 나는 브래드의 지혜와 판단력에 의지하고 있다. 그의 경험과 정보력을 생각하면 IT 업계가 현재 직면한 여러 문제를 함께 고민할 때 브래드보다 더 나은 가이드는 없을 것이다.

이 책이 다루는 이슈들은 날로 그 중요성이 커지고 있다. 이 책은 새로운 기술이 야기하는 여러 문제에 대해 분명한 관점을 제시하고 IT 기업과 사회가 나아가야 할 길을 보여줄 것이다. 오늘날 IT 업계에서 논의가 가장 시급한 문제들에 관해 명확하고 설득력 있는 가이드가 될 것이다.

빌 게이츠 서문_ 기술 혁신이 불러울 문제에 대한 가장 명확한 가이드 

들어가며 클라우드 : 세상이 담긴 서류 캐비닛 

1장 감시 : 3시간짜리 도화선 

2장 기술과 공공 안전 : 거짓말쟁이가 되느니 패배자가 되겠다 

3장 프라이버시 : 기본적 인권 

4장 사이버보안 : 세상을 향한 경고 

5장 민주주의 지키기 : 지켜낼 수 있어야 공화국이다 

6장 소셜 미디어 : 우리를 갈라놓는 자유 

7장 디지털 외교 : 기술의 지정학 

8장 소비자 프라이버시 : 언젠간 입장이 바뀔 것이다 

9장 지역별 광대역 통신 : 21세기의 전기 

10장 인재 격차 : 기술의 인간적 측면 

11장 AI와 윤리 : 컴퓨터가 뭘 할 수 있는지보다 뭘 해야 하는지 물어라 

12장 AI와 안면 인식 : 얼굴이 휴대폰만큼 보호받을 가치가 있는가? 

13장 AI와 노동력 : 말이 일자리를 잃던 날 

14장 미국과 중국 : IT 업계의 신냉전 

15장 데이터의 미래 : 오픈 데이터 혁명의 필요성 

결론 우리보다 커져버린 기술을 어떻게 관리할 것인가? 

감사의 글 

주 

책 속으로

20년 전의 마이크로소프트와 마찬가지로 IT 업계는 변화가 필요하다. 오늘날의 시대는 기본적이지만 너무나 중요한 원칙 하나를 인식하게 됐다. 당신의 기술이 세상을 변화시킨다면 그렇게 변화된 세상에 사람들이 적응할 수 있게 도와줄 책임도 있다는 원칙이다. 당연한 소리 아닌가 싶을 수도 있지만, 긴 세월 빠른 성장과 심지어 스스로를 파괴적으로 혁신하는 데 초점을 맞춰온 분야에서는 꼭 그렇지가 않다. 간단히 말해, 기술을 창조하는 기업은 미래에 대해 더 큰 책임을 인정해야만 한다.

그런데 똑같이 중요한 또 다른 원칙이 있다. IT 업계 스스로는 이런 도전에 대처하지 못한다는 원칙이다. 세상에 필요한 것은 자체 규제와 정부의 조치가 서로 적절히 섞이는 것이다. 이러한 과정에는 세상의 민주주의가 고도로 함축되어 있다. 기술이 그토록 파괴적이 힘이 되었을 때는 폭넓은 사회경제적 합의를 도출하는 것이 민주주의에 무척 중요하기 때문이다. (중략) 우리는 이 급속한 기술 변화의 시대를 전통적인 가치, 또는 시대를 초월한 가치들과 조화시킬 방법을 찾아야 한다. 이 목표를 달성하기 위해서는 혁신을 이어가면서도 그 혁신을 만들어내는 기술과 기업이 반드시 민주 사회를 전제하도록, 우리의 운명은 우리가 정할 수 있도록 만들어야 한다.

- 들어가며 클라우드 : 세상이 담긴 서류 캐비닛  25쪽

7개월 전 스노든이 훔쳐낸 문서들을 〈가디언〉에 넘겨준 이래 얼마나 많은 것들이 변했는지를 생각하면 놀라운 일이었다. 사람들은 정부의 감시 범위에 대해 눈을 떴다. 강력한 암호화가 새로운 표준이 됐다. IT 기업들은 정부를 고소하고 있었고, 경쟁자들이 새로운 방식으로 협업했다.

세월이 한참 지난 후에도 사람들은 스노든이 영웅인지 배신자인지를 놓고 다투었다. 둘 다라고 생각하는 사람들도 있었다. 그러나 2014년 초가 되자 두 가지는 분명해졌다. 스노든은 세상을 바꿔놨고, IT 업계 전반에 걸쳐 우리들도 바꿔놨다. 

- 1장 감시 : 3시간짜리 도화선, 55쪽

세계적으로 중요한 사건이었지만 해당 지역에 있는 우리 직원들이 안전하다는 사실을 확인한 것 외에는 딱히 내 업무와 관련이 있어 보이지는 않았다. 그러나 다음날 레드먼드에 동이 텄을 때 상황은 완전히 바뀌어 있었다. 두 테러리스트가 마이크로소프트 이메일 계정을 사용한다는 것을 발 빠르게 파악한 프랑스 경찰이 FBI에 도움을 청했던 것이다. 레드먼드 시각으로 새벽 5시 42분 비상상황이라고 판단한 FBI 뉴욕 지부는 우리 회사에 살해범들의 이메일과 계정 기록을 요청했다. 또 사용자가 로그인한 시각의 컴퓨터나 휴대전화 위치를 알 수 있는 IP주소도 알려달라고 했다. 긴급요청을 검토한 마이크로소프트 대응팀은 45분만에 FBI에 해당 정보를 제공했다. 전국적 수색을 벌이던 프랑스 당국은 다음날 두 테러리스트를 찾아냈고 범인들은 경찰과의 교전 과정에서 사망했다.

- 2장 기술과 공공 안전 : 거짓말쟁이가 되느니 패배자가 되겠다, 66쪽 

워드는 심근병증이라는 심각한 심장질환을 치료하기 위해 바트에 수술 자리가 나기를 2년이나 기다렸다. 심장벽을 두껍게 만드는 이 유전질환은 하이킹과 축구를 즐기던 건장한 중년 사내를 일상생활도 하기 어렵게 만들었다. 그날 아침 워드는 가슴에 면도를 하고 힘겹게 여러 테스트를 진행했다. 바퀴 달린 침대에 누워 오랫동안 바랐던 수술을 기다리고 있을 때 담당 의사가 방문했다. “몇 분만 더 기다리세요. 조금 있다 안에서 뵐게요.” 하지만 워드의 침대는 수술실로 들어가지 않았고 그는 마냥 기다렸다.

한 시간이 넘게 지났을 때 담당 의사가 다시 나타났다. “병원이 해킹을 당했어요. 시스템 전체가 다운된 상황이라, 수술을 진행할 수가 없어요.” 제2차 세계대전 중에도 진료를 계속했던 병원은 갑자기 마비상태가 되고 말았다. 전면적 사이버 공격의 타깃이 됐던 것이다. 병원의 모든 컴퓨터가 멈춰 섰다. 앰뷸런스는 방향을 돌렸고, 진료 약속은 취소됐고, 하루 종일 수술도 할 수 없었다. 이 공격으로 영국 의료 서비스의 대부분을 책임지고 있는 영국보건서비스의 3분의 1이 마비됐다.(중략)

두 번째 회의 주제를 한창 논의하고 있는데 갑자기 사티아가 끼어 들었다. “여기저기서 우리 고객들이 사이버 공격을 당했다는 이메일이 저한테 쏟아져 들어오고 있어요. 이게 무슨 일이죠?”

- 4장 사이버보안 : 세상을 향한 경고, 116쪽 

선거 캠프를 해킹하거나 투표 결과를 어지럽히는 식의 사이버 위협은 10년 전에는 거의 생각지도 못했던 것들이었다. 하지만 오늘날에는 뉴스 기사로 매일 쏟아지는 실질적 위험이 됐다. 민주 정부와 산업계가 1940년대에 세계대전에서 승리하기 위해 협력했던 것처럼, 이제는 평화를 지키기 위해 통일성 있는 대책을 마련해야 한다.

권위주의 정권들이 허위 정보 캠페인으로 실험을 하고 있기 때문에 우리 앞에는 더 복잡한 도전들이 놓여 있다.

- 5장 민주주의 지키기 : 지켜낼 수 있어야 공화국이다, 145쪽 

40년이 지나고 등장한 스마트폰은 물리적으로는 아이들을 다시 부모와 가깝게 만들었지만 아이들의 생각은 딴 곳에 가 있게 만들었다.

집에서, 특히 저녁을 먹을 때 전화기 좀 내려놓으라는 잔소리는 어느 가정에서나 흔한 일이 되었다. 오랫동안 기술은 계속해서 세상을 좁은 곳으로 만들었지만, 바로 옆집에 사는 사람들, 혹은 한 지붕 아래에 사는 사람들 사이의 유대는 더욱 줄어들었다.

그래서 민주주의에도 새로운 도전이 생겨난다. 온라인에서, 때로는 전혀 모르는 사람과 보내는 시간이 늘어나면서 사람들은 허위 정보에 더 잘 휘둘리게 됐다. 사람들의 호불호와 욕망, 때로는 편견을 이용하는 이런 허위 정보는 현실 세계에 실질적인 영향을 미쳤다. (중략)

지금은 개방되고 자유로운 사회의 바로 이런 강점을 정반대로 이용하는 사람들이 생겼다. 이메일 해킹이 러시아의 새로운 창의 날끝일 수 있으나, 그들의 야심은 훨씬 더 폭넓은 곳까지 미친다.

케이블 뉴스, 그다음에는 소셜 미디어가 서구의 민주주의, 특히 미국 사람들을 점점 더 고립된 정보 속에 가두고 있다. 사실이건 아니건, 페이스북이나 트위터 같은 플랫폼을 이용해 퍼뜨린 정보가 여러 당파를 화나게 만들 수 있다면, 혹은 러시아의 이해관계에 적대적인 정치 후보를 훼손할 수 있다면 어떻게 될까? 미국의 정치와 사회적 내러티브에 영향을 미치기 위해 상트페테르부르크와 모스크바에서 기술자들로 구성된 팀과 사회과학자들이 힘을 합쳐 엄청나게 빠른 속도로 마치 소셜 플랫폼을 만든 사람들 같은 창의성을 발휘한다면 어떻게 될까?

- 6장 소셜미디어 : 우리를 갈라놓는 자유, 164쪽 

이때 중요해지는 것이 바로 사이버 공격을 개시한 국가를 찾아내고 공동으로 대처할 수 있는 능력을 개발하는 것이다. 미국과 각국 정부는 이런 대처법을 개발하려는 노력을 늘려가고 있다. 그 방법은 대응 공격에서부터 경제 제재를 포함한 전통적인 외교 수단까지 다양하다. 그러나 형태를 불문하고 이런 방법들이 사이버 안정에 가장 크게 기여하려면, 해당 공격이 어떤 국제 규약을 위반했는지 합의할 수 있고 누가 해당 공격에 책임이 있는지 여러 나라가 의견 일치를 볼 수 있어야 한다. 데이터 센터와 케이블, 기업들이 소유하거나 운영하는 각종 장치에 이런 신종 무기들이 활개를 치는 시대에는 처음부터 사이버 공격의 주체를 찾아내는 데 민간 부문의 정보가 더 큰 역할을 할 가능성이 높다.

이 모든 것들은 여전히 국제외교가 얼마나 중요한지 알려준다.

- 7장 디지털 외교 : 기술의 지정학, 198쪽 

2013년 12월 IT 업계의 리더들은 백악관에 모여 오바마 대통령에게 정부의 감시 관행을 개혁하라고 촉구하고 있었다. 그런데 대화의 흐름이 바뀐 순간이 있었다. 오바마 대통령은 잠시 말을 멈추더니 이렇게 예언했다. “내 생각에는 입장이 바뀔 날이 있을 거예요.” 그 자리에 있던 많은 회사들이 지구상 그 어느 정부보다 많은 개인 정보를 가진

것을 빗댄 얘기였다. 대통령은 우리가 정부에게 하고 있는 요구를 고 스란히 IT 업계가 받게 될 날이 올 거라고 했다.

- 8장 소비자 프라이버시 : 언젠간 입장이 바뀔 것이다, 217쪽 

슈렘스는 오스트리아에서는 나름 유명인사다. 유럽과 미국 사이에 펼쳐진 프라이버시의 역사를 아는 사람이라면 슈렘스를 모를 수 없다. “프라이버시 사건 때문에 제 프라이버시는 다 사라졌죠.” 슈렘스는 그렇게 말하며 웃음을 터뜨렸다. (중략)

슈렘스는 2008년부터 페이스북 사용자였고 이를 근거로 아일랜드의 데이터 보호 국장에게 진정서를 냈다. 2012년 그는 오스트리아의 빈에 돌아와 있었다. “스물두 번의 이메일 교환”이 있은 후 슈렘스는 1,200페이지에 달하는 자신의 개인정보가 PDF 형태로 담긴 CD를 받을 수 있었다. “페이스북이 나에 대해 가지고 있던 정보의 절반이나 3분의 1밖에 안 되는 양이었어요. 그런데도 그 중에 300페이지는 제가 삭제한 내용들이었죠. 실제로 포스트마다 ‘삭제’라고 써 있을 정도였어요.”

슈렘스가 본 것처럼 페이스북에게 그토록 많은 데이터를 수집하고 사용할 수 있도록 해준 국제프라이버시보호원칙은 유럽의 법규가 요구하는 정도의 보호를 해줄 리 만무했다.

- 8장 소비자 프라이버시 : 언젠간 입장이 바뀔 것이다, 219쪽 

쿤츠 시장은 이렇게 말했다. “여기는 아직도 미개척 시대의 서부나 마찬가지예요. 큰 경찰서도, 소방서도, 아무것도 없죠. 이곳의 소방관들은 모두 자원봉사자예요.” 거친 산불이 사정없이 번질 때 그런 자원봉사자들은 극도로 위험한 상황에 처한다.

2016년에 산불이 빠르게 번진 적이 있었다. 8월의 뜨거운 바람은 송전선마저 끊어버리며 북부의 페리 카운티까지 사정없이 불길을 부채질했다. 5시간 만에 화재는 약 1만 제곱미터의 땅을 삼켜버렸고, 계속해서 커지고 있었다.

영향권에 놓인 동네들은 3단계 대피 명령이 내려졌다. “당장 떠나라.”는 의미였다.

드문드문 휴대전화 인프라가 있을 뿐 광대역 통신이 되지 않았던 그곳에서는 중요한 데이터를 송신할 수 없었고, 불길이 어디로 향하는지 누구를 대피시켜야 하는지 당국에 정보를 계속 업데이트해줄 방법이 없었다. 소방관들과 삼림청, 치안당국 사이에 중요한 정보를 공유할 수 있는 유일한 방법은 메모리 스틱에 데이터를 담아 트럭을 탄 운전자가 40분을 달려서 리퍼블릭까지 직접 가는 방법뿐이었다. 리퍼블릭에 가면 광대역 통신망과 무선 연결을 사용할 수 있었기 때문이다.

- 9장 지역별 광대역 통신 : 21세기의 전기, 252쪽 

대부분의 사람들은 기술을 제품 사업이라고 생각한다. 산업계에서 만들어낸 제품들은 대중의 관심을 사로잡고 우리가 일하는 방식, 생활하는 방식을 바꿔놓는다. 그러나 오늘의 히트 상품이 어느 틈에 어제의 추억이 되어버리는 세상에서 IT 기업의 실력을 결정하는 것은 오직 다음번 제품뿐이다. 그리고 그다음 제품의 우수성을 결정하는 것은 그것을 만드는 사람들이다. 간단히 말해서 기술은 기본적으로 사람 사업이다. (중략)

기술의 인간적 측면을 가장 잘 발전시킬 수 있는 방법은 뭘까?

- 10장 인재 격차 : 기술의 인간적 측면, 273쪽 

AI를 마주하는 세상은 이전의 그 어떤 기술에서도 겪어보지 못했던, 서로 다른 철학적 전통 사이의 차이와 유사성에 대처해야 한다.

AI가 제기하는 이슈들은 개인에게 부여된 책임의 역할, 공공 투명성의 중요성, 개인 프라이버시의 개념, 기본적 공정성의 개념 등과 같은 주제를 아우른다. 인간에 대한 철학적 이슈에서조차 합의를 볼 수 없는 전 세계가 대체 어떻게 해야 컴퓨터 윤리에 대해 단일한 접근법을 마련할 수 있을까? 우리가 미래에 해결해야 할 근본적 난제다.

이 문제를 해결하기 위해서는 기술을 만들어내는 사람들이 컴퓨터나 데이터 과학뿐만 아니라 사회과학이나 자연과학, 인문학 쪽에서도 더 많이 나와야 한다. 인공지능이 인류가 내놓을 수 있는 최고의 선의를 바탕으로 의사결정을 내리기 위해서는 인공지능을 개발하는 과정에 여러 학문 분야가 연계해야 한다. 그리고 고등 교육의 미래를 생각할 때는 반드시 모든 컴퓨터와 데이터 과학자들이 인문학을 접하도록 해야 한다. 인문학을 전공하는 모든 사람도 컴퓨터나 데이터 과학이 어느 정도는 필요할 것이다

- 11장 AI와 윤리 : 컴퓨터가 뭘 할 수 있는지보다 뭘 해야 하는지를 물어라, 329쪽