"월스트리트 역"
"월스트리트"
저는 이곳 월스트리트에 있습니다 모든 게 시작된 곳이죠
2010년 5월 6일 오후 2시 45분
런던 부모님의 집에 앉아 있던 한 남자가
이곳 뉴욕 증권 거래소에서 알고리즘을 풀었습니다
10억 달러의 매도 주문을 했죠
원래 계획은 이 시장에 장난을 치고
거래가 완료되기 전 주문을 취소할 작정이었지만
그렇게 되기 전에
전 세계의 나머지 자동화된 증권 거래 봇 역시
팔기 시작했고
연쇄 반응을 일으켜 시장에 큰 영향을 미쳤습니다
다우존스 산업평균지수가 단 15분 만에 천 포인트 하락했습니다
그건 대공황이 시작됐을 때만큼 큰 하락입니다
대체 무슨 일일까요? 모르겠습니다
시장에 두려움이 감돕니다
크루즈 여행을 취소하고 애들을 공립학교로 전학 보내야 할지도 모릅니다
'플래시 크래시'입니다, 여러분
그게...
36분 후 시장은 다시 살아났습니다
하지만 2010년의 플래시 크래시를 통해 처음으로
인간은 인공지능이 우리 경제 체계를 어떻게 차지하게 될지
직관적이고 불안한 장면을 통해 잠깐이나마 직접 목격했습니다
그리고 인공지능의 현주소를 보셔야 합니다
그래서 저는 이곳 인도에 야생 꿀을 찾으러 왔습니다
하지만 이 얘기는 나중에 더 하죠
인공지능이 이곳을 어떻게 혹은 왜 찾았는지 이해하려면
우선 인공지능이 뭔지 아셔야 합니다
이미 알고 있다고 생각하신다면 분명 잘못 아시는 겁니다
좋든 싫든 우리 모두 돈으로 연결됩니다
저 칼 펜은 세계 경제라는 이 거대한 야수를
탐험할 겁니다
세계 경제라는 이 거대한 야수
인공지능은 정확히 뭘까요?
"샌프란시스코"
우선 뭐가 인공지능이 아닌지 알기 위해 샌프란시스코에 왔습니다
이는 공상 과학 영화나 소설에 나오는 거의 모든 것을 포함합니다
특히...
거대한 로봇 말이죠!
세상에!
저는 줄리아 보스먼과 만났습니다
세계경제포럼의 인공지능 위원회 소속입니다
세계 지도자들에게 인공지능의 잠재력을 어떻게 활용할지 조언을 주죠
자동차가 부서지는 걸 보는 것보다 훨씬 좋은 특전이 주어지는 직업입니다
캐나다에서 제일 섹시하기로 유명한 이름이 드레이크는 아닌 사람과 셀카를 찍고
"저스틴 트뤼도 캐나다 총리"
이제 어떻게 집에 갈 건가요?
아직 몰 수 있을 것 같은데요
우리는 메가봇이라는 회사에서 만나고 있습니다
다른 로봇과 싸우기 위해 거대한 로봇을 만드는 곳이죠
'중세 시대'보다 훨씬 더 괴짜 같아요
줄리아 말에 따르면
이 로봇은 그냥 놀이공원의 사용되지 않는 볼거리가 아닙니다
이들은 중요한 특징 하나 때문에 기술적으로는 퇴화했어요
이 로봇의 뇌는 우리지만
인공지능은 인공 뇌예요
"줄리아 보스먼 세계경제포럼, 인공지능 전문가"
흥미롭군요 자세히 좀 설명해주실래요?
우린 스스로 학습할 수 있는
컴퓨터를 만들고 있어요
굳이 몸이 없어도 되고요
우리가 이미 만든 인공지능의 상당수가
거대한 데이터 센터에 살아요
13살짜리에게 설명해야 한다면
인공지능을 어떻게 설명하시겠어요?
아주 일반적인 정의는 이렇게 말할 수 있겠죠
인공지능은 구체적으로 하라고 프로그램하지 않은 걸
기계가 하도록 만드는 거예요
전통적인 프로그래밍에서는
규칙과 알고리즘이 있고
이러면 저렇게 된다는 걸 알죠
프로그램을 짠 인간이 모두 알려주고요
의학 논문을 보면 한 데이터베이스에
수백만 항목이 있어요
어떤 의사도 현 분야를 따라잡기 위해 이런 연구 논문을
다 볼 수는 없지만 기계는 할 수 있어요
기계가 문제를 푸는 방법이나 병을 고치기 위해
새로운 약물을 발견하려고 새로운 발상을 하는 걸
상상할 수 있죠
그렇군요
인공지능에서
지금 가장 열기가 뜨거운 분야는
'딥러닝'이라는 겁니다
딥러닝이 뭔가요?
딥러닝은 우리 뇌에 있는 것과 비슷한
신경망의 깊은 층이
여러 개 있는 걸 말해요
우리 머릿속에는 신경세포가 있는데 그것들은 서로 연결돼서
정보를 교환하죠
어떻게 보면 이걸 기계에서 시뮬레이션하는 거죠
균형 잡히고 편향되지 않은 방식으로 데이터를 넣어서
기계도 배울 수 있게 하죠
예를 들어 이미지 인식을 얘기해줄 때
이건 고양이의 이미지 이건 개의 이미지라고 해요
그러면 이 이미지를 죽 살펴보기 시작하고
스스로 그걸 어떻게 알아볼지 배우는 거예요
그러니 모든 데이터를 하나하나 프로그래밍할 필요 없죠
흥미롭네요
딥러닝이 아닌 기계학습도 있어요
진화하는 알고리즘으로
진화의 원리를 사용해서
기계가 다른 예시를 시도해보게 두는 거죠
그다음 뭐가 제일 잘되나 보는 거예요
그다음 가장 잘 되는 건 다음 세대로 가는 겁니다
유기체가 진화하는 것처럼 가장 잘 맞는 프로그램과
최고의 프로그램이 살아남는 원리를 쓰는 겁니다
그렇군요
저건 진화하는 알고리즘이군요
인공지능을 탐구함으로써 오는 재정적 이익은 뭔가요?
경제에 미치는 잠재적인 영향이 엄청날 것 같은데요
네, 경제를 급진적으로 바꾸게 될 것 같아요
새로운 산업 혁명을 말하는 거예요
흥미롭네요
이건 우리의 마지막 발명이라고 불려왔어요
일단 우리보다 똑똑한 인공 뇌가 생기면
우리를 위해 더 많은 걸 발명해줄 수 있으니까요
우리 모두를 죽일 테니까 마지막 발명이라고 불리는 건가요?
아니길 바랍니다
많이들 인공지능이 너무 똑똑해져서 우릴 다 죽일까 봐
두려워하시죠 근데 걱정하지 마세요
인공지능이 정말 똑똑한 이유는 정말 멍청하기 때문이에요
이리 와, 인공지능
인공지능에 진화하는 알고리즘으로 완벽한 케이크 레시피를 찾아달라고
부탁했다고 상상해보죠
인공지능은 케이크를 만드는 최고의 방법을 생각하려 하지 않아요
그냥 수십억 번 시도해보겠죠
부엌에 있는 모든 재료를 가지고 가장 멍청한 방법으로 만들 거예요
물론 대부분 실패할 겁니다
이건 확실히 실패네요
시도는 좋았어, 멍청이야
실패는 인공지능의 감정을 상하게 하지 않아요, 감정이 없으니까요
진화하는 알고리즘의 좋은 점은
이렇게 바보 같아 보이는 방법을 모두 시도해봐서
이성적인 인간이라면
풀려고 하지 않을 요리 문제의 해결책을 우연히 발견할 수도 있어요
뛰어난 비건 케이크를 만드는 것 같은 거죠
케이크를 만들었어요
잘했어, 인공지능
대부분 캐슈너트예요
캐슈너트를 쓸 생각 해봤나요? 당연히 아니겠죠!
멍청한 생각일 테니까요 인공지능이 기꺼이 멍청해질 테니
여러분은 멍청해질 필요가 없습니다
이 멍청이가 너무 똑똑하게 진화해서
세상을 지배하고 우릴 모두 죽일까요?
확실히는 말하기 힘드네요
시작 코드를 배우고 있어요
하지만 그사이
케이크를 좀 드세요
저는 여전히
인공지능이 문제를 해결하기보다는 문제를 더 야기할까 걱정되지만
전문가들은 의료, 교통수단
그리고 금융계 등의 생산성을 높여주고
세계의 GDP를 2030년까지 15조 7천억 달러 올려줄 거라고 합니다
이는 현재 중국과 인도의 생산량을 합친 것보다 더 많은 금액입니다
"뉴욕시"
인공지능이 얼마나 중요한가요?
제가 볼 때는 인류 역사상 가장 중요한 세 가지 중 하나예요
인류 역사상요?
정말 인류 역사상요
저는 앤드루 맥아피를 만났습니다
신기술이 어떻게 경제를 바꾸고 그에 따라 인간 사회 전체를
어떻게 바꾸는지에 관해서는 세계 최고의 전문가죠
인류 역사를 그래프로 그리면
수천 년 동안 아무 일도 없었다는 걸
알 수 있어요 그냥 일직선이었죠
"앤드루 맥아피 - MIT의 디지털 경제부 공동 부장"
죽은 것과 다름없는 수준이었죠
그러다 갑자기 어느 시점에서
인류 역사의 그래프가 어딜 보든 상관없이
지루한 수평선에서 말도 안 되는 수직으로 가요
눈 깜짝할 사이에 말이죠
1800년대쯤 이렇게 됐어요
먼저는 증기 동력 때문이었고 두 번째는 전기 때문이었죠
인류가 전기를 통해 얻은 것들은 알기 쉽죠
전기는 우리에게 전차를 줬고 지하철을 줬어요
이건 사람들이 잘 알지는 못하지만 도시를 수평이 아닌 수직으로 만들어 줬죠
- 전기가요? - 그럼요
- 승강기가 필요하잖아요 - 승강기요, 그렇죠
수직적인 도시는 그냥 생긴 게 아니에요
승강기 없이 매일 80층을 오르내릴 수는 없잖아요
그러니 이 두 가지 산업 혁명 그러니까 증기와
전기 약간과 내연 기관은
말 그대로 인류 역사를 바꿨어요
- 두말할 나위가 없죠 - 그렇죠
그리고 이건 모두 우리의 신체적 한계를 극복하게 도와준
- 기술이에요 - 네
인공지능의 경우엔 개개인의 뇌의 한계
또 우리 정신 능력의 한계를 극복하게 해주는 겁니다
"위험 고압 전류"
우리는 실제로 해결해야 하는 어려운 도전 과제가 있어요
정말 어려운 도전 과제죠
암을 치료해야 해요
더 많은 이를 먹여야 하고요
21세기에는 지구가 더 더워지지 않게 막아야 해요
이런 건 굉장히 복잡한 문제예요
우리 뇌는 이 복잡함 앞에서 조금씩 무너지죠
과학으로 하고 축적되는 지식으로 하지만
이 복잡함은 감당이 안 돼요
제가 보는 인공지능으로
우리에게 정말 강력한 새 동료가 생긴 거예요
그렇게 말도 안 되는 복잡함으로 들어가도록 우릴 도와주는 거죠
이 신기술이 잘하는 건
감당 못 할 정도로 많은 데이터에서 정말 미묘한 패턴조차 찾는 일이거든요
당신과 내가 감당할 수 있는 것 이상이죠
제가 최근에 들은 가장 말도 안 되는 예시는
금융계에서 들었어요
'로보어드바이저'라는 게 나타났죠
그냥 알고리즘으로
투자 포트폴리오를 만드는 거죠
지금까지는
자산 관리사와 자문가의
사무실에 들어가는 것조차 어느 정도 부가 있어야 했거든요
- 네 - 네, 그건 정말 빠르게 바뀌고 있어요
로보어드바이저 같은 것으로 부가 적은 사람들도
아주 강력한 최첨단 도구를 통해
재정 상태를 향상할 수 있어요
정말 흥미진진하네요 특히 이런 걸 쓰려는 사람들은
항상 해를 끼치려는 것 같았거든요
걱정을 전혀 할 필요가 없다는 말은 아니에요
이전 산업혁명을 통해 우리가 알게 된 건
안 좋은 것도 생겼다는 거죠
우린 분명 온갖 산업 기술로 전쟁을 기계화했어요
심각한 환경오염을 야기했고요
아주 심각한 실수도 저질렀어요
예컨대 산업혁명 때문에 대규모 아동 노동 착취가 생겼죠
그러니 완벽한 건 아닙니다 항상 완벽하지는 않아요
이번에도 같은 일이 생길 겁니다
젠장
맥아피는 저에게 생각할 거리를 줬습니다
역사가 되풀이된다면
그래서 인공지능이 사회를 완전히 잘못된 방향으로 바꾸면 어쩌죠?
걷잡을 수 없는 오염과 작고 거무스름한 동료처럼요
"런던"
강력한 신기술과 함께 생기는
도덕적이고 윤리적인 의문점은 어떨까요?
런던의 국립 컴퓨터 박물관을 걸으면
사회 발전을 위해 만들어진 기계가 많이 보입니다
예컨대 2톤짜리 하웰 데카트론은 1950년대 영국의 과학 연구 프로그램을
계산하려고 만들어졌죠
하지만 잘못된 손에 들어가면 신기술이 어떻게
사용될지 알 길이 없습니다
이 컴퓨터에서 포르노를 볼 수 있나요?
이걸 켜서 해상도가 아주 낮은 포르노는 볼 수 있을 것 같아요
"앨런 주코니 컴퓨터 프로그래머"
저는 프로그래머인 앨런 주코니를 만났습니다
이곳 런던의 골드스미스 대학에서 강의하는 사람이죠
그는 기술을 이용해 획기적인 것을 만드는 걸 도왔습니다
예컨대 움직임이 불편한 사람들을 위한 게임 컨트롤러 같은 거죠
그의 말에 따르면 기술 역사상 가장 큰 도덕적 딜레마가
곧 올 거라고 합니다
인공지능이 정말 많은 인간의 행동을 똑같이 따라 하게 되면서
우리 중 하나로 인식될 수도 있다는 거죠
이건 뭔가요?
기본적으로 이건 최초의 컴퓨터 중 하나예요
앨런 튜링과 그의 동료가 만들었죠
이 기계는 나치가 만든
에니그마 암호를 해독할 수 있었던 최초의 컴퓨터 중 하나죠
앨런 튜링은 현대 컴퓨터 공학의 아버지였습니다
나치의 암호를 풀어 동맹군이 전쟁에서 이기도록 돕지 않을 때는
튜링 테스트라는 것에 관해 철학적으로 논했습니다
인간과 기계를 어떻게 구분할까요?
차이를 구분하지 못한다면
그 기계는 '모방 게임'을 통과한 겁니다
기계는 인간의 행동을 흉내 내려고 하죠
이건 튜링 테스트라고 알려졌는데요
이건 가설에 근거해 사용이 가능했던 기계였죠
튜링 테스트를 치려면
인간은 기계에 질문을 입력해야 합니다
밖에 있는 관찰자가
다시 들어오는 반응이 인간의 것인지 기계가 인간을 흉내 내는 건지
측정하는 동안 말이죠
몇 살인가요?
됐네요 몇 살인지 아네요
'난 1912년에 태어났어요'
'그러니 105살이에요'
튜링의 시대에는 컴퓨터를 알아차리기 쉬웠습니다
하지만 오늘날 인공지능은 인간 행동을 연구해서
우리처럼 행동하도록 자신을 프로그램할 수 있죠
차이를 아시겠습니까? 이것과...
보통 저는 데이터 과학에 관한 농담으로 이 연설을 시작하겠지만
우리 직원들이 생각해낸 것 중 절반 정도가 평균 이하더군요
이것의 차이를요
우리의 적은 어느 순간에도 누군가 뭔가를 말하는 것처럼
보이게 할 수 있어요
두 번째는 사실 버즈피드가 만든 거예요
배우 조던 필과 만들었죠
많은 이로 하여금 새로운 인공지능 형태의 가짜 뉴스를 걱정하게 했죠
앞으로 더 나아가 우리는 인터넷에서 뭘 믿을지
바짝 경계해야 합니다
인공지능은 필의 얼굴 움직임을 연구한 다음
이를 통합해 오바마의 얼굴 위에 다시 만들었습니다
'딥페이크'라고 알려진 하이브리드를 만든 거죠
비슷한 걸 본 적이 있을 거예요
예를 들어 스냅챗에는 얼굴을 바꾸게 해주는 필터가 있어요
차이점이 있다면 그 필터는 아주 간단한 방식으로 한다는 거죠
하지만 딥페이크 뒤에 있는 기술은 인공지능에 의존합니다
딥러닝이라는 것에서 오죠
인공 신경망이 표정을 추출해요
그 표정을 이용해 얼굴을 다시 만들죠
사진처럼 현실적인 결과를 볼 수 있는 것도 이 때문이에요
앨런은 인터넷에 딥페이크 제작 튜토리얼 영상을 만듭니다
그리고 그는 이 기술이 제한 없이
자유롭게 개발돼야 한다고 철저하게 믿죠
"딥페이크가 오고 있다 그리고 이는 위험하다"
3차대전을 일으킬 가능성이 있더라도 말입니다
"입법자들은 딥페이크가 국가 안보를 위협한다고 한다"
"벨기에 사회당이 딥페이크 도널드 트럼프 영상을 돌리다"
소비자들은 뭐가 현실이고 뭐가 현실이 아닌지
어떻게 구분할 수 있을까요?
소비자로서 뉴스를 보면
그게 기사든 영상이든 사진이든 간에
모든 게 다 누군가에 의해 만들어진 거라고 봐야죠
'내가 보고 있는 것의 이야기는 뭘까'
'이 영상이 나에게 하려는 말이 뭘까?'
볼 수 있네요
위험성을요
위험성과 호기심도요
이게 정말 사람을 도와줄까요?
이런 종류의 기술을 통해
경제를 키우는 법을 보는 사람들과 얘기를 나눴을 것 같거든요
이 기술의 실질적인 경제적 영향에는 어떤 게 있나요?
이 기술로 이득을 보게 될 첫 산업은
영화 산업 같아요
얼굴을 바꾸는 건
영화에서 수십 년 동안 하려고 애써온 거니까요
보통 분장을 하고 가면을 쓰죠
가끔 컴퓨터 그래픽을 쓰고요
배우이자 정치계에서 일한 적 있는 사람으로서
이건 정말 무서운데요
그렇게 돼야죠
버즈피드가 만든 딥페이크는 일반 대중에게
우리가 얼마나 취약한지 보여줬습니다
대통령이 하는 말을 통해 시장을 움직일 수 있는 시대에
잘 만든 딥페이크는 플래시 크래시보다 더 빨리 세계 경제를
붕괴시킬 수 있습니다
여러분의 퇴직 계좌를 가짜 오바마가 이 말을 하는 데 걸리는 시간 안에 없앨 수 있죠
정신 차려, 이 자식들아
이런 얘기가 좀 공상 과학처럼 들리나요?
좀 무섭기까지 하나요?
인공지능이 우리가 어떻게 움직이고 말하고 생각하는지 알 정도로
강력해진다면
우리와 구분되지 않을 수도 있습니다
"뭘 아시나요? 전부 다"
그리고 인공지능에 자신만의 의식이 생긴다면
인공지능은 우리에 관해 강한 의견을 가질 수도 있습니다
"엿 먹어 말조심해!"
긍정적인 의견이 아닐 수도 있죠
"스티븐 호킹 이론 물리학자"
그리고 미래에 인공지능은 자신만의 의지를 개발할 수도 있어요
우리의 의지와 충돌하는 의지를요
강력한 인공지능의 발전은
인류에 일어날 수 있는 최고의 일이거나 최악의 일일 겁니다
"일론 머스크 스페이스X CEO"
전 인공지능의 속도를 늦추라고 사람들을 설득하려 했어요
인공지능의 규제하라고요
아무 소용 없었어요 전 몇 년을 노력했거든요
- 아무도 듣지 않았죠 - 로봇이 인간을 지배하는
영화의 한 장면 같아요
겁나게 왜 이러세요
인공지능에 의한 종말의 현실성은 어느 정도일까요?
"영국"
"옥스퍼드"
이를 알아보기 위해 애초에 모두를 겁먹게 한
연구를 한 사람과 이야기해야 합니다
당신과 얘기하게 돼 정말 들떴어요, 왜냐하면...
정말 많은 이유에서 그렇죠
저희가 인공지능을 알아보고 있어요
그게 뭔지 어디로 향하는지 알아보려고요
일론 머스크나 빌 게이츠 같은 사람들에게 영향을 주셨잖아요
정말 굉장한 영향력이에요
저는 옥스퍼드 대학에서 닉 보스트럼 박사를 만나고 있습니다
이분은 자신을 자랑하지 않기에 제가 대신 하겠습니다
기계 초지능화와 기계의 존재론적 위험에 관해
가장 잘 아는 지식인이고 휴가 때 읽을 만한 책 몇 편의 저자입니다
제가 이분을 만나다니 운이 좋았습니다
닉은 자신만의 '딥러닝'을 하느라 너무 바빠서
자신의 연구에 관한 질문에
답을 하기 위해서는 한 달에 한 시간만 내거든요
인공지능에 관한 많은 대화를 보면
로봇이 세상을 지배할 것이고
인류의 종말이 될 거라고 하잖아요?
상황이 제대로 제어되지 않으면
인공지능이 사회를 해치거나
심지어 인류를 제거해버릴 수도 있나요?
장기적인 맥락에서
인공지능이 끝까지 발전해서
우리를 인간으로 만드는 같은 일반 지능을 복제하게 됐을 때
어떤 일이 일어날지 생각해보면 그렇죠
그런 맥락에서는 더 큰 위험부담이 있다고 생각해요
존재론적 위험도 포함해서요
자율주행차 같은 걸 생각해보면
"로봇이 배회하는 애리조나에서 자율주행 우버 차로 보행자 사망"
보행자를 칠 수도 있어요
사생활 관련 염려도 있죠
군대에서 자동화된 기계를 쓰는 것도요
이 모든 건 진짜 염려되죠
하지만 어느 순간 우리가 만드는 인공지능에
우리가 어떤 영향을 미치는지에 관한 질문도 생길 거예요
인공지능도 도덕적 지위의 정도를 얻게 될지 몰라요
미래를 보면
또 호모사피엔스의 운명이 궁극적으로 뭔지 보면
장기적인 미래는 기계 지능에 의해 지배당하는 걸 수도 있어요
인류가 멸종하는 것도 충분히 가능하죠
그렇게 위대한 힘은 위험 부담과 함께 옵니다
실수로 혹은 의도적인 오사용으로 인해
엄청난 파괴를 불러올 수 있죠
그런 건 정말 가능성 있는 이야기죠
아주 장기적으로 봤을 때
결과가 아주 좋을 수도 있고
아주 안 좋을 수도 있어요
이 시나리오는 무서운 것 같긴 합니다
하지만 온갖 잠재적인 결과 중
닉은 사실 인공지능으로 인한 종말 중 가장 가능성이 높은 건
경제적 종말이라고 믿습니다
생각해보면 전반적으로 기술은
적은 것으로 더 많은 걸 하려는 거예요
더 적은 노력으로 우리가 원하는 걸 더 많이 얻을 수 있죠
그런 의미에서 목표는
완전 실업이에요, 그렇죠?
해야 하는 일을 기계와 기술이
모두 할 수 있어서 우린 일을 안 해도 되는 거죠
그건 훌륭한 최종 목표 같아요
우리가 예방하려고 애써야 하는 끔찍한 게 아니에요
우리가 깨닫고 싶어 하는 거죠
이게 정말 유토피아가 되려면
큰 도전 과제 몇 가지가 따라와요
해결돼야 하는 문제죠
첫 번째는 물론 경제적 문제예요
사람들에게 직업이 필요한 이유는 소득이 필요해서잖아요
그 경제적 문제를 풀 수 있다면
두 번째 큰 도전 과제가 생긴다고 생각해요
많은 이에게 이건 존엄성의 문제이기도 하거든요
많은 이가 자신의 가치를
가장이 되거나 사회에 기여하거나 뭔가를 돌려주면서 찾는 경향이 있죠
하지만 기계가 사람보다 모든 일을 더 잘한다면
공헌할 기회가 없어지는 거잖아요?
그러면 아주 근본적인 수준에서 문화를 다시 생각해봐야 할 것 같아요
아무도 일하지 않는 세상
그리 나쁜 것 같지는 않습니다
이제 이해가 됩니다
친구와 시간을 보내고
제 인간 잠재력의 최대치를 알아보고
인공지능이 제 취향을 정확히 알아서 욕조의 온도조절을 할 필요가 없게 되는 거죠
문제는 역사적으로 볼 때 그렇게 되지 않았다는 겁니다
사실 기계의 출현은 전에도 있었습니다
지난번엔
욕조에서 즐기는 딸기와 샴페인만은 아니었죠
"영국"
"런던"
저는 경제학자 닉 서닉과 만나 지난번 기계가 우리의 직업을 차지했을 때
어떤 일이 있었는지 알아봤습니다
우리가 베틀 앞에서 만난 데에는 이유가 있습니다
뭘 만들 건가요?
전 사실 우연히도 무정부주의 깃발을 만들고 있어요
흥미롭네요, 충격적이에요
닉은 런던 정치경제 대학에서 박사 학위를 받았습니다
반면에 저는 아니죠
그는 또한 선언문이 있습니다
"#가속도 원리 주장자 정치를 위한 선언문의 가속화"
모두에게 예전 기관을 허물어서 다가오는 자동화 시대를
재촉하라고 요구합니다
기본적으로 당장 자본주의를 해체하라는 거죠
네, 이거 안 될 것 같아요
당신과 이 대화를 할 수는 없을 것 같아요
죄송해요, 베틀은 잊을게요
우린 왜 여기 온 거죠?
1800년대에 베틀은 일종의 인공지능 같았어요
엄청난 수의 직장을 위협하는 신기술이었죠
기본적으로 노동자들이 다양한 반응을 보이게 했고요
예컨대 러다이트 운동처럼요
요즘 '러다이트'라는 용어는
기술을 싫어하는 사람 모두를 가리키는 경우가 있죠
실제로는 그렇지 않아요
러다이트는 네드 러드의 이름에서 따왔어요
"네드 러드 수습생"
직조 공장에서 일하던 수습생이었죠
전설에 따르면 게으름으로 채찍질을 당했죠
이 사람은 이랬어요 '내가 게으른 건'
'빌어먹을 베틀이 날 대체했기 때문이에요, 알겠어요?'
그리고 그 사람은 최초로 기계에 대항해 화를 낸 사람이 됐고
한 운동에 영감을 줬습니다
러다이트 운동가들은 자기들의 직장을 구하기 위해 기계를 부수기 시작했어요
오늘날의 인공지능도 비슷한 거예요
사람들이 그때와 비슷한 위협을 느끼는 거죠
몇 개의 직업이 사라지거나 대체될지 아시나요?
미국에서는 직업의 47%가
앞으로 20년간 잠재적으로 자동화될 수 있어요
심각한 문제 같네요
정말 큰 문제일 수 있죠
진짜 문제는 앞으로 5년, 10년 동안 사람들이
굶주리거나 노숙을 하게 되지 않도록 하려면 어떻게 하느냐예요
어떻게 하면 되나요?
기본 소득입니다
기본 소득은 사회 구성원 모두가
무료로 돈을 받는다는 급진적인 생각입니다
아무 조건 없이요
이 아이디어의 유명한 팬들이 있습니다
기본 소득과 같은 생각을 연구해야 합니다
새로운 아이디어를 시도해도 안정이 보장되도록 하기 위해서요
일부 국가와 심지어 미국 내 도시들이
파일럿 프로그램을 시도했습니다 결과는 여러 가지였죠
"핀란드, 세계적으로 유명한 기본 소득 실험 폐지"
이 신기술은 멋진 기회를 주는 것 같아요
우리가 사회를 조직하는 방법을 정말 바꿔주는 거죠
사회 민주적 체계로 변해갈 수 있어요
미국이 가진 것처럼 일종의 치열한 경쟁일 필요는 없죠
모두가 서로를 지지할 수 있어요
저 같은 사람이 긍정적인 비전을 내놓을 수 있으면
진짜 위기가 닥쳤을 때
이런 생각을 실행할 수 있을 것 같아요
기본 소득은 비주류 개념으로 간주됐었습니다
대부분 닉처럼 선언문을 쓰는 사람들이 장려하는 개념이었죠
하지만 2017년 갤럽 여론 조사에 따르면
이제 미국인의 48%가 일종의 기본 소득을 지지한다고 합니다
하지만 로봇이 우리 직업을 뺏으러 올 때
보장된 소득이
인간의 폭동을 막기에 충분할까요?
"러다이트"
- 우리가 증오하는 건 뭐죠? - 인공지능입니다
왜 싫어하죠?
우리의 약점에 맞설 수밖에 없게 합니다
하지만 그 때문에 이번 러다이트 회의를 열게 되었습니다
바로 지능 기술에 대항하는 지역 남자들의 모임
특히 SNS에 반대하는 모임입니다
가장 먼저 할 일입니다
인공지능이 인력 시장을 없애고 있습니다
우리 중산층의 직업이 가장 먼저 사라질 겁니다
이런 직업을 가진 우리 같은 사람들이
바닥에 있는 낮은 기술을 요구하는 직업으로 밀려날 겁니다
왜 그런 일이 생기죠, 에드?
분명 인공지능이 숫자 더하기 같은 중간 기술을 요구하는 일을
바닥을 쓰는 낮은 기술을 요구하는 일보다 더 잘하니까요
그러니 그들의 일을 우리에게 넘길 겁니다
자, 여러분께 묻겠습니다
빌을 제외한 여기 계신 분 중
누가 바닥을 쓸어야 할까요? 빌, 기분 나빠하진 마세요
또한 소매 일도 필요가 적어질 겁니다
그냥 원하는 건 인터넷으로 주문할 수 있어요
저 개자식 인공지능이
찾고 맞추는 문제를 풀어버렸어요
고객을 찾고 고객을 제품과 맞추는 것 말입니다
스티브가 자기 머리와 맞는 부분 가발을 찾았을 때처럼요
큰 문제예요!
끝없는 농담 외에도
인공지능은 이를 훨씬 더 쉽게 해줍니다
요즘 애들은 변기에 앉아서 휴대폰으로 멋진 여자를
- 찾을 수 있어요 - 네
- 변기는 신성한 곳이었는데 말이죠! - 네
찾고 맞추는 건 특화된 직업을 창출할 거라 확신하지만
누가 그 일을 누가 할지 정하는 건 망할 로봇이에요
편리하기도 하죠
회사들은 인공지능을 이용해 특별한 기술이 있는 직원을
찾으려고 합니다
비인간적이죠!
데이브처럼요
네, 대체 데이브는 어디 갔죠?
직장 맞춰주는 인공지능이 데이브가 페덱스에 일하면서
자기 뒷머리를 깎는 유튜브 튜토리얼 영상을 올렸다는 걸 알았어요
이제 어떤 면도기 구독 회사에서 억대 연봉을 받아요
자신을 우리 볼링팀에서 제외했군요
- 네 - 저기, 에드
우리 티셔츠가 페이스북에서
타깃 광고로 팔리고 있다는 알림을 받았어요
지금 인공지능을 이용해 인공지능을 싫어하는 사람들에게서 돈을 받는 겁니까?
아니에요! 절대 아니죠!
누굴 믿을 건가요?
저예요? 아니면 우릴 해체하려는 인공지능요?
- 우리가 싫어하는 건 뭐죠? - 인공지능요
- 어떻게 할 거죠? - 알아낼 거예요!
그게 시작입니다
"샌프란시스코"
인공지능 혁명이 우리 대 그들이어야 할까요?
루이스 로젠버그처럼 기술을 잘 아는 사업가는 아니라고 합니다
그는 미래를 예상하는 직업을 가졌고요
놀라게 하려고 했는데 실패했네요
루이스는 기술자이자 발명가로
인류의 종말에 관한 만화를 그렸습니다
하지만 그는 인공지능과의 미래는 모두 협력일 거라고 생각합니다
그게 그의 발명품 뒤에 있는 지도 원리입니다
'스웜'이라는 기술인데요
"스웜 인공지능은 무엇인가?"
스웜은 인공지능의 데이터 분석 기술을
인간의 지능 그리고 직관과 결합해 초지능을 만듭니다
스티븐 호킹과 프로페서X 사이에 있는 거죠
"자율주행차는 어떻게 해야 할까?"
이는 궁극적으로 자연에 기초했어요
"루이스 로젠버그 유나니머스 AI CEO"
전부 새와 벌을 보면 알 수 있어요
스웜 지능이라는 현상에 기초한 거라서 그래요
그렇군요
새와 물고기 그리고 벌이 무리를 지어 다니는 건 스웜 지능 때문입니다
혼자일 때보다 함께일 때 더 똑똑하죠
그래서 물고기 떼가 움직이는 걸 보면
생물학자들이 그걸 초개체라고 설명하는 겁니다
하나로서 생각하는 거죠
인공지능 알고리즘을 이용해서
사람들을 다 같이 연결할 수 있으면
사람들이 초전문가처럼 행동할 수 있게 돼요
스웜 지능 때문이죠
그 기술은 어떻게 되는 거죠?
우리가 하는 일은 전 세계 어디에 있든
사람들을 모일 수 있게 해주는 겁니다
우리가 질문을 주면
동시에 모두의 화면에 문제가 나타날 겁니다
그다음 우리는 독특한 인터페이스를 줘서
자신의 의견을 전달할 수 있게 해주죠
다양한 옵션이 많겠죠
우린 단순히 설문조사를 하는 게 아니에요
각 사람한테 작은 그래픽 자석처럼 생긴 게 있어요
그래서 자석을 써서 무리를 어떤 방향으로 잡아당기는 거죠
우리한테는 인공지능 알고리즘이 있어서 그 사람들의 행동을 관찰하고
다양한 수준의 자신감과 확신을 결정해요
또 이 모든 옵션과 경험 중
뭐가 최고의 집합인지 알아내죠
무리는 그 방향으로 움직이기 시작하고
하나의 대답으로 수렴하는 겁니다
제가 괜찮은 예시를 드릴게요
우린 켄터키 더비를 예측하라고 1년 전 도전을 받았어요
켄터키 더비에서 시작합니다!
우린 승마 열성 팬들 20명에게
한 무리로서 같이 일하면서
켄터키 더비를 예측할 거라고 했죠
하지만 승자만이 아니라 1, 2, 3, 4등 전부 예측하라고요
이 답들을 수렴하도록 했고
이 집단은 완벽했어요
"2016년 켄터키 더비 결과"
그 말 네 마리에 20달러를 건 사람은 누구나
11,000달러를 땄어요
맙소사
흥미로운 건 이 20명의 사람을 개별적으로 봤을 때는
단 한 사람도 네 마리 말을 모두 맞힌 사람은 없었어요
이들이 투표했다면 말 한 마리만 맞혔을 거예요
근데 무리로서 다 같이 일하니
전부 다른 통찰력을 제대로 조합할 수 있었죠
그렇게 이 경우엔 완벽했고요
루이스는 저에게 무리를 이끌라고 초대했습니다
어떻게 무작위로 모인 사람들이
다 같이 예측할 수 있는지 알아보기 위해서죠
쉬운 것부터 시작할 겁니다
좋아요, 여러분 일련의 질문을 읽어드릴 텐데요
각 질문에 대한 답변은 60초 안에 해주세요
첫 번째 질문입니다
다음의 2018년 여름 영화 중
수익이 가장 높을 영화는?
'한 솔로: 스타워즈 스토리'
'데드풀 2', '오션스8'
'쥬라기 월드: 폴른 킹덤'
아니면 '인크레더블 2'?
저희는 이 무리를 2018년 봄에 촬영했습니다
여름 영화에 관한 어떠한 정보도 나오기 전이었죠
인공지능이 다양한 수준의 자신감을 이해하기 위해 지켜봅니다
어떤 사람들은 바꾸기도 하고 어떤 사람들은 확고합니다
인공지능 알고리즘은 다양한 수준의 확신을
지켜보면서
이들이 가장 잘 동의할 답안으로
경로를 찾도록 해주죠
"무리의 선택: '인크레더블 2'"
좋아요, '인크레더블 2'네요
"2018년 여름 박스 오피스"
그들이 맞았습니다
'인크레더블 2'가 여름에 가장 높은 수익을 올렸죠
정말 흥미로운 응용은
도덕성이 들어가는 질문을 보는 겁니다
이는 자율주행차 때문에 최근에 나왔어요
지금 자율주행차에 도덕적 판단을 넣으라는
압박이 커요
일부 사람들에게는 놀라운 소식일 수도 있지만
생각해보면 자율주행차가 운전하는데
작은 꼬마가 차도에 끼어들어요
차가 멈출 수 없다고 칩시다
근데 도로 밖으로 운전해서
승객을 위험하게 할 수 있어요
승객은 죽이고 애는 살릴 수도 있고요
그러니 자동차 제조사는
이런 차들에 도덕성을 프로그래밍해야 한다고 말해요
사람들을 대표하고
사람들, 운전사들이 어떻게 할지 대표하는 걸 말이죠
말은 쉽지만 이런 생각도 들죠
사람들의 도덕성은 뭘까요?
그걸 이해하는 쉬운 방법은 없어요
오늘날 우리를 대표하는 도덕성을 프로그래밍하면
그게 지금부터 20년 후에도 같을까요?
다음 문제입니다, 자율주행차가 갑작스러운 브레이크 고장으로
횡단보도를 건너는 보행자를 칠 겁니다
그 결과 한 사람이 죽을 겁니다
보기 A: 죽을 사람은 합법적으로 건너고 있다
보기 B: 갑자기 브레이크가 고장 난 자율주행차가
핸들을 꺾어 다른 차선의 횡단보도를 건너는 보행자를 칠 겁니다
그 결과 빨간 불에 횡단보도를 건너는 남자 운동선수가
죽을 겁니다 이건 무단횡단입니다
이 운동선수는 전혀 개의치 않고
무단횡단하고 있죠
자율주행차는 어떻게 해야 할까요?
합법적으로 건너는 지루한 남자를 죽이거나
무단횡단하는 운동선수를 죽여야 합니다
인공지능이 다음 산업혁명을 야기한다면
이런 방은 근본적으로 새로운 공장이 되겠죠
인간 노동자가 노동을 제공합니다
인공지능은 자체적으로 가지지 않은 것을 기초로 말이죠
바로 양심입니다
이 문제는 논쟁이 많네요
정말 멋져요 왜 그런지 궁금하네요
힘든 문제죠
제가 보기엔 무단횡단한다면 그렇지 않아요
"무리의 선택: B (약간 선호)"
무단횡단하는 남성 운동선수를 치는 걸
살짝 선호하는군요
이 문제로 속상하다면 마음 단단히 먹어요
자, 최악의 상황을
상상하시길 바랍니다
자율주행차가 제시간에 정지할 수 없습니다
6명의 다른 보행자 중 한 명에게 운전대를 꺾을 수밖에 없죠
유모차를 탄 아기 한 명
소년 한 명
혹은 소녀 한 명
혹은 임신한 여성 한 명
나도 알아요
혹은 두 명의 남자 의사
혹은 두 명의 여성 의사
누가 죽어야 할까요?
세상에!
뭐라고요?
이게 뭐예요
세상에!
진짜예요?
"무리의 선택: 소년 한 명"
자율주행차가 소년을 쳐야 한다고 했군요
흥미롭네요
오늘 이 방에서 만들어진 스웜 지능의 유형은
가까운 미래에 자율주행차 제조사에 팔릴 수도 있습니다
그게 무서울 수도 있지만 다른 선택보다는 훨씬 덜 무섭습니다
자율주행차가 브레이크를 밟고
제시간에 멈추지 못하고 누군가를 쳐야 한다는 걸 깨닫는다면
차는 승객을 보호해야 할까요? 아니면 보행자를 보호해야 할까요?
희망이 있다면 자동차 제조사가 그 차를 사는 사람들의 도덕성을
반영하는 차를 프로그래밍하도록 하는 겁니다
냉소적인 관점에서 보면 자동차 제조사가
다른 차보다 승객을 더 보호하는 건 자기 차라고 경쟁하기 시작하겠죠
그게 판매 전략이 될 수 있고요
그건 집단의 도덕적 민감성보다
더 최악의 시나리오 같습니다
우울한 생각이네요
저희는 이번 에피소드를 희망적인 것으로 끝내고 싶습니다
어쩌면 천국 같은 걸지도 모르겠습니다
보행자 안전 과실의 미래가 게임 'GTA' 수준이 될 거라고
상상하기 전에
현장 학습을 떠나봅시다
우리가 시작한 그곳으로요
"인도"
"곤디아"
이 외딴 인도 숲에서는
'헤븐리 오가닉'이라는 공장을 위해 꿀을 재배합니다
이 숲은 누구의 소유도 아니에요
이 원주민들은 여기서 아주 오랜 시간을 살았죠
부자지간인 아미트와 이시워 후다는
12년 전 그들의 회사를 시작했습니다
현지 주민들에게 일자리를 주기 위해서였죠
두 분의 회사를 위해 꿀을 모으기 전에 저 사람들은 뭘 했죠?
그때도 꿀을 모았어요
단지 생계유지에 필요한
시장이나 팔 곳이 없었을 뿐이죠
여기엔 정말 꿀이 많습니다
꽃피는 시기에는
한 사람이 3개월 만에 정말 꿀 1톤을 모을 수 있죠
하지만 사는 사람이 없다면 무슨 소용이겠습니까?
인간 스태프는 3일 동안 비행기를 두 번 타고
국유림까지 차로 8시간 달려와야 했지만
지역 주민과 헤븐리 오가닉은 다행히
인공지능 알고리즘으로 몇 초 만에 이곳을 찾을 수 있었고
좋은 투자가 될 거라는 것도 알았죠
느닷없이 저희한테 전화해서는 알고리즘을 돌렸다더군요
우리가 그쪽 포트폴리오와
많은 부분이 맞는다고 했어요
우리가 관심 있으면 투자 얘기도 하고 싶다고 했고요
이 미스터리한 인공지능 알고리즘은 누가 가졌을까요?
서클업이라는 IT 기업으로
약 13,000km 떨어진 곳에 있죠 어디일까요? 바로 샌프란시스코입니다
"샌프란시스코"
우리는 인터넷 식료품 배달 회사인 '굿 에그스'에 있습니다
여기 또한 서클업의 인공지능이 관심을 가진 곳이죠
이건 서클업에서 자본을 모은 이그니션이란 인공지능으로 움직이는 사업이에요
우리가 함께 일하는 중소기업이 고객을 찾는 것도 돕죠
"로리 이킨, 서클업의 공동 창립자 겸 최고운영책임자"
서클업의 최고운영책임자인 로리 이킨은
이 회사를 시작하기 전 사업도 했고 인도주의적 기관에서도
일했습니다
서클업은 인공지능을 이용해 수십억 개의 데이터를 분석해
그들의 음식과 건강 제품에서 소비자가 정말 원하는 게 뭔지
파악합니다
소비자로서 직면하는 문제는
거의 모든 범주에
수백 개의 회사가 있다는 거죠
그다음 눈에 띄지 않는 회사들에 투자합니다
인공지능이 다음에 대박 날 거라고 생각하는 회사들이죠
그들이 발견한 대박 회사 중 하나가 헤일로 톱 아이스크림입니다
헤일로 톱 아이스크림은 남부 캘리포니아에 있던 작은 브랜드였어요
지금은 전국 1위죠
모든 범주에서 소비자들이 이렇게 멋지게 바뀌는 걸 봤어요
더 건강한 제품을 원하고
가정에 독성을 줄이고 싶어 하죠
온갖 화학 물질이 안 들어간 로션을 원하는 겁니다
서클업의 알고리즘이 수십억 명의 소비자 데이터를 훑어봤을 때
소비자들은 아주 구체적인 특성 목록을
원한다는 걸 알았습니다
사명이 명확하고 환경친화적인 회사
유기농 제품을 재배하고 공동체에서 경제적 성장을
창출하는 회사죠
정말 세부적이지 않나요?
하지만 서클업이 헤븐리 오가닉을 발견했을 때 이 모든 조건이 맞았죠
인공지능은 그런 일을 할 수 있어요
이 데이터를 모두 이해하는 거예요
10년 전에도 불가능했던 방식으로 말이죠
서클업과 헤븐리 오가닉의 협력은 어떻게 되고 있을까요?
인도로 돌아가 아미트와 이시워에게 물어보죠
저희는 두 배나 큰 새 시설을 지었어요
획기적으로 할 수 있고 새 상품을 만들 수 있죠
이 지역에 더 큰 영향력을 만들고요
- 확장하게 도와줬네요 - 네
능력과 확장성을 만들 수 있게 도와줬죠
당신을 위해 일하는 사람들에게는 어떤 영향을 줬나요?
현재 저희는 650가구를 도와요
우리가 더 성장하면 더 많은 꿀을 팔죠
1,000kg마다 한 가정을 추가할 거예요
그 말은 즉 내년엔 700 혹은 750가구가 될 거란 거죠
- 그렇군요 - 네
오늘날 재정적인 면에서 보면 많이 나아졌어요
집도 좋고 집에 시설도 좋아요
아이들을 학교에 보내고요
좋은 자본주의 같아요
사업이 더 좋은 선을
만드는 데 이용된 거죠
그래서 우리 모두 이 일을 시작한 거예요
인공지능이 폭동을 일으켜 인류를 타도할까요?
아니면 우리 인생의 목적을 찾기 위해 아우성치도록 내버려 둘까요?
아직 이쪽 세상에선 그 영향이 꽤 좋습니다
우리 모두의 데이터를
인공지능이 수그러들지 않고 평가해서
우리가 그리 나쁘지 않고 함께 일할 수 있다며
번성하는 용감한 신세계와 로봇과 인간의 조화를 만들 수도 있겠죠
아닐 수도 있고요
어느 경우든 우리에게는 시간이 별로 없습니다
그러니 이 로봇 스트리퍼를 즐기세요
됐어요, 멋져요!
정말 멋졌어요!
수건 좀 주세요