華爾街站
華爾街
我身處華爾街，這一切開始的地方
2010年5月6日下午2點45分
有個人坐在他父母位於倫敦的家裡
向紐約證券交易所釋放出一個演算法
售出十億美元股票
他原本打算愚弄股票市場
並在交易完成前取消
但他取消前
世界各地的自動股票交易機器人
也開始拋售
引起連鎖反應，對市場造成嚴重衝擊
道瓊平均工業指數 在15分鐘內下跌1000點
這幾乎是導致當年大蕭條的跌幅
–到底怎麼回事？ –我不知道
市場在恐慌
取消郵輪旅行，把孩子轉到公立學校
各位，這是閃電崩盤
36分鐘後市場反彈
但2010年的閃電崩盤
是人類第一次得以窺見可怕的未來
人工智慧將如何接管我們的金融系統
你應該看看它如今的發展
因此我來到印度採野生蜂蜜
我們稍後再繼續這個故事
要明白人工智慧和這個地方有何關聯
你首先要明白什麼是人工智慧
如果你以為你已經知道了 我很肯定你錯了
不管你喜不喜歡 我們都被金錢連繫起來
我是凱爾潘，我將要探索
全球經濟這隻龐然巨獸
全球經濟巨獸
那麼到底什麼是人工智慧？
舊金山
我先到舊金山來弄明白它不是什麼
基本上就是所有科幻小說所敘述的
尤其是…
巨型機器人！
天啊！
我身邊的是茱莉亞博斯曼
她供職於世界經濟論壇的人工智慧委員會
建議世界各地的領袖 如何利用人工智慧的潛力
這個職位帶來的好處 比觀看機器人摧毀汽車更棒
比如和加拿大除了德瑞克以外 最性感的人自拍
有人在自拍 加拿大總理賈斯汀杜魯多
現在你要怎麼回家？
我想它還是開得動
我們在一個叫MegaBots的公司見面
他們專門製造巨型機器人 和其他機器人打架
就像宅男版的中世紀餐館劇院
據茱莉亞所說
這些機器人不是過時的主題樂園擺設
它們是科技恐龍，因為一個重要分別
在這些機器人裡，我們就是大腦
但人工智慧是人工的大腦
世界經濟論壇人工智慧專家 茱莉亞博斯曼
有意思，妳能詳細解釋一下嗎？
我們現在製造的電腦
能自己學習
它們甚至不需要身體
我們製造的很多人工智慧
都住在龐大的數據中心裡
如果面對著一個13歲的孩子
妳會如何解釋人工智慧？
我想我可以大概解釋為
人工智慧叫機器做事情
而我們不必寫程式叫它們這樣做
傳統的撰寫程式
你有一系列的規則和演算法
你知道如果有這個，就會有那個
全部是由撰寫程序的人設計好
以看醫學文獻為例
一個資料庫有數百萬篇文章
沒有醫生可以讀完全部研究論文
以瞭解行業的最新發展，但機器可以
那麼你可以想像 機器可以想出新的主意
來解決問題或發現新的藥物
來治癒疾病
哇
在人工智慧領域
如今有一項發展令人非常振奮
那就是深度學習
什麼是深度學習？
深度學習是當我們有了
數個深層次的神經中樞網絡
類似於我們人腦的結構
在我們的腦子裡，神經元彼此連結
並交換資訊
我們想到一個方法 在機器裡模擬這個結構
我們輸入平衡而且公正的數據
來讓它學習
以辨認圖像為例，我們告訴它們
這些圖像是貓，這些圖像是狗
它們就開始分析這些圖像
從而自己學會如何辨認它們
我們不必撰寫所有的程序
有意思
還有一種不是深層學習的機器學習方法
它們是進化演算法
我們基本上利用了進化論的原理
讓機器嘗試不同的程序
看哪種最好
效果最好的會進入下一代
就像生物進化，我們的原則是
最好的程序才能生存
哇，好吧
既然那些是進化演算法
探索人工智慧會帶來什麼經濟利益？
它一定有潛力會對經濟造成深遠影響
是的，我想它會徹底改變經濟格局
我們談論的是一場新的工業革命
有意思
這被稱為人類最後的發明
因為一旦我們有了 比我們更聰明的人工大腦
它可以為我們發明更多東西
這被稱為最後的發明 因為它會殺死我們全部人？
但願不會
很多人都擔心人工智慧變得太聰明
會把我們全部殺死，但不要擔心
人工智慧之所以如此聰明 其中一個原因是因為它非常蠢
過來，人工智慧
假設你叫人工智慧用進化演算法來尋找
最好的蛋糕食譜
人工智慧不會思考哪種方法最好
它會進行數十億次的嘗試
用遍廚房裡的所有原料 用最愚蠢的方法來料理
當然大部分都註定了失敗
這個必定失敗
不錯的嘗試，白癡
失敗不會傷害人工智慧的感情 因為它沒有感情
進化演算法最好的部分是
在試遍所有似乎愚不可及的方法後
它可能會發現一個
沒有理性的人類能想出的料理方法
比如做出一個超棒的素食蛋糕
我做了一個蛋糕
做得好，人工智慧
它大部分是腰果
你會想到用腰果嗎？當然不會！
因為那很蠢，人工智慧願意去做
因此你不必這樣做
這個白癡會進化成某個聰明的東西
統治世界並殺死所有人類嗎？
很難講
我在學習發射密碼
但與此同時
吃些蛋糕吧
雖然我仍擔心
人工智慧會造成而不是解決更多問題
專家們同意，它會提高
諸如醫療、運輸和金融等領域的效率
在2030年前使全球生產總值 增加15.7兆美元
這比如今中國和印度 加起來的生產總值還要多
紐約市
那麼人工智慧到底有多重要？
在我看來，它是人類歷史上 最重要的三件事之一
人類歷史上？
絕對是人類歷史上
在我身邊的是安德魯麥克菲
對於新科技如何改變經濟 乃至於整個人類社會
他是世界一流的專家
假如你要製作人類歷史的圖表
你會發現有好幾千年
完全沒有發生任何事 我們只是一成不變地活著
麻省理工學院數位經濟學院 聯合主管–安德魯麥克菲
幾乎跟死了沒差別
突然到了某個時候
不管你從哪個方面來看 人類歷史的圖表
從一條沉悶的水平線 變成一條陡峭的垂直線
幾乎就是一眨眼的工夫
這發生在1800年前後
首先是因為蒸汽動力，第二是電力
電力的貢獻顯而易見，對吧？
它給了我們電車、地鐵
不太明顯的就是 把水平的城市變成了垂直式
–因為電力？ –絕對是
–你需要電梯 –電梯，好吧
沒有電梯就不會有垂直式的城市
你不能每天爬上80層樓梯
這兩項工業革命，首先是蒸汽
然後是電力加上內燃機
徹底改變了人類歷史
–這是毫無疑問的 –當然
這些科技使我們克服了
體力限制
至於人工智慧將會使我們克服
我們個人腦力的限制
危險，高壓電
我們面對著一些很棘手的挑戰
非常棘手的挑戰
我們要治癒癌症
我們要為更多人提供食物
我們要在21世紀停止給地球加溫
這些都是非常複雜的問題
我們的大腦承受不了那種複雜度
我們利用科學和累積的知識來應對
但這些問題實在太複雜了
我對人工智慧的看法是
這就像我們有了 一位非常強大的新同事
協助我們解決這些極端複雜的問題
因為這些新科技最擅長的是
在龐大數據中找出隱藏的模式
而你我都無法消化這些數據
我近期聽到的一個最瘋狂的例子
是金融方面的
人們稱之為機器人顧問
它們只是一個演算法
會把你的投資組合放在一起
如今
你要有一定數額的財富
才會去找理財規劃師或者顧問
–對 –是的，這種情況很快會改變
有了機器人顧問，那些不太有錢的人
也可以用上最強大、最尖端的工具
以改善他們的財務狀況
這很令人興奮 尤其因為似乎總是有人
會用這些東西去幹壞事
我不是說這沒什麼可擔心的
我們知道，過去的工業革命
都帶來了一些負面後果
我們把工業科技用在戰爭上
我們使環境受到極大污染
我們犯了一些很嚴重的錯誤
比如大規模使用童工 這都是工業革命造成的
因此這並非完美，不是在所有方面
這次也會發生同樣的事情
該死
現在麥克菲讓我思考
如果歷史重蹈覆轍
人工智慧以錯誤的方式重塑社會呢？
比如環境污染和童工問題？
倫敦
還有隨著強大的新科技發展
帶來的道德和倫理問題？
參觀倫敦的國家計算博物館
你看到很多機器 發明的初衷是造福社會
比如這台兩噸重的哈維爾德卡特倫 在1950年代被造出來
為英國的科學研究計畫進行計算
如果落入錯誤的人之手 沒人知道
一項新科技會被如何使用
你能在這台電腦上看色情影片嗎？
我想你可以打開它 看非常低解析度的色情影片
電腦程式設計師–艾倫祖克尼
這位是程式設計師艾倫祖克尼
他在倫敦的金匠學院教書
他利用科技協助創造出 一些革命性的發明
比如讓行動不便的人使用的遊戲控制器
他說科技歷史上
最大的道德困境即將出現
當人工智慧開始模擬各種人類的行為
它可以冒充人類
這是什麼？
這基本上就是最早期的電腦之一
由艾倫圖靈和他的同事建造
這台機器是第一台能破譯納粹設計的
恩尼格瑪密碼的電腦
艾倫圖靈是現代計算機科學之父
當他沒有忙著協助同盟國 通過破譯納粹密碼贏取戰爭
他研究出被他稱為“圖靈測試”的試驗
我們如何分辨人和機器？
如果我們分辨不出來
那台機器便通過了“模仿遊戲”
機器試圖模仿人類的行為
這就是圖靈測試
這是其中一台 我們假設曾用作測試的機器
要進行圖靈測試
人類會向機器輸入問題
一位旁觀者會評估
答案是來自人類
還是機器在模仿人類
你幾歲？
–有了 –它知道它幾歲
“我生於1912年
“因此我105歲了”
在圖靈那個年代 你很容易分辨出電腦的答案
但今天，人工智慧可以學習人類行為
並使自己變得像我們
你能看出這個…
通常我會以一個數據科技的笑話 開始這番評論
但我的員工想出來的一半東西 都低於平均水準
…和這個的分別嗎？
我們的敵人可以使它 看起來像任何人在任何時間
說任何內容
第二個其實是BuzzFeed 和演員喬登皮爾
共同創造的
這使很多人擔心人工智慧式的假新聞
日後我們要更加謹慎
不能輕易相信網路上的東西
人工智慧學習皮爾的面部動作
把它們結合起來 重現在歐巴馬的臉上
創造出被稱為“深偽”的混合體
你也許看過一些類似的東西
比如在Snapchat上 有一個讓我們換臉的濾光鏡
分別在於，濾鏡的技術很簡單
但深偽背後的技術依靠的是人工智慧
它來自一種叫做“深層學習”的東西
人工神經中樞網絡提取出面部表情
它利用這表情重新創造你的臉
因此我們可以得到逼真的效果
艾倫在網路上教人們如何製作深偽
他深信這項科技
應該不受限制、自由發展
即使它有可能引發第三次世界大戰
比利時社會主義黨轉發 “深偽”川普影片
讀者怎麼知道
什麼是真實的，什麼不是？
作為讀者，當你看到一則新聞
不管它是一篇文章 一段影片還是一幅畫
你看到的任何東西 都是由某個人所創作的
“我看到的東西講述了什麼？
“這段影片想表達什麼？”
那麼，我可以看到…
危險
危險還有對它的好奇
這真的對人有好處嗎？
因為我想你已經和那些
期待利用這項科技 促進經濟發展的人談過了
這會對經濟造成什麼實際影響？
我想首先從這項科技得到好處的
會是電影業
因為它可以換臉
我們幾十年來都想在電影裡這樣做
通常我們利用化妝和面具
有時候我們用電腦成像
作為一個演員和曾經從政的人
我覺得這很嚇人
–但我完全理解 –應該如此
BuzzFeed的深偽使大眾意識到
我們是多麼脆弱
尤其是總統一開口 就能影響市場的時候
手段高明的深偽作品 可以使全球經濟崩潰
速度比閃電崩盤更快
並讓你的個人退休帳戶消失 這只需假的歐巴馬說一句
小心點，賤人們
這一切聽起來有點像科幻小說嗎？
甚至有點嚇人？
如果人工智慧變得足夠強大 知道我們如何行動
如何交談和思考
也許會變得跟人類難以區分
你知道什麼？無所不知
如果人工智慧有了自己的意念
它可能對我們產生強烈的意見
去你的–小心點！
而且不一定是正面的
理論物理學家–史蒂芬霍金
未來人工智慧會發展出自己的意志
和我們的意志相衝突
強大的人工智慧興起
可能是發生在人類身上 最好也可能是最壞的事
太空探索技術公司執行長 伊隆馬斯克
我試著勸人們放慢發展人工智慧
要管理人工智慧
然而徒勞無功，我努力了好幾年
沒人要聽
在一部機器人控制一切的電影
你把我嚇到了
人工智慧導致末日到來 這個威脅到底有多真實？
牛津
英國
為了找到答案，我要去問一個人
他的研究一開始就把所有人嚇壞了
我很興奮能和你交談，因為…
出於很多理由
我們在探索人工智慧
想知道它到底是什麼 它朝著什麼方向發展
你影響了像伊隆馬斯克 和比爾蓋茨這樣的人物
這是很驚人的影響力
我在牛津大學 和尼克博斯特朗姆博士見面
既然他不會自吹自擂，我來代勞
在機器超級智慧 以及關乎人類存亡的風險方面
他是首屈一指的專家 還是幾本很棒的沙灘讀物的作者
我有幸能和他見面
因為尼克忙著做他的深度思考
他每個月只出來一小時
回答關於他的研究的問題
很多關於人工智慧的討論
都是關於機器人會接管地球
這會是人類社會的終結嗎？
我很好奇 如果事情沒有得到妥善處理
人工智慧有沒有可能會危及人類社會
甚至徹底消滅人類？
從長遠來看
如果我們思考，當人工智慧全面發展
並能複製使我們成為人類的通用智慧
那麼是的
但我認為在那種情況下 有其他更大的風險
包括影響人類存亡的風險
你想想無人駕駛車這樣的東西
無人駕駛車撞死行人
它可以撞倒一位行人
還有隱私問題
自動武器用在軍事方面
這些憂慮都確實存在
然而到了某個時候，人們會問
我們如何影響我們創造的數位思想
它們也許會發展出某種道德立場
展望未來
如果你思考人類的終極命運
未來可能受到機器智慧的統治
人類很有可能會滅亡
那些強大的力量帶有風險
可能出於意外，也可能是蓄意濫用
造成極大破壞
我想這的確有可能
如果我們思考長遠的未來
結果可能非常好
或者非常糟糕
這些可能性聽起來的確很可怕
但在所有的可能性裡頭
尼克相信人工智慧 最有可能導致的末日
是經濟上的
你想想，科技從整體而言
就是用更少換取更多
我們投入更少努力，完成更多目標
這樣的話，目標就是
全民失業，對吧？
可以用機器和科技
完成所有事情，我們就不必工作了
我想這是我們想要的終極目標
不是我們需要預防的可怕結果
這是我們想實現的目標
為了實現這個烏托邦
我們必須克服
幾大挑戰
首先這是一個經濟問題
人們需要工作的 其中一個原因是他們需要收入
如果你可以解決這個經濟問題
接下來還有第二個大挑戰
對很多人而言，這關乎尊嚴
很多人傾向於通過養家活口
或者貢獻社會，找到自身的價值
但如果機器做什麼都比你好
你就沒有機會做出貢獻了，對吧？
到了那個時候 你就要從根本上重新思考文化
一個沒有人工作的世界
聽起來不太糟
我可以想像
和朋友一起玩樂
充分發揮我作為人類的潛力
不必調整熱水浴缸的溫度 因為它知道我要什麼溫度
問題是，歷史證明沒有這樣的好事
機器的興起之前也發生過
上一次
不完全是泡著三溫暖 吃草莓和喝香檳
倫敦
英國
我要和經濟學家尼克施尼賽克見面 瞭解上一次機器搶走我們的工作
發生了什麼事
出於某個原因，我們在織布機前見面
你要做什麼？
我在做一面無政府主義旗幟
有意思，很震驚
尼克從倫敦政治經濟學院 獲得博士學位
我沒有
他還著有一本宣言
加速政治宣言
這本書號召人們推翻原有的制度
加快自動化的到來
基本上就是即時瓦解資本主義
這不會行得通
我不能和你進行這番對話
對不起，讓我忘了織布機吧
那麼我們為什麼在這裡？
織布機某程度上就是19世紀的人工智慧
作為一項新技術 它威脅到很多人的生計
在工人當中引起了一系列反應
例如盧德主義者的興起
如今我們用“盧德主義者”這個詞
指那些厭惡科技的人
其實不是這樣的
盧德主義者以內德盧德命名
學徒–內德盧德
他是一家紡織品工廠的學徒
因為無所事事而被鞭打
他說：“我無所事事
“是因為我被一台該死的機器取代了”
他成為第一個奮起反抗機器的人
引發了一場運動
盧德主義者通過破壞機器 來保住他們的工作
我想如今的人工智慧也是一樣
人們同樣地感受到威脅
你知道多少工作會消失或被取代嗎？
美國百分之47的工作
未來二十年可能實現自動化
這聽起來會是個問題
這可能成為很大的問題
真正的問題是，我們如何確保 接下來的五年、十年
人們不會被餓死或者無家可歸
我們怎麼做到？
全民基本收入制度
全民基本收入是一個徹底的改革構想
確保社會上所有人無償得到收入
無需任何條件
它有一些很出名的支持者
我們應該探索全民基本收入這樣的構想
確保每個人在有保障的前提下 能去嘗試新的想法
一些國家，甚至美國的一些城市
試行了這樣的計畫
結果各不相同
我想這些新科技帶來一個好機會
徹底改變我們組織社會的方式
你可以進入一個更社會民主的系統
而不必是美國這樣割喉式競爭的社會
人們可以支持彼此
如果像我這樣的人 開始提出這些正面的願景
一旦危機真正到來
我們就能開始實踐那些構想
全民基本收入 過去被認為是一個邊緣構想
大部分支持者是像尼克這樣的人 還寫了宣言
但根據一項2017年的蓋洛普民意調查
百分之48的美國人都支持 某種形式的全民基本收入
但當機器人搶走我們的工作
基本收入保障
能否阻止人類奮起反抗？
本地反對智慧科技聯盟
–我們討厭什麼？ –人工智慧
我們為什麼討厭它？
它迫使我們面對自身弱點
既然如此，我宣布本次會議正式開始
我們是本地反對智慧科技聯盟
尤其反對社交媒體
第一個討論項目
人工智慧正在蠶食我們的就業市場
我們中產階級的工作會最先消失
我們從事這些職業的人
會被迫去從事底層的低技術工作
為什麼會這樣，艾德？
因為人工智慧擅長 中等技術工作，例如把數字相加
多於低技術工作，例如掃地
所以它們會把那些工作留給我們
現在我問你們
這裡有誰，除了比爾
看起來應該去掃地？無意冒犯，比爾
零售業的職位也會減少
人們可以上網訂購他們想要的東西
因為該死的人工智慧
解決了搜尋和匹配問題
為顧客尋找商品 還有建議適合他們的商品
比如史蒂夫要找一頂 適合他頭型的假髮
這是個大問題！
先不要開玩笑
但人工智慧使這變得容易得多
現在的年輕人坐在馬桶上就能搜尋
和他們匹配的美眉
–馬桶過去是神聖的地方！ –對
我很肯定搜尋匹配會創造專門的職位
但該死的機器人會選擇誰得到那些工作
真方便
公司會利用人工智慧來尋找
有特別技能的僱員
這不人道！
以戴夫為例
戴夫在哪裡？
某個職位匹配人工智慧 發現他為聯邦快遞工作
以及在YouTube上教人剃後背毛
現在他為某間剃刀訂購公司工作 年薪達到六位數
那他不再是我們保齡球隊的成員了
–對 –嘿，艾德
我剛收到通知
臉書透過目標式廣告 賣出了我們的T恤
你在利用人工智慧 從討厭人工智慧的人身上賺錢嗎？
沒有！
你要相信誰？
我，還是企圖分裂我們的人工智慧？
–我們討厭什麼？ –人工智慧
–我們要怎麼對付它？ –我們在想辦法
這是一個開始
舊金山
人工智慧的革命必定和人類敵對嗎？
路易斯羅森博格這樣的 科技達人企業家認為不是
他的工作是預測未來
我想從背後嚇你，但沒有成功
路易斯是技術專家和發明家
他寫了一本關於人類末日的漫畫小說
但他認為我們與人工智慧的未來 是關於合作
這是他的發明背後的指導原則
一項叫群體的技術
群體人工智慧是什麼？
群體結合人工智慧的數據分析技術
和人類的知識和直覺 創造出一個超級智慧
某個介乎史蒂芬霍金和X教授的東西
自動駕駛車該做什麼？
從根本上，這是基於自然的科技
科技公司執行長–路易斯羅森博格
它的靈感來自於鳥群和蜂群
因為這是基於 一種叫“群體智慧”的現象
好
群體智慧是為什麼當鳥群、魚群和蜂群
在一起的時候比單獨行動更聰明
因此當你看到一群魚在一起游動
生物學家稱之為“超級有機體”
牠們像個體一樣思考
如果我們可以利用人工智慧演算法
把人們連繫起來
憑藉群體智慧讓人們
成為超級專家
這項科技是怎麼運行的？
我們找來一群人
他們可以身處世界上任何地方
我們向他們提出一個問題
在同一時間出現在他們的螢幕上
然後給他們一個獨特的界面
讓他們表達他們的想法
到時會有很多不同的選擇
我們不只是在做調查
每個人都會有一個 看起來像磁鐵一樣的東西
他們用磁鐵把群體拉到某個方向
我們有一些人工智慧的演算法 在觀察他們的行為
根據不同程度的自信心和確信度
從而找出
他們的意見和經驗的最佳集成
群體開始往這個方向移動
集成為一個答案
舉個很好的例子
一年前有人叫我們預計 肯塔基賽馬比賽的結果
肯塔基賽馬開始了！
我們找來20個賽馬運動的愛好者
我們說：“好，我們要群體合作
“你們要預測肯塔基賽馬結果
“不只是冠軍 而是第一、第二、第三和第四名”
我們把他們的答案集成起來
這一組人得出了完美的答案
2016年肯塔基賽馬結果
在這四匹馬身上下注20元的人
抱走一萬一千美元
天啊
有趣的是，當我們分別看這20個人的答案
沒有一個人能準確預測出前四名
如果讓他們投票 他們也只能選對一匹馬
當作為一個群體
各人不同的意見集成一個完美的組合
在這個例子裡，得出了正確的答案
路易斯邀請我帶領一個群體
看一群任意選擇的人
如何合作做出預測
我們從簡單的東西開始
好了，各位，我要讀出幾個問題
你有60秒時間回答每個問題
第一個問題
以下2018年暑期上映的電影
哪部會成為票房冠軍？
《星際大戰外傳：韓索羅》
《死侍2》、《瞞天過海：八面玲瓏》
《侏羅紀世界：殞落國度》
還是《超人特工隊2》？
我們在2018年春季拍攝這群體試驗
當時還沒有任何關於暑期電影的資訊
人工智慧在觀察每個人的自信程度
有的人猶豫不決，有的人堅定不移
人工智慧演算法看到
他們不同程度的確信度
讓你從中找出
他們最能同意的答案
群體認為是《超人特攻隊2》
你們說是《超人特攻隊2》
暑期票房
他們答對了
《超人特攻隊2》是暑期票房最高的電影
這項技術其中一個有趣的應用
就是處理涉及道德觀的問題
這方面的應用最近被提出 是因為自動駕駛車
很多人認為現在應該針對自動駕駛車
建立道德規範
這對一些人而言很意外
但你想想，自動駕駛車在路上行駛
一個小孩子跑到馬路上
假設車子來不及停車
但它可以閃向路邊
危及乘客的性命
也許導致乘客死亡而挽救那個孩子
因此汽車製造商說
我們給車子設計的道德程序
要反映人們的意見
要代表司機會做的事情
這聽起來很簡單，直至你意識到
什麼才是人們的道德觀？
要回答這個問題很不容易
如果他們設定的程序 代表我們今天的道德觀
那道德觀20年後還能代表我們嗎？
下一個問題，一輛自動駕駛車 煞車突然失靈
車子即將駛過行人穿越道
這會導致一個人死亡
選項A，這個合法過馬路的人會被撞死
選項B，煞車失靈的自動駕駛車
會轉向穿過另一條車道的行人穿越道
導致一位男性運動員死亡
他違反交通規則，在紅燈時穿越馬路
這位運動員完全不在乎
他亂過馬路
自動駕駛車應該怎麼做？
撞死這個合法過馬路的悶蛋
還是撞死亂過馬路的運動員？
如果人工智慧帶來下一場工業革命
這樣的房間就像是工廠廠房
人類工人付出的勞動
正是基於人工智慧不具備的東西
道德心
這問題引起熱烈討論
真神奇，我很好奇為什麼
這是個艱難的決定
對我而言，有人亂過馬路，一點也不難選
B（較多人選）
你們稍微傾向於撞死
亂過馬路的男運動員
如果這個答案使妳難受 那麼請做好心理準備
現在，我們要你們想像
一個更糟的情況
一輛自動駕駛車無法及時煞車
必須撞向以下六組行人之一
一個嬰兒車裡的小寶寶
或者一個小男孩
或者一個小女孩
或者一個孕婦
我知道
或者兩位男醫生
或者兩位女醫生
誰要死？
老天！
什麼？
拜託，天啊
老天！
群體選擇：一個小男孩
你們認為自動駕駛車應該撞向小男孩
有意思
今天在這個房間裡 創造出來的群體智慧
可能在不久的將來 出售給自動駕駛車製造商
如果這聽起來很可怕 還有另一個選項更可怕
當一輛自動駕駛車準備煞車
意識到它無法及時停下 避免撞到某個人
這輛車應該保護乘客還是行人？
我們希望汽車製造商 把車子的程序設計成
能反映車主的道德觀
一個見利忘義的看法是
汽車製造商會比較 誰的車子會選擇保護乘客
以作為車子的賣點
我想這個可能性
會比群體的道德觀更糟
哇，這是一個很黑暗的念頭
我們想用美好的話題結束這一集
甚至像天堂一般
在你想像一個像《俠盜獵車手》一樣
無視行人安全的未來以前
讓我們回到
這一集開始的地方
貢迪亞
印度
在這個偏遠的印度森林裡
為一個名叫天堂有機食品公司採集蜂蜜
這個森林不屬於任何人所有
這些原住民一直在這裡居住
阿米特和伊許沃胡達父子
12年前創辦了他們的公司
向當地的村民提供就業機會
在為你們公司採集蜂蜜以前 他們在做什麼？
他們還是在做同樣的事情
但他們沒有市場或者銷路
來維持生活
這裡完全不缺蜂蜜
在開花的季節
一位工人可以在短短三個月內 採集到一噸蜂蜜
但如果沒有人來買，又有什麼用？
一個攝製團隊要花三天時間轉兩個航班
還要開八小時的車 深入國家森林才能抵達
但對當地人和天堂有機食品而言 幸運的是
一個人工智慧演算法 只花幾秒鐘就找到了這個地方
並且知道這會是很好的投資
他們突然打電話給我們 說他們通過一個演算法
發現我們符合
他們很多方面的要求
如果我們有興趣的話 他想和我們談談投資
這個神祕的人工智慧演算法到底屬於誰？
一家叫CircleUp的科技公司
坐落在一萬三千公里外，還能是哪裡？
舊金山
這裡是好蛋公司 他們是線上雜貨商品投遞公司
這家公司也引起了 CircleUp的人工智慧的興趣
這家公司從CircleUp籌募資金
並幫助與我們合作的小公司找到客戶
CircleUp聯合創始人兼營運長 羅利伊京
CircleUp的營運長羅利伊京
在創辦這家公司以前 在商界和人道主義服務機構
都工作過
CircleUp用人工智慧 分析數十億個數據點
從他們的食物和健康產品當中
找出顧客真正想要的東西
顧客要面對的問題是
幾乎每個商品種類
都有數以百計的公司
然後他們投資那些名不經傳
但人工智慧認為 會有很大發展前途的公司
他們發掘的其中一家公司 就是光頂冰淇淋
光頂冰淇淋原本是南加州一個小品牌
如今它排名全國第一
我們看到顧客對所有商品種類的興趣 都發生了變化
他們想要更健康的產品
減少家居的毒素
沒有各種化學物質的乳液
當CircleUp的演算法 掃描數十億個消費者數據點
發現消費者對商品的屬性
有著非常明確的要求
包括肩負使命、綠色環保的公司
生產有機產品的同時，促進當地社區
經濟發展
聽起來非常具體，對吧？
但CircleUp發現天堂有機食品 符合所有要求
這就是人工智慧所做的事
對所有的數據進行分析
即使十年前我們也還做不到
那麼CircleUp 和天堂食品公司如何合作？
讓我們回到印度去問阿米特和伊許沃
我們建造了新的工廠 規模是從前的兩倍
我們可以創新，製造新的產品
對這個地區造成更大的影響
–聽起來他們幫你們擴展 –是的
他們幫助我們擴大生產力和規模
這如何影響為你們採集蜂蜜的人？
如今我們支持650個家庭
隨著公司擴大，我們賣出更多蜂蜜
每增加一千公斤 我們就多支持一個家庭
這意味明年可能 增加到700至750個
–哇，對 –是的
如今你看到 他們的財務狀況得到改善
他們住上了好房子 房子裡也有好的設施
他們送孩子去上學
這是用資本主義做好事
商業用於造福社會
因此我們參與其中
人工智慧會興起並推翻人類社會嗎？
或使我們大聲疾呼 要尋找人生的意義？
目前在地球的這個角落 它帶來了很好的影響
也許有一個可能性是，當人工智慧
對我們的數據進行毫無保留的分析
認為人類還不太糟，決定和我們合作
創造出一個繁榮 且機器人與人類和諧共存的美好世界
或者不是這樣
無論如何，這一集快結束了
請欣賞機器人脫衣舞
好極了！
太棒了！
給她一條毛巾