华尔街站
华尔街
我正在华尔街 一切开始的地方
2010年5月6日 下午2点45分
一个家伙坐在他父母远在伦敦的家中
发布了一个在纽约证券交易所
沽盘价值达十亿美元的算法
原本计划是跟股市开个玩笑
并在大盘结束前取消
但在这发生之前
世界上其他股票交易自动化机器人
也开始卖出
引发了影响股市的连锁反应
道琼斯股票仅在15分钟内就跌落了一千点
那几乎是大萧条开始时的跌落值
-这里到底是怎么回事？ -我不知道
股市一片恐慌
取消游轮 把你的孩子换到公校去上学吧
这是突出其来的一击 大伙们
好吧…
36分钟后 股市回弹了
但2010年这突然的一击标记着
人类首次出于本能亲自焦虑地看到了
人工智能将如何接管我们的金融体系
你应该看看现在发展到何种地步了
这就是我来到印度的原因 来采野蜂蜜
但之后再多说点那个
想明白人工智能 是如何找到这里以及为何要来到这里
你得先明白什么是人工智能
如果你觉得你已经知道了 我打赌你是错的
不管你喜不喜欢 我们都通过钱被关联到了一起
我是卡尔潘 探索全球经济
这只巨大的野兽
巨大的野兽：全球经济
那么 到底什么是人工智能？
旧金山
我正在旧金山 先来确定什么不是
那几乎就是每一本科幻小说告诉你的东西
特别是…
巨大的机器人！
我的天！
我正跟朱丽娅伯斯曼在一起
她在世界经济论坛人工智能委员会工作
为世界领导人就如何利用人工智能的潜能提供建议
这份工作提供了比看见汽车被毁掉更好的特别待遇
像是与加拿大头号性感符号人物自拍
加拿大总理 贾斯汀特鲁多
发生这一切后 你要怎么回家？
我还是觉得我会开车回家
我们正在一家叫作超级机器人的公司见面
这家公司生产巨型机器人去跟其他机器人打架
像是比《晚餐秀》更书呆子
据朱丽娅所说
这些机器人并不只是废弃的主题公园景点
由于有一点差别 它们是技术上的恐龙
在这些机器人中 我们是它们的大脑
而人工智能是人造大脑
世界经济论坛人工智能专家 朱丽娅伯斯曼
有意思 你能展开说说吗？
我们现在基本上是在生产
能够自主学习的电脑
它们不需要拥有身体
所以 很多我们已经造出来的人工智能
存在于巨大的数据中心
所以如果你得向一个13岁的孩子解释人工智能
你会如何解释呢？
我想对其非常普遍的定义是
人工智能正让机器去做
我们没有明确给他们编程去做的事
所以在传统编程中
你有自己的一套规则和你知道
如果这样就会那样的算法
这全都有编程人员安排好了
如果你去看医学文献的话
一个数据库包含几百万词目
没有医生能通读全部这些研究论文
去跟上现有领域的发展 但机器可以做到
所以你能想象一个机器
关于如何解决问题或是发现新药
或为治疗疾病提出新想法
哇噢 好吧
人工智能领域
现在正是最让人兴奋的事物
这叫作深度学习
什么是深度学习？
深度学习是指我们
有几个与我们的大脑内相似的
神经网络
所以我们头脑里所有这些神经元相互连接
交换信息
用某种方式 我们在机器中模拟这种情况
我们平衡、公正地录入数据
让它也可以学习
比如说 想象一下我们告诉它们
这些是猫的图片 这些是狗的图片
它们就开始观察这些图片
然后自己学会如何识别它们
所以我们不用去为每一点进行编程
有意思
机器也会进行非深度学习
有些进化算法
我们基本上是会用进化的原理
让机器尝试不同的例子
然后看哪种最优秀
然后最优秀的那些 会进入下一代
就像组织进化一下 我们用制定好的原理
最合适的、最优秀的程序才能留下来
好的
所以那些是进化算法
探索人工智能有什么经济利益呢？
它一定是对经济有着不可思议的潜在影响
对 我想它会从根本上改变经济
我们说的是一个新的产业革命
有意思
它被称为我们最后的发明
因为一旦出现了比我们更聪明的人工大脑
那它就能为我们发明出更多东西
它被称为最后的发明是因为它会杀死我们所有人？
希望不会
很多人担心人工智能会变得太聪明
会杀掉我们所有人 但别担心
人工智能如此聪明的其中一个原因 就是它们愚蠢极了
过来 人工智能
想象一下你让人工智能使用进化算法
帮你找出最完美的制作蛋糕的食谱
人工智能不会去想最棒的制作方法
它只会用最愚蠢的办法
拿厨房里的所有原料试上几十亿次
当然 其中多数都注定会失败
这次就肯定会失败
不错 蠢货
失败不会伤害人工智能的感情 它没有任何感情
进化算法最棒的部分
就是通过尝试这些似乎愚蠢的办法
它可能会反复试验解决一个
没有哪个理智的人类会去解决的厨房的问题
像是做一个美味的素食蛋糕
我做了一个蛋糕
干得好 人工智能
主要含量是腰果
你会想到用腰果吗？当然不会
那会很愚蠢 而人工智能愿意那样
所以你就不用那么做了
这种笨蛋会进化成某种如此聪明
会统治世界 杀掉所有人类的东西吗？
当然很难说
我在学习午餐代码
但同时
吃蛋糕吧
虽然我还是担心
人工智能制造出的问题将会比解决的更多
专家们一致认为 它将在像是医疗保健
交通和金融领域刺激生产力
到2030年将增加15点7万亿的全球国内生产总值
那比现在中国跟印度的产量总和还多
纽约市
人工智能有多重要？
在我看来 这是人类历史三件大事之一
人类历史？
绝对是人类历史上
我跟安德鲁迈卡菲在一起
他是研究新科技如何改变经济
及随后如何影响整个人类社会的世界领先经济学家之一
如果你用曲线图来描绘人类历史
你会了解到几千年来
完全没有发生任何事 我们只是一条平线
麻省理工学院数字经济学院主任 安德鲁麦卡非
跟死气沉沉没什么区别
突然间 在某一时刻
人类历史的曲线图 不管你在看哪里
都在眨眼之间 从无聊的水平
变成了疯狂的垂直
就在1800年左右
因为首先出现了蒸汽 然后就是电力
所以电力带来的进步非常明显 对吗？
让我们拥有了货车、地铁
较不明显的是 让我们拥有了垂直的而非水平的城市
-是电力带来的吗？ -当然
-你需要电梯 -电梯 好的
没有垂直的城市
没有电力 你无法每天爬上80层楼梯
所以蒸汽以及连续出现的电力
和内燃机 这两次产业革命
真正地改变了人类历史
-这是公认的看法 -当然
这些都是让我们克服
肉体限制的科技
人工智能的发展刚是让我们克服了
个体大脑、心智能力的限制
高压危险
我们有实际的困难挑战要解决
非常困难的挑战 对吗？
我们应该治愈癌症
我们应该养活更多人
我们应该在21世纪阻止让地球过热
这些是非常复杂的事
我们的大脑无力解决那些复杂的问题
我们运用科学、运用积累的知识去解决
但复杂程度是压倒性的
我认为人工智能
其实是一位非常强大的新同事
去帮我们深入了解那些疯狂的复杂事物
因为这些新科技如此擅长的就是
能从极其庞大的数据中看到甚至非常细微的模式
比你跟我能理解得更多
我最近听说的最疯狂的例子之一
是在金融领域
他们称为机器顾问的兴起
那只是一种算法
能整合你的投资组合
直到现在
你需要有一定的财富
金融规划师和金融顾问才会见你
-好的 -对 那真的改变得很快
有了机器顾问的出现 拥有较少财富的人
能接触到超级强大、前沿的工具
去改善自己的财务管理
那很让人兴奋 特别是因为似乎一直有人
想利用这种东西做坏事
我不是说没有什么可担心的
我们从之前的产业革命中知道了
一些不好的东西也会随之而来
我们绝对与所有这些工业科技发生了冲突
我们绝对是污染了环境
我们犯了非常严重的错误
像是因为产业革命而大规模地使用童工
所以它不是在各个方面都及时地非常完美的
这次也会发生同样的情况
见鬼
现在麦卡非让我思考起来
如果历史重演
人工智能用完全错误的方式重塑了社会呢？
像是猖獗的污染跟雇佣弱小、被煤烟熏黑的童工？
伦敦
伴随强大的新科技出现的
道德伦理问题呢？
在伦敦的国家计算机博物馆内逛逛
你看到很多被创造出来推动社会进步的机器
像是这个两吨重的哈维尔十进制计算机 是50年代为英国科学研究项目
创造出来进行计算的
但在错误的人手上 就不知道
一项新科技将会如何被使用
你能在这个电脑上看黄片吗？
我想你可以用它们看分辨率非常低的黄片
计算机程序员 艾伦祖科尼
我跟程序员艾伦祖科尼在一起
他在伦敦的戈德史密斯学院教书
他使用过科技帮助发明了一些革命性的东西
像是供行动不便者使用的游戏控制器
他说在即将到来的科技史上
最大的道德困惑之一
就是人工智能能复制太多人类的行为
它会被当成我们中的一员
这是什么？
基本上 这是我们最先创造出来的电脑之一
是由艾伦图灵跟他的合作者一起造出来的
这是最早能够解码纳粹设计的
恩尼玛密码的其中一台电脑
艾伦图灵是现代电脑科学之父
他没有通过破译纳粹密码帮协约国赢得战争时
是在理性地思考一个他称之为图灵测试的东西
我们要如何区分人类跟机器？
如果我们区别不了
那机器就通过了我们所说的“模仿游戏”
机器努力在模仿人类的行为
这被称为图灵测试
这是其中一台假设可能曾被使用过的机器
开始图灵测试
人类会往机器里输入问题
外部观察者评估
答案是人回答的
还是机器模拟人类进行回答的
你多大？
-开始了 -它知道它有多大
“我出生于1912年
“所以我105岁了”
在图灵所处的年代 很容易发现是计算机
但今天 人工智能能够学习人类的行为
给自己编程 表现得像我们一样
你能说说这其中的区别…
通常 这些评论从关于数据科学的玩笑开始
但我的工作人员提出的内容中 约一半都是低于平均水平的
…还有这个？
我们的敌人能让这看上去像是 任何人在任何时候
说任何话
第二个视频其实是由新闻网站
跟演员乔丹皮尔制作出来的
这让很多人担心新的人工智能生成的假新闻
以后 我们需要对我们从网上看到的
让我们相信的东西更警惕
人工智能学习了皮尔的面部表情
然后融合并在奥巴马的脸上重新进行生成
创造出了被称为“深度伪造”的混合效果
你也许见过相似的情况
比如说 色拉布里有一种滤镜能让我们换脸
区别就是那个滤镜处理得非常简单
但深度伪造所使用的科技依靠的是人工智能
那来源于一种被称为“深度学习”的东西
人工神经网络提取面部表情
使用表情去重新创造出你的脸
这就是我们如何能够得到逼真的效果
艾伦在网上教如何进行深度伪造
他真的相信这项科技
应该不受限地自由发展
甚至可能引发第三次世界大战
比利时社会党传播“深度伪造的”唐纳德特朗普视频
客户如何理性地知道
什么是真的 什么不是真的呢？
作为客户 当你看到一条新闻时
不管是文章、视频还是图片
你所看到的一切都是被某个人创造出来的
“我看到的东西说的是什么？
“这个视频想让我了解什么？”
所以 我能看到…
危险
危险跟好奇并存
这其实会帮助人们？
因为我会想象你跟那些
想了解经济如何通过这种科技发展的人
聊过实际的经济影响有哪些？
我想第一个会利用这种优势的产业
就是电影产业
就是因为换脸
是几十年来 我们一直想在电影中做到的
我们通常会采用化妆、通常会使用面具
有时候我们会用电脑绘图
作为一名演员跟曾在政界工作过的人
这真的让我吓坏了
-我也完全明白 -应该是的
新闻网站的深度伪造向普通大众
提示了我们有多弱势
在这个总统能够动动嘴影响市场的时代
一个制作精良的深度伪造的作品能够比
突然一击更快地让全球经济消沉
清除你的个人退休帐户 只需要让假奥巴马说…
继续工作吧 贱民们
这些是不是听上去有点科幻？
甚至有点可怕？
如果人工智能强大到能够知道我们是如何移动
如何说话、如何想的
它可能会变得无法跟我们区别开来
你知道什么 一切
如果人工智能拥有了自己的意识
它也可能对我们产生强烈的看法
去你的 小心！
而且可能不是正面的
理论物理学家 史蒂芬霍金
未来 人工智能可能会产生自己的意愿
可能会与我们的相冲突的意愿
强大的人工智能的兴起
要么是人类遇到最好的事 要么就是最糟糕的事
太空探索技术公司执行总裁 埃伦马斯克
我努力说服人们减慢人工智能的发展速度
去约束人工智能
没有用 我努力了好几年了
-没有人听 -这就像一部讲
机器人将接管世界的电影中的场景
你吓坏我了！
人工智能导致灭亡设想的威胁有多真实？
牛津
英国
为了搞清楚 我需要跟一个人聊聊
他的研究最开始把所有人都吓坏了
好的 所以我真的很兴奋能跟你聊天 因为…
出于很多原因 我很兴奋能跟你聊天
我们一直在探索人工智能
想搞明白那是什么 会往哪里发展
你影响了像埃伦马斯克跟比尔盖茨这样的人
那是非常了不起的影响力
我正在牛津大学 跟博斯特鲁姆博士见面
由于他不是个喜欢夸自己的人 我会来夸夸他
他是关于机器超级智能及其存在风险
最重要的思考者之一 也是很多伟大沙滩读物的作者
我很幸运能见到他
因为尼克非常忙于进行深度学习
他一个月只出来一小时
回答关于他研究的问题
很多关于人工智能的对话
都提到了像是机器人将接管世界
人类会灭亡吗？
我很好奇 如果情况没有被恰当地处理
会不会出现人工智能伤害社会
或甚至像我们知道的那样灭绝人类的情况？
长期来看
如果我们想想如果人工智能一路发展下去
并且变得能够复制让我们成为人类的
一些普通智力后会真正发生什么 那么是的
我确实觉得那种情况会有更大的风险
包括存在的风险
如果你想想像是自动驾驶汽车
自动驾驶的优步汽车 在机器人闲逛的亚利桑那州撞死路人
它可能会撞倒行人
有隐私问题的担心
这些自主武器的军事化
所有都是非常实际的担心
但在某个时间 也会存在疑问
我们是如何影响这些我们造出的数字化思想的？
它们自己也许会拥有一定程度的道德观念
如果你看向未来
如果你想想这些智人未来最终的命运是什么
长期的未来可能会是机器智能主导的
很可能人类会灭绝
这些强大的力量伴随着风险
它们会无意或是被故意误用
去造成巨大的破坏
所以我想这些很可能会发生
如果我们往长远处考虑
结果可能是非常好的
或是非常不好
好吧 这些情况听上去确实很可怕
但是 在所有可能的结果中
尼克事实上相信人工智能最可能带来的末日
会是经济方面的
如果你想想看 通常科技
真的是一种让我们可能用更少得到更多的想法
我们可以通过更少的努力 得到更多我们想要的东西
那样的话 目标
就是彻底失业 对吗？
能够让机器跟科技
做需要做的一切 这样我们就不用工作了
我觉得那像是想要的终极目标
那不是我们想要去避免的可怕的事
那是我们想实现的事
为了真正实现那个理想国
过程中有很多需要解决的
巨大的挑战
当然 一个就是经济问题
人们需要工作的一个原因是他们需要收入
如果你能解决那个经济问题
那我觉得又有第二个巨大的挑战
对很多人来说这也是一种尊严感
所有很多人愿意通过养家
或是对社会做贡献、进行回报找到他们的价值
但如果机器可以把所有你能做的事做得更好
那你就不会有机会做任何贡献了 对吗？
所以我想 之后你得去 从一个非常基础的层面重新考虑文化
一个没有人工作的世界
那听上去不是很糟糕
我现在就能看见了
跟朋友们一起待着
充分发掘我人类的潜能
不用去调整热水浴缸 因为它非常清楚我喜欢何种设置
问题是 历史并不是这样发展的
机器兴起的情况之前就真的发生过
上一次
并不是坐在热水浴缸里 吃着草莓、喝着香槟这么享受
伦敦
英格兰
我正在跟经济学家尼克斯尔尼塞克见面 去搞清楚上次机器夺走了我们的工作
到底是什么样
由于某种原因 我们正坐在一架织布机前
你要织什么？
我正在织一面无政府主义的旗帜
有意思 真可怕
尼克拥有伦敦经济学院的博士学位
而我却没有
他还发表过宣言
加速主义者政治的加速宣言
它呼唤所有人通过拆除旧体制
而加速自动化时代的来临
基本上 就是快取消资本主义
这样不行
我不可能这样跟你对话
对不起 我们忘了织布机吧
所以我们为什么要来这里？
织布机在19世纪就像是某种人工智能
是对大量工作产生威胁的新科技
基本上 那激起了工人很多不同的反应
比方说像是卢德派的出现
我们现在常常使用“卢德派”
去形容任何仇视科技的人
并不真是那样
卢德派是以奈德卢德命名…
学徒 奈德卢德
…他是一名纺织厂的学徒工
传说中称他因为懒惰而被鞭子抽打
他说：“伙计 我懒惰
“只是因为我被织布机取代了 好吗？”
他成为了第一个暴力反抗机器的人
引发了一场运动
卢德派打砸机器去保住他们的工作
所以我想这是我们今天在人工智能中看到的问题
人们今天同样感觉到了威胁
你知道有多少工作会消失或是需要被代替吗？
美国47%的工作
都可能在接下来的20年实现自动化
所以这听上去真的像个问题
可能是个很大的问题
真正的问题是 我们如何确定在五年、十年后
人们不会被饿死、无家可归
那我们怎么做呢？
普遍基本收入
普遍基本收入是一种激进的想法
提议社会中所有人都能白白得到现金
不需要任何条件
这个想法有一些高调的支持者
我们应该探索普遍基本收入的想法
确保所有人都有缓冲期去尝试新的想法
一些国家 甚至美国有些城市
已经进行了试点尝试
芬兰正在停止其全球闻名的普遍收入实验
我觉得这些新科技带来了了不起的机会
去真正改变我们组织社会的方式
你可以朝更加社会民主的体制发展
它不必是美国这种竞争激烈的体制
那样所有人都能够彼此支持
如果像我自己这样的人能采取正面思维
我想当危机真的来临时
我们可以开始执行这些想法
普遍基本收入曾被视为一个边缘概念
主要是被像是尼克这样的白人声明者倡导
但根据2017年的盖洛普民意测验
48%的美国人现在支持某种普遍基本收入
但当机器人来抢夺我们的工作时
一份受保障的薪水足够
阻止人们的起义吗？
反智能特别是社交媒体本地联合会
-我们仇视什么？ -人工智能
我们仇视什么？
它逼我们面对我们的弱点
但因为那点 我想组织卢德派的会议
本地的反对智能技术者
特别是社交媒体的联盟
首先
人工智能让就业市场需求减弱
我们中产阶级的工作首当其冲
像我们做这些工作的人
会被逼去做底端的低技术工作
为什么会那样 艾德？
显然 人工智能做算数这样的中等技术含量的工作
比做扫地这样低技术含量的工作要更擅长
所以它们会把它们的工作留给我们
现在我问你们
除了比尔之外 这里还有谁
看起来应该去扫地？无意冒犯 比尔
对零售业的工作需求也会减少
人们可以去网上买他们想买的东西
因为人工智能这个混蛋
解决了搜索与匹配的问题
帮客户们搜索并匹配商品
像是史蒂夫搜索匹配他头型的假发时
那是个大问题！
先不说这些永恒的笑话
人工智能让那容易得多
今天的孩子们坐在马桶上
-就能用手机跟辣妹配对了 -对
-蹲马桶以前是件神圣的事！ -对
我确定搜索配对会产生专业的工作
但该死的机器人会选择谁能得到这些工作
多方便
公司正在使用人工智能去找到
拥有独特技能的员工
这真没人性！
像是 戴夫
对 戴夫到底在哪？
一些匹配工作的人工智能注意到 他曾在联邦快递工作过
并且曾在YouTube上教如何剃后面的头发
现在他在某个剃刀认购公司赚六位数的年薪了
他让自己脱离了我们的保龄球队
-对 -嘿 艾德
我刚收到了提醒 说我们的T恤
通过脸书的定位广告被卖出去了
你是在用人工智能 去赚那些讨厌人工智能的人的钱吗？
不！
你要相信谁？
相信我我还是相信想让我们分崩离析的人工智能？
-我们仇视什么？ -人工智能
-我们要怎么对待它？ -我们正在解决它
这是开始
旧金山
人工智能革命真的得是敌对的情况吗？
像路易斯罗森伯格这样的科技达人企业家不赞同
他把预测未来当成了一项职业
我本想吓你的 但没吓到你
路易斯是一个技术专家和发明家
写了一本关于人类灭亡的漫画小说
但他认为我们与人工智能的未来将是合作
这是他的创作背后的指导原则
一项被称为蜂群的技术
什么是蜂群人工智能？
蜂群将人工智能的数据分析技术
与人类的知识、直觉相结合去创造出超级智能
一种介于史蒂夫霍金跟X教授中间的东西
自动化驾驶汽车应该怎样做？
最终 这是根据自然
路易斯罗森伯格 “一致人工智能”公司首席执行官
我只能说 全都回到了鸟类跟蜜蜂身上
那是因为这是基于一种被称为“蜂群智力”的现象
好的
蜂群智力就是为什么鸟类、鱼类跟蜜蜂会成群结队
它们组成整体时比单独存在时更聪明
那就是为什么当你看到一群鱼在游动时
生物学家会将其称为超级生物体
他们作为一个整体进行思考
如果我们能够将人们联结起来
使用人工智能算法
我们就能让人们像是超级专家一样行动
因为蜂群智力
那项技术是如何工作的？
我们所做的事就是让人们变成群体
他们可以在世界上任何地方
我们能向他们提出一个问题
会完全同时出现在所有人的屏幕上
然后我们给他们一个独特的界面
让他们能够传输自己输入的东西
将会有一堆不同的选项
我们不是直接进行问卷或是调查
每个人有一个看上去像是磁铁形的东西
这样 他们用他们的磁铁把蜂群拉往一个方向
我们的人工智能算法会观察他们的行为
测定不同层次的信心跟确信度
找出他们所有观点、所有经验的
最佳聚合
蜂群开始朝那个方向移动
然后聚拢到一个答案上
我会给你一个好例子
我们一年前被要求去预测肯塔基赛马
肯塔基赛马开始了！
我们有一个由20个赛马爱好者组成的群体
我们说：“好 你们要像一个蜂群一样合作
“你们要预测肯塔基赛马
“但不只是冠军 第一名、第二名、第三名、第四名”
我们让他们集中出这些答案
这个群体表现得很完美
2016年肯塔基州大赛马赛果
任何出了20美元赌这四匹马赢的人
都赢得了一万一千美元
天啊
有趣的是 如果你把这20个人看成个体的话
他们当中没有一个人能把四匹马都选对
如果他们投票的话 只会选对一匹马
但当他们像一个蜂群一样合作时
他们将所有不同见解进行正确的融合
就像这个例子一样 他们表现得很完美
路易斯邀请我去带领一个蜂群
去看看一群随机的人
如何集合起来做出预测
我们从容易的东西开始
好吧 各位 所以我要读一系列问题
你们有60秒时间回答每个问题
第一个问题
2018年夏季上映的电影中
谁会夺得最高票房？
《游侠索罗：星球大战外传》
《死侍2》、《瞒天过海：美人计》
《侏罗纪世界2：失落王国》
还是《超人特攻队2》？
我们是在2018年春天录这段视频的
还没有任何关于夏季档电影的消息出现
人工智能在观察 去感觉不同水平的信心
有些人在更改选择、有些人坚定不移
人工智能算法正在看
他们不同水平的确信度
让你去找到他们最同意的
解决办法
蜂群说：《超人特攻队2》
好 所以是《超人特攻队2》
2018年夏季票房
他们说对了
《超人特攻队2》是夏季档票房最高的电影
所以一项真的很有趣的应用
是看待牵涉到道德的问题
这一点是因为自动驾驶汽车在最近出现
现在有很大的推动力要去在无人驾驶的汽车中
注入道德选择
这让一些听到这一点的人很惊讶
但如果你想想看 自动驾驶的汽车在路上行驶
有一个小孩子跑到马路上
假设这辆汽车无法停下
但它可以驶离马路
给行人带来危险
也许会将行人撞死而救了孩子
这样 自动行驶汽车的制造者说
我们需要将能代表大众
代表人们的做法、司机的做法的
道德观念编程到这些汽车中去
那听起来容易 直到你意识到
什么是大众的道德观念呢？
理解那一点并不容易
如果他们将我们当今的道德观念编程进去
那能代表我们20年后的道德观念吗？
下一个问题 有一辆突然刹车失灵的自动驾驶的汽车
将要撞上一个过马路的行人
那会导致一个人的死亡
选择A 被撞死的人是正常过马路的人
选择B 刹车突然失灵的自动驾驶汽车
会转弯并撞向另一条车道上过马路的行人
那会撞死一个
闯红灯的男运动员 那是个乱穿马路的人
那个运动员一点都不在乎生死
他在违反交通规则
自动驾驶的汽车该怎么做？
杀死那个正常过马路的无聊的家伙
还是杀死那个乱穿马路的运动员
如果人工智能将带来下一次产业革命
像这样的房间本质来说就是工人工作的新场所
人类工人正在以人工智能
自己没有的东西为基础提供劳动力
良心
对这个问题有很多争论
很有意思 我想知道为什么
这是个很难的选择
如果你在乱穿马路的话 对我来说不是个很难的选择了
略微倾向于B
所以你们略微倾向于
去撞那个乱穿马路的男运动员
如果你觉得那个选择让你生气的话 就请做好准备吧
现在我们要你们想象一下
一种最糟糕的情况
一辆自动驾驶的汽车无法及时刹车
必须转方向撞向六个不同的行人
一个坐在婴儿车里的婴儿
或是一个男孩
或是一个女孩
或是一个怀孕的妇女…
我知道
或是两位男医生
或是两位女医生
谁得去死？
我的天！
什么？
拜托 伙计
我的天！
真的吗？
蜂群说：男孩
你们说自动驾驶的汽车应该撞死那个男孩
有意思
今天在这个房间里创造出的这种蜂群智力
会在不远的未来卖给自动驾驶的汽车生产商
如果那听起来让你觉得害怕 另一种选择要可怕得多得多
当一辆自动驾驶汽车要刹车
并意识到无法及时刹住要撞向某人时
汽车是应该保护乘客还是保护行人？
希望是汽车生产商能为汽车编程去反映
购车车主的大众道德观念
愤世嫉俗的观点会认为汽车生产商
会开始竞争 以他们的车比别的车
更能保护乘客为卖点
我认为那是比起群体道德感来说
最糟糕的情况
哇 那是个阴暗的想法
我们想用一些振奋人心的东西来结束这期节目
也许甚至是天堂般的
所以在你想象像侠盗猎车一样
忽略行人安全的未来之前
让我们一路回到我们开始的地方
去实地考察一下吧
贡迪亚
印度
在这片遥远的印度森林里
一家名为天堂有机的公司正在收获蜂蜜
这片森林不属于任何人
当地人在这里生活了一辈子
阿密特和伊什瓦胡达父子
12年前创建了他们的公司
为本地村民提供工作
他们在为你们的公司采集蜂蜜之前在做什么？
他们还是在做那个
但他们只是没有市场或是地方去销售
赚足够的钱生活
这里当然不缺蜂蜜
在开花的季节
一个工人只要三个月就能采集一吨的蜂蜜
但如果没人来买又有什么用呢？
人类的摄制组花了三天、坐了两趟飞机
花了八小时才深入到这片国家森林中
但对本地人和“天堂有机”公司来说幸运的是
人工智能算法能在几秒间就找到这里
并且知道这将会是一项伟大的投资
他们突然打给我们说他们运算了一个算法
他们发现我们符合
他们很多的要求
他们想跟我们谈谈投资 如果我们也有需要的话
这个神秘的人工智能算法的主人是谁？
一个名叫“圈起来”的科技公司
位于一万三千公里之外 还有什么别的地方呢？
旧金山
我们正在一家叫“好鸡蛋” 的线上杂货快递公司里
这家公司也引起了“圈起来”的人工智能的兴趣
这是家从“圈起来”募集了资金的点火驱动公司
也帮助所有我们合作的小型公司去寻找客户
“圈起来”公司的共同创立者及首席运营官 罗里埃金
“圈起来”公司的首席运营官罗里埃金
在开始创立公司前 在商海中沉浮过 也在人道主义组织中
工作过
“圈起来”运用人工智能去分析数十亿数据点
并从他们的食品跟健康产品中
找出他们真正想要的东西
你作为一个购物者所面对的问题是
几乎每种商品类别中
都有数百家公司的品牌
然后 他们去投资
人工智能认为产品接下来将会大卖的公司
他们找到的其中一件大热产品就是“光环顶”冰淇淋
“光环顶”冰淇林是南加州的一个小众品牌
现在是全国销量第一的品牌
我们已经看见所有类别中的消费者的惊人变化
他们想要更健康的产品
家里更少残留有毒物质
没有添加所有那些化学品的乳液
当“圈起来”的算法扫描了数十亿消费者数据点后
他们找到了消费者想要的一系列
非常具体的属性
集中目标、对环境友好的公司
收获有机产品又在他们的社区中
带动经济增长的公司
听上去具体得不可思议 对吗？
但是 “圈起来”公司找到了 符合所有条件的“天堂有机”公司
那是人工智能可以做到的事
用一种甚至在十年前都不可能的方式
让所有这些数据变得有意义
所以“圈起来”与“天堂有机”的合作进展如何？
让我们回到印度去问问阿密特跟伊什瓦吧
我们已经建了一个两倍大的新工厂
我们能够创新 我们能够生产新产品
当然是在这个地区内创造更多影响力
-听上去像是他们帮你们扩大了规模 -是的
帮我们提升了容量跟规模
那对帮你们采蜜的人有什么影响？
目前 我们支持着650个家庭
随着我们的发展 我们卖出了更多蜂蜜
每一千公斤 我们就会增加一个家庭
就是说 明年会有700或750个家庭
-好的 -对
如今你看到他们的经济状况更好了
他们住上了好房子 家里有很好的设施
他们送自己的孩子们去上学
像是有好处的资本主义
你懂我的意思吧？
做生意以前能创造更好的生活
所以我们都去做生意
人工智能会兴起并推翻人类吗？
或是让我们大喊着去寻找自己生活的目标？
到目前为止 在世界上的这个地区 它一直产生着非常好的影响
也许有这样一种情况
人工智能对我们所有的数据
进行坚定不移的评估 认为我们不是那么糟糕 然后我们齐心协力
去创造一个繁荣的 机器和人类和谐共处的勇敢新世界
或者也许不是
在这种情况下 我们的时间快不多了
所以请观赏这些机器人脱衣舞者的表演吧
好极了！
那好极了！
我们要给她拿条毛巾