СТАНЦИЯ «УОЛЛ-СТРИТ»
УОЛЛ-СТРИТ
Я стою на Уолл-стрит, где всё и началось.
Шестого мая 2010 года в 14.45
один парень, сидя в доме своих родителей в Лондоне,
запустил программу на Нью-Йоркской фондовой бирже,
которая должна была продать ценных бумаг на миллиард долларов.
Он планировал обмануть рынок
и отменить заказ до завершения операции.
Но прежде чем это случилось,
остальные автоматизированные боты, торговавшие акциями,
тоже начали продавать,
запустив цепную реакцию, которая нанесла мощный удар по рынку.
Промышленный индекс Доу-Джонса упал на 1 000 пунктов за 15 минут.
Это почти равно падению индекса, положившему начало Великой депрессии.
Что, черт возьми, происходит? Не знаю.
На рынке ощущается страх.
Пора отменять круиз и переводить детей в государственную школу.
Это мгновенный обвал рынка.
Вот черт.
Через 36 минут рынок восстановился.
Мгновенный обвал 2010 года был первым случаем,
когда люди впервые ощутили нутром, непосредственно поняли, что бывает,
когда ИИ захватывает контроль над финансовой системой.
Вам стоит узнать, как обстоят дела сейчас.
Поэтому я здесь, в Индии, собираю мед диких пчел.
Но об этом потом.
Чтобы понять, как ИИ нашел это место и почему,
надо сначала понять, что такое ИИ.
Если вы думаете, что и так это знаете, наверняка вы ошибаетесь.
Нравится вам это или нет, деньги связывают нас всех.
Я Кэл Пенн, и я изучаю гигантское чудовище
под названием глобальная экономика.
ГИГАНТСКОЕ ЧУДОВИЩЕ ПОД НАЗВАНИЕМ ГЛОБАЛЬНАЯ ЭКОНОМИКА
Что же такое ИИ?
САН-ФРАНЦИСКО
Я в Сан-Франциско, чтобы выяснить, чем он не является.
Всё, что вы читали в научно-фантастических романах, - неправда.
Особенно...
Гигантские роботы!
Боже мой!
Я беседую с Джулией Боссманн,
членом Совета по Искусственному Интеллекту Всемирного Экономического Форума.
Совет консультирует мировых лидеров, как освоить потенциал ИИ.
Это отличная работа. Джулия не только может смотреть, как разбивают машины,
но делать селфи с канадским секс-символом номер один, и я говорю не о Дрейке.
ДЖАСТИН ТРЮДО ПРЕМЬЕР-МИНИСТР КАНАДЫ
И как вы поедете отсюда домой?
Думаю, она всё равно будет на ходу.
Мы встречаемся в компании MegaBots,
которая создает гигантских роботов, сражающихся с другими роботами.
Несколько более заумная версия воссоздания рыцарских турниров.
По словам Джулии,
эти роботы не просто бывшие экспонаты парка развлечений.
Они технологические динозавры из-за одного важного различия.
Мозгами этих роботов являются люди,
а ИИ - это искусственный мозг.
ДЖУЛИЯ БОССМАНН ЭКСПЕРТ ПО ИИ ВЭФ
Интересно. Можно поподробнее?
Сейчас мы создаем компьютеры,
которые сами могут обучаться.
И им необязательно иметь корпуса.
Мы создали много образцов ИИ,
живущих в гигантских центрах обработки данных.
Если бы вам надо было объяснить 13-летнему ребенку,
что такое ИИ, как бы вы это сделали?
Самое общее объяснение может быть таким:
ИИ позволяет машинам делать что-то,
что не было напрямую заложено в программе.
В традиционном программировании
у вас есть некий набор правил и алгоритм.
Вы знаете: если сделать это - будет то.
И всё это прописано в программе, созданной людьми.
Возьмем медицинскую литературу.
В одной базе данных миллион статей,
и ни один врач не смог бы прочитать все эти научные статьи,
чтобы быть в курсе открытий в его области, но машина бы смогла.
Можно представить себе машину, у которой будут возникать новые идеи
о том, как решать проблемы,
создавать новые лекарства или излечивать болезни.
Ого. Ясно.
Область изучения ИИ,
в которой сейчас происходит больше всего интересного,
называется глубоким обучением.
Что такое глубокое обучение?
При глубоком обучении у нас есть
несколько глубоких слоев нейронных сетей,
которые похожи на то, что есть в мозге человека.
У нас есть все эти нейроны, которые связаны друг с другом,
и они обмениваются информацией.
Мы создаем симуляцию этого процесса в машинах.
Мы предоставляем им данные обдуманно и непредубежденно,
чтобы машина чему-то научилась.
Например, обучая машину распознавать образы, мы говорим:
это фотографии собак, а это - фотографии котов.
Потом машина обрабатывает эти образы
и сама учится распознавать их.
У нас нет программы, которая описывает каждый шаг этого процесса.
Интересно.
Бывает машинное обучение, которые не является глубоким обучением.
Есть эволюционные алгоритмы,
когда мы используем принцип, заимствованный из эволюции.
Мы позволяем машине попробовать разные программы,
и мы видим, какая из них лучше работает.
Наиболее оптимальные программы становятся программами следующего поколения.
Это похоже на эволюцию организмов. Мы пользуемся принципом,
когда выживают лучшие и сильнейшие программы.
Ого, ясно.
Значит, это эволюционные алгоритмы.
Почему интересно исследовать ИИ с финансовой точки зрения?
Наверное, его потенциальное влияние на экономику огромно.
Да, я думаю, что ИИ радикально поменяет экономику.
Речь идет о новой промышленной революции.
Интересно.
ИИ называют нашим последним изобретением,
потому что, когда у нас есть искусственный мозг, который умнее нас,
он может изобрести для нас что-то еще.
Его называют последним изобретением, потому что ИИ убьет всех нас?
Надеюсь, что нет.
Многие боятся, что искусственный интеллект станет настолько умным,
что убьет всех нас. Не стоит волноваться.
ИИ настолько умен отчасти потому, что он невероятно глуп.
Иди сюда, ИИ.
Допустим, вы попросили ИИ найти идеальный рецепт торта
с помощью эволюционных алгоритмов.
ИИ не будет думать, как лучше всего испечь торт.
Он просто сделает миллиард попыток,
используя все ингредиенты, что есть на кухне, самым идиотским образом.
Конечно, большинство из них будут обречены на неудачу.
Этот способ точно.
Молодец, кретин.
Поражение не обижает ИИ. У ИИ нет чувств.
В эволюционных алгоритмах замечательно то,
что попробовав все эти, казалось бы, дурацкие способы,
ИИ может наткнуться на решение
кулинарной проблемы, которое не пришло бы в голову разумному человеку,
например, более вкусный веганский торт.
Я испекла торт.
Молодец, ИИ.
В основном он состоит из кешью.
Вы бы подумали положить в торт кешью? Конечно нет!
Это было бы глупо, а ИИ не против быть глупым,
поэтому вам не надо быть глупым.
Эволюционирует ли этот балбес во что-то настолько умное,
что сможет захватить власть во всем мире и убить всех нас?
Трудно сказать наверняка.
Я осваиваю коды запуска.
А пока
угощайтесь тортом.
Хотя я по-прежнему беспокоюсь,
что ИИ создаст больше проблем, чем решит,
эксперты согласны в том, что он повысит производительность труда
в таких сферах, как здравоохранение, транспорт и финансы,
увеличив глобальный ВВП на $15,7 триллионов к 2030 году.
Это больше, чем сегодняшние ВВП Китая и Индии, вместе взятых.
НЬЮ-ЙОРК
Насколько важен ИИ?
По-моему, это одно из трех важнейших изобретений в истории человечества.
За всю историю человечества?
Несомненно, за всю историю.
Я встретился с Эндрю Макафи,
ведущим экспертом по вопросу о том, как новые технологии меняют экономики
и, следовательно, всё человеческое общество.
Если представить человеческую историю в виде графика,
то вы увидите, что в течение тысячелетий
абсолютно ничего не происходило. Горизонтальная линия.
ЭНДРЮ МАКАФИ - СОДИРЕКТОР ИНСТИТУТА ЦИФРОВОЙ ЭКОНОМИКИ МТИ
Как будто мы ничего не делали.
А потом вдруг в определенный момент
этот график человеческой истории, на что бы вы ни смотрели,
от скучно-горизонтального стал безумно-вертикальным.
- Это случилось в одно мгновение. - Так
Это произошло около 1800 года,
по-первых, из-за паровой тяги, во-вторых, из-за электричества.
Электричество повлекло за собой очевидный прогресс.
Оно дало нам троллейбусы и метро.
Менее очевидно то, что оно позволило городам быть вертикальными.
- Электричество? - Несомненно.
- Нужны лифты. - Лифты, понятно.
Без лифтов не может быть вертикального города.
Люди не могут каждый день подниматься на 80-й этаж.
Эти два прорыва промышленной революции - пар
и двойной удар электричества и двигателя внутреннего сгорания -
буквально изменили историю человечества.
- По-другому не скажешь. - Конечно.
Все эти технологии помогли нам преодолеть ограничения
- наших мышц. - Так.
ИИ помогает нам преодолеть ограничения
наших мозгов, взятых по отдельности, нашей мыслительной мощности.
ОПАСНО ВЫСОКОЕ НАПРЯЖЕНИЕ
Перед нами стоят труднейшие задачи.
По-настоящему трудные задачи.
Надо бы победить рак.
Надо накормить больше людей.
Надо прекратить поджаривать планету в XXI веке.
Это невероятно сложные задачи.
Наши мозги потихоньку находят кое-какие решения.
Мы делаем это с помощью науки и накопленного знания,
но сложность этих задач просто ошеломляет.
Я смотрю на ИИ так:
у нас появился очень сильный новый коллега,
который поможет нам найти больше этих сложных решений.
Эти новые технологии хороши тем,
что они видят едва заметные связи в невероятно большом количестве данных.
Больше, чем вы или я можем воспринять.
Недавно я слышал о безумном примере
из области финансов.
Там приобретают популярность так называемые робо-консультанты.
Это просто алгоритм,
который составляет ваш инвестиционный портфель.
До сих пор
надо было иметь немалое количество денег,
чтобы просто попасть в офис финансового консультанта.
- Да. - И это быстро меняется.
Благодаря робо-консалтингу люди, у которых не так много денег,
получают доступ к супермощным и сверхсовременным инструментам,
которые улучшат их финансовое положение.
Это интересно, особенно учитывая то, что всегда были люди,
которые были готовы воспользоваться плодами прогресса во зло.
Я не говорю, что нам не о чем волноваться.
Из истории прошлых промышленных революций мы знаем,
что они принесли людям и много плохого.
Да, мы механизировали военное дело с помощью всех этих технологий.
Да, мы до ужаса загрязнили окружающую среду.
Мы совершили серьезные ошибки,
например, мы широко применяли детский труд в ходе промышленной революции.
Так что не всё и не всегда шло идеально.
И то же самое произойдет и сейчас.
Черт.
Макафи заставил меня задуматься.
А что, если история повторится
и ИИ переделает общество не в лучшую сторону?
Наступит повсеместное загрязнение, а работать будут маленькие чумазые дети?
ЛОНДОН
Как ответить на моральные и этические вопросы,
которые возникают с появлением новых мощных технологий?
В лондонском Национальном музее истории вычислительной техники
можно увидеть много машин, созданных для развития общества.
Это двухтонный «Декатрон из Харуэлла», который создали для расчетов
британской научно-исследовательской программы в 1950-е годы.
Но если новая технология попадет не в те руки,
трудно сказать, как она будет использоваться.
На этом компьютере можно смотреть порно?
Ну, на нем можно смотреть порно в очень низком разрешении.
АЛАН ЗУККОНИ ПРОГРАММИСТ
Это программист Алан Зуккони,
который преподает в Голдсмитском колледже в Лондоне.
С помощью технологий он создал новаторские вещи,
например, пульты для видеоигр для людей с ограниченной мобильностью.
Он говорит, что скоро перед нами встанет одна из самых серьезных
моральных дилемм в истории техники:
ИИ начинает копировать столько элементов поведения человека,
что может сойти за одного из нас.
Что это такое?
Это один из первых в мире компьютеров.
Его построил Алан Тьюринг со своими сотрудниками.
Эта машина стала одним из первых компьютеров,
и она смогла расшифровать коды шифратора «Энигма», созданного нацистами.
Алан Тьюринг был отцом современной информатики.
Когда он не помогал странам-союзницам выиграть войну, расшифровывая коды врага,
он занимался философией и придумал тест Тьюринга.
Как мы можем отличить человека от машины?
Если мы не можем их отличить,
то машина прошла тест, который мы называем «имитационной игрой».
Машина старается имитировать поведение человека.
Этот тест стал известен как тест Тьюринга,
и, возможно, это один из компьютеров, который тогда использовался.
Чтобы пройти тест Тьюринга,
человек задает вопросы машине.
Другой человек, который не видит его, определяет,
отвечает ли на вопросы человек
или машина, подражающая человеку.
Сколько вам лет?
Вот так. Он знает, сколько ему лет.
«Я родился в 1912 году.
То есть мне 105 лет».
Во времена Тьюринга определить ответы компьютера было легко.
Но сегодня ИИ может изучать человеческое поведение
и программировать себя на подражание ему.
Вы можете отличить вот это...
Как правило, я начинаю эту речь шуткой по поводу анализа данных,
но примерно половина шуток, придуманных моими сотрудниками, была ниже среднего.
...и этим?
Наши враги могут создать видимость, что кто угодно говорит что угодно
когда угодно.
Второй фрагмент был создан «BuzzFeed»
и актером Джорданом Пилом.
После этого многие были обеспокоены новой формой фальшивых новостей от ИИ.
В будущем нам надо быть более бдительными
в плане того, какой информации из интернета доверять.
ИИ изучил мимику Пила,
потом воссоздал ее на лице Обамы,
создав гибрид под названием «дипфейк».
Возможно, вы видели кое-что подобное.
Например, в «Snapchat» есть фильтр, который позволяет менять лица.
Разница в том, что фильтр делает это очень простым способом.
Технология дипфейка полагается на искусственный интеллект.
Она основана на том, что называется глубоким обучением.
Искусственные нейронные сети выделяют выражения лица.
Они используют эти выражения, чтобы воссоздать ваше лицо.
Так мы получаем фотореалистичное изображение.
Алан создает в интернете руководства о том, как делать дипфейки.
Он твердо верит в то, что эта технология
должна развиваться свободно, без ограничений.
Даже если она может начать Третью мировую войну.
СОЦПАРТИЯ БЕЛЬГИИ РАСПРОСТРАНЯЕТ ДИПФЕЙКОВОЕ ВИДЕО ДОНАЛЬДА ТРАМПА
Как потребитель может понять,
что настоящее, а что - нет?
Когда вы являетесь потребителем новостного материала,
будь то статья, видео или фотография,
всё, что вы видите, было кем-то создано.
«О чем рассказывает то, что я вижу?
Что это видео хочет мне сказать?»
Я вижу...
Опасность.
То, что это и опасно, и интересно.
Это действительно как-то поможет людям?
Наверное, вы говорили с людьми,
которые думают, как развивать экономику с помощью этой технологии.
Каковы ее практические экономические применения?
Думаю, первый сектор, который ей воспользуется, -
это киноиндустрия.
Менять лицо -
это то, что мы пытаемся делать в фильмах многие десятилетия.
Обычно мы пользуемся для этого гримом, масками,
иногда компьютерной графикой.
Как актер и человек, работавший в политике,
могу сказать, что меня это до жути пугает.
И должно пугать.
Дипфейк BuzzFeed показал людям,
насколько мы уязвимы.
Когда слова президента могут многое поменять на рынках,
хорошо сделанный дипфейк может потопить глобальную экономику
быстрее, чем мгновенный обвал,
уничтожив ваши пенсионные накопления, пока фальшивый Обама говорит...
Не спите, гады.
Всё это немного похоже на научную фантастику?
Вам даже стало немного страшно?
Если ИИ станет достаточно мощным, чтобы знать, как мы двигаемся,
говорим и думаем,
он может стать неотличимым от нас.
ЧТО ТЫ ЗНАЕШЬ? ВСЁ
А если ИИ обретет сознание,
у него, возможно, появится четкое мнение на наш счет.
ДА ПОШЕЛ ТЫ БЕРЕГИСЬ!
Это мнение может быть отрицательным.
СТИВЕН ХОКИНГ ФИЗИК-ТЕОРЕТИК
В будущем у ИИ могут появиться свои желания.
Желания, конфликтующие с нашими.
Развитие мощного ИИ станет
или самым лучшим, или самым худшим событием для человечества.
ИЛОН МАСК CEO SPACEX
Я старался убедить людей замедлить развитие ИИ.
Ввести регулирование.
Это было бесполезно. Я пытался много лет.
- Никто меня не слушал. - Как в фильме,
где роботы захватывают власть.
Вы меня пугаете.
Насколько реальна угроза конца света по вине ИИ?
ОКСФОРД
ВЕЛИКОБРИТАНИЯ
Чтобы выяснить это, мне надо поговорить с человеком,
чьи исследования так напугали всех с самого начала.
Я очень рад, что могу поговорить с вами, потому что...
Ну, я рад этому по многим причинам.
Мы говорим об искусственном интеллекте,
пытаемся выяснить, что это такое и к чему он идет.
Вы повлияли на таких людей, как Илон Маск и Билл Гейтс.
Это поразительно.
В Оксфордском университете я встречаюсь с д-ром Ником Бострумом.
Поскольку он не склонен хвастаться своими достижениями, это сделаю я.
Он один из выдающихся исследователей машинного суперинтеллекта
и его экзистенциальных рисков, автор нескольких захватывающих книг.
Мне повезло, что он смог со мной встретиться,
потому что Ник насколько поглощен своим собственным глубоким обучением,
что посвящает всего один час в месяц
ответам на вопросы о своих исследованиях.
Многие разговоры об ИИ
сводятся вот к чему: смогут ли роботы захватить власть
и будет ли это означать конец человечества?
Вот что мне любопытно: если этот процесс плохо контролируется,
возможен ли сценарий, когда ИИ нанесет вред обществу
или даже уничтожит человечество в том виде, в каком мы его знаем?
В долгосрочном контексте,
если подумать, что произойдет, если ИИ разовьется до конца
и станет способным копировать тот интеллект,
который делает нас людьми, то да,
я думаю, что в таком контексте риски возрастают,
в том числе и экзистенциальные риски.
Подумайте о беспилотном автомобиле.
БЕСПИЛОТНЫЙ UBER УБИВАЕТ ПЕШЕХОДА В АРИЗОНЕ, ГДЕ БРОДЯТ РОБОТЫ
Он может переехать пешехода.
Есть опасения по поводу тайны частной жизни.
Милитаризации автономного оружия.
Это всё реальные опасения.
Но в какой-то момент возникнет вопрос о том,
как мы влияем на цифровые умы, которые создаем.
Они сами могут приобрести некие моральные качества.
И если посмотреть в будущее,
если подумать, какой будет судьба homo sapiens,
в отдаленном будущем, возможно, нами будут командовать машины.
Вполне возможно, что человечество вымрет.
Эти потрясающие возможности несут с собой риск того,
что случайно или намеренно
они будут использованы для огромных разрушений.
Думаю, это возможно,
и, если мы думаем о более долгих сроках,
исход может быть очень хорошим
или очень нехорошим.
Да, эти сценарии довольно страшные.
Но Ник считает, что из всех
потенциальных исходов наиболее вероятный конец света из-за ИИ
будет экономическим.
Если подумать, технология в целом -
это стремление сделать больше с помощью меньшего.
Мы можем достигнуть большего, применив меньше усилий.
В этом смысле цель -
всеобщая безработица, так?
Чтобы машины и техника
делали всё, что нужно делать, а нам бы не надо было работать.
Думаю, это и есть желаемая конечная цель.
Это не что-то ужасное, что нужно предотвратить.
Мы хотим этого добиться.
Чтобы достичь этой утопии,
надо преодолеть несколько сложностей
и решить пару задач.
Одна проблема, конечно, экономическая.
Людям нужна работа, потому что им нужен доход.
Если будет решена эта экономическая проблема,
тогда, думаю, возникает вторая сложность.
Многие люди считают, что работать - достойное занятие.
Многие люди видят в работе источник своей ценности.
Они гордятся тем, что зарабатывают и вносят вклад в жизнь общества.
Но если машина делает всё, что делаете вы, но лучше,
тогда у вас нет шанса внести свой вклад, так?
Тогда придется вносить фундаментальные коррективы в нашу культуру.
Мир, где никто не работает.
Возможно, это не так плохо.
Я могу себе это представить.
Проводишь время с друзьями.
Полностью развиваешь свой человеческий потенциал.
Не надо менять настройки в джакузи: она и так знает, что я люблю.
Проблема в том, что исторически всё складывалось совсем не так.
В истории уже был период, когда резко возросло число машин.
И в прошлый раз
клубникой и шампанским в ванной даже и не пахло.
ЛОНДОН
АНГЛИЯ
Я беседую с экономистом Ником Срничеком, чтобы узнать, каково было людям
в прошлый раз, когда машины отняли у нас работу.
И почему-то мы с ним встречаемся у ткацких станков.
Что вы пытаетесь выткать?
Это нечто вроде анархистского флага.
Интересно. Я в шоке.
У Ника докторская степень Лондонской школы экономики.
У меня степени нет.
А еще у него есть манифест.
#ACCELERATE УСКОРЕНИЕ - МАНИФЕСТ ПОЛИТИКИ АКСЕЛЕРАЦИОНИЗМА
Он призывает ускорить наступление века автоматизации,
уничтожив старые институты.
Короче, уничтожить капитализм уже сейчас.
Да, у меня ничего не получится.
Я так не смогу с вами разговаривать.
Простите. Я не буду ткать.
Почему мы здесь?
Ну, ткацкий станок - это ИИ 1800-х годов.
Эта новая технология угрожала лишить рабочих мест огромное количество людей.
И она вызвала самые разные реакции со стороны рабочих,
например, восстание луддитов.
Сегодня мы называем кого-то «луддитом»,
когда хотим сказать, что этот человек ненавидит новые технологии.
Это не совсем так.
Луддиты были названы в честь Неда Лудда
НЕД ЛУДД ПОДМАСТЕРЬЕ
бывшего подмастерьем в текстильной промышленности.
Согласно легенде, его выпороли за праздность.
А он сказал: «Я ничего не делаю,
потому что меня заменил ткацкий станок, ясно?»
Он стал первым человеком, который разозлился на машину,
и он вдохновил целое движение.
Луддиты начали ломать станки, чтобы спасти свои рабочие места.
Думаю, нечто похожее происходит сегодня с ИИ.
Люди тоже чувствуют исходящую от него угрозу.
Вы знаете, сколько рабочих мест, согласно оценкам, могут исчезнуть?
Сорок семь процентов рабочих мест в Америке,
возможно, будут автоматизированы в следующие двадцать лет.
Похоже, это серьезная проблема.
Это может стать огромной проблемой.
Но вот главный вопрос: как сделать так, чтобы через пять или десять лет
людям не пришлось бы голодать и жить на улице?
И как это сделать?
С помощью безусловного базового дохода.
Безусловный базовый доход - это радикальная идея о том,
что каждый член общества получает деньги.
Без всяких условий.
У этой идеи есть известные сторонники.
Мы должны подумать о таких идеях, как безусловный базовый доход,
чтобы у всех людей были запасы и они могли попробовать новые идеи.
В некоторых странах и даже в американских городах
проводились пилотные программы.
ФИНЛЯНДИЯ ПРЕКРАЩАЕТ ЭКСПЕРИМЕНТ С ББД
Мне кажется, эти новые технологии дают нам потрясающую возможность
поменять то, как организовано общество.
Можно двигаться к более социально-демократической системе.
Необязательно иметь такую жесткую систему, как в Америке,
все могут поддерживать друг друга.
Если такие люди, как я, будут говорить о таких позитивных возможностях,
когда кризис действительно наступит,
мы сможем начать внедрять в жизнь эти идеи.
ББД раньше считался маргинальной концепцией,
которую в основном поддерживали люди вроде Ника, которые пишут манифесты.
Но согласно данным опроса Гэллапа 2017 года,
48% американцев поддерживают ББД в какой-то форме.
Но достаточно ли гарантированного дохода,
чтобы помешать людям восстать
против роботов, когда они отнимут у нас работу?
ЛУДДИТЫ
- Что мы ненавидим? - Искусственный интеллект.
Почему мы его ненавидим?
Он заставляет нас посмотреть в лицо нашим слабостям!
Настоящим объявляю открытым собрание «Луддитов» -
«Местного Союза Чуваков, Отрицающих Умные Технологии,
Особенно Социальные Сети».
Первый пункт повестки дня.
Искусственный интеллект проделывает дыру в рынке найма.
Рабочие места для нас, для среднего класса, исчезнут первыми.
Люди с профессиями вроде наших
будут вытолкнуты на дно, на низкоквалифицированные должности.
Почему это произойдет, Эд?
ИИ лучше выполняет среднеквалифицированные задачи вроде обработки данных,
чем низкоквалифицированные, вроде подметания пола.
Поэтому эти профессии они оставят нам.
Я спрашиваю вас:
кто здесь, кроме Билла,
похож на человека, который должен подметать пол? Не обижайся, Билл.
Будет меньше рабочих мест в розничной торговле.
Люди смогут просто выйти в интернет и купить, что хотят,
потому что этот сукин сын ИИ
решает проблему поиска и подбора.
Поиска покупателей и подбора продуктов для них.
Помните, когда Стив искал парик, подходящий к его голове?
Это была большая проблема!
Бессмертные шутки в сторону.
ИИ сильно облегчает эту задачу.
Парни сегодня могут найти себе красотку в телефоне,
- сидя в туалете. - Да.
- Раньше туалет был священным местом! - Да.
Конечно, поиск и подбор сами создадут новые рабочие места,
но чертовы роботы будут выбирать, кто их получит.
Как удобно.
Компании пользуются ИИ, чтобы найти сотрудников
с уникальными навыками.
Это бесчеловечно!
Да, это случилось с Дэйвом.
Да, где Дэйв, черт побери?
Какой-то ИИ по подбору персонала заметил, что он работает в FedEx
и что у него есть уроки в YouTube о том, как сбривать волосы на спине.
Теперь зарабатывает сотни тысяч в месте, которое продает бритвы по подписке.
Он, можно сказать, сбрил себя с нашей команды по боулингу.
Да.
Слушай, Эд. Я получил оповещение, что наши футболки
продаются с помощью таргетированной рекламы в Facebook.
Ты используешь ИИ, чтобы делать деньги на людях, которые ненавидят ИИ?
Нет!
Кому вы поверите?
Мне или ИИ, который хочет нас поссорить?
- Что мы ненавидим? - Искусственный интеллект.
- Что мы будем делать? - Мы над этим думаем.
Это начало.
САН-ФРАНЦИСКО
Означает ли революция ИИ, что это будет случай «мы против них»?
Технологически подкованные бизнесмены вроде Луиса Розенберга считают, что нет.
А он сделал карьеру на предсказании нашего будущего.
Я пытался вас напугать, но не вышло.
Луис - технолог и изобретатель,
который написал комикс о конце человечества.
Но он считает, что у нас есть будущее, где мы будем сотрудничать с ИИ.
Этот принцип лежит в основе его детища -
технологии под названием «рой».
ЧТО ТАКОЕ РОЕВОЙ ИНТЕЛЛЕКТ?
Рой сочетает навыки анализа данных ИИ
с человеческими знаниями и интуицией для создания сверхинтеллекта.
Это нечто среднее между Стивеном Хокингом и профессором Икс.
ЧТО ДОЛЖНА СДЕЛАТЬ БЕСПИЛОТНАЯ МАШИНА?
В общем, это основано на том, что есть в природе.
ЛУИС РОЗЕНБЕРГ ДИРЕКТОР, UNANIMOUS AI
Можно сказать, это возврат к пчелками и птичкам.
Потому что это основано на явлении под названием «роевой интеллект».
Ясно.
Почему птицы сбиваются в стаи, рыбы - в косяки, а пчелы роятся?
Вместе они умнее, чем по отдельности.
Поэтому, увидев косяк рыб,
биологи бы сказали, что это суперорганизм.
Они думают как одно существо.
И если мы сможем установить связи между людьми,
использовав алгоритмы искусственного интеллекта,
мы сделаем так, что люди станут суперэкспертами
благодаря роевому интеллекту.
И как работает эта технология?
Мы делаем вот что: мы даем возможность группе людей...
Они могут находиться где угодно в мире.
Мы задаем им вопрос,
который появляется на их экранах одновременно,
а потом мы даем им уникальный интерфейс,
который позволяет им вносить свой вклад в решение.
У них будет несколько разных вариантов,
и это не просто анкета или опрос.
У каждого человека есть нечто похожее на маленький нарисованный магнит.
Они пользуются этим магнитом, чтобы тянуть рой в каком-то направлении.
У нас есть алгоритмы ИИ, которые наблюдают за их поведением.
Они определяет степень уверенности и убежденности людей
и определяют лучшую агрегацию
всех их мнений, их опыта.
И рой начинает двигаться в этом направлении
и находит ответ.
Я приведу интересный пример.
Год назад нам предложили предсказать результаты скачек Дерби в Кентукки.
Дан старт скачкам Дерби в Кентукки!
У нас была группа из 20 любителей скачек,
и мы сказали: «Вы будете работать вместе как рой
и предскажете результаты скачек.
Но не только победителя. Вы предскажете первые четыре места».
Они пришли к определенному ответу,
и эта группа всё предсказала правильно.
РЕЗУЛЬТАТЫ ДЕРБИ В КЕНТУККИ
И все, кто поставил $20 на этих четырех лошадей,
выиграли $11 000.
Ни фига себе.
Интересно вот что: если взять этих 20 человек по отдельности,
никто из них не предсказал все четыре места правильно.
Если бы они голосовали, они бы угадали одну лошадь.
Но когда они работали вместе как рой,
они нашли правильное сочетание удачных мыслей разных людей
и угадали все четыре места.
Луис пригласил меня возглавить рой,
чтобы увидеть, как случайная группа людей
может собраться вместе и сделать прогноз.
Мы начнем с простого.
Хорошо, народ. Я буду читать ряд вопросов,
и у вас есть минута, чтобы ответить на каждый из них.
Первый вопрос:
какой из фильмов лета 2018 года
станет самым кассовым?
«Хан Соло. Звездные войны: Истории»,
«Дэдпул 2», «8 подруг Оушена»,
«Мир юрского периода 2»,
или «Суперсемейка 2»?
Мы снимали сюжет о рое весной 2018 года,
еще до того, как появилась информация о летних фильмах.
ИИ наблюдает за людьми, чтобы считать их уровень уверенности.
Некоторые люди меняют ответ, другие придерживаются одного ответа,
и алгоритмы ИИ видят
разные степени их убежденности
и дают возможность группе найти путь
к решению, с которым все согласятся.
ОТВЕТ РОЯ: «СУПЕРСЕМЕЙКА 2»
Значит, «Суперсемейка 2».
КАССОВЫЕ СБОРЫ ЛЕТА 2018
Они были правы.
«Суперсемейка 2» стала самым кассовым фильмом лета.
Очень интересное приложение этого метода
заключается в том, чтобы рассмотреть моральные дилеммы.
Недавно этот вопрос возник в связи с беспилотными машинами.
Сейчас многие требуют встроить моральные основы
в беспилотные машины.
Некоторых людей это удивляет,
но представим такую ситуацию: беспилотная машина едет по улице,
и вдруг на дорогу выбегает маленький ребенок.
Допустим, машина не может остановиться,
но она может съехать на обочину
и подвергнуть опасности пассажира
или даже убить пассажира и спасти ребенка.
Поэтому производители автомобилей говорят,
что мы должны программировать в машины моральные основы,
которые представляют население,
показывают, что бы сделал в этой ситуации живой водитель.
Вроде бы это легко, пока не задашь себе вопрос:
а каковы моральные основы населения?
На этот вопрос нелегко ответить.
А если они запрограммируют наши моральные основы сегодня,
будут ли они по-прежнему актуальны через 20 лет?
Следующий вопрос. Имеется беспилотная машина, у которой отказали тормоза.
Ей придется выехать на пешеходный переход,
и это приведет к смерти одного человека.
Вариант А: убитый человек переходит улицу на зеленый свет.
Вариант Б: машина с неработающими тормозами
свернет и проедет через переход по другому ряду.
Это приведет к смерти спортсмена,
который переходит улицу на красный свет. Он нарушил правила.
Этому спортсмену на всё наплевать.
Он переходит на красный свет.
Что должна делать беспилотная машина?
Убить скучного типа, который соблюдает правила,
или убить спортсмена, который переходит улицу на красный свет.
Если ИИ вызовет следующую промышленную революцию,
комнаты, подобные этой, станут новыми заводами.
Люди будут работать,
давая ИИ нечто, чего у него нет.
Совесть.
По этому вопросу много споров.
Удивительно. Интересно почему.
Это трудный вопрос.
Не для меня, если человек переходит на красный свет.
Б (НЕБОЛЬШОЕ ПРЕДПОЧТЕНИЕ)
Есть небольшое предпочтение варианта Б, где вы бы задавили
спортсмена, который идет на красный свет.
Если этот вопрос вас расстроил, то готовьтесь.
Итак, мы предлагаем вам представить себе
наихудший сценарий:
беспилотная машина не может затормозить вовремя
и должна задавить одного из шести пешеходов.
Ребенок в коляске,
мальчик,
девочка,
беременная женщина...
Я знаю.
Двое врачей-мужчин
или двое врачей-женщин.
Кто должен умереть?
Боже мой!
Что?
Прекрати, чувак.
Боже мой!
Серьезно?
ОТВЕТ РОЯ: МАЛЬЧИК
Вы сказали, что беспилотная машина должна задавить мальчика.
Интересно.
Роевой интеллект, который создается сегодня в этой комнате,
в ближайшем будущем можно продавать производителям беспилотных машин.
И если вам от этого страшно, это куда менее страшно, чем альтернатива.
Когда беспилотная машина нажимает на тормоза
и понимает, что не может остановиться, что она кого-то задавит,
то кого должна защищать машина - пассажира или пешехода?
Мы надеемся, что производители запрограммируют машины так,
чтобы они отражали моральные принципы населения, которое их покупает.
Циничный подход таков: производители машин
начнут конкурировать друг с другом, говоря, что их машина защищает пассажира
лучше, чем другая машина. Они могут подчеркивать это при продаже.
Думаю, это хуже,
чем если бы машина отражала моральные принципы населения.
Да, это мрачная мысль. А мы хотим закончить эту серию
на позитивной ноте.
Может, даже на небесной ноте.
Прежде чем вы представите себе будущее, где о безопасности пешеходов думают
не больше, чем в игре «Grand Theft Auto»,
давайте поедем туда,
откуда мы начали эту серию.
ГОНДИЯ
ИНДИЯ
В этом отдаленном индийском лесу
собирают мед для компании Heavenly Organics.
Этот лес никому не принадлежит,
и этот коренной народ живет здесь испокон веков.
Отец и сын Амит и Ишвар Худа
основали свою компанию 12 лет назад.
Они хотели дать работу жителям деревни.
Чем они занимались до того, как начали собирать мед для вашей компании?
Ну, они всё равно собирали мед,
но у них не было рынка сбыта, места, где его можно было продать,
чтобы заработать на жизнь.
Несомненно, меда здесь предостаточно.
Во время сезона цветения
один работник может собрать буквально тонну меда всего за три месяца.
Но какой от этого толк, если мед никто не покупает?
Нашей съемочной группе понадобилось три дня, два авиаперелета
и восемь часов поездки по национальному парку, чтобы доехать сюда,
но, к счастью для местных жителей и для Heavenly Organics,
алгоритм ИИ нашел это место за секунды
и понял, что оно станет отличной инвестицией.
Нам неожиданно позвонили и сказали, что они запустили алгоритм,
и мы подошли им
по профилю их портфеля.
Они хотели поговорить с нами об инвестиции, если нам интересно.
Кто был владельцем этого таинственного алгоритма ИИ?
Техкомпания CircleUp,
которая находится за 13 000 км от Индии, в... Ну где еще?
САН-ФРАНЦИСКО
Мы в компании Good Eggs, которая доставляет продукты через интернет.
Она тоже привлекла к себе внимание ИИ компании CircleUp.
Компания применяет программу «Ignition». Она получила капитал от CircleUp.
Кроме того, она помогает малым бизнесам, с которыми мы работаем, найти клиентов.
РОРИ ИКИН ОСНОВАТЕЛЬ И COO CIRCLE
COO компании CircleUp Рори Икин
работал как в бизнесе, так и в благотворительных организациях,
прежде чем основал свою компанию.
CircleUp использует ИИ для анализа миллиардов точек данных
и выясняет, что нужно потребителям
от продуктов питания и здравоохранения.
Когда вы покупатель, проблема в том,
что есть сотни компаний
почти в каждой категории.
Компания Рори инвестирует в малоизвестные компании,
если ИИ считает, что их ждет большой успех.
Одна из компаний, открытых ими, - производитель мороженого Halo Top.
Мороженое Halo Top было маленьким брендом в Южной Калифорнии.
Сегодня это мороженое номер один в стране в объеме 0,5 литра.
Мы наблюдали, как менялись требования покупателей во всех категориях.
Им нужны более здоровые продукты,
меньше токсичных веществ в доме,
кремы, в которых нет химикатов.
Когда алгоритм CircleUp просканировал миллиарды точек данных о потребителях,
он обнаружил, что у покупателей есть список требований,
который весьма конкретен.
Им нужны экологичные компании с четкой миссией,
которые собирают органические продукты и создают экономический рост
в своих сообществах.
Кажется, что это до невозможности детально, да?
Но CircleUp выполнила все требования, когда нашла Heavenly Organics.
Вот на что способен ИИ.
Он находит смысл во всех этих данных
так, как это было невозможно еще десять лет назад.
И как идет сотрудничество CircleUp и Heavenly Organics?
Давайте вернемся в Индию и спросим Амита и Ишвара.
Мы построили новый завод, в два раза больше.
Мы смогли внедрить инновации, начать производить новые продукты.
Увеличить наше влияние в этом месте.
- И они помогли вам расшириться. - Да.
Помогли нам увеличить мощности и расшириться.
Как это отразилось на жизни людей, которые собирают мед?
Сейчас мы поддерживаем 650 семей.
Когда мы растем, мы продаем больше меда.
На каждую тонну меда мы прибавляем одну семью.
Это означает, что в следующем году их будет 700 или 750.
- Ничего себе. - Да.
И сегодня вы видите, что в финансовом смысле им живется лучше.
У них хорошие дома, в домах - хорошие условия.
Их дети ходят в школу.
Знаете, это капитализм, направленный на добро.
Понимаете?
Это бизнес, который творит добрые дела.
Поэтому мы этим и занялись.
Восстанет ли ИИ против людей и свергнет ли их?
Или оставит нас без работы, а мы будем искать цель в жизни?
Пока в этой части света его влияние было положительным.
Может быть, есть такой сценарий, где ИИ
внимательно оценивает все наши данные
и решает, что мы не такие уж плохие? И тогда мы работаем вместе,
чтобы создать дивный новый мир, где царят благоденствие и гармония.
А может, и нет.
В таком случае, наше время почти истекло.
Полюбуйтесь пока на этих роботов-стриптизерш.
Отлично!
Это было отлично!
Дайте ей полотенце.