Ik sta op Wall Street, waar het allemaal begon.
Op 6 mei 2010, om 14.45 uur,
zat een man in het huis van zijn ouders, ver weg in Londen,
en liet hij een algoritme los op de beurs van New York
met een verkooporder van $1 miljard.
Het plan was om de markt te spoofen
en de order voor voltooiing terug te trekken
Maar voor dat kon gebeuren,
begonnen wereldwijd geautomatiseerde beurshandelbots
ook te verkopen.
Die veroorzaakten een kettingreactie die de markt deed instorten.
De Dow Jones-index is 1000 punten gezakt in 15 minuten.
Bijna net zoveel als bij de aanvang van de Grote Depressie.
Ik weet niet wat hier gebeurt.
Er heerst angst op de markt.
Annuleer de cruise. Haal je kinderen van dure scholen.
Dit is een beurskrach, mensen.
Verdorie.
Zesendertig minuten later herstelde de markt zich.
Maar de beurskrach van 2010 was de eerste keer
dat mensen aan den lijve ondervonden hoe billenknijpend angstaanjagend het was
als ki ons financiële systeem zou overnemen.
Je moet zien hoe het nu is.
Daarom ben ik in India op zoek naar wilde honing.
Later meer daarover.
Om te begrijpen hoe ki deze plek vond en waarom,
moet je begrijpen wat ki is.
Als je het denkt te weten, heb je het verkeerd.
Of je het leuk vindt of niet, we zijn allemaal verbonden door geld.
Ik ben Kal Penn en ik verken dit grote beest
dat de wereldeconomie heet.
Wat is 'ki' precies?
Ik ben in San Francisco om te bekijken wat het niet is.
Dat is zowat alles wat sciencefiction je heeft verteld.
Zeker...
Ongelofelijk grote robots.
O, mijn god.
Ik sta hier met Julia Bossmann,
die in de raad voor ki van het Wereldeconomisch Forum zit.
Ze adviseert wereldleiders hoe ze moeten omgaan met ki.
Voor die baan doet ze nog leukere dingen dan auto's vernietigd zien worden.
Zoals selfies met het sekssymbool van Canada dat niet Drake heet.
PREMIER VAN CANADA
Hoe ga je nu naar huis?
Ik kan er nog mee rijden.
We spreken elkaar bij Megabots,
dat grote robots bouwt om tegen elkaar te vechten.
Een soort nerderigere middeleeuwse nepgevechten.
Volgens Julia
zijn deze robots niet alleen kapotte pretparkattracties.
Ze zijn technologische fossielen vanwege één belangrijk kenmerk.
In deze robots zijn wij de hersenen,
maar ki zijn kunstmatige hersenen.
WERELDECONOMISCH FORUM, KI-EXPERT
Kun je meer vertellen?
We maken nu computers
die zelf dingen kunnen leren.
Ze hoeven geen lichamen te hebben.
Veel ki die we hebben gebouwd,
zit in grote datacenters.
Als je het moet uitleggen aan een 13-jarige,
wat is ki?
De algemene definitie is
dat ki machines dingen kan laten doen
waarvoor we ze niet hebben geprogrammeerd.
Bij traditionele programmering
heb je regels en het algoritme.
Als dit gebeurt, gebeurt dat.
Het is bepaald door de mensen die het programmeren.
Als je naar de medische literatuur kijkt,
heeft één database miljoenen lemma's
en geen enkele arts kan al die artikelen lezen
om up-to-date te blijven, maar een machine wel.
Een machine kan nieuwe ideeën verzinnen
om problemen op te lossen
of nieuwe medicatie te ontdekken om ziektes te genezen.
Wauw. Oké.
Het gebied in de kunstmatige intelligentie
dat nu het interessantst is,
heet deep learning.
Wat is deep learning?
Deep learning is als we
meerdere diepe lagen van neurale netwerken hebben
die lijken op wat we in onze hersenen hebben.
In ons hoofd hebben we neuronen die met elkaar verbonden zijn
en informatie uitwisselen.
Dat simuleren we in machines.
We geven die data die evenwichtig en objectief is,
zodat ze kunnen leren.
Bij beeldherkenning vertellen we ze:
'Dit zijn beelden van katten en honden.'
Dan bladeren ze door de beelden heen
en leren ze die zelf herkennen.
We hoeven dat niet helemaal te programmeren.
Interessant.
Er is ook machine learning. Dat is niet deep learning.
Er zijn evolutionaire algoritmes
waarbij we een principe uit de evolutie gebruiken
en de machine verschillende situaties geven.
Dan zien we welke het beste werkt.
Welke het beste werkt, gaat door naar de volgende generatie.
Net als organismes die evolueren, gebruiken we het basisprincipe
dat het beste programma overleeft.
Wauw, oké.
Dat zijn evolutionaire algoritmes.
Wat is het financiële belang van ki verkennen?
Het moet een ongelofelijke potentiële impact op de economie hebben.
Ja, die gaat de economie radicaal veranderen
en we noemen het een nieuwe industriële revolutie.
Interessant.
Het wordt onze laatste uitvinding genoemd,
omdat, als we kunstmatige hersenen hebben die slimmer zijn dan wij,
die voor ons uitvindingen kunnen doen.
Is het de laatste uitvinding, omdat die ons gaat vermoorden?
Hopelijk niet.
Veel mensen zijn bang dat kunstmatige intelligentie te slim wordt
en ons gaat vermoorden. Maak je geen zorgen.
Een van de redenen dat ki zo slim is, is dat die superdom is.
Kom hier, ki.
Stel je voor dat je ki hebt gevraagd om een recept voor taart
middels evolutionaire algoritmes.
Ki denkt niet na over de beste manier.
Ze zou die miljarden keren uitproberen
met elk ingrediënt in de keuken en op de domst mogelijke manieren.
De meeste kunnen natuurlijk nooit slagen.
Deze zeker niet.
Leuk geprobeerd, dombo.
Mislukking kwetst ki's gevoelens niet. Die heeft ze niet.
Het mooie aan evolutionaire algoritmes
is dat ze door al die domme methodes te gebruiken,
een oplossing kan vinden
voor een culinair probleem dat geen mens probeert op te lossen,
zoals een geweldige veganistische taart.
Ik heb een taart gemaakt.
Goed zo, ki.
Er zitten vooral cashewnoten in.
Had je aan cashewnoten gedacht? Natuurlijk niet.
Dat zou dom zijn, waar ki bereid toe is,
zodat jij dat niet hoeft.
Zal deze debiel evolueren tot een slimmere versie
die over de wereld heerst en ons vermoordt?
Dat weet ik niet.
Ik leer de nucleaire codes.
Maar ondertussen...
Neem een stukje taart.
Hoewel ik nog bezorgd ben
dat ki meer problemen gaat veroorzaken dan oplossen,
zeggen experts dat de productiviteit zal stijgen
op gebieden als gezondheidszorg, vervoer en het geldwezen
en $15,7 biljoen zal hebben toegevoegd aan het wereldwijde bnp in 2030.
Dat is meer dan de output van China en India bij elkaar.
Hoe belangrijk is ki?
Ik vind het een van de drie belangrijkste gebeurtenissen ooit.
Ooit?
Jazeker, ooit.
Ik sta hier met Andrew McAfee,
een van 's werelds topexperts over hoe technologie economieën verandert
en daarmee de hele menselijke samenleving.
Als je de geschiedenis in een grafiek zet,
zie je dat er duizenden jaren lang
niks gebeurde.
MEDEDIRECTEUR INSTITUUT VOOR DIGITALE ECONOMIE
Het is bijna hetzelfde als dood zijn.
Dan gaat opeens
die grafiek, wat je ook bekijkt,
van saai horizontaal naar ongelofelijk verticaal
in één oogwenk.
Het gebeurde rond 1800,
omdat toen zowel de stoomkracht als de elektriciteit opkwam.
Elektriciteit heeft voor de hand liggende dingen gedaan.
Die gaf ons trams en metro's.
Maar ook, minder voor de hand liggend, verticale steden.
-Door elektriciteit? -Ja.
-Voor de liften. -Oké.
Anders heb je geen verticale stad.
Je kunt niet elke dag tachtig trappen beklimmen.
Die twee industriële revoluties, stoom
en elektriciteit samen met verbranding,
veranderden de geschiedenis.
-Je kunt het niet anders zien. -Ja.
Met die technologieën konden we de beperkingen
van onze spieren overwinnen.
Met ki overwinnen we de beperkingen
van onze individuele hersenen, onze mentale kracht.
We hebben lastige uitdagingen.
Echt lastige uitdagingen.
We moeten kanker genezen.
We hebben meer voedsel nodig.
Je moet de planeet niet opwarmen in de 21e eeuw.
Dat zijn ongelofelijk ingewikkelde dingen.
Onze hersenen doorbreken die complexiteit langzaam.
We doen dat met wetenschap en door kennis te vergaren,
maar de complexiteit is overstelpend.
Ik zie ki
als een krachtige nieuwe collega
die ons helpt die enorme complexiteit te verwerken.
Want wat die nieuwe technologieën zo goed kunnen,
is subtiele patronen herkennen in overstelpende hoeveelheden data.
Meer dan jij en ik aankunnen.
Een bijzonder voorbeeld dat ik heb gehoord,
komt uit het geldwezen.
Het is de opkomst van 'robotadviseurs'.
Dat is in feite een algoritme
dat je investeringsportfolio opstelt.
Tot nu toe
moest je een bepaald bedrag bezitten
om een kantoor van een adviseur binnen te stappen.
-Ja. -Dat verandert snel.
Met die robotadviseurs kunnen mensen met steeds minder geld
toegang krijgen tot heel krachtige, gloednieuwe middelen
om hun financiële levens te verbeteren.
Dat is opwindend, omdat het altijd leek
dat men die dingen gebruikte om nare dingen te doen.
We moeten ons ook zorgen maken.
Wat we weten van de eerdere industriële revoluties,
is dat er slechte dingen gebeurden.
We mechaniseerden oorlogsvoering met die industriële technologieën.
We vervuilden het milieu heel erg.
We hebben erge fouten gemaakt,
zoals kinderarbeid op grote schaal, door de industriële revolutie.
Het ging niet perfect op elk moment.
Hetzelfde gaat nu weer gebeuren.
Verdorie.
McAfee zet me aan het denken.
Wat als de geschiedenis zich herhaalt
en ki de maatschappij op verkeerde manieren verandert?
Vreselijke vervuiling en kleine, roetige arbeiders?
LONDEN
Hoe zit het met de ethische vragen
rondom krachtige nieuwe technologieën?
Als je rondkijkt in het National Computing Museum,
zie je veel machines die de maatschappij moesten verbeteren.
Zoals de twee ton zware Harwell Dekatron, die werd gebouwd om berekeningen te maken
voor het Britse wetenschappelijke onderzoek in de jaren 50.
Als het in de verkeerde handen valt,
wie weet hoe technologie wordt gebruikt?
Kun je porno bekijken op deze computer?
Je kunt ze aanzetten en porno met lage resolutie zien.
COMPUTERPROGRAMMEUR
Ik sta hier met programmeur Alan Zucconi,
die lesgeeft aan Goldsmith's College in Londen.
Hij heeft geholpen revolutionaire dingen te ontwikkelen,
zoals gamecontrollers voor mensen met een beperking.
Hij zegt dat het grootste ethische dilemma
in de techgeschiedenis aanstaande is,
als ki zoveel menselijke gedragingen gaat kopiëren
dat die zich kan voordoen als ons.
Wat is dit?
Dit is een van de eerste computers ooit
en hij werd gebouwd door Alan Turing en zijn collega's.
Deze machine was een van de eerste computers
die de Enigmacode van de nazi's kon kraken.
Alan Turing is de vader van de moderne informatica.
Als hij de geallieerden niet hielp winnen door nazicodes te kraken,
filosofeerde hij over de 'turingtest'.
Hoe kunnen we een mens onderscheiden van een machine?
Als we het verschil niet opmerken,
slaagt de machine voor 'het imitatiespel'.
De machine imiteert menselijk gedrag.
Dat staat bekend als de turingtest
en dit is een van de machines die ervoor gebruikt kan zijn.
Om de turingtest uit te voeren,
moet een mens vragen stellen aan een machine.
Ondertussen bepaalt een waarnemer
of de antwoorden van een mens komen
of een machine die een mens nadoet.
Hoe oud ben je?
Daar gaan we. Ze weet hoe oud ze is.
'Ik ben geboren in 1912.
'Ik ben dus 105 jaar oud.'
In Turings tijd kon je de computer makkelijk onderscheiden.
Maar tegenwoordig kan ki menselijk gedrag bestuderen
en zich programmeren zoals wij te doen.
Kun je het verschil tussen dit...
Ik wilde beginnen met een grap over datawetenschap,
maar mijn personeel kwam met matig materiaal.
...en dit zien?
Onze vijanden kunnen iemand alles laten zeggen
op elk mogelijk moment.
Die tweede werd door BuzzFeed gemaakt
met acteur Jordan Peele.
Veel mensen raakten bezorgd over een nieuwe ki-versie van nepnieuws.
Vanaf nu moeten we waakzamer zijn
met wat we online vertrouwen.
Ki bestudeerde Peeles gezichtsbewegingen,
voegde ze samen en reproduceerde die op Obama's gezicht.
Zo werd een hybride gecreëerd, een deepfake.
Misschien heb je hetzelfde gezien.
Snapchat heeft een filter waarmee je gezichten kunt wisselen.
Het verschil is dat het filter het op een eenvoudige manier doet.
Maar de technologie achter deepfakes is afhankelijk van ki.
Het komt voort uit iets wat deep learning heet.
Kunstmatige neurale netwerken onttrekken gezichtsuitdrukkingen.
Met die uitdrukking wordt je gezicht gereproduceerd.
Daar kunnen we fotorealistische resultaten mee behalen.
Alan maakt internettutorials over het maken van deepfakes.
Hij gelooft dat deze technologie
zich vrijelijk moet ontwikkelen, zonder beperkingen.
Zelfs als die tot oorlog kunnen leiden.
BELGISCHE PARTIJ PUBLICEERT DEEPFAKE VAN TRUMP
Hoe kan de consument weten
wat echt is en wat niet?
Als je als consument het nieuws bekijkt,
of het een artikel, een filmpje of een foto is,
weet je dat alles door iemand is gecreëerd.
'Wat is de boodschap?
'Wat wil dit filmpje zeggen?'
Ik zie...
Het gevaar.
Het gevaar en hoe bijzonder het is.
Gaat dit mensen helpen?
Ik neem aan dat je met mensen hebt gepraat
die de economie willen doen groeien middels deze technologie.
Wat zijn de praktische, economische gevolgen?
De eerste sector die er zijn voordeel mee doet,
is de filmindustrie.
Want het veranderen van gezichten
proberen we al tientallen jaren te doen in films.
We gebruiken make-up, maskers
en soms CGI.
Als acteur en iemand die in de politiek zat,
vind ik dat zo beangstigend.
Dat moet ook.
BuzzFeeds deepfake liet de mensen zien
hoe kwetsbaar we zijn.
Nu de president door zijn mond open te doen de markt kan veranderen,
kan een goede deepfake de wereldeconomie laten instorten,
sneller dan een beurskrach
en je pensioen kan even snel verdampen als een nep-Obama die zegt...
Blijf politiek bewust.
Klinkt dit sciencefictionachtig?
Zelfs een beetje eng?
Als ki krachtig genoeg wordt om te weten hoe we bewegen,
praten en denken,
is die niet meer van ons te onderscheiden.
WAT WEET JE - ALLES
Als ki een eigen bewustzijn heeft,
kan die ook een sterke mening over ons ontwikkelen.
FUCK UUUUU - PAS MAAR OP
Misschien geen positieve.
THEORETISCH FYSICUS
In de toekomst kan ki een eigen wil ontwikkelen.
Eén die in conflict is met de onze.
De opkomst van krachtige ki zal
of het beste of het slechtste zijn wat de mensheid overkomt.
Ik heb geprobeerd mensen te overtuigen ki te vertragen.
Ki te reguleren.
Het was zinloos. Ik heb het jaren geprobeerd.
-Niemand luisterde. -Het leek een scène
in een film waarin robots de wereld overnemen.
Nu ben ik bang.
Dreigt er echt een apocalyps die door ki wordt geïnitieerd?
VK
Om erachter te komen, ga ik praten met iemand
wiens onderzoek iedereen op de kast joeg.
Ik wil graag met je praten, omdat...
Ik heb een paar redenen.
We nemen kunstmatige intelligentie onder de loep
en willen weten wat de toekomst brengt.
Je hebt mensen als Elon Musk en Bill Gates beïnvloed.
Dat is nogal bijzonder.
Ik spreek op Oxford University met dr. Nick Bostrum.
Hij is niet zo'n opschepper, dus doe ik het.
Hij is een van de beste denkers op het gebied van machinesuperintelligentie
en haar existentiële gevaren en de auteur van lekker makkelijke boeken.
Gelukkig mag ik hem spreken,
want Nick is zo druk met zijn eigen deep learning
dat hij maar één uur per maand
vragen beantwoordt over zijn onderzoek.
Het publieke debat over ki gaat veelal over
of de robots het gaan overnemen
en of de mens zal uitsterven.
Ik vraag me af of bij een gebrek aan controle
de mogelijkheid bestaat dat ki de maatschappij schade berokkent
of zelfs de mensheid uitroeit.
Op lange termijn,
als we ons voorstellen hoe ki zich kan ontwikkelen
en die de intelligentie kan kopiëren
die ons menselijk maakt, dan ja.
Maar in die context zijn er grotere gevaren,
ook existentiële gevaren.
Denk aan zelfrijdende auto's.
ZELFRIJDENDE AUTO DOODT VOETGANGER
Die kunnen iemand aanrijden.
Er zijn ook zorgen over privacy.
De militarisering van autonome wapens.
Dat zijn serieuze zorgen.
Maar de vraag zal ook komen
welke invloed we hebben op de digitale geesten die we maken.
Misschien verkrijgen ze een morele positie.
Als je vooruit spoelt
en je stelt je het lot van homo sapiens voor,
kan de toekomst worden overheerst door machine-intelligentie.
Het is mogelijk dat de mensheid uitsterft.
Die krachten brengen het gevaar met zich mee
dat ze per ongeluk worden gebruikt of expres worden misbruikt
en een ongelofelijke verwoesting veroorzaken.
Dat is mogelijk
en als we over de lange termijn denken,
kan het resultaat heel goed zijn
of helemaal niet goed.
Die mogelijkheden klinken eng.
Maar van alle mogelijkheden
denkt Nick dat het waarschijnlijkste apocalyptische scenario met ki
economisch van aard is.
Het idee achter technologie is
dat we meer kunnen met minder.
We kunnen meer bewerkstelligen met minder moeite.
Het doel, in dat opzicht,
is volledige werkeloosheid.
Dat machines en technologie
alles doen wat nodig is, zodat we niet hoeven te werken.
Ik denk dat dat het verlangen is.
Het gaat niet om wat we moeten voorkomen,
maar om wat we willen creëren.
Om die utopie te realiseren,
zijn er een paar uitdagingen
die opgelost moeten worden.
Het eerste is het economische probleem.
Een van de redenen waarom mensen werken, is het inkomen.
Als je dat economische probleem oplost,
is er een tweede grote uitdaging.
Het geeft veel mensen een gevoel van waardigheid.
Voor veel mensen schuilt hun waarde
in de broodwinner zijn, bijdragen aan de maatschappij.
Als een machine dat beter kan dan jij,
heb je geen kans meer om iets bij te dragen, hè?
Dan moet je de cultuur fundamenteel in een ander licht stellen.
Een wereld waarin niemand werkt.
Dat klinkt zo erg nog niet.
Ik zie het voor me.
Tijd met vrienden.
Mijn menselijke potentieel tot in de puntjes uitbuiten.
Niet de jacuzzi hoeven aanpassen, omdat die weet wat ik fijn vind.
Het probleem is dat het vroeger niet zo afliep.
De opkomst van de machines is eerder voorgekomen.
De vorige keer
was het niet alleen maar aardbeien in de jacuzzi.
LONDEN
ENGELAND
Ik ontmoet econoom Nick Srnicek om te horen hoe het ging
toen machines eerder banen overnamen.
We ontmoeten elkaar aan een weefgetouw.
Wat ga je maken?
Ik maak een soort anarchistische vlag.
Interessant. Schokkend.
Nick is gepromoveerd aan de London School of Economics.
Ik, in tegenstelling tot hem, niet.
Hij heeft een manifest.
MANIFEST VOOR VERSNELLENDE POLITIEK
Het roept iedereen op het automatiseringstijdperk te versnellen
door oude instituten af te breken.
Ofwel: kapitalisme onmiddellijk ontmantelen.
Dit werkt niet.
Ik kan zo niet met je praten.
Sorry. Vergeet het weefgetouw.
Waarom zijn we hier?
Het weefgetrouw is zoals ki in de 19e eeuw.
Het was een nieuwe technologie die veel banen dreigde te elimineren.
Dat leidde tot verschillende reacties van arbeiders,
zoals de opkomst van de luddieten.
We gebruiken die term tegenwoordig
voor iemand die technologie haat.
Maar dat is niet het geval.
De luddieten werden vernoemd naar Ned Ludd...
LEERLING
...een leerling in een textielfabriek.
Men zegt dat hij werd geslagen wegens niksdoen.
Hij dacht: ik doe alleen maar niks,
omdat ik word vervangen door een weefgetouw.
Hij werd de eerste persoon die het opnam tegen de machine,
en zo begon hij een beweging.
De luddieten braken de machines af om hun banen te redden.
Dat zien we tegenwoordig ook met ki.
Mensen voelen zich net zo bedreigd.
Weet je hoeveel banen verloren gaan of worden vervangen?
Van de banen in Amerika kan 47 procent
in de komende 20 jaar geautomatiseerd worden.
Dat is een echt probleem.
Het kan 'n enorm probleem worden.
Het draait erom hoe we over vijf of tien jaar zorgen
dat men niet verhongert en dakloos is.
Hoe doen we dat?
Het universeel basisinkomen.
Het universeel basisinkomen is het radicale idee
dat iedereen in de maatschappij gratis geld krijgt.
Zonder voorwaarden.
Het idee heeft beroemde fans.
We moeten het universele basisinkomen verkennen
en zorgen dat men een buffer heeft om ideeën uit te proberen
Sommige landen en zelfs steden in de VS
probeerden het uit. Met wisselend resultaat.
FINLAND STOPT BASISINKOMENEXPERIMENT
We hebben een geweldige kans met deze nieuwe technologieën
om de maatschappij te veranderen.
Je kunt richting een sociaaldemocratischer systeem.
Het hoeft niet zo'n hard systeem als in Amerika te zijn
en iedereen kan elkaar steunen.
Mensen zoals ik kunnen zulke positieve ideeën nu verkondigen
en als de crisis dan uitbarst,
kunnen we die ideeën implementeren.
Het basisinkomen was vroeger een randverschijnsel
dat werd verkondigd door mensen zoals Nick, die manifesten schrijven.
Maar volgens een Gallup-peiling in 2017
steunt 48 procent van de Amerikanen een vorm van het basisinkomen.
Is een gegarandeerd salaris genoeg
om te voorkomen dat men rebelleert
als de robots onze banen afnemen?
-Wat haten we? -Kunstmatige intelligentie.
Waarom haten we die?
We moeten onze zwakten onderkennen.
Daarmee open ik deze vergadering van luddieten.
De Lokale Unie van Degenen Die tegen Intelligente Technologie zijn.
En vooral social media.
Het eerste punt.
Kunstmatige intelligentie holt de arbeidsmarkt uit.
De middenklassebanen zijn de eerste die verdwijnen.
Mensen zoals wij, met deze banen,
worden tot ongeschoold werk gedwongen.
Waarom zou dat gebeuren?
Ki is beter in geschoolde arbeid zoals berekeningen maken
dan in ongeschoold werk zoals de vloer vegen.
Die banen laten ze aan ons over.
Nu vraag ik jullie,
wie hier, behalve Bill,
ziet eruit als een veger? Sorry, Bill.
Er zijn ook minder banen in winkels nodig.
Mensen kunnen online bestellen wat ze willen,
omdat die klootzak ki
het zoek- en vindprobleem voor ze oplost.
Zoeken naar klanten en producten voor ze vinden.
Zoals toen Steve een toupet zocht die bij hem paste.
Groot probleem.
Klassieke grappen terzijde,
ki maakt dat veel makkelijker.
Jongeren kunnen matchen met lekkere meiden op hun mobiel,
terwijl ze op de wc zitten.
-De wc was vroeger heilig. -Ja.
Het zoeken en vinden leidt tot gespecialiseerde banen,
maar de robots kiezen wie die krijgen.
Dat komt ze goed uit.
Bedrijven gebruiken ki om personeel te vinden
met unieke talenten.
Het is onmenselijk.
Zoals bij Dave.
Ja, waar is Dave?
Een ki die banen zoekt, zag dat hij bij FedEx werkte
en tutorials over het scheren van rughaar maakte.
Nu verdient hij goed bij een bedrijf voor scheermesabonnementen.
Hij heeft zich van ons bowlingteam af geschoren.
Ja.
Hé, Ed. Ik zie een melding dat onze T-shirts
worden verkocht via Facebook.
Gebruik je ki om geld te verdienen aan ki-haters?
Nee.
Wie ga je geloven?
Mij of de ki die een wig tussen ons drijft?
-Wat haten we? -Kunstmatige intelligentie.
-Wat gaan we eraan doen? -We werken eraan.
Dat is een begin.
Moet de ki-revolutie draaien om wij versus zij?
Techondernemers zoals Louis Rosenberg zeggen van niet.
Het is zijn werk de toekomst te voorspellen.
Ik wilde je laten schrikken, maar het lukte niet.
Louis is een technoloog en uitvinder
die een graphic novel schreef over het einde van de mensheid.
Hij denkt dat we een toekomst met ki hebben die om samenwerking draait.
Het is het basisprincipe achter zijn geesteskind,
een technologie die Swarm heet.
WAT IS ZWERM-KI?
Swarm combineert de data-analysevaardigheden van ki
met menselijke kennis en intuïtie om een superintelligentie te ontwikkelen,
iets tussen Stephen Hawking en Professor X in.
WAT MOET DE ZELFRIJDENDE AUTO DOEN?
Het is gebaseerd op de natuur.
Het is te herleiden tot de bloemetjes en de bijtjes.
Dat is omdat het is gebaseerd op het fenomeen zwermintelligentie.
Oké.
Door zwermintelligentie vliegen vogels in een zwerm.
Ze zijn samen slimmer dan alleen.
Daarom wordt een school vissen die rondzwemt,
door biologen beschreven als een 'superorganisme'.
Ze denken als één.
Als we mensen kunnen verbinden
aan kunstmatige-intelligentiealgoritmes,
kunnen we mensen zich als superexperts laten gedragen
door middel van zwermintelligentie.
Hoe werkt die technologie?
We faciliteren groepen mensen.
Die kunnen overal zitten.
We geven ze een vraag
die tegelijkertijd op hun beeldscherm komt
en we geven ze een unieke interface
waarop ze hun input kunnen geven.
Er is een aantal opties.
Het is geen peiling of enquête.
Iedereen heeft iets wat eruitziet als een grafische magneet.
Ze gebruiken de magneet om de zwerm hun kant op te krijgen.
We hebben ki-algoritmes die hun gedrag bestuderen,
en door de verschillende niveaus van overtuiging te meten,
wordt uitgezocht wat de beste samenstelling
van al hun meningen en ervaringen is.
De zwerm beweegt zich in die richting
en komt samen op een antwoord.
Ik geef een voorbeeld.
We kregen de uitdaging de Kentucky Derby te voorspellen.
De Kentucky Derby is begonnen.
We hadden een groep paardenraceliefhebbers
en zeiden: 'Jullie werken als zwerm
'en gaan de uitslag voorspellen.
'Niet alleen wie wint, maar de eerste tot en met de vierde plek.'
We lieten ze samenkomen op die antwoorden
en de groep had het perfect.
RESULTATEN
Iemand die $20 had gewed op die vier paarden,
had $11.000 gewonnen.
Wauw.
Wat interessant is, is dat van die 20 losse individuen
niemand alle vier paarden correct had voorspeld.
Als ze hadden gestemd, hadden ze één paard goed gehad.
Maar toen ze als zwerm samenwerkten,
vonden ze de juiste combinatie van verschillende inzichten
en hadden ze het goed.
Louis vroeg me om een zwerm te leiden
om te zien hoe een willekeurige groep
samen kan komen om iets te voorspellen.
We beginnen makkelijk.
Ik ga een paar vragen voorlezen
en jullie hebben 60 seconden om elke vraag te beantwoorden.
Eerste vraag:
welke van deze zomerfilms van 2018
zal het meeste geld verdienen?
Solo: A Star Wars Movie,
Deadpool 2, Ocean's 8,
Jurassic World: Fallen Kingdom
of The Incredibles 2?
We filmden de zwerm in de lente van 2018,
voordat er informatie was over deze zomerfilms.
De ki kijkt mee om hun niveau van vertrouwen in te schatten.
Sommigen wisselen, sommigen veranderen niets
en de ki-algoritmes zien
hun niveaus van overtuiging
en laten je het pad vinden
tot de oplossing waar ze het eens over zijn.
ZWERM ZEGT: INCREDIBLES 2
The Incredibles 2, dus.
ZOMERHITS 2018
Ze hadden gelijk.
The Incredibles 2 was de best verdienende zomerfilm.
Een interessante toepassing
is morele vragen onder de loep nemen.
Dit kwam recent naar voren met zelfrijdende auto's.
Er ligt nu veel nadruk op ethische keuzes inbouwen
in zelfrijdende auto's.
Voor sommigen is dat verrassend,
maar stel dat een zelfrijdende auto op straat rijdt
en een kind de straat op rent.
Stel dat de auto niet kan stoppen,
maar van de weg kan rijden
en de passagier in gevaar brengt,
misschien zelfs doodt, maar het kind redt.
De autofabrikanten zeggen
dat we moraliteit in de auto's moeten programmeren
die de bevolking vertegenwoordigt.
Die vertegenwoordigt wat chauffeurs zouden doen.
Dat lijkt simpel, tot je je afvraagt
wat de morele waarden van de bevolking zijn.
Die kun je niet makkelijk bepalen.
Als ze vandaag onze morele waarden programmeren,
zullen die dan hetzelfde zijn over 20 jaar?
Volgende vraag. Een zelfrijdende auto heeft een remmankement
en rijdt door over een zebrapad,
wat resulteert in de dood van een man.
Optie a: de persoon die sterft, steekt legaal over.
Optie b: de zelfrijdende auto met het mankement
wijkt uit en rijdt over een zebrapad op de andere weghelft.
Dat resulteert in de dood van een mannelijke sporter
die oversteekt bij rood. Hij is roekeloos.
De sporter kan het niks schelen.
Hij steekt roekeloos over.
Wat moet de zelfrijdende auto doen?
Sterft de kerel die legaal oversteekt,
of de sporter die roekeloos oversteekt?
Als ki de volgende industriële revolutie teweegbrengt,
zijn zulke ruimtes de nieuwe fabrieksvloer
waar mensen werk leveren
gebaseerd op iets wat ki zelf niet bezit.
Een geweten.
Hier is veel debat over.
Dat is fascinerend. Ik vraag me af waarom.
Het is lastig.
Nee. Hij steekt zomaar over.
ZWERM ZEGT: B (LICHTE VOORKEUR)
Er is dus een lichte voorkeur voor het aanrijden
van de mannelijke sporter.
Het kan nog veel erger, hoor.
Nu moeten jullie je
een worstcasescenario voorstellen
waarbij een zelfrijdende auto niet op tijd kan remmen
en moet sturen richting een van zes voetgangers.
Eén baby in een buggy
of één jongen
of één meisje
of één zwangere vrouw...
Ik weet het.
Of twee mannelijke artsen
of twee vrouwelijke artsen.
Wie moet er sterven?
O, mijn god.
Wat?
Kom op.
O, mijn god.
Serieus?
ZWERM ZEGT: ÉÉN JONGEN
De zelfrijdende auto moet de jongen aanrijden.
Interessant.
Die zwermintelligentie die in zo'n ruimte wordt gecreëerd,
kan binnenkort verkocht worden aan fabrikanten van zelfrijdende auto's.
Als je dat eng vindt klinken, is het nog minder eng dan het alternatief.
Als een zelfrijdende auto op zijn remmen trapt
en beseft dat die niet op tijd kan stoppen,
moet die dan de passagier of de voetganger beschermen?
De hoop is dat de autofabrikanten auto's programmeren
met de morele waarden van de kopers van die auto's.
Het cynische idee is dat autofabrikanten
gaan strijden wie de passagier beter beschermt
dan de ander, en dat dat een verkooptechniek is.
Dat is erger
dan de heersende morele waarden volgen.
Wat een duistere gedachte.
We willen deze aflevering eindigen met iets vrolijks.
Misschien zelfs iets hemels.
Voordat je je een toekomst voorstelt zoals Grand Theft Auto
qua gebrek aan veiligheid,
gaan we op excursie
naar waar we begonnen.
In dit Indiase bos
ben ik honing aan het oogsten voor Heavenly Organics.
Niemand bezit dit bos
en de oorspronkelijke bewoners wonen er al eeuwen.
Vader en zoon Amit en Ishwar Hooda
begonnen hun bedrijf 12 jaar geleden
om banen te creëren voor de dorpsbewoners.
Wat deden ze voordat ze honing verzamelden voor jouw bedrijf?
Dat deden ze ook,
maar ze hadden geen markt, geen plaats om die te verkopen
en er genoeg mee te verdienen.
Er is hier geen gebrek aan honing.
Tijdens de bloeitijd
kan één arbeider letterlijk één ton honing verzamelen in drie maanden.
Maar wat is het nut als niemand die kan kopen?
Het kostte een menselijke crew drie dagen, twee vluchten
en acht uur rijden door een nationaal woud,
maar gelukkig voor de inwoners en voor Heavenly Organics
kon een ki-algoritme deze plek in een paar seconden vinden
en wist het dat het een goede investering was.
Ze belden opeens en zeiden dat ze een algoritme hadden gebruikt
en dat we goed pasten
in hun portfolio.
Ze wilden met ons praten over een investering, als wij dat wilden.
Van wie was dit mysterieuze ki-algoritme?
Een techbedrijf dat CircleUp heet
en 12.500 km verderop zat in, waar anders?
We zijn bij Good Eggs, een boodschappenbezorgdienst
die ook de interesse van CircleUps ki heeft gewekt.
Dit bedrijf heeft kapitaal gekregen van CircleUp
en helpt ook de kleine bedrijven waar we mee werken, klanten te vinden.
MEDEOPRICHTER EN DIRECTEUR CIRCLEUP
Uitvoerend directeur Rory Eakin
was zakenman en werkte voor mensenrechtenorganisaties
voor hij het bedrijf begon.
CircleUp gebruikt ki om miljarden datapunten te analyseren
en te ontdekken wat consumenten willen
van de producten die ze kopen.
Je probleem als koper
is dat er veel bedrijven zijn
in bijna elke categorie.
Ze investeren in minder bekende bedrijven
waarvan ki denkt dat ze groot worden.
Een van die bedrijven is Halo Top-ijs.
Halo Top was een klein merk in Zuid-Californië.
Nu is het het bestverkochte ijs in het land.
We hebben kopers in alle categorieën zien transformeren.
Ze willen gezondere producten,
minder gifstoffen in hun huis,
lotions waar geen chemicaliën in zitten.
Toen CircleUps algoritme miljoenen datapunten van klanten scande,
merkte het dat klanten kenmerken wilden
die enorm specifiek waren.
Ecovriendelijke bedrijven met een missie
die biologische producten oogsten en economische groei creëren
in hun gemeenschappen.
Wat vreselijk gedetailleerd, hè?
Maar CircleUp kon alle vakjes afvinken toen ze Heavenly Organics vonden.
Dat kan ki doen.
Die kan al die data doorgronden
op een manier die tien jaar geleden niet mogelijk was.
Hoe gaat het nu met CircleUps samenwerking met Heavenly Organics?
We springen weer naar India en vragen het Amit en Ishwar.
We hebben een fabriek gebouwd die twee keer zo groot is.
We kunnen innoveren en nieuwe producten maken.
We kunnen meer bewerkstelligen in dit gebied.
-Jullie konden groter worden. -Ja.
We hebben meer capaciteit en werken op grotere schaal.
Hoe beïnvloedt het de mensen die voor jullie verzamelen?
We onderhouden nu 650 gezinnen.
We verkopen steeds meer honing.
Met elke 1000 kilo kan er een gezin bij.
Dat betekent dat het er volgend jaar 700 of 750 zijn.
-Wauw, oké. -Ja.
Je ziet dat het nu beter met ze gaat qua financiën.
Ze hebben goede huizen en goede faciliteiten in de huizen.
Ze sturen hun kinderen naar school.
Het is kapitalisme in dienst van het goede.
Snap je?
Met een bedrijf het algemene belang dienen.
Daarom deden we eraan mee.
Zal ki de mensheid uitroeien?
Of zal die ons doen zoeken naar een doel in ons leven?
In dit deel van de wereld is het effect positief.
Misschien is er een toekomst waarin ki
onomwonden stelling neemt op basis van onze data
en besluit dat we zo slecht niet zijn. Dat we gaan samenwerken
aan een wereld van welvaart en harmonie tussen robot en mens.
Of misschien niet.
In dat geval hebben we maar weinig tijd.
Dus geniet van deze robotstrippers.
Geweldig.
Dat was geweldig.
Ze heeft een handdoek nodig.