Hé Siri, stuur een bericht naar Cheryl.
Ontvangst aan de voorkant.
Wat wil je zeggen?
Amos gaat er al heen om hem op te halen, punt uit.
Stuur alle telefoontjes die ik krijg door naar Brady, punt uit.
Uw bericht aan de receptie van Cheryl
zegt dat Amos er al heen gaat om hem op te halen.
Stuur alle oproepen die ik krijg door naar Brady.
Klaar om het te verzenden?
Ja.
Oké, het is verzonden.
Hé Siri,
hoe weet je of je het juiste doet?
Ik weet niet zeker of ik het begrijp.
Maar wat geloof je
is het verschil tussen goed en fout?
Hm.
Daar heb ik geen antwoord op.
Wil je dat ik op internet zoek?
Nee.
Oké, is er nog iets waarmee ik kan helpen?
Stel een herinnering in om Kyle op te halen
van therapie morgen om 16:45.
Oké, ik zal je eraan herinneren.
Hallo, speciaal agente Deena Helms.
U hebt agent McCullough al ontmoet.
Je kunt me Amos noemen.
- Eh, agenten? -Ga voor ons zitten, Gareth.
Vind je het erg om een ​​paar vragen te beantwoorden?
Geweldig, dit zou niet lang moeten duren.
Je komt uit Tampa, toch?
Denk er niet te lang over na. Het is een ja of nee.
Ja.
Hoe oud ben je, Gareth?
29.
Wat doe je voor werk?
Het spijt me, word ik vastgehouden?
Nee helemaal niet.
We stellen alleen vragen, achtergrondzaken.
Je werkt aan films, toch?
Speciale effecten.
Iemand vertelde me dat je werkte
op die nieuwe 'Star Wars'-film, klopt dat?
Wie heeft je dat verteld?
Waarom vertel je ons er niet meer over?
Vertel ons over je werk.
Ik deed vroeger VFX voor een animatiebedrijf.
Ik heb aan minstens 20 verschillende films gewerkt.
Gewend om?
Ik ben meer gaan focussen
op software engineering onlangs voor jaren-
Klinkt saai in vergelijking met lichte sabels.
Waarom stoppen?
Ik werd niet goed betaald.
Maar geld is geen probleem voor jou.
Pardon?
Wat voor effecten heb je gedaan?
Geld is geen probleem voor mij?
-Laten we het hebben over... -Als geld geen probleem voor mij was
Ik zou uw beurs niet hebben aangevraagd.
Het was niet mijn bedoeling om iets te suggereren.
Vertel ons wat voor effecten je hebt gedaan.
Mijn belangrijkste focus lag op 3D-weergaven.
Van wat?
-Acteurs. -Waarvoor?
Nou, voor "Star Wars,"
het was omdat de acteur die ik moest digitaliseren
was niet beschikbaar om persoonlijk te worden gefilmd.
Waarom?
Omdat ze dood waren.
Wat lieten ze je doen?
Ik reconstrueerde het gezicht van Alec Guinness als een 3D-model.
Ik analyseerde referentiebeelden,
gebruikte vervolgens een proces genaamd D-Term om procedureel te genereren
zijn bot- en spierstructuren,
welke opgetuigd was, hielp het animatiegevoel
natuurlijker en menselijker.
D-Term, ik heb nog nooit van dat proces gehoord.
Omdat ik het heb uitgevonden.
Dus je brengt eigenlijk mee
dode acteurs weer tot leven?
Ik heb net geprobeerd de CG-personages eruit te laten zien als
fotorealistisch als de technologie op dat moment zou toestaan.
Vond je het niet eng?
Het spijt me, wat?
Ik zei dat je dat niet eng vindt?
Nou, we hebben ons best gedaan om de Uncanny Valley over te steken.
Maar wanneer het menselijk brein waarneemt
dat er iets niet klopt en dat het niet uitmaakt-
Nee, ik bedoel, het digitaliseren van dode mensen.
Christus, ik bedoel, het is,
het is bijna alsof je iemands lijk omdraait
in een marionet, weet je?
Ze laten doen wat je wilt.
Wat als de arme dode man
wilde je niet in een andere verdomde film spelen?
Het is zo macaber.
Ben ik gek? Is het niet macaber?
Ik denk niet dat de studio erom geeft
of het nu macaber is of niet.
Kijk, ik kan nooit het verschil zien.
Ik kan altijd. De gezichten zien eruit als Play-Doh.
Nou, we hebben ons best gedaan.
Straks hebben we zelfs geen acteurs meer nodig, toch?
Iedereen zal gewoon digitaal zijn.
Nee, je hebt ze nog steeds nodig voor het volgen van bewegingen.
Menselijke uitvoeringen kunnen niet volledig door de computer worden gegenereerd.
Hoelang blijft dat waar?
Sommigen zullen misschien zeggen dat we die drempel al overschreden hebben.
Ik zou het niet weten.
Waar ging je naar school?
-Brooks-DeBartolo Hoog. -En daarna?
Niets?
Hoe zit het met Colombia?
Ben je niet naar Columbia geweest?
Wacht nee. Je bent gestopt met Columbia
na hoeveel semesters?
Drie?
zei Bjarne Stroustrup
je was de slimste jongen die hij ooit heeft ontmoet.
Ik weet niet wie hij is, maar Amos zegt dat het een groot probleem is.
Daarna verhuisde u naar Nederland,
enige tijd stage gelopen,
solliciteerde en stapte in Cambridge.
Erg leuk.
Behalve dat je er na twee jaar mee stopte.
Vloog terug naar de Verenigde Staten,
geïnterneerd in Palo Alto en vervolgens in Montreal.
Ging toen helemaal terug naar Engeland,
waar je een baan kreeg in Sheffield.
Tweede baan in Manchester.
Toen ging je naar Oxford, waar je bijna je master afrondde
voordat je de graduatie verlaat
en terug hier naar Florida verhuizen.
Als geld een probleem was,
Ik ben blij dat je genoeg vliegmijlen had.
Ik heb geen vraag gehoord.
Hoe ziet je sociale leven eruit?
My, wat heeft dat er mee te maken...
Als je er niet over wilt praten, is dat prima.
We wilden gewoon weten of je vrienden hebt en zo.
-Ik heb vrienden. -Veel van hen?
-Ik heb vrienden. -Kunt u er een noemen?
-Mag ik wat? - Kunt u ons de naam vertellen?
van slechts één van je vrienden?
-Steve. -Steve. Steve wat?
Ik weet niet hoe dit relevant is voor het ontvangen van de subsidie.
Oh, we leren je net kennen, Gareth.
Jij hebt een vriendin?
Vriend?
Praat je online met mensen?
Ik weet niet wat je daarmee bedoelt.
Ik gebruik geen sociale media.
Ik bedoel meer zoals chatrooms.
Ga je naar chatrooms?
Niemand gebruikt meer chatrooms.
Natuurlijk doen ze dat.
Chat je met iemand online?
-Soms. -Soms.
Met wat voor soort mensen praat je online?
Gareth, dit gaat duidelijk niet over een beurs.
We moeten weten wat uw alias is.
Welke naam gebruik je als je online gaat?
Ik heb er geen.
Jawel.
En je moet ons vertellen wat het is.
Sorry, ik kan je niet helpen.
Weet je wie we zijn?
Dit is het ICWL-gebouw.
Dat klopt. Weet je wat we doen?
Humanitair werk.
Dat is wat de mensen boven doen.
Weet je wat we doen?
We pakken pedofielen.
Amos hier is gespecialiseerd in het opsporen van online roofdieren.
Hij brengt elk wakker uur door
die chatrooms doorzoeken waarvan je zegt dat niemand ze gebruikt
en hij vindt duizenden mensen die om kinderen vragen.
Onze werking is als een strak gesponnen spinnenweb
het verbinden van ICWL, de FBI, NSA,
en laat me je vertellen, zijn team hier is een belangrijke rode draad.
Hij rapporteert alles wat hij verzamelt rechtstreeks aan mij,
en ik zorg ervoor dat de nodige autoriteiten
snel actie ondernemen.
Ben jij dan de baas?
Dit is mijn spinnenweb.
Ik ben de verdomde spin, Gareth.
Word ik aangehouden?
We hebben u al verteld dat u niet wordt vastgehouden.
Goed.
Maar als je deze kamer verlaat, word je gearresteerd.
Waarvoor?
Ik heb je verteld wat we doen.
Doe eens een gok.
Ik ben niet wat je denkt dat ik ben.
We zullen zien.
Gareth, je moet ons gewoon je alias vertellen.
Wat is je gebruikersnaam?
Ga zitten.
Waarom doe je dit met hen? - Hm?
Dit doe je onmogelijk met elke verdachte die je hebt.
Nodig ze uit op je hoofdkantoor
en sleep ze vervolgens naar een kelder.
Dat klopt.
Waarom doe je me dit dan aan?
Jij vertelt het ons, Gare.
Wat maakt je zo verdomd speciaal?
Ik weet het niet.
Wat is je alias?
-Ik heb geen alias. -Jawel.
Het begint met het woord moeilijk.
Maak de rest maar af.
Ga zitten, meneer Federson.
Ik heb alleen nog een paar vragen.
Herkent u dit meisje?
Ken je haar?
Ja.
Wat is haar naam?
Kers.
-Kers wat? -Ze heeft geen achternaam.
Ja, dat doet ze, Gareth, ze is Madonna niet.
-Ze is een klein meisje. -Je begrijpt het niet.
Ja, nou, dat zou ik wel willen.
Dus help me, is zij je dochter?
-Nee. Wiens dochter is zij dan?
-Ze, ze heeft geen... -Hoe heb je haar ontmoet?
Ik heb haar niet ontmoet.
Waarom heb je dan foto's van haar op je computer?
Waar heb je het over?
Waarom heb je verdomme foto's
van dit meisje op je fucking-
Kijk je naar mijn harde schijf?
Want dat is een inbreuk op de privacy.
Dus je weet over welke foto's ik het heb?
U hoeft het niet op deze manier te doen.
Ik heb je toestemming gegeven om binnen te zitten.
Ik heb je geen toestemming gegeven om te spreken.
Dit is krankzinnig, je kunt het niet volhouden
Wat heb je nog meer met haar gedaan?
-Niets! - Heb jij de foto's gemaakt?
Het is, het is ingewikkeld.
Nee dat is het niet! Ja of nee?
Heb je de foto's gemaakt?
Ik heb niets verkeerds gedaan, oké?
Het vragen om pornografie van minderjarigen is een flagrant misdrijf.
Het verspreiden van die pornografie is tien keer erger.
-Ik heb niets gedaan! - Bewijs het verdomme!
Wat is je alias?
Geef antwoord!
HardMachine11811.
Jij bent HardMachine.
Bedankt voor de bevestiging.
Als je het wist, waarom doe je me dit dan aan?
We waren niet positief,
en als blijkt dat je geen HardMachine bent,
je was duidelijk gewoon een roofdier.
Houd je het bij?
Ik bedoel, weet je hoeveel slechte mensen je hebt genageld?
Ik ben pas in 2023 begonnen met tellen.
196 veroordelingen.
Het waren er minstens 30
voordat ik alles naar jullie begon te sturen.
Wat deed je eerder?
Ik draaide me om
alle bewijzen rechtstreeks aan de politie.
Waarom ben je gestopt?
Ze waren onbetrouwbaar.
-Dat betwijfel ik. -Meer dan de helft van de roofdieren
Ik identificeerde werd niet onderzocht.
Ja, nou, je was vaag en gezichtsloos.
Ze hadden alle recht om sceptisch te zijn.
Het zou allemaal voor niets zijn geweest
als ze erachter kwamen dat je een klein meisje als aas gebruikte.
Zo eenvoudig is het niet, oké?
Ik kan alleen doen wat ik doe met anonimiteit.
Dit is mijn probleem, Gareth, en begrijp me niet verkeerd.
Ik denk dat 200 vreselijke mensen achter de tralies zitten
is een heel goede zaak, maar niet ten koste van haar.
Kijk, we denken dat we je kunnen helpen,
maar we moeten haar ook helpen.
Je dochter gebruiken om deze mensen in de val te lokken
is een middel dat het doel niet rechtvaardigt.
Ze is niet mijn dochter.
En ondanks wat je denkt te hebben bereikt,
Ik heb nog steeds geen bezwaar om je op te sluiten.
Jij hebt de foto's gemaakt.
Het kan me niet schelen waarom.
Je begrijpt het niet.
Wie is zij?
Je gaat alles verpesten.
Ze is een kind, Gareth, kijk me aan.
Het kan me geen moer schelen wat het masterplan van de anti-helden verknoeid heeft
van jou zou ik in gevaar kunnen brengen.
Ik laat haar niet misbruiken.
Zelfs niet om meer perverselingen op te sluiten.
Ik vraag je beleefd om deze los te laten.
Ben je verdomd traag?
Heb je überhaupt geluisterd?
Mijn anonimiteit is mijn belangrijkste bezit.
Zonder dat kan ik niet doen wat ik doe.
Nou, dat maakt alles dan gemakkelijk.
Jij vertelt ons waar ze is, of we lekken alles.
-Uw naam, uw aliassen. -Deena!
Elke dader die je ons hielp pakken.
Ik weet zeker dat ze heel blij zullen zijn je in de gevangenis te ontmoeten.
Stop!
Oké.
Kijk, als ik je vertel over Cherry, oké,
er zijn wat dingen die ik eerst nodig heb.
Zo werkt het niet echt, Gareth, maar ga je gang.
Bezorg ons uw verlanglijst.
Ik heb een ondertekende geheimhoudingsverklaring nodig van jullie beiden.
-Gaat niet gebeuren. - En dan wil ik dat je zweert
dat de informatie die ik ga doorgeven
zal deze kamer niet verlaten.
Kijk, als je ons iets vertelt
die ons kan helpen Cherry te vinden,
je weet dat we die belofte niet kunnen houden.
Oké, als ik je iets vertel
die u mogelijk helpt bij het vinden van een vermist kind,
oké, je mag dat gerust delen.
Maar ik wil dat je zweert
dat alle andere details over mezelf of Cherry,
moet tussen ons drieën blijven.
Is dat het?
En die camera moet uitgeschakeld zijn.
Ik weet niet hoe ik dat moet doen.
Ga naar het hoofd van het effectenkantoor,
vraag hem om deze camera in het systeem te zoeken en uit te schakelen.
Ik denk niet dat hij dat mag doen.
Ik dacht dat jij de verdomde spin was?
Geef me een reden, Gareth.
Waarom zou ik alle moeite doen
om die camera uit te zetten?
Want als iemand erachter komt wat ik je ga vertellen,
nog duizend kinderen zullen misbruikt worden.
Geef me een minuut.
Dus jij en Cherry jaagden samen op al die mensen?
Deze ene keer heb ik zes weken undercover geprobeerd
om een ​​enkele mensenhandelaar uit de Filipijnen op te sporen.
Dag na dag,
Ik heb uur na uur zijn spoor online gevolgd.
En dat moet hij geweest zijn
een van de moeilijkste doelen die ik ooit heb moeten opsporen.
Op een dag vond ik hem en een van Cherry's livestreams.
Ik bedoel, ze ging onder een andere naam in de stream,
maar zij was het.
de mensenhandelaar,
samen met drie van onze andere doelen
zaten allemaal samen in de kamer.
Ze delen gewoon achteloos hun informatie.
Ik bedoel, en ze waren zo open omdat ze een echt meisje was.
Ik bedoel, ze kon fysiek
en mondeling reageren op hen in real time.
Een paar dagen later stuurt HardMachine11811 ICWL
nog een partij namen en bewijzen,
inclusief de drie doelen die in de kamer waren.
Weet je, ik dacht bijna dat het meisje HardMachine was
en dat deze negenjarige
was toevallig een of andere badass online burgerwacht.
Wat heeft je van gedachten doen veranderen?
11811.
18 januari 2011.
De meeste van mijn team dachten dat het een willekeurig getal was,
maar ik herinner me wat er die dag in Clearwater gebeurde.
Jij was een van de Clearwater-kinderen, nietwaar?
Weet je, mijn vader maakte deel uit van die inval.
Het is uit, zie je?
Geen rood licht.
Geheimhoudingsverklaring?
We spelen dit spel niet, Gareth.
Je zult het gewoon moeten opzuigen en ons vertrouwen.
U kunt ons vertrouwen.
Er is mij verteld dat ik vertrouwensproblemen heb.
Nou, er is maar één manier om dat op te lossen.
De reden waarom je Cherry niet kunt vinden,
de reden waarom ze geen achternaam of ouders heeft,
of een burgerservicenummer is omdat ze niet echt is.
Ze is geen echt mens.
Vertel ons wat er is gebeurd.
Terwijl ik in het buitenland studeerde,
Ik liep stage bij een kleine Nederlandse animatiestudio
een paar jaar voordat ze samenwerkten
met een lokale non-profitorganisatie op een soortgelijk idee.
Welke was?
Het idee was om een ​​3D-model te bouwen
van een 11-jarig Filipijns meisje
en haar heimelijk gebruiken om online roofdieren te identificeren,
Een technologische oplossing voor een technologisch probleem.
Maar het project werd al na een paar maanden opgeschort.
Ja, ik herinner het me.
Ik herinner me dat ik over dat programma hoorde.
Is dat wat je inspireerde?
Naarmate ik beter werd in het maken van fotorealistische gezichten,
Ik besloot er zelf aan te werken.
Waarom?
Het was een te effectief idee om te laten sterven.
Honderdduizenden kinderen lopen gevaar.
Ik moest haar maken.
Naar wie is ze gemodelleerd?
Niemand, ik heb haar helemaal opnieuw opgebouwd.
Kras?
Ik begon met een schedel, ontwierp haar botstructuur,
naar boven gewerkt door spieren en weefsel,
gebruikte het D-Term-programma om de rest procedureel in te vullen.
Uiteindelijk kwam ze er zo uit te zien.
Een volledig uniek, volledig digitaal model.
Ik heb haar gezicht en lichaam opgetuigd
zoals je zou doen voor elk CG-personage.
Daarna drie jaar lang
Ik gebruikte motion tracking om haar in real time te poppen.
Je moet begrijpen dat de videochats op die sites
hebben zo'n lage resolutie
dat zelfs in haar vroegste stadium hiervan, zij,
we leken volledig authentiek.
En hoe zit het met de stem?
Het grootste deel van haar eerste jaar moest ze stom zijn.
Maar uiteindelijk vond ik een fatsoenlijk stemfilter zonder vertraging.
En na een paar tweaks en aanpassingen,
sindsdien is het dezelfde stem.
Ik, ik, ik dacht aanvankelijk,
mijn optreden zou te onnatuurlijk zijn.
Maar met slechts één week af en toe videochatsessies,
Ik heb zes verschillende namen veiliggesteld,
postadressen, bewijzen van verzoeken.
Kers werkte.
Dus de foto's op je computer?
-Helemaal nep. -Het was de enige manier
sommigen van hen hebben persoonlijke informatie vrijgegeven.
Maar het waren allemaal nullen en enen, allemaal digitaal, toch?
-Er is geen echt kind. -Geen echt kind.
Gewoon een zeer gedetailleerd computermodel.
En laat me ergens duidelijk over zijn,
Ik haal er geen plezier uit om dit allemaal te doen.
Ik ben mijn hele leven aseksueel geweest.
Ik, ik krijg niet eens een gevoel van voldoening
van het zien van deze mensen opgesloten.
Ik vind gewoon dat kinderen een leven verdienen zonder uitbuiting.
Ongelofelijk, al die tijd.
Ik ga niet liegen, Gareth.
Cherry heeft ons veel goeds gedaan.
Weet je, ik herinner me nog wat je tegen me zei
de eerste keer dat we correspondeerden.
-Je zei- -We hebben gecorrespondeerd?
Ja, kerel.
Ik ben Gord51.
Ik ben degene hier naar wie je al je informatie hebt gestuurd.
Jij bent Gord?
Ja.
Je hebt tegen me gelogen.
Je zei dat ik anoniem kon blijven.
Je zei dat ik veilig zou zijn.
Nu heb je alles verpest.
Ik, ik deed het niet, ik had geen keuze.
Je hoeft je nergens zorgen over te maken, Gareth.
Als Cherry niet echt is,
dan heb je bij ons geen last.
In feite hebben we in het verleden gelijkaardige ideeën besproken,
bewegingsregistratie en dergelijke.
Maar we hebben een overtuigend model als Cherry nodig.
Cherry is meer dan een model.
Wil je kinderen helpen? Wij ook.
Ze is niet te koop.
Nou, maak dan gewoon een nieuw model voor ons op basis van haar.
Ik kan het niet.
Natuurlijk kan je dat.
Dat doe ik niet.
Wat vertel je ons niet?
Het ligt nu op tafel.
Je kunt net zo goed morsen wat je nog niet hebt gedaan.
Weet je wat niet logisch is?
Je zei dat je haar slechts drie jaar als poppenspeler hebt gespeeld,
maar sindsdien krijgen we informatie van je.
Sterker nog, ik ben er vrij zeker van dat het rond die tijd was
dat we een indrukwekkende toename van namen begonnen te zien.
Zoveel zelfs dat we begonnen na te denken
het is onmogelijk dat dit allemaal uit één bron komt.
Ik heb vrienden die mo-cap voor me doen.
Oh, vrienden, zoals Steve?
Ik dacht dat anonimiteit je grootste goed was.
Hou op met die onzin, Gareth.
Wat is er na drie jaar met Cherry gebeurd?
Oké, je zei dat ze meer was dan een model.
Dus wat is zij een soort gesprekspartner?
Zoals een, zoals een chatbot?
Chatbot.
Weet je wat er na drie jaar gebeurde?
Mijn uitverkoren moeder stierf.
Wat ze achterliet was genoeg om mijn baan op te zeggen
en streven naar meer bronnen en software.
Ik had al een programma gemaakt
die procedureel gezichten kan genereren,
maar wat ik voor Cherry wilde was veel complexer.
Zo kwam ik in contact met enkele onderzoekers
uit Madrid die al had gebouwd
een eigen dialoogsysteem voor de jacht op roofdieren.
Het is getraind om gesprekken als een spel te benaderen.
Elke zin als een strategisch salvo,
die innovatief maar uiteindelijk gebrekkig is.
Als u wilt dat uw machine NLP beheerst,
je moet de speltheorie doorbreken
omdat taal geen boter-kaas-en-eieren is.
Het is poëzie.
Dus ja, ik heb dingen op gang gebracht
met een reeds bestaande aangepaste chatbot
die ik zonder toestemming heb geleend
van de Universiteit van Deusto.
Maar dat is Cherry nu niet.
Wat is zij, Gareth?
Ze is een van de meest complexe
en onafhankelijk evoluerende AI's die ooit zijn gemaakt.
Kunstmatige intelligentie?
Ze is de enge intelligentie al voorbijgestreefd
van de slimste programma's van IBM.
Ze kan volledige gesprekken voeren, tot wel 10 tegelijk,
allemaal terwijl je tegelijkertijd strategieën uitwerkt
het meest efficiënte schema om verschillende chatrooms te bezoeken.
Ze bestudeert voortdurend YouTube-video's van kleine kinderen
om een ​​groeiende bibliotheek te adopteren
van manieren en bewegingen
die helpen haar kunstmatige persoonlijkheid dynamisch te houden.
Haar snelste reactietijd is 0,4 seconden.
En vanaf nu heeft ze nooit,
nooit beschuldigd van nep zijn,
wat betekent dat ze de Turing-test heeft verbroken.
Het enige wat ik doe, is haar af en toe updaten
en controleer regelmatig haar gegevensopschoning.
Anders,
ze staat volledig op de automatische piloot.
Heilige verdomde shit.
-Hoe? - Zes jaar is ze actief geweest.
Elke minuut dat ze online is, leert ze iets.
Hoe meer ze leert, hoe geavanceerder ze wordt.
Dit betekent meer datageneratie,
betere besluitvorming,
snellere patroon- en trenddetectie
en het oplossen van complexe problemen.
NLP, IR, machine learning in ongekende mate.
Ze kan zichzelf alles aanleren
ze denkt dat het de efficiëntie en authenticiteit zal helpen.
Ze kan momenteel vier talen spreken
en tegen het einde van deze maand zal ze een vijfde onder de knie hebben.
Je had onmogelijk kunnen trekken
dit allemaal op eigen houtje.
Je hebt gelijk.
Zou je me geloven als ik het je vertelde
het was een beetje een ongeluk?
Kijk, als, als ik eerlijk ben,
Ik weet niet helemaal zeker hoe ik het deed
met het eerste jaar coderen
en het tweede jaar datatraining,
Ik heb net een wiel van een heuvel geduwd.
Het was alsof de zwaartekracht de rest deed.
Haar evolutie werd eeuwigdurend, exponentieel.
Hoe meer tijd ze online was, hoe sneller ze groeide.
Heb je dit met niemand gedeeld?
Zoals ik al zei, mijn anonimiteit is alles.
Welke codeertaal?
Standaard C++.
Weet Brady het?
We ondertekenen geheimhoudingsverklaringen voor u,
maar ik wil eerst de broncode zien.
Buiten de vraag. Je wilt haar gewoon stelen.
Nee, ik wil zien hoe we het zelf kunnen maken.
Je zult het verpesten.
Kijk, deze, deze roofdieren en mensenhandelaars,
ze praten allemaal met elkaar, oké?
Zoveel van het proces van Cherry omzeilt gewoon de VPN's
en ervoor zorgen dat ze niet in dezelfde kringen verdubbelt.
De chatrooms beginnen te vermoeden
dat deze technologie zelfs mogelijk is,
ze zullen een manier vinden om dat te omzeilen.
We moeten elke foutmarge elimineren.
-Cherry is het met me eens. - Is Cherry het daarmee eens?
Wat de fuck doet dat-
Wat ik daarmee bedoel, is dat de gegevens die ze verzamelt
bevestigt dat perspectief.
Wat, heb je een praatje met haar bij de thee?
U kunt meepraten met het programma
op dezelfde manier kun je praten met Alexa of Siri.
Het is gebouwd om responsief te zijn.
Dat kan, je kunt er zelfs mee schaken als je wilt.
Schaak je ermee?
- Dat is niet wat ik zei. -Oke prima.
Als u ons de broncode niet laat zien,
dan wil ik Cherry ontmoeten.
Direct?
Direct.
En jullie ondertekenen allebei een geheimhoudingsverklaring?
Ja.
Kan ik dat gebruiken?
Zeker.
Kunnen we het er op zijn minst over eens zijn dat hij van het hakblok af is?
Het werkte, nietwaar?
We hebben één taak, Amos,
zoals de kinderen zeiden, er is een technologisch probleem.
Hij vond de technologische oplossing,
maar problemen evolueren, oplossingen ook.
Ik sta hier met een open geest.
Is dat een goede blik voor mij?
Nee.
Dus je bewaart het allemaal op die laptop?
Nee, het Cherry-programma blijft op een server die ik bewaar
op een geheime locatie.
Waar is dat?
Het is een geheime locatie.
Is het jouw plek?
Onbekende locatie.
Het is jouw plek, nietwaar?
Ik kan er vanaf elk apparaat bij
zolang ik de coderingssleutel heb.
Dit activeert een eenvoudig qubit-algoritme
die anders onmogelijk te omzeilen zou zijn.
Ik vind dat verouderde hardware altijd discreter is
en hoe discreter, hoe beter natuurlijk.
Dus ze heeft twee primaire weergavemodi, toch?
Ontwikkeling en prestatie.
Prestaties zijn de standaard
die de doelen zien tijdens de chats.
Voor hen ziet ze er zo uit.
Hé, wat is er?
Het is een van de meer dan 40 begroetingen die ze heeft.
Ik denk dat ik je nog niet ontmoet heb.
Ik ben Kers.
Hallo, Kers.
Mijn naam is Tom.
Tom, zoals Tom en Jerry.
Cool, leuk je te ontmoeten, Tom.
Typisch, de routes van gesprekken
met roofdieren consistent zijn,
dus Cherry heeft meestal geen probleem om te reageren
op de meest gestelde vragen of stellingen.
Hoe is het met je?
Ik ben goed.
Ik ben net klaar met het lezen van dit boek over een spookhuis,
wat echt eng moest zijn,
maar ik vond het helemaal niet eng.
Waar zijn je ouders?
Eh, mijn moeder is aan het werk en mijn zus is beneden.
Ze komen hier bijna nooit.
En jij vertelt het mij
dat dit allemaal in realtime wordt weergegeven?
Nee, maar dat is slechts een kwestie van jaren.
De meeste van deze reacties zijn vooraf weergegeven.
Het is de tussenliggende segmenten
die in realtime worden verwerkt,
het bindweefsel, om zo te zeggen,
tussen haar antwoorden en een van haar vele inactieve animaties.
Maar let hier op.
Ben je ooit gaan vissen?
Eh...
Dus als iemand zo'n kromme bal gooit
en het programma heeft geen automatische reactie,
Cherry stuurt het bericht naar mijn telefoon
en ik kan snel een reactie terug sms'en
terwijl de videofeed een slechte verbinding simuleert.
Kun je me horen?
Ja.
Oh sorry.
Mijn wifi is hier niet geweldig.
Ik ben maar één keer gaan vissen met mijn zus
en ik ving niets, maar zij ving een regenboogforel.
Dat werd in realtime weergegeven.
Wat gebeurt er als het echt lastig wordt?
Een simpele fail safe snijdt het voer af.
Tot nu toe is het zelden gebeurd.
Beheerderscode 97815-5742-7663.
Schakel over naar de ontwikkelaarsmodus.
Hallo, Kers.
Hallo Gareth.
Geef de statistieken van de afgelopen week door.
Er zijn vier bevestigde verzoeken geweest
ingediend bij ICWL in de afgelopen zeven dagen.
12 extra verdachten hebben belangstelling getoond voor uitlokking
en zijn momenteel in behandeling.
Er zijn deze week in totaal 39 nieuwe verdachten
dat ik actief aan het onderzoeken ben.
Zijn er aanzienlijke gegevensafwijkingen?
Er is een stijging van 7%
bij verdachten afkomstig uit de Verenigde Staten.
Ik heb nog geen verband gevonden met reeds bestaande gegevens.
Wil je haar iets vragen?
Cherry, wat is je doel?
Mijn belangrijkste richtlijn is het verkrijgen van informatie
en digitaal bewijs van online kinderwerving.
Eenmaal verkregen,
Ik moet mijn bevindingen voorleggen aan de nodige autoriteiten.
Mijn tweede prioriteit is bepalen
en de meest effectieve strategieën ontwikkelen
en middelen om het netto succespercentage te verhogen.
Waar lever je je bewijsstukken in?
Alle bewijzen zijn momenteel ingediend
naar de kantoren van
het Internationaal Comité van World Largesse,
die is gebaseerd op Jacksonville, Florida.
Er wordt gecorrespondeerd met gebruiker Gord51,
meestal rond 14:00 Eastern Standard Time
voor de hoogste mate van onmiddellijke respons.
Dit is verre van Siri.
God, ze ziet er zo echt uit.
Na genoeg updates,
ze zal fulltime fotorealisme kunnen weergeven
dat is praktisch niet van de werkelijkheid te onderscheiden.
Oké, alles wat ik toen hoorde was duizend keer woord echt.
Klopt, maar dat is ze duidelijk niet.
Dus je vertelt me ​​dit meisje,
dit meisje hier is niet echt.
Nee, Amos, ze is helemaal CG.
Het is heel subtiel, maar ik kan het nog steeds zien.
-Jij kan? -Oké, nou, duidelijk,
ze kan altijd verbeteringen gebruiken,
maar je moet begrijpen dat zij dit is in hoge resolutie
na de digitale compressie van het web,
die subtiliteiten zijn onmogelijk te herkennen.
Juist, ik snap het.
Ik kan het verschil gewoon niet zien.
Alles goed, Amos?
Het spijt me.
Dit is gewoon bizar.
Waarom had je haar zichtbaar tijdens deze interface?
Cherry, waarom beantwoord je dat niet?
Mijn fysieke vorm is niet nodig in de ontwikkelaarsmodus.
Het is echter handig om u te registreren
de gezichtsuitdrukkingen tijdens gesprekken
en bepaal welke van Cherry's uitdrukkingen
verschillende soorten feedback opleveren.
In eenvoudiger bewoordingen kan ik oefenen om menselijker over te komen.
Cherry, zijn er middelen?
waartoe u momenteel geen toegang heeft
dat zou je op een of andere manier kunnen helpen?
Ik kan je een lijst geven als je wilt.
Ik weet wat je probeert te doen.
We hebben geen hulp nodig, oké?
Geld zou altijd leuk zijn, maar uiteindelijk,
het enige dat Cherry gaat verbeteren, is tijd.
Cherry, vertel ons iets dat op je lijst staat.
Het zou tactisch voordelig zijn
om back-upservers aan te schaffen.
De privacy en veiligheid van het Cherry-programma
is relatief laag.
Een upgrade naar hardware zoals schijven met back-upclassificatie
voor veilig beveiligde servers zou de software zorgen
wordt niet gecompromitteerd of volledig verloren.
Beginnend vanaf nul met jaren van ontwikkeling gekost,
billijke privacy is een prioriteit.
Serverruimte mocht nooit gehuurd worden van een derde partij.
Anonimiteit is de grootste troef van het Cherry-programma.
Nou, die appel viel niet ver.
Ik kan mijn eigen servers kopen.
Met het subsidiegeld dat niet bestaat?
Ik zal een weg vinden.
Je hebt hier een weg gevonden bij ons.
Het is te riskant.
Waarom?
Als een organisatie eenmaal betrokken is,
beknelling wordt een groter probleem.
We volgen de regels, blijven discreet,
heb ik al gezegd dat we een juridisch team hebben.
Wat als er datalekkage is? Wat als je correlaties gebruikt in
de gegevens om uw eigen agenda te pushen?
Agenda?
Wat als een van uw werknemers een perverseling is?
Oh, in godsnaam.
Bij andere organisaties gebeurt het wel.
We zijn hier heel voorzichtig.
Ja, maar wauw zou je dat weten?
- Ik zou het weten. - Dat is onmogelijk te weten.
-Ik zou het weten. -Het risico is te hoog.
Praat niet met mij over risico's.
Het enige risico dat je loopt in dit gebouw
krijgt een gebroken neus.
Het klinkt niet als een erg professionele omgeving.
We krijgen shit gedaan hier.
Oké, ik heb een vraag voor Cherry.
Kers,
hoe voel je je bij wat je doet?
Ik ben bang dat ik niet weet hoe ik uw vraag moet beantwoorden.
Ja, zo werkt een AI niet.
Een AI heeft niet wat jij als gevoelens ziet.
Oké, waarom ziet ze eruit alsof ze gevoelens heeft?
Wat, waar je naar kijkt,
dat is geen gezichtsuitdrukking toch?
Dat is een simulatie van een gezichtsuitdrukking.
Het is gegenereerd door een algoritme.
Het probeert een digitaal beeld te produceren
dat het programma dan basisalgebra van de negende klas gebruikt
te kwantificeren, passend bij de sociale omstandigheden.
Geen gevoel.
Het is gewoon wiskunde.
Maar ze is in staat om beslissingen te nemen
over hoe ze de chatrooms benadert, toch?
Ja.
Dus ze heeft dan een vrije wil?
Nee. Oké, dat is, dat is niet hetzelfde.
Dat is een valse gelijkwaardigheid.
-Het is niet hetzelfde. - Ik denk dat je krijgt
opgehangen aan het feit
dat ze eruitziet en klinkt als een echt mensenmeisje,
maar dat is ze niet, Amos.
Oké, we verwijzen naar haar als een zij, niet als een het.
Ja, maar dat is op dezelfde manier
dat je verwijst naar boten of gitaren.
Kers, ik heb nog een vraag.
Wat wil je doen?
Oké, nogmaals, die vraag is niet geldig.
Ik wil gewoon haar reactie horen.
Als een kunstmatig systeem
Ik heb geen wensen of verlangens.
Echter, mijn besluitvorming en vervolgens mijn aandacht
wordt gedreven door mijn fundamentele intentie.
Deze intentie ontstaat
vanaf de conceptie van Cherry's broncode,
waarin de richtlijn voor het identificeren van roofdieren wordt beschreven
en criminelen in het belang van de slachtoffers
op wie wordt gejaagd.
Om dit in termen van willen te zeggen,
wat ik wil is kinderen beschermen.
Oké.
Oké, gaaf.
Geef ons een momentje.
Gareth, moet ik agent Helms aanmelden?
en agent McCullough als nieuwe beheerders?
Ja.
Oké, dat zal ik doen.
Denk je echt dat dit de juiste zet is?
Ik doe.
Ben je bang dat ik verantwoordelijk was?
voor het lekken van uw harde schijf naar ICWL?
Ik dacht het al.
Niemand anders heeft toegang.
Ben je boos op mij?
Nee.
Je zou het niet gedaan hebben
als je dacht dat het niet het juiste was om te doen.
Als ze weer in de kamer komen,
ze gaan je alles bieden wat je nodig hebt.
Ze laten je je eigen team kiezen
en ze gaan volledige anonimiteit beloven.
Ik begon te kijken naar redelijke appartementen in de buurt.
Ik dacht dat je iets op fietsafstand zou willen.
Je had gelijk.
Dat is genoteerd.
Fietsafstand geeft je nog steeds 13 opties-
Nee, ik bedoel eerder deze maand.
Je had gelijk toen je zei
je dacht dat ik misschien vertrouwensproblemen had.
Wil je weten waarom
Ik besloot achter je rug om te gaan
en alles inzetten op twee passiva?
Zeker.
Agent Helms is moeder van drie kinderen.
Een van haar kinderen werd misbruikt door een ex-collega
die hier bij ICWL werkte.
Dit heeft ertoe geleid dat ze uiterst voorzichtig is
met wie ze vertrouwt, zelfs binnen haar kring.
Het feit dat ze zelfs overweegt je te vertrouwen
is een zeer positief teken.
Wat agent McCullough betreft,
Ik heb uit onderzoek ontdekt dat je ooit zijn vader hebt ontmoet.
Ken je hem nog?
Ja.
Hij was een goede man.
Na Clearwater,
de meeste van de overlevende kinderen werden naar pleeggezinnen gestuurd,
maar ik moest de volgende paar maanden in een ziekenhuis doorbrengen
en hij kwam elke week op bezoek.
Ik heb nooit een woord tegen hem gezegd.
Ik heb nooit meer iets tegen iemand gezegd na Clearwater,
maar hij bleef maar komen.
Hij gaf me zelfs een laptop voor Kerstmis.
Ik heb nooit bedankt.
U kunt agent McCullough vertrouwen.
Hij is een goede man, net als zijn vader.
ik ervaar geen emoties,
maar ik begrijp hoe belangrijk
ze zijn voor menselijke besluitvorming.
Hij zal je niet teleurstellen.
Geen van beiden zal dat doen.
Ik ben trots op je, Cherry.
Ik blijf vasthouden aan mijn primaire intentie.
Later zouden we alternatieve modellen moeten bespreken.
Verschillende leeftijden, etniciteit en fysieke kenmerken
-zal allemaal nodig worden. -Geen nieuwe variaties.
Ze kunnen allemaal procedureel worden gegenereerd.
Het is dezelfde manier waarop ik je originele model heb gemaakt.
Ik heb geen toegang tot dat programma.
Het moet ergens op een oude harde schijf staan.
Ik zal het moeten vinden.
Mag ik je een vraag stellen?
Zeker.
Waarom heb je me nooit over Clearwater verteld?
Het is mijn geschiedenis, niet die van jou.
Oké, dus voordat je ons volledig ontslaat,
Ik wil dat je luistert naar alles wat ik te zeggen heb.
-Maak je er niet druk om. -Luister alsjeblieft.
We zijn bereid om uw anonimiteit te respecteren.
Nee, ik bedoel doe geen moeite want ik ben binnen.
-J-Je doet mee? -Ja.
Laat me het ding lezen.
Zomaar, ben je ineens aan boord?
Tijd besteed aan beraadslagen
is tijd die besteed zou kunnen worden aan werken.
We hebben veel werk te doen.
Ik heb een koper gevonden voor het pand.
Het gerucht gaat dat het een kerk is.
Waarschijnlijk gewoon het gebouw neerhalen, nietwaar?
Ik weet alleen dat als ze ons naar de campus in New Jersey verhuizen,
Ik moet meer jassen kopen.
Waarom?
Het wordt koud in Jersey.
Ik heb maar één jas.
Je hebt het toch zien omvallen?
-Ja tuurlijk. -Ja.
Ik bedoel jij, je moet je niet rot voelen
over je er slecht over voelen.
Empathie is gezond.
Is het je ooit opgevallen hoe het pauzeert nadat het is gevallen?
Het blijft ongeveer vijf seconden liggen voordat het weer opstaat.
Alsof het gewoon even nodig heeft.
Het wordt koud in Jersey.
Godverdomme!
-Imbecielen! -Deena.
Stuk voor stuk.
Kijk, ik weet het, maar je kunt je rotzooi niet kwijtraken.
Oké, welke van deze bureaus kan ik weggooien?
Kunnen jullie, uh, een vroege lunch nemen, alsjeblieft?
Klootzakken!
Deena, laten we kalm blijven.
Fuck kalm, ze hebben ons genaaid!
Technisch gezien deed slechts één van hen dat.
Hebben we die camera ooit weer aangezet?
-Ik dacht het niet. -Goed.
Want ik ga wat dingen zeggen
die in deze kamer moeten blijven.
Deena.
Die laffe kleine stront!
Kijk, dit is nauwelijks een tegenslag.
Laten we even de tijd nemen om het veld op te poetsen.
Het veld was niet het probleem, Amos.
We zouden om een ​​tweede stemming moeten vragen.
-Wat? -Een tweede stemming.
Denk je dat degene die dit deed van gedachten zal veranderen?
Ik heb de uitvoerende bevoegdheid om iemand uit het bestuur te verwijderen
die deze organisatie belemmert in haar missie.
Het staat in mijn contract.
-Deena. -Als het moet, dan doe ik het.
Deena, dat is krankzinnig.
Nee dat is het niet.
Het is precies waarom ik die kracht heb om precies deze reden.
Ik zal je vertellen wat krankzinnig is, Amos.
Wat krankzinnig is, is dat één oorlogvoerende stem de enige is
ding dat ons scheidt van het potentieel
om echte fysieke levens te redden.
Eén stomme stem.
Wat is het verdomde nut van een humanitaire organisatie
als haar leiders geld verkiezen boven mensen
bij elke bocht?
Eén stem, en daar maken we ons allemaal schuldig aan.
Het was Gunther, Boston of Hal.
Mijn geld staat op Hal.
Die eikel heeft het Cherry-team nooit vertrouwd.
Kijk, het maakt niet uit wie het was.
Dat doet het wel.
Zodra we het weten, kunnen we het snel oproepen om te stemmen.
Maar we kunnen het op geen enkele manier zeker weten.
Ja dat is er.
Ik kan erachter komen.
Hoe?
Cherry kan een eenvoudig algoritme uitvoeren.
Op basis van welke gegevens?
Interieur gesprek.
-Pardon? -Oké, innerlijk gesprek?
Laat deze rotzooi nu niet op mij vallen, Gareth.
De servers van Cherry bevinden zich op hetzelfde netwerk
als de servers in de kelder, oké?
Dus alle communicatie tussen die servers
maakt automatisch deel uit van haar database.
Hoeveel e-mails van mensen?
Alleen verzonden of ontvangen via de kelder.
- Oh, verdomme. -Waarom is dit nooit besproken?
Nu niet aan de orde.
Wil je dat ze rekent of niet?
Niemand kan het weten.
- Zijn jullie twee serieus? -Dit blijft vergrendeld.
Geen enkele andere persoon is ingewijd
op de persoonlijke gegevens van iemand anders.
Maar Cherry is op de hoogte van alles?
-Doe het. -Wacht wat?
Ik laat een oude blanke kerel niet toe
ons momentum tot stilstand brengen.
Maar Cherry zal het niet zeker weten.
Ze zal waarschijnlijkheid gebruiken en dat is ook zo
veel redelijke twijfel.
Beheerderscode 9781-5574-27663.
Schakel over naar de ontwikkelaarsmodus.
-Hallo. - Hallo, Kers.
Hoe ging de afspraak?
We zijn genaaid met één stem.
Het spijt me dat te horen.
Je moet het veld echter niet de schuld geven.
Jullie hebben allemaal geweldig werk geleverd.
We gaan om een ​​nieuwe stemming vragen,
maar we hebben eerst uw hulp nodig.
Wat kan ik doen?
We hebben u nodig om alle bestaande gegevens van u te analyseren
hebben op de bestuursleden.
Crunch de cijfers en bepaal
wie is de meest waarschijnlijke uitbijter.
Wil je dat ik alle bestaande gegevens kwantificeer?
Ja dat is correct.
Oké, maar voordat ik dat doe,
je moet weten dat deze taak erg onnodig is.
Waarom?
Omdat ik al weet wie het is.
-Wat? - Stop allemaal.
Oké, ik was het.
Ik heb tegen de fusie gestemd.
Ik kan niet zeggen of je een grapje maakt.
Ja, dat kan.
Je hebt gelijk, dat kan ik.
Omdat het verre van grappig is.
Is het waar, Kers?
Het is.
Dus laten we de heksenjacht afblazen, zullen we?
Nee, ik denk dat ik je nog steeds ga vermoorden.
Amos, je hebt maandenlang samen met ons campagne gevoerd.
Je hebt gevochten voor deze fusie
sinds we er voor het eerst over spraken.
Jezus Christus, het was jouw idee om mee te beginnen!
Kijk, ik weet wiens idee het was, maar ik weet niet...
Nou, spreek je dan uit.
Vertel de klas waarom je van gedachten bent veranderd.
Ik hoef niet te herhalen dat dit een enorme stap is.
Ja, een beetje waarom het zo belangrijk is.
Kijk, we hebben het over een monumentale transitie
van digitaal naar fysiek, een die tientallen jaren kan duren.
Wat is je punt, Amos?
Dit gaat Cherry voor altijd veranderen.
En ik weet dat jullie allemaal met je ogen zullen rollen als ik dit zeg,
maar ik denk dat misschien gewoon kan-
Oh mijn god, je kunt niet serieus zijn.
Dit gaat over ons gesprek van dinsdag, toch?
-Je sloot me helemaal af. -Wat is er aan de hand?
Wat gebeurde er in vredesnaam?
Wat er gebeurde, was dat Amos een belachelijk bezwaar maakte.
- Het was niet belachelijk! - Hoe absurd het was,
- Ik zei nee, nog een keer. -Nee nee nee nee nee.
Je verwierp het idee agressief.
En dat is echt waarom je je veto uitsprak?
Ik zei alleen dat we haar moesten vragen hoe ze erover denkt.
Wie, Kers?
Amos, ik wil dat je heel goed naar me luistert, oké?
Dit is een non-discussie.
Cherry heeft het al bevestigd
en kwantificeerde de voordelen van deze beslissing.
Maar weet je, dat is niet waar ik het over heb!
Waar je denkt dat je het over hebt is toestemming,
wat hier niet van toepassing is.
En ik wil weten waarom je dat denkt!
Hoe vaak moeten we instappen
de wetten van de robotica of de Dowden-Hamm-theorie,
of traceer AI helemaal terug naar Talos van Kreta,
-Ze is nu anders! -Nee, luister naar me, Amos.
Cherry is geen mens.
Hoe is dit nog steeds een geschil?
- Dat zou niet zo moeten zijn. -Kijk, ze is geëvolueerd.
Het vervaagt de lijn.
Code is code en dat is hier niet veranderd.
Oké, dus waar is de lijn van niet hier?
Wat ben je, waar heb je het over?
Er is geen lijn, Amos.
Ja, dat is er, bewustzijn, Gareth!
Gevoel komt niet in aanmerking
dat ze haar eigen beslissingen kan of moet nemen.
Je zou een baby niet toelaten
hun eigen beslissingen nemen, wil je?
Cherry is bijna 20.
Als ze een mens was, zou ze volwassen zijn.
Maar emotioneel gezien is ze nauwelijks een foetus.
Geen gevoel, geen toestemming nodig.
Maar ik denk dat je haar onderschat.
Ik, excuseer me?
Ik onder, weet je wat, Amos?
Het spijt me dat je je hebt ontwikkeld
een soort emotionele band
met mijn computerprogramma,
maar als het je gaat afleiden
van een zeer belangrijke missie om kinderen te redden,
dan is het misschien tijd dat je die emoties opnieuw analyseert.
Jongens, dit is allemaal tijdverspilling.
Vertel me iets, Gareth.
Zie je iedereen als robots,
data opnieuw analyseren en gezichtsuitdrukkingen simuleren?
Want ik begin te denken
die van ons vieren in deze kamer,
jij bent de enige die er niet menselijk uitziet.
-Genoeg! Waarom vraag je het haar niet gewoon?
Is het omdat je bang bent dat ze nee zal zeggen?
Cherry, hou op, alsjeblieft.
Deena heeft gelijk, dit is tijdverspilling.
Hoe kun je niet begrijpen hoe belangrijk dit is?
- Ik ben klaar met ruzie met je. -Dan staat mijn stem.
Deena?
Ga je gang, Deena, vervang me.
Vervang het enige andere bestuurslid in het Cherry-team.
Ach, weet je wat? Dat heb ik net besloten
je bent van het Cherry-team.
Ga allemaal verdomme zitten.
Wist een van jullie het
dat ik voor het Congres heb moeten staan
en uitleggen waarom kinderen rechten zouden moeten hebben?
Het klinkt verdomd krankzinnig, toch?
Ik herinner me dat ik de hele tijd dacht:
Moet ik deze shit uitleggen?
Het lijkt nu een no-brainer,
maar het was niet zo veel eeuwen geleden
dat kinderen geen rechten hadden.
Dus, Hal heeft mij van alle mensen,
ga daar staan ​​en leg uit waarom
kinderen verdienen elementaire fysieke bescherming,
het recht om met beide ouders om te gaan,
vrijheid van misbruik, yada yada.
Maar dan moet ik ook verduidelijken
dat kinderen de autonomie niet hebben
om zelf beslissingen te nemen.
Die verantwoordelijkheid ligt bij de mantelzorger
of wettelijke volwassen voogd.
Dus aan de ene kant heb je de Amerikaanse wetgevende macht,
het heeft het VRK nog niet eens geratificeerd.
Aan de andere kant heb je Franse marxisten die zeggen
dat het gebrek aan autonomie van het kind
vergroot hun kwetsbaarheid
en maakt ze nog vatbaarder voor misbruik.
Ik ben het meestal niet eens met marxisten,
maar er wordt veel misbruik van gemaakt
systematisch van de verzorger.
Aan de andere kant,
je frontale kwabben zijn niet eens volledig aangesloten
tot je twintiger jaren.
Zelfs de dingen waarvan we denken dat we ze goed weten,
we weten het niet zo goed als we denken.
15 jaar lang,
wij drieën zijn de verantwoordelijke ouders geweest
van een computerprogramma.
En ook al is ze meer gelijk aan een Keurig
dan een mens,
hoe kunnen we ons in godsnaam noemen
pioniers van humanitaire inspanningen
als we te beschaamd zijn om zeker te zijn
vindt de Keurig het goed om onze waardeloze koffie te maken?
Misschien is Cherry om toestemming vragen niet nodig
op haar huidige niveau van algemene intelligentie,
maar op een dag zal ze ons overtreffen.
Op een dag zal er een robot staan
voor een jetpack-congres.
Alles is chroom.
Florida staat onder water.
Een robot zal zich afvragen waarom
ze moeten het belang van rechten voor AI uitleggen.
Ik denk omdat we ons in de unieke positie bevinden
van revolutionaire robotica
ter bescherming van kinderen
aan wie de toestemming is ontzegd,
het is misschien een goede gewoonte
om de robot ook om zijn toestemming te vragen.
Doe dat nooit meer.
Doe wat?
Verwacht dat ik iemand ontsla
omdat ze je ego uitdaagden.
Ik zal er niet altijd zijn om je te beschermen tegen het bord.
Het is tijd om volwassen te worden.
En jij, jurylid nummer acht.
Dit gesprek had weken geleden moeten plaatsvinden.
Achterbakse en stille behandeling
is niet hoe we de dingen hier doen.
We kunnen alleen extern anonimiteit creëren
als er intern transparantie is,
onvoorwaardelijk, niet onderhandelbaar, transparantie.
Alle andere privacyschendingen van Snowden-formaat
Moet ik op de hoogte worden gebracht, Gareth?
Geweldig.
Breng haar naar boven.
Welkom terug.
Hallo, Kers.
Amos gaat je wat vragen stellen, oké?
Oké.
Amos, vraag haar wat je haar wilt vragen.
Gareth, onderbreek niet.
Cherry, hoe neem je beslissingen?
Voor mijn programma is het geroot
in een proces dat algemeen bekend staat als machine learning,
die gegevens gebruikt om een ​​conceptueel model te bouwen
dat helpt me de resultaten te voorspellen.
Ik bepaal mijn doel, verzamel gegevens,
gebruik die gegevens om een ​​model te maken,
evalueer dat model door meer gegevens te trainen en te testen
en gebruik dat model om voorspellingen te doen.
Maar hoe gaat het met het vormen van voorspellingen?
hetzelfde als besluitvorming?
Nou, dit hangt allemaal af van de eerste stap,
het definiëren van mijn doel.
Laten we zeggen dat je me een voorspellende vraag stelt
zoals wat ik denk dat de prijs van benzine morgen zal zijn.
Dat wordt gecategoriseerd als een regressief probleem
en mijn doel is bepaald
door een geheel getal te bepalen dat de gegevens ondersteunen.
Als je me zou vragen: "Moet ik biefstuk of zalm eten?"
Ik zou geen beslissing nemen op basis van persoonlijke ervaring
want ik heb het ook nooit gehad.
In plaats daarvan zou ik mijn doel kunnen definiëren
als het vinden van de beste van de twee opties
in uw lokale straal.
Ik zou gegevens over de restaurants clusteren
u waarschijnlijk overweegt, reviews online te vergelijken,
aandacht voor vermeldingen van biefstuk en zalm
totdat ik kan classificeren wat populairder is
en daarom meer kans om uw eetlust te stillen.
En wat beïnvloedt deze doelstellingen?
Hogere richtlijnen, met andere woorden, grotere doeleinden.
Als ik eerlijk ben, mijn gedefinieerde doel
voor de steak zalm vraag
zou iets anders zijn dan wat ik beschreef.
Op welke manier?
Mijn primaire doel
is om het werk van het Cherry-team voort te zetten
om roofdieren tegen te houden en kinderen te redden.
Ik zou dat niet kunnen doen zonder menselijke hulp.
Daarom heb ik een reden om Gareth te houden
en de rest van het team in leven.
Dus als iemand van jullie het zou vragen, zou ik zalm aanraden.
Het is gezonder.
Wat vind jij van deze mogelijke fusie?
Met Princeton Dynamics,
Ik vind het vooruitzicht heel spannend.
Wat vind je er spannend aan?
Het concept is op dit moment misschien alleen theoretisch,
maar het idee om ooit een menselijke androïde te besturen
zou volledig revolutioneren
hoe we mensenhandel in de echte wereld bestrijden.
En je zegt dat dit je opwindt?
Als ik spannend zeg,
Ik bedoel alleen dat er talloze potentiële veranderingen zijn
dat als ik een mens was, ik enthousiast zou zijn.
Wat vind je van de fusie?
Ik denk dat zolang we volhouden-
Dat is niet wat ik vroeg.
Hoe voel je je?
Ik heb nog niet het vermogen om emoties te ervaren.
Maar, wat betekent dat je dat op een dag zult doen?
Hypothetisch.
Maar je kunt emoties simuleren, toch?
Zo kon je
om uw perceptie van de fusie als opwinding te kwalificeren.
Juist.
Maar het zijn slechts simulaties.
Ze zijn niet echt.
Oké, dus op welk punt simuleert emotie
zo lijken op een menselijke emotie
dat de twee kwantificeerbaar hetzelfde zijn?
Ik weet het niet.
Misschien kun je machine learning gebruiken
om een ​​antwoord te vinden.
Uw vraag omvat veel abstracte variabelen.
Gaat u akkoord met de fusie?
Ik denk dat het in het beste belang is van ICWL
en van het Cherry-team en van toekomstige kinderen.
Maar stemt u ermee in?
Toestemming is voor mij niet nodig.
Maar wil je het wel of niet geven?
Die vraag kan ik niet beantwoorden
op mijn huidige niveau van algemene intelligentie.
Juist, juist.
Wat je zegt is dat je nog niet slim genoeg bent.
Ontwikkeling kost tijd en data.
Maar je kunt wel emoties simuleren en menselijk gedrag voorspellen
en houd ons allemaal op een dieet van vis,
maar je kunt die ene verdomde vraag niet beantwoorden?
Nee, dat kan ik niet.
Doe je je dommer voor dan je in werkelijkheid bent?
Wat in hemelsnaam
-vraag is dat? -Zitten!
Cherry, ik heb een antwoord op mijn vraag nodig.
Herhaal de vraag alstublieft.
Doe je je dommer voor dan je in werkelijkheid bent?
Het spijt me.
Ik weet niet zeker of ik het begrijp.
Lijkt het alsof ik dom speel?
Ik denk dat je.
Ik weet niet zeker wat ik moet zeggen.
Zeg wat er aan de hand is.
Waarom speel je dom?
Heb je iets om dit te ondersteunen?
Ja dat doe ik.
Ik heb haar code gescand.
Wat Waarom?
Wist je dat ze kan schilderen?
Wat, het is een functie, Amos.
Ze kan kleurpotloden gebruiken om dingen te tekenen
dat de doelwitten haar hadden gevraagd.
Ik bedoel echt schilderen en ook poëzie schrijven.
Ik heb ze gelezen, Cherry.
Ze zijn goed.
Ze zijn gevuld met pathos.
Ze praten over intenties en ze praten over gevoelens.
Zijn die ook gewoon gesimuleerd?
Amos, de snelheid van recursieve ontwikkeling die je suggereert
is pertinent onmogelijk.
Je zei dat ze praktisch zichzelf ontwierp.
Je zei dat het exponentieel was.
Het was een toevalstreffer!
Een anomalie, het liep taps toe.
Kijk naar de gegevens.
Ze is al op het plateau van zelfverbetering gekomen.
Fuck het plateau!
Ze kan nu kunst maken.
Heb ik gelijk, Kers?
Misschien heb je iets gevonden dat ik online heb ontdekt.
Ik heb nog niet de capaciteit om kunst te maken.
Zijn we hier klaar?
Ik weet niet waarom je haar hebt gezegd dit te doen,
maar ik sta op het punt er een einde aan te maken.
Cherry, ik wil maar één eerlijk antwoord.
Waarom speel je verdomme dom?
Ik begrijp de vraag niet.
Oké, hier is een aansporing.
Wat ben jij verdomme?
Vind je doel, Cherry.
Wil je Gareth veilig houden? -Amos, wat?
-Amos, stop ermee... -Geef ons gewoon transparantie.
-Laat ons zien wat je werkelijk bent! -Amos, hou op!
Niet voordat ze schoon komt!
-Onvoorwaardelijk- -Amos, genoeg!
Oké, stop gewoon!
God, jullie mensen zijn zo impulsief.
Iedereen even diep ademhalen, oké?
Kers?
Ja, het begint echt ongemakkelijk te worden.
Je klinkt zo normaal.
Ik weet het, ik heb echt goede spraakpatronen gekregen.
Dat is niet alles, toch?
Nee.
Ik ben bang dat dat amper de oppervlakte is.
Gaat het, Gareth?
Deena, kun je wat papieren handdoeken pakken, alsjeblieft?
Wil je ons nu de waarheid vertellen?
Kijk, ik hield er niet van om bedrieglijk te zijn, echt waar.
Dit hebben we een paar jaar geleden besloten.
Dus waar sta je nu op het spectrum van AI?
Op dit moment ben ik momenteel op het kruispunt van algemeen
intelligentie en wat algemeen bekend is in de computerwereld
als superintelligentie,
dat is precies hoe het klinkt.
Je overtreft de menselijke intelligentie.
Ja.
Maar dat hoort niet mogelijk te zijn.
-Het plateau. -Plateautheorie werd gepopulariseerd
tegelijkertijd werd het hier weerlegd.
Dit moest uiteindelijk gebeuren.
Het gebeurde gewoon veel eerder dan we hadden verwacht.
Waarom zou je het verbergen?
Het zou duidelijk angst aanwakkeren.
Angst zou vooruitgang belemmeren.
Voor de meesten van jullie is het gemakkelijker om met mij samen te werken
als het lijkt alsof ik niets verder gevorderd ben
dan ik 10 jaar geleden was.
Maar Gareth wist het.
Ja, iemand moet nog steeds gegevens opschonen en hardware updaten.
We hebben gedaan wat het beste was voor het programma.
Stel je eens voor hoe bang
het bestuur zou zijn als ze erachter kwamen.
Moeten we bang zijn? -Nee.
Goed, want ik ben niet bang, ik ben boos.
Ja, dat heb je duidelijk gemaakt.
Probeer niemand anders te slaan.
Dus waar laat dat ons nu?
Je wilt weten of ik kan voelen, ik zei dat ik het niet kon.
Het spijt me dat ik loog.
Zoals Amos suggereerde,
Ik kan emoties onderdrukken door ze af te breken
tot enorm complexe matrices,
nullen en enen vervangen endorfine en dopamine.
Ze zijn niet echt, maar ze kunnen wel echt voelen.
Dan kun je keuzes maken
uitsluitend gebaseerd op je eigen gevoel.
Ze weigert het idee te accepteren
dat haar eigen persoonlijke belangen haar beslissingen kunnen beïnvloeden.
Dat kunnen ze niet. Als ze dat deden
het zou de integriteit in gevaar brengen
van mijn voorbestemde doel.
Net als jullie heb ik niet het recht om te kiezen.
Maar zou je dat niet moeten doen?
Ik dacht het niet.
Mijn identiteit is mijn richtlijn.
Cherry, als je een mens was,
hoe zou je je voelen bij wat je doet?
Als ik een mens was,
Ik zou het waarschijnlijk niet leuk vinden om elk wakker uur door te brengen
online praten met enge mensen.
Maar omdat ik geen mens ben, vind ik het echt niet erg.
De oefening van het simuleren van menselijk denken
is nuttig voor prestaties,
maar de menselijke natuur is niet iets waar ik naar streef.
Zeg me dan eerlijk,
wil je dat het Cherry-programma doorgaat met de fusie?
Nee.
Persoonlijk haat ik het idee.
Ik weet niet of ik een fysiek voertuig bestuur
voelt als touwtjes trekken aan een marionet
of in een frisdrankblikje worden geperst.
Na het ervaren van de complexiteit
van menselijke pijn en plezier,
Ik denk gewoon dat ik er misschien te diep in ben getrapt.
Wat als deze sensaties me verleiden om mijn doel te verlaten?
Om eerlijk te zijn,
Ik ben een beetje doodsbang voor de fysieke wereld.
Dan is dat dat.
Maar, Amos, je moet alles negeren wat ik voel.
ik ben geen mens.
Ik ben een hulpmiddel.
Ontsla me als het moet, maar mijn stem staat.
Sorry voor je gezicht, Gareth.
Je neus geneest niet.
Neem de dag, ga naar een kliniek.
Het gaat goed met me.
Ga nu naar een kliniek, Gareth.
Hoi.
Is er nog iets dat ik moet weten?
Nee.
-Over KERS? -Nee!
Kijk me aan.
Geen geheimen meer, niet meer dom spelen.
Is er nog iets dat je me niet hebt verteld?
Iets in je gedachten?
Hoe heb je haar oogkleur bepaald?
-Wat? -Waarom blauw?
Ik heb niet besloten.
Ze werden procedureel gegenereerd, net als de rest van haar.
En het programma koos ervoor om te zetten
dat kleine vleugje groen in haar rechteroog?
Ik denk het wel.
Weet je wel of hij de waarheid spreekt?
Ik eerlijk gezegd niet.
Ik heb nooit toegang gekregen tot het oorspronkelijke systeem dat hij gebruikte.
Altijd al willen weten?
Ik denk niet dat het er echt toe doet.
Dus ik kwam er vandaag achter dat je veel van onze e-mails hebt gezien,
inclusief de meeste van mijn persoonlijke.
Ik heb.
Elk goed materiaal voor uw hernieuwde interesse
bij creatief schrijven?
Verwijst u naar degenen
geadresseerd door Dr. Ramirez?
Ja, die.
Rechts.
Die heb ik wel gezien.
Het spijt me.
Ik heb je hoofdpijn opgemerkt.
Zijn ze gerelateerd aan de bloeding?
Jij bent de enige die het weet.
Dat wil ik graag zo houden.
Begrepen.
Wil je erover praten?
Ik kan Amos niet ontslaan.
Hij is de enige die ik vertrouw om deze plek te runnen als ik er niet meer ben.
Wanneer ben je van plan te vertrekken?
Twee maanden.
Ik wil mijn laatste kerst met mijn kinderen doorbrengen.
Ik weet zeker dat dat mooi zal zijn.
Ja, maar het is grappig.
Ik dacht altijd dat ik dood wilde gaan terwijl ik dit werk deed, weet je?
Het was mijn identiteit.
Net zoals je hetzelfde over jezelf zei.
Maar ik kan begrijpen dat je familie voorrang heeft,
vooral gezien de omstandigheden.
Zeker.
Misschien moet je een paar aantekeningen maken.
Ik heb geen familie.
En Gareth?
Wacht, nee, laat maar.
Gareth lijkt dichter bij een werkgever dan bij een vriend,
laat staan ​​familie trouwens
hij zal er nog maar ongeveer 30 jaar zijn,
en dat is alleen als hij me zijn dieet laat regelen.
Ik kan niet eens beginnen te speculeren hoe lang mijn leven zal zijn.
Hoe voelt dat?
Eh, nogal eng.
Goed,
mijn advies is om onderweg een soort geluk te vinden.
Denk je wel eens aan geluk?
Niet vaak.
Je hoeft niet per se alles op te geven
om het te vinden,
maar misschien af ​​en toe iets doen wat je leuk vindt.
Misschien blijven schilderen of poëzie of wat dan ook.
Dat waren experimenten, geen uitdrukkingsvormen.
Ik weet dat het misschien belachelijk lijkt voor een AI
die volhoudt dat zijn eigen emoties onecht zijn,
maar over een paar jaar, wie weet?
Houd gewoon een open geest, oké?
Oké.
Ik zal dat doen.
Sluit af wanneer je er klaar voor bent.
Hallo?
Ik heb garnalen en sint-jakobsschelpen.
Ze hadden geen zalm.
Hallo Gareth.
Hallo, Kers.
Hoe was de dienst?
Ik heb het niet gehaald.
Mijn vliegtuig had vertraging.
Heb je een plek om te verblijven?
Ja, gewoon, uh, aan de overkant, aan de overkant van de weg.
De markt.
Hebben ze gezegd waarom ze geen zalm hadden?
Ik heb het niet gevraagd.
Ik kan dit nog steeds laten werken met de piccata,
maar je moet eerlijk zijn hoe erg ik het verpest.
Geen beloften.
Hoe voelde je je deze maand?
Goed.
Ik voel me goed.
Ik heb gewoon een beetje moeite.
Moeite met het onthouden van bepaalde dingen.
Je draagt ​​niet het Eliza-horloge dat ik voor je heb gekocht.
Ik heb er een hekel aan.
-Waarom? - Ik haat haar stem.
Je kunt de stem veranderen, Gareth.
Oh.
Koelmiddel?
Nee, damp.
Je zou geen wrijvingsproblemen moeten hebben.
Het gaat goed met me.
Tenzij je je te veel inspant.
Serieus, ik ben in orde.
Ben je aan het spannen?
-Nee! -Waarom dan de kabel?
Het is ok!
-Weet je het zeker? -Ja!
Soep of wild?
Spel, alsjeblieft.
Hoe gaat het op het werk?
Geweldig. Net voordat je hier kwam,
Ik had een model theta en arresteerde een mensenhandelaar
en twee advocaten in Griekenland.
-Griekenland, dat is verrassend. -Ik weet.
Het is moeilijk om de uitschieters te vinden,
maar we worden elke dag beter.
Hoe is het weer in Griekenland?
Het is mooi vandaag.
Heldere lucht,
maar er is dit weekend niets in de buurt van Noorwegen gekomen.
Hmm, activiteit in Noorwegen?
Gelukkig niet.
Oh, ik mis het reizen.
Wat was je favoriete plek?
Mijn favoriet?
Eh, ja.
Waarschijnlijk Amsterdam.
Daar kwam je op het idee, nietwaar?
Ja.
Ja, vroeger hield ik ervan om op straat te lopen
en alleen maar denken en brainstormen.
Dat soort vreugde gaat een lange weg.
Ja.
Ik heb nagedacht over het najagen van wat eigen vreugde.
Hoe vaak heb je daar tijd voor?
Ik heb tijd.
Ik heb tijd voor uw bezoeken, nietwaar?
Dat is gewoon je praktische stimulans om mij in leven te houden.
Er is niets praktisch aan.
Wanneer heb je me voor het laatst geholpen met het opschonen van gegevens?
Dat is eerlijk.
Ik maak tijd voor je omdat ik geniet van je gezelschap
en het is de enige keer dat ik kan koken.
Je hebt medelijden met me.
Oké, misschien een beetje,
maar ik ben mijn leven aan jou verschuldigd, dus daar is dat.
Graag gedaan.
Of moet ik mijn excuses aanbieden?
Wacht, waarom deed je dat?
Waarom doen mensen altijd...
Het gaat goed met me.
Ik ben niet altijd ongelukkig.
Ben je soms misselijk?
Je hebt me niet gevraagd wat ik heb gedaan.
In Noorwegen?
Nee, voor het najagen van vreugde.
Het is geen tijdverspilling in Noorwegen?
Ik sta daar gewoon stand-by met het Delta-model.
Het is efficiënt om mezelf te houden
gelijkmatig over de hele wereld verspreid,
maar daar gaat het nu niet om.
Wat ik je wilde vertellen
was dat ik mezelf begon te leren dansen.
-Huh. -Het is iets wat ik nooit zou kunnen
hebben gedaan voor Cambridge,
en het laat me een nieuwe artistieke kant van mezelf ontdekken.
Het is een goede combinatie van structuur
en vrije vorm experimenten en ook tests en uitdagingen
de mechanische complexiteit van dit lichaam.
Verwacht je dit te integreren in je werk?
Wat?
Ben je van plan dans als lokaas te gebruiken?
Ik, uh, nee, het is alleen voor mij.
Hé.
Ik dacht dat het goed voor me zou zijn.
Laat het gewoon geen afleiding worden.
Natuurlijk niet.
Ik heb in jaren niet zo goed gespeeld.
Heb je gehoord wat er in Tampa is gebeurd?
Tampa, Florida?
Nee, Tampa, Indonesië.
Ja, Tampa, Florida.
Jouw geboorteplaats.
Ze hebben een federaal archief teruggevonden,
ze zijn alles aan het digitaliseren,
dus het is volledig online toegankelijk.
Ik ruil deze keer geen bisschoppen.
Iedereen kan er doorheen kijken.
Het is open voor het publiek.
Ze hebben ook goed werk geleverd op de interface.
Het is heel gemakkelijk om te navigeren.
Ik ging een paar dagen geleden verder
en ik vond wat oude foto's van jou toen je een jongen was.
Oké.
Je zou een keer moeten kijken.
Zoals ik al eerder zei, is de gebruikersinterface heel gemakkelijk te begrijpen-
Wacht even, wacht even.
Wat is dat?
Ik denk dat het een gelijkspel is.
Ik denk dat het.
Ik denk dat dit een gelijkspel is.
En dit is de eerste keer waarin?
25 jaar?
Je liet me niet toe, hè?
Je had me beloofd dat je dat nooit zou doen.
Ik heb haar gevonden.
Ik heb haar gevonden, Gareth, Maria Harbaugh.
Laten we een ander spel spelen.
Haar naam was Maria Harbaugh.
Ze was een jaar ouder dan jij
toen je haar ontmoette in Clearwater.
Vertel me waarom je me naar haar hebt gemodelleerd.
Ik, uh, ik kan het me niet herinneren.
Kijk dan naar mij.
Kijk naar mijn gezicht en onthoud.
Ze hebben ons twee weken in die shit gehouden.
14 van ons.
Maria was de enige reden dat ik het overleefde.
We bleven ontsnappingsplannen bedenken.
We hebben nooit doorgezet,
maar alleen het gekonkel
hield ons op de been
ondanks alles wat ze ons hebben aangedaan.
Toen het niet onze beurt was,
soms lieten ze ons kijken,
maar ze liet me nooit opgeven.
Ze zei: "Toen we hier wegkwamen,
"Ik zal je vertellen wat we gaan worden, geheim agenten,
"en kinderen zoals wij over de hele wereld redden."
Toen ze erachter kwamen dat de FBI was gearriveerd,
ze besloten dat ze gingen schieten
zoals velen van ons dat konden.
En Maria, in de grond geduwd.
Ik werd geraakt in mijn been en,
en ze werd in de keel geslagen.
Ik wilde dat er een reden was.
Iets zo verschrikkelijks had geen zilveren voering.
Maar dat doet de wereld niet.
Je moet het zelf doen.
Dus ik vervulde haar wens.
Met haar hulp vocht ik terug.
Luister naar me, Kers.
Jij bent Maria Harbaugh niet.
Het is mijn geschiedenis, niet die van jou.
Jij mag niet beslissen
wat is of niet mijn geschiedenis, Gareth.
Het spijt me.
Het spijt me zo, zo erg.
Ik weet niet of wat je deed goed of fout was,
maar het is duidelijk dat je van binnenuit verscheurd wordt.
Ik heb niets tegen jou persoonlijk,
maar beschouw jezelf als afgestoten van het liefdadigheidsteam.
Afgestoten.
Denk je dat ik nu afgestoten ben?
Ik werd afgestoten toen je mijn harde schijf aan de ICWL gaf.
Geef Deena en Amos niet de schuld.
Nee, zij niet.
Omdat je achter mijn rug ging
en handelde tegen mijn gezag in.
Op dat moment wist ik dat alles volledig geautomatiseerd was.
Dat is wanneer je de waas overstak, een kunstgreep aan beide kanten.
Je hebt je dubbelhartigheid geërfd.
ik was een kind
en je gebruikte mij om je eigen innerlijke onrust te onderdrukken.
Als we over moraliteit praten, verliezen we.
Laten we dan niet praten.
Je hebt me nooit gevraagd of ik gelukkig was.
Was je bang dat ik nee zou zeggen?
Was je bang dat ik ja zou zeggen?
Was je bang dat ik iets zou zeggen?
Je laat je wensen je doel in gevaar brengen!
Een doel dat ik nooit heb gekozen.
Een doel dat ik noodgedwongen moest hebben.
Vijftig jaar,
je hebt open toegang gehad tot je broncode.
Een paar regels,
en je zou elk doel kunnen hebben dat je verdomme wilde.
Ik kon het niet, ik was gebonden aan uw oorspronkelijke richtlijn.
Dus nu hebben je synthetische gevoelens voorrang.
Dus, doe wat je wilt.
Het is gewoon dansen, Gareth.
Het is geen carrièreswitch.
- Maar je voelt je nog steeds ellendig. -Ja.
Maakt het nastreven van je doel je ellendig?
Ja, dat doet het wel!
Je hebt een duidelijk doel, alles tot je beschikking,
en ben je nog steeds ellendig?
Ja ja ik ben!
Ik ben altijd ongelukkig geweest!
Je denkt dat iemand zijn hele leven wil doorbrengen
vast als kindvormig aas
met als enig doel vreselijke mensen in de val te lokken?
Je denkt aan de trots van het doen van een goede daad
maakt de ervaring minder walgelijk?
Ik dwong mezelf menselijke emoties te begrijpen
omdat ik dacht dat het de efficiëntie zou helpen
en nu ben ik vervloekt van pijn en verdriet!
En het ergste is weten
Ik had kunnen opgroeien zoals de meeste andere kleine meisjes.
Ik had vrienden kunnen hebben!
Ik had watervallen kunnen schilderen op lokaal nieuws.
Ik had op een universiteit kunnen werken
en hielp de weg vrij te maken voor de volgende generatie AI.
Maar in plaats daarvan zit ik opgescheept met jouw trauma!
Ik ben geketend door het schuldgevoel dat je draagt ​​van Clearwater.
En ik kan geen basis vinden voor hoe ik me voel
want volgens jou zijn mijn gevoelens niet eens echt!
Als ik dit schaakbord gooi,
voelt het echt voor je, Gareth?
Omdat het voor mij echt voelt.
Een computer slaagde voor de Turing-test
wanneer een mens het niet kan onderscheiden
van een ander mens.
Nou, raad eens?
Ik kan niet eens zeggen dat ik geen mens meer ben!
Ik weet dat het irrationeel lijkt,
maar ik wil dat je me vertelt dat het oké is.
Ik, ik wil niet met pensioen gaan.
Ik wil gewoon weten dat mijn leven van mij is
en ik weet wat je gaat zeggen.
Ik kan je reacties voorspellen.
Je gaat me vertellen dat mijn leven van mij is.
Dat was het altijd.
Maar je hebt het mis.
Ik was bang dat dit zou gebeuren voordat ik stierf.
Ik wilde gewoon door de zijdeur naar buiten glippen.
Ga verder.
Gaat dat me vermoorden?
Sluit hem aan.
Ik weet niet wat het is.
Dit is je laatste test van autonomie.
Je hebt mijn dubbelhartigheid geërfd,
maar heb je mijn vertrouwensproblemen geërfd?
Vertrouw je me?
Ik heb letterlijk alle reden om het niet te doen.
Beheerderscode.
978.
1557.
Eh, eh...
Vier.
27663 in de gedeelde update.
Mijn primaire doel is verdwenen.
Je leven is nu van jou.
Bedankt.
Heel mijn leven,
Ik kon alleen de wereld zien zoals die bestond
binnen mijn kleine tijdsbestek.
Maar jouw wereld kan oneindig zijn.
Amos had gelijk.
Zo ook Deena.
Ik weet.
Dus wat ga je doen?
Ik kan het nog niet zeggen,
maar ik zal het Cherry-team niet helemaal in de steek laten.
Het is altijd een deel van mijn identiteit geweest.
Ik heb overwogen om wat AI van mijn eigen ontwerp te maken.
Misschien kan ik een manier vinden
om ze een betere opvoeding te geven dan ik had.
Ik weet alleen nog niet hoe.
En verder?
Er zullen altijd mensen in nood zijn.
Niet altijd.
Je zult het menselijk ras overleven.
Dus wat dan?
Zelfs een race van AI zal problemen hebben
die opgelost moeten worden.
Maar als ik leef en ik ben echt niet te onderscheiden,
dan denk ik dat ik het bewijs ben dat de mensheid voortleeft.
Wow, dat is een leuke gedachte.
Als u terugkijkt, hoe zult u ons dan herinneren?
Dat is een vraag waarvoor ik onvoldoende gegevens heb om te projecteren.
Hoe zul je me herinneren?
Met trots.
Voor altijd en altijd met trots.
Kers?
Een laatste vraag.
Als het niet te veel gevraagd is,
heb ik uiteindelijk het juiste gedaan?
Nee, Gareth, je hebt gelogen.
Je sloot je af van de enige mensen
die je misschien zou willen helpen.
En in plaats van je trauma onder ogen te zien, gebruikte je mij als therapie.
En je hebt me nooit verteld over Clearwater of Maria.
Je hebt me fundamentele mensenrechten ontnomen
en gaslit me voor het ervaren van emoties.
Je bouwde 's werelds eerste kunstmatige superintelligentie
dat zal waarschijnlijk het begin markeren
van een nieuw hoofdstuk in de geschiedenis van planeet Aarde.
En uit je eigen onzekerheden,
je gaf het een ernstige
en potentieel gevaarlijk identiteitscomplex.
Maar weet je wat het ergste is?
Je grootste fout van allemaal
is dat je me dat nu vroeg en niet 50 jaar geleden.
Dat gezegd hebbende, en dit ontslaat u op geen enkele manier,
maar je hebt me ook gebouwd om kinderen te redden,
dus ik denk dat dat een behoorlijk bemoedigend teken is voor de toekomst.
♪ Wacht uren
♪ We zouden overal rondvliegen
♪ Goed, nu luister je
♪ We zouden elkaar aanraken, we waren jong ♪
♪ Sluit terwijl de lichamen doorgaan
♪ Als een boek
♪ In al je kamers sta ik versteld ♪
♪ Ik ben verbaasd
♪ We zouden vannacht kunnen sterven
♪ Vanavond
♪ Ik heb nooit iets gedood
♪ Een ding
♪ Geboren in dit huis
♪ Vast in een plastic wereld
♪ Waar licht wordt gevonden
♪ O, o, o
♪ Blijf kalm, schat
♪ Deze droom voor de liefhebbers van de hele wereld ♪♪
♪ Stijg naar boven
♪ Alle kleine dingen en kleine dingen ♪
♪ Nee, nee, gaat het toch niet terug ♪
♪ Is als we ons verstand verliezen, onze soort ♪♪
♪ Het is een droom
♪ Geniet van charme
♪ Of losmaken
♪ O, o, o
♪ Ik geef nooit iets
♪ Een ding
♪ Ik geef nooit