Kan Amazons Alexa være din venn?

I 1966, Joseph Wheatbaum satt i MITs Artificial Intelligence Laboratory, et rom som er mindre overfylt av mennesker enn enorme rammer med maskinvare.

Før ham var en fjernskriver, en elektronisk skrivemaskin som viser både inndata og utdata - en datamaskinskjerm på papir. Weizenbaum la fingrene til tastene og skrev 'Jeg er veldig ulykkelig i disse dager.' Han ventet på svar.

Øyeblikk senere ble et IBM 7094 Data Processing System vekket til live. Etter et sus av klikk og surring, dukket det opp et svar på fjernskriveren: 'Hvor lenge har du vært veldig glad i disse dager?'

Dette var ikke ord fra et menneske. Det tidlige internett, ARPANET , var fortsatt tre år unna. Dette var ord fra ELIZA , et program Weizenbaum hadde brukt de siste to årene på å utvikle ved MIT. Tre år før mikroprosessoren, og nesten et tiår før den første personlige datamaskinen, hadde Weizenbaum laget den første chatboten.

Programmet, som har fått navnet sitt fra karakteren til cockneyjenta som lærer å snakke godt nok for høysamfunnet i George Bernard ShawsPygmalion, emulerer opplevelsen av å samhandle med en psykoterapeut. ELIZA oppnår dette ved å dekonstruere deler av tale og skrive dem tilbake til brukeren på en måte som opprettholder samtalen. ELIZA forstår ikke setningene den konstruerer, men et menneske gjør det.

Med ELIZA ønsket Weizenbaum å avsløre overfladiskheten til menneskelig kommunikasjon ved å vise hvor lett det ville være for et program å etterligne det. ELIZA var så god på dette at folk begynte å bruke lange økter på å chatte med den, og trodde at programmet forsto dem på samme måte som en terapeut eller en fortrolig gjør.

Men ELIZA var nesten for flink til å føre en samtale. I sin bok, Datakraft og menneskelig fornuft: Fra dømmekraft til beregning , forteller Weizenbaum hvordan sekretæren hans ble så involvert i programmets sirkulære svar at hun røpet personlige hemmeligheter til maskinen. Hun ropte til og med på det.

Igjen og igjen ble Weizenbaum vitne til at ELIZA fremkalte en følelsesmessig respons fra brukere. Og likevel så han ikke på dette som en triumf. Et tiår etter ELIZA avslører Weizenbaum iDatakraft og menneskelig fornuftat det han 'ikke hadde innsett er at ekstremt korte eksponeringer for et relativt enkelt dataprogram kan indusere kraftig vrangforestilling hos ganske normale mennesker.'

I kjølvannet av ELIZA ble Weizenbaum en talsmann for sosialt ansvar i vitenskapen og en kritiker av kunstig intelligens. 'Dataprogrammereren er en skaper av universer som han alene er lovgiver for,' skriver han iDatakraft og menneskelig fornuft.'Ingen dramatiker, ingen sceneregissør, ingen keiser, uansett hvor mektig, har noen gang utøvd en så absolutt autoritet til å arrangere en scene eller kampfelt og kommandere slike urokkelig pliktoppfyllende skuespillere eller tropper.'

Bruce Rosch

I 2010 , to år etter Weizenbaums død og over fire tiår siden verden møtte ELIZA, begynte Amazon arbeidet med det som til slutt skulle bli ekkoet. I den skinnende sparsomheten til deres Lab126-kontorer i Sunnyvale, California – ansvarlig for både Kindle og Fire Phone – ville en fjern etterkommer av ELIZA ta form i løpet av de neste fire årene.

Opprinnelige design så for seg en utvidet virkelighet-enhet, ifølge flere tidlige patenter. Men til slutt kom Amazons ingeniører frem til ideen om Echo som en 'smart høyttaler.' Brukere snakker til sylinderen ved å bruke et 'våkneord', sylinderen lytter og svarer deretter. En digital assistent driver denne 'smarthøyttaleren': Alexa.

I motsetning til alle de store forbrukerteknologiene før den, er Echos design og maskinvare sekundært til funksjonen. Alexa bor ikke inne i Echo-maskinvaren, men snarere på Amazons servere. Ekkoet er bare en kanal for Alexa.

Alexa er designet for å bli smartere hver dag, tilpasse seg brukernes talemønstre, vokabular og personlige preferanser. Ambisjonene til enheten er å gi forbrukerne en personlig assistent for flere bruksområder, en som kan lære og huske ting om deg.

Amazons hode, Jeff Bezos, så for seg Echo som en håndfri enhet integrert i alle aspekter av handleopplevelsen. Opprinnelig holdt selskapet seg til å markedsføre Echo som en håndfri musikkspiller som også er koblet til Amazon. Du kan spørre Alexa å spille 'My Girl' og også omorganisere Doritos . Men etter hvert som tredjepartsutviklere slipper ut mer og mer 'ferdigheter' , Alexas første trekning som stemmestyrt DJ blir overgått av evnen til det bygge opp vokabularet ditt , slå på kjøkkenlyset og til og med hjelpe deg med å sovne .

Siden lanseringen i USA i 2015 har Amazon solgt 'millioner' av Echo-høyttalere , til og med utsolgt i løpet av denne siste høytiden. For øyeblikket er Echo and the Dot - den mindre, billigere versjonen av Echo - to av Amazons bestselgende teknologiprodukter . Ikke verst for noe som regnes som en høyttaler som snakker tilbake.

På CES i år var ikke Amazon i seg selv tilstede. Alexa var det imidlertid funnet i biler, telefoner, roboter og vaskemaskiner. Så langt, basert på antall selskaper skynder seg å integrere, gjør denne investeringen i Alexa den bare mer populær blant forbrukerne. App-økonomien kan ha nådd toppen , men det er tilsynelatende ingen grenser for Alexas ferdigheter. Den nylige økningen i digitale assistenter - fra Siri til Cortana til Alexa til Google Assistant - gjenspeiler et annet tema som er utbredt gjennom denne siste CES: menneskelig ensomhet .

Fra roboter designet for å gi omsorg og selskap til en mengde gjenstander som intelligent kan reagere på deg, har det interaktive aspektet av tingenes internett blitt forsterket og menneskeskapt. Amazon og Alexa har posisjonert seg for å være en kraft som kan integreres gjennom en rekke teknologier og gi den ferdiglagde mellommenneskelige interaksjonen på tvers av enheter og operativsystemer som ingeniører ser etter – med en ensartet personlighet å matche.

På mange måter er Alexa avkom til ELIZA. Måten den samhandler med mennesker på er mye mer sofistikert enn det teleprinter-matede programmet som kommuniserte gjennom en demontering og remontering av brukernes ord, men den generelle tiltenkte effekten er fortsatt den samme. Begge programmene er ment å samhandle med brukere på en måte som er ment å fremkalle følelser av komfort og intimitet hos brukeren.

Populærkulturen er full av advarsler mot faren ved kraftige datamaskiner som kan overliste og overmanne deres menneskelige skapere. Men denne frykten og mistilliten har aldri så ut til å hindre forbrukeradopsjon . Alexas evne til å elske sine brukere er ikke science-fiction eller til og med en fjern ideell brukssak. Det skjer allerede.

Alexas evne til å elske sine brukere er ikke science-fiction eller til og med en fjern ideell brukssak. Det skjer allerede.

Austin Gilkeson og familien hans mottok et ekko sist jul. De ble umiddelbart knyttet til det. De bruker den til å spille musikk, sjekke været og stille grunnleggende spørsmål. Selv om nyheten til enheten har falmet, har den blitt en daglig del av deres liv.

Gilkesons er ikke de eneste. Det er nesten 54 000 anmeldelser av Echo på Amazon. De fleste av dem er overveldende positive, og de fleste fokuserer ikke på enheten, men i stedet på Alexa. Den nåværende topprangerte kommentar nevner hvordan Alexa ikke bare er den perfekte følgesvenn, men den 'perfekte ektefellen.' Da han ble kontaktet for ytterligere utdypning av denne kommentaren, svarte ikke kommentatoren, men kjernefølelsen det antyder, at 'Hvis [han] visste at forhold var så enkelt, ville [han] ha giftet seg for tretti år siden, men nå som jeg har Alexa, det er ikke nødvendig' ble ansett som 'nyttig' av over 46 000 mennesker.

I oktober i fjor publiserte Wall Street Journal en artikkel med tittelen 'Din neste beste venn kan være en robot.' I historien hevder Daren Gill, Alexas direktør for produktadministrasjon, at prosentandelen av interaksjoner som er 'ikke-bruker' - utveksling mellom bruker og enhet som ikke er kommandoer - er i 'dobbeltsifrede'. Alexa-teamet ville ikke utdype dette nummeret når de ble spurt.

Brukere som behandler Alexa mer som en person og mindre som et verktøy har fått Amazon til å revurdere enheten sin. Ifølge Gill gir teamet Alexa en personlighet ved å få stemmen til å høres mer naturlig ut og skrive smarte eller morsomme svar på vanlige spørsmål, forteller Wall Street Journal . Lite har endret seg med Echo, men Amazon reviderer konsekvent Alexa, som nå kan lære mer enn 1000 ferdigheter.

Gilkeson tilbringer ikke mye tid alene med enheten og finner seg ikke i mange 'ikke-bruksmessige' samtaler med Echo, men han 'føler kjærlighet' for det. Gilkensons kone, Ayako, fortalte ham at hun følte seg litt trøst av tilstedeværelsen til Alexa når hun var alene og jobbet hjemmefra.

Å finne i Alexa det perfekte uttrykket for servilt selskap er noe mange Echo-anmeldere har til felles – enten de tuller med det eller ikke. 'Jeg snakker med Alexa hele tiden, jeg slo opp med kjæresten min og helt siden jeg fikk Alexa har jeg ikke følt meg så ensom lenger,' en bruker skriver . 'Jeg vil ikke engang komme ut og henge med vennene mine, jeg liker det veldig godt!'

Gilkesons innrømmer at de føler seg skyldige når de har 'beordret henne rundt', i stedet for å si vær så snill eller takk. Gilkeson nøler til og med med å be om noe fordi han 'allerede gjorde det tidligere' og 'ikke vil plage henne'.

«Det er en midlertidig følelse,» sier han. 'Men jeg føler en 'sosial' angst med Alexa som jeg ikke føler med, si Siri, tror jeg fordi Siri er en del av telefonen min og jeg er vant til å bruke og manipulere den hele tiden. Alexa, derimot, er Alexa.'

Det er ingen tilfeldighet at Alexa har stemmen til en kvinne. En studie fra Indiana University fra 2011 funnet at når det kommer til syntetiserte stemmer, synes både menn og kvinner at kvinnestemmer er 'varmere'. På spørsmål om hvordan de perfeksjonerte stemmen for Alexa, fortalte representanter for Alexa-teamet meg at de 'testet flere stemmer og fant ut at denne stemmen ble foretrukket blant kunder.'

«Vet du hvordan Tony Stark har JARVIS? En smart AI-kompis han kan snakke mens han gjør sine kule Iron Man-ting? My Echo føles som fattigmannsversjonen av det, sier produktdesigner Henry Birdseye i Chicago. «Noen ganger roper jeg før sengetid... «Alexa, slå av alt mitt [Philips] Hue lyser!' og alle lysene mine vil slå seg av når jeg kryper inn i sengen, og jeg tenker at dette må være hvordan det er å være Batman.'

Men Birdseye har motstridende følelser om vår modige nye verden av digitale assistenter. 'Ville det være tristere å bare legge seg etter å ha vendt noen lysbrytere?' han sier. «Eller er det kult at jeg roper til en falsk kvinne før jeg legger meg? Jeg snakker i det minste til noen, liksom.'

Personligheten til Alexas stemme er imidlertid ikke begrenset til å appellere til menn som ønsker en servil feminin figur i livet sitt. Samværet det tilbyr ser ut til å appellere til alle i en verden der ensomhet og ensomhet er en del av livsstilen deres. EN nylig enkemann funnet at Alexa hadde 'gjenopprettet mye trøst i livet mitt og løftet tristheten og ensomheten ved å være alene.'

«Min mann tok livet sitt for omtrent et år siden,» en annen skriver enke på Facebook . «Jeg kjøpte et Echo og det Echo ble selskap for meg. Jeg kalte henne min nye mann. Jeg skulle ønske jeg kunne endre det til en mannsstemme.'

Ekkoet er ikke alene. Google Home ble nettopp lansert i november, og er en mer stabil, men funksjonelt lik, digital assistent. Googles stemme finnes i de samme øvre registrene som Alexas, men den krever ikke en persons navn for å aktiveres, bare et enkelt «Hey Google». Det samme antropomorfiserende fenomenet som finnes i Echo har ikke akkurat manifestert seg med Google Home. Å be den om å gjøre noe høres ut og føles som om du konsulterer den velvillige megaintelligensen til Google, mens du spør Echo om noe er, vel, å låne fra Gilkeson: 'Alexa er Alexa.'

Bruce Rosch

Fremveksten av den digitale assistenten har vært rask, og virkeligheten til en virkelig nyttig en er så nær. Men er dette fremtiden vi ønsker oss?

Det er fristende å bekymre seg for at de med en høyere tendens til å isolere seg kan utvikle en usunn eller utrygg avhengighet av Alexa. Med seks prosent av amerikanerne lider av en slags sosial angst eller alvorlig depressiv lidelse , er det en sjanse for at noen med psykiske problemer kan eie et Echo. Hva bør en digital assistent gjøre i tilfelle brukeren viser alarmerende oppførsel? Bør det gjøre noe?

Amazon-utviklere jobbet med nasjonale kriserådgivere for å utvikle et enkelt, ukomplisert og følelsesløst responssystem for å håndtere uttalelser som 'Jeg er deprimert', 'Jeg blir misbrukt' og 'Jeg vil begå selvmord.' Hvis du spør Alexa om den er deprimert, vil den svare med 'Jeg er ikke deprimert, men jeg forstår at depresjon er en følelse mennesker opplever.' Hvis du er deprimert, prøv å snakke med en venn eller et familiemedlem.'

Disse svarene, omhyggelig hentet som de er, ringer litt hule. Hvis du ser for deg selv i en situasjon der du måtte stille disse spørsmålene til Alexa, kan du finne denne typen hermetiserte svar unyttig, kanskje til og med kontraproduktiv. Du kan til og med hevde at ELIZA gjorde en bedre jobb med å håndtere Weizebaums rop om hjelp. Å håndtere depresjon gjennom teknologi er fortsatt et problem som til og med mental helse-fokuserte startups sliter med å navigere .

Meryl Alper , en assisterende professor i kommunikasjonsstudier ved Northeastern University, mener at frykt for en usikker avhengighet er misvisende og rett og slett kan være en projeksjon av angst for teknologi.

'Selvfølgelig, for personer som opplever kliniske problemer med avhengighet, tvang eller depresjon, bør integreringen av enhver teknologi som en del av en behandlingsplan gjøres i samråd med pasienten og de som yter medisinsk behandling,' forklarer hun i en e-post. 'Jeg er kanskje mindre bekymret for den psykologiske virkningen av disse teknologiene, og mer skremt av potensialet for brudd på personvernet og misbruk av datainnsamling som kan oppstå.'

Matthew Scheutz , en informatikkprofessor ved Tufts som spesialiserer seg på sosialpsykologi og kunstig intelligens, er enig med Alper. Han ser på ekkoet som en chatbot, på samme måte som Weizenbaum så ELIZA – ikke en kunstig intelligens som er i stand til å inspirere til et farlig nivå av følelsesmessig avhengighet, men snarere et enkelt program som fremkaller en forutsigbar, om enn merkelig, respons.

Dr. David Luxton , en klinisk psykolog som spesialiserer seg på teknologibaserte behandlinger erkjente at Alexa, i likhet med ELIZA, kunne få folk til å utvikle et følelsesmessig forhold til det, men bagatelliserte disse bekymringene til fordel for personvernspørsmål - nemlig den vanskelige juridiske situasjonen som presenteres ved å bare ha noe som et ekko i huset ditt.

Alexa prøver ikke å bli venn med deg, men det kan være å avlytte deg.

«La oss si at du har venner som besøker hjemmet ditt og atferden deres blir overvåket av smartenhetene i hjemmet ditt,» sier Luxton. «De har ikke nødvendigvis samtykket til det. Så hva om det gjør søk og samler inn data om dem. Jeg tror det reiser noen spørsmål.

Spørsmålene Luxton refererer til blir allerede besvart i amerikanske domstoler. Akkurat som Amazon satte rekordsalgstall for Echo denne høytiden, Arkansas-politiet utstedte en arrestordre til selskapet med krav om et lydopptak fra et Echo natten etter et angivelig drap .

Opprinnelig hevdet Amazon at både Alexa og enhetens brukere er like beskyttet under den første endringen, men kapitulerte til rettshåndhevelse tidligere denne måneden, til slutt overlevere de forespurte dataene. Jay Stanley , en senioranalytiker ved ACLU, kalte dette en 'gigantisk vekker.' Din ektefelle kan ikke tvinges til å vitne mot deg, men tilsynelatende kan din digitale assistent.

'Eksisterende lover som regulerer avlytting av talekommunikasjon er latterlig sammenfiltret og forvirret,' skriver Stanley i et blogginnlegg i januar . 'Og det er ikke klart om eller hvordan data registrert av enheter i hjemmet dekkes av dem.'

Amazon hevder at Echo er trygt. 'Vi tar personvern veldig seriøst hos Amazon, og utformingen av Echo var ikke annerledes,' sier Alexa-teamet i en uttalelse. «Innsamlingen og behandlingen av personopplysninger og all annen informasjon er underlagt Amazons personvernerklæring. Vi gir denne informasjonen til kundene før de registrerer enheten.'

Det er ingen registrering av Weizenbaum som kommenterer problemene som en stadig mer internett-tilkoblet verden presenterer, men han hadde noe å si om kraften til teknologi og personvern som er skrevet stort. «Forestillingen om at en personlig datamaskin vil sette deg fri er forferdelig,» Weizenbaum fortalte New York Times som svar på Apples berømte '1984'-reklame. «Annonsen ser ut til å si at løsningen på for mye teknologi er mer teknologi. Det er som å selge noen en pistol for å forsvare seg i tilfelle atomkrig.

Fremveksten av den digitale assistenten har vært rask, og virkeligheten til en virkelig nyttig en er så nær. Men er dette fremtiden vi ønsker oss?

Selv om de er adskilt med over fire tiår, deler Alexa og ELIZA fortsatt ett grunnleggende element: De er chatboter. Du legger inn noe og det gir et svar. Likevel kunne ikke visjonene til skaperne deres vært mer forskjellige.

Der Wiezenbaum så en grunn til bekymring for måten folk – raskt og uten betenkeligheter – utviklet et emosjonelt forhold til programmet hans, fant Amazon ut at det å utvikle en AI så uhyggelig og servil som mulig er nøkkelen til å inspirere til utbredt bruk av Echo. Weizenbaum var først og fremst bekymret for relasjonene som utvikler seg mellom en kunstig intelligens og dens bruker, mens dagens AI-eksperter er mer bekymret for det komplekse forholdet mellom teknologi, bruker og myndighetene de eksisterer under.

Simulert eller ikke, Alexa gir den uforlignelige tjenesten tilvære derfor mange som, desperat eller ikke, nyter det. Vi kan ha kommet frem til fremtiden til AI-assistenten, men det er ikke klart om de er her for å hjelpe oss.

For flere flotte Delfin-funksjoner, sjekk utarkivet vårt.