Silicon Valley konfronterer ideen om at "singulariteten" er her (2023)

I flere tiår forutså Silicon Valley øyeblikket da en ny teknologi ville komme og forandre alt. Det ville forene menneske og maskin, sannsynligvis til det bedre, men muligens til det verre, og splittet historien iførogetter.

Navnet på denne milepælen:Singulariteten.

Det kan skje på flere måter. En mulighet er at folk vil legge til en datamaskins prosessorkraft til sin egen medfødte intelligens, og bli superladede versjoner av seg selv. Eller kanskje datamaskiner ville bli så komplekse at de virkelig kunne tenke, og skape en global hjerne.

I begge tilfeller vil de resulterende endringene være drastiske, eksponentielle og irreversible. En selvbevisst overmenneskelig maskin kan designe sine egne forbedringer raskere enn noen gruppe forskere, og sette i gang en eksplosjon i intelligens. Århundrer med fremgang kan skje om år eller måneder. The Singularity er en sprettert inn i fremtiden.

Kunstig intelligenser rasende teknologi, business og politikk som ingenting i nyere minne. Lytt til de ekstravagante påstandene og ville påstandene som kommer fra Silicon Valley, og det ser ut til at det lenge lovede virtuelle paradiset endelig er for hånden.

Sundar Pichai, Googles vanligvis lavmælte administrerende direktør, kaller kunstig intelligens«mer dyptgripende enn brann eller elektrisiteteller noe vi har gjort tidligere.»Reid Hoffman, en milliardærinvestor, sier: "Kraften til å gjøre positive endringer i verden er i ferd med å få det største løft den noen gang har hatt." Og Microsofts medgründer Bill Gatesproklamerer A.I."vil endre måten folk jobber, lærer, reiser, får helsehjelp og kommuniserer med hverandre."

A.I. er Silicon Valleys ultimate nye produktutrulling: transcendens på forespørsel.

Men det er en mørk vri. Det er som om teknologiselskaper introduserte selvkjørende biler med forbeholdet at de kunne sprenge før du kom til Walmart.

"Ankomsten av kunstig generell intelligens kalles singulariteten fordi det er så vanskelig å forutsi hva som vil skje etter det," Elon Musk, som driver Twitter og Tesla,fortalte CNBC forrige måned. Han sa at han trodde "en tidsalder av overflod" ville resultere, men det var "en sjanse" for at det "ødelegger menneskeheten."

Den største heiagjengen for A.I. i teknologisamfunnet erSam Altman, administrerende direktør for OpenAI, oppstarten som førte til det nåværende vanviddet med ChatGPT-chatboten. Han sier A.I. vil være «den største kraften for økonomisk myndiggjøring ogmange mennesker blir rikevi noen gang har sett."

Men han sier også Mr. Musk,en kritiker av A.I. som også startet et selskapå utvikle hjerne-datamaskin-grensesnitt, kan være riktig.

Mr. Altman signerteet åpent brev forrige månedutgitt av Center for AI Safety, en ideell organisasjon, og sa at "redusere risikoen for utryddelse fra A.I. bør være en global prioritet" som er rett der oppe med "pandemier og atomkrig." Andre underskrivere inkluderte Mr. Altmans kolleger fra OpenAI og informatikere fra Microsoft og Google.

Apocalypse er kjent, til og med elsket territorium for Silicon Valley. For noen år siden så det ut til at hver teknisk leder hadde en fullt utstyrt apokalypsebunker et sted som var avsidesliggende, men tilgjengelig. I 2016 sa Altman at han samlet "våpen, gull, kaliumjodid, antibiotika, batterier, vann, gassmasker fra den israelske forsvarsstyrken og et stort landområde i Big Sur jeg kan fly til." Koronavirus-pandemien fikk tekniske preppere til å føle seg rettferdiggjort en stund.

Nå forbereder de seg på singulariteten.

"De liker å tro at de er fornuftige mennesker som kommer med kloke kommentarer, men de høres mer ut som munker i år 1000 som snakker om bortrykkelsen," sa Baldur Bjarnason, forfatter av "Etterretningsillusjonen", en kritisk undersøkelse av A.I. "Det er litt skremmende," sa han.

Røttene til transcendens

Singularitetens intellektuelle røtter går tilbake tilJohn von Neumann, en banebrytende dataforsker som på 1950-tallet snakket om hvordan «den stadig akselererende teknologiske fremskritt» ville gi «en vesentlig singularitet i rasens historie».

Irving John Good, en britisk matematiker som hjalp til med å dekodeTysk Enigma-enhetpå Bletchley Park under andre verdenskrig, var også en innflytelsesrik talsmann. "Menneskets overlevelse avhenger av den tidlige konstruksjonen av en ultraintelligent maskin,"skrev han i 1964. Regissøren Stanley Kubrick konsulterte Mr. Good om HAL, den godartede og ondsinnede datamaskinen i "2001: A Space Odyssey" - et tidlig eksempel på de porøse grensene mellom informatikk og science fiction.

Hans Moravec, en adjunkt ved Robotics Institute ved Carnegie Mellon University, mente A.I. ville være en velsignelse ikke bare for de levende: Også de døde ville bli gjenvunnet i Singulariteten. "Vi ville ha muligheten til å gjenskape fortiden og samhandle med den på en ekte og direkte måte," skrev han i "Mind Children: The Future of Robot and Human Intelligence."

De siste årene har gründeren og oppfinnerenRay Kurzweilhar vært den største mesteren av Singularity. Mr. Kurzweil skrev "The Age of Intelligent Machines" i 1990 og "The Singularity Is Near" i 2005, og skriver nå "The Singularity Is Nearer."

Ved slutten av tiåret forventer han at datamaskiner vil passereTuring-testenog være umulig å skille fra mennesker. Femten år etter det, beregner han, vil den sanne transcendensen komme: øyeblikket da "beregning vil være en del av oss selv, og vi vil øke intelligensen vår en million ganger."

For noen kritikere av singulariteten er det et intellektuelt tvilsomt forsøk på å gjenskape trossystemet til organisert religion i programvareriket.

"De ønsker alle evig liv uten ulempen ved å måtte tro på Gud," sa Rodney Brooks, den tidligere direktøren for Computer Science and Artificial Intelligence Laboratory ved Massachusetts Institute of Technology.

Innovasjonen som nærer dagens Singularity-debatt erstor språkmodell, typen A.I. system som driver chatbots. Start en samtale med en av disse L.L.M.-ene, og den kan spytte tilbake svar raskt, sammenhengende og ofte med en rimelig grad av belysning.

"Når du stiller et spørsmål, tolker disse modellene hva det betyr, bestemmer hva svaret skal bety, og oversetter det deretter tilbake til ord - hvis det ikke er en definisjon av generell intelligens, hva er det?" sa Jerry Kaplan, en mangeårig A.I. gründer og forfatter av "Kunstig intelligens: Hva alle trenger å vite."

Mr. Kaplan sa at han var skeptisk til slike høyt varslede underverker som selvkjørende biler og kryptovaluta. Han henvendte seg til den siste A.I. boom med samme tvil, men sa at han hadde blitt vunnet.

"Hvis dette ikke er 'singulariteten', er det absolutt en singularitet: et transformativt teknologisk skritt som i stor grad kommer til å akselerere en hel haug med kunst, vitenskap og menneskelig kunnskap - og skape noen problemer," sa han.

Kritikere motbeviser at selv de imponerende resultatene av L.L.M.s er langt unna den enorme, globale intelligensen som lenge er lovet av Singularity. Noe av problemet med å nøyaktig skille hype fra virkelighet er at motorene som driver denne teknologien blir skjult. OpenAI, som begynte som en ideell organisasjon ved bruk av åpen kildekode, er nå en for-profit-satsing som kritikere sier er faktisk en svart boks. Google og Microsoft tilbyr også begrenset synlighet.

Mye av A.I. Det gjøres forskning av selskapene med mye å tjene på resultatene. Forskere ved Microsoft, som investerte 13 milliarder dollar i OpenAI,publiserte en artikkel i aprilkonkluderer med at en foreløpig versjon avsiste OpenAI-modell"viser mange egenskaper av intelligens" inkludert "abstraksjon, forståelse, visjon, koding" og "forståelse av menneskelige motiver og følelser."

Rylan Schaeffer, en doktorgradsstudent i informatikk ved Stanford, sa noen A.I. forskere hadde malt et unøyaktig bilde av hvordan disse store språkmodellene viser «emergent abilities» – uforklarlige evner som ikke var tydelige imindre versjoner.

Sammen med to Stanford-kolleger, Brando Miranda og Sanmi Koyejo, undersøkte Schaeffer spørsmålet i enforskningsoppgavepublisert forrige måned og konkluderte med at nye egenskaper var "en luftspeiling" forårsaket av feil i måling. Faktisk ser forskerne det de vil se.

Evig liv, evig fortjeneste

I Washington, London og Brussel rører lovgivere til mulighetene og problemene til A.I. og begynner å snakke om regulering. Mr. Altman er på et roadshow og prøver å avlede tidlig kritikk og fremme OpenAI som singularitetens hyrde.

Dette inkluderer en åpenhet for regulering, men nøyaktig hvordan det vil se ut er uklart. Silicon Valley har generelt hatt den oppfatningen at regjeringen er for treg og dum til å overvåke hurtigbrytende teknologisk utvikling.

"Det er ingen i regjeringen som kan få det riktig," Eric Schmidt, Googles tidligere administrerende direktør,sai et intervju med «Meet the Press» forrige måned, der han argumenterte for A.I. selvregulering. "Men industrien kan omtrent få det riktig."

A.I., akkurat som Singulariteten, blir allerede beskrevet som irreversibel. "Å stoppe det ville kreve noe sånt som et globalt overvåkingsregime, og selv det er ikke garantert å fungere," Mr. Altman og noen av hans kollegerskrevforrige måned. Hvis Silicon Valley ikke klarer det, la de til, vil andre gjøre det.

Mindre diskutert er den enorme fortjenesten som kan oppnås ved å laste opp verden. Til tross for alt snakk om A.I. som en ubegrenset rikdomsgenererende maskin, er folk som blir rike stort sett de som allerede er rike.

Microsoft har sett markedsverdien sin øke med en halv billion dollar i år. Nvidia, en produsent av sjetonger som kjører A.I. systemer, ble nylig et av de mest verdifulle offentlige amerikanske selskapene da det sa at etterspørselen etter disse sjetongene haddeskutt i været.

«A.I. er teknologien verden alltid har ønsket seg, tvitret Altman.

Det er absolutt teknologien som teknologiverdenen alltid har ønsket seg, og kommer på det absolutt best mulige tidspunktet. I fjor var Silicon Valleyraser etter permitteringerog stigende renter. Crypto, den forrige boomen, var innblandet i svindel ogskuffelse.

Følg pengene, sa Charles Stross, en medforfatter av romanen «The Rapture of the Nerds», en komisk versjon av Singularity, samt forfatteren av «Accelerando», et mer seriøst forsøk på å beskrive hva livet snart kan være som.

"Det virkelige løftet her er at selskaper vil være i stand til å erstatte mange av sine feilaktige, dyre, langsomme, menneskelige informasjonsbehandlingsunderenheter med programvarebiter, og dermed øke hastigheten og redusere kostnadene," sa han.

Singulariteten har lenge vært forestilt som en kosmisk begivenhet, bokstavelig talt oppsiktsvekkende. Og det kan det fortsatt være.

Men det kan først og fremst manifestere seg – delvis takket være bunnlinjen besettelse av dagens Silicon Valley – som et verktøy for å kutte bedriftens Amerikas antall ansatte. Når du sprint for å legge til billioner til markedsverdien din, kan himmelen vente.