Fra videnskabelig forskning til Isaac Asimovs scenarier omformer AI den måde, vi fortolker nutiden og forestiller os fremtiden på.

"Multivacs liv og tider" (“Multivacs liv og tider”) er en novelle af Isaac Asimov udgivet den 5. januar 1975 New York Times MagazineIfølge forfatteren var det den første science fiction-historie nogensinde bestilt og udgivet af NYT Magazine. I Italien blev den udgivet den 18. december 1977 i Mondadori Editores Urania-magasin, nummer 738, i Bicentennial Anthology nummer 2. Forfatteren var dengang i den interessante alder af 13 år: hans hjerne stadig udstyret med barndommens plasticitet, gennemkrydset af præpubertets vilde bølger.
Historien er godt konstrueret til at dykke dybt ned i sådan en hjerne: en postapokalyptisk menneskehed reduceret til 5 millioner individer spredt over planeten Jorden, en supercomputer, multivac, som overvåger alt, styrer alle aspekter af menneskelivet og holder dem i en kvælende digital vatpind.
Længslen efter frihed, efter at finde sin uafhængighed, efter at give mening til sit liv, fører Menneskerådet til et virtuelt møde, som vi i dag ville kalde et "opkald", for at stille hovedpersonen for retten, skyldig i at have vidnet mod et andet menneske, der nytteløst havde beskadiget en af adgangene til multivac.
Men da dommen om definitiv isolation fra alle andre mennesker på planeten skal afsiges, kommer der et "Asimov-agtigt" twist: Hovedpersonen, den halvfemsårige, men stadig ungdommelige Ronald Baskt, hvis tilbøjelighed til matematiske spil gradvist var blevet anset for mere og mere ubrugelig af hans tidligere venner, afslører, at han topologisk har beregnet eksistensen og placeringen af den eneste node i det enorme og komplekse netværk af ... multivac i stand til definitivt at kortslutte den.
Og han gør det, foran sine forbløffede anklagere: han slukker multivac, som aldrig kan genaktiveres. Så, konfronteret med andres tavse bestyrtelse, stiller han det spørgsmål, der er historiens kerne.
„Du talte om frihed,“ sagde Baskt skarpt. „Nu har du den!“ Så tilføjede han med usikker tone: „Er det ikke det, du ønskede dig?“
Science fiction-forudsigelser, både præcise og forkerte.
Enhver, der ligesom mig er en "gammel" science fiction-læser, er altid forbløffet over evnen hos den "gode læge", det øgenavn, der ofte bruges til at henvise til Isaac Asimov, for at foregribe problemer, der i de senere år er blevet stadig mere presserende, et halvt århundrede i forvejen.
Det faktum, at forfatteren ikke havde forudset eksistensen af internettet og personlige digitale enheder, ændrer ikke historiens effektivitet det mindste; kompleksiteten af det netværk, der danner multivac Det repræsenterer perfekt nutidens ekstremt indviklede netværk, som vi mere eller mindre er fanger af, i omvendt forhold til vores uvidenhed om, hvordan dette netværk fungerer.
De hjælpsomme robotter, der var karakteristiske for den dengang forudsete fremtid, er blevet de utallige enhed som vi er udstyret med i dag, fra den nu næsten forældede smartphone til stadig mindre og ofte endda let invasive bærbare enheder. Og angsten for beskyttelse, den overdrevne iver efter multivac Minder det ikke om den irriterende, ofte slaveagtige, bekymring, som nutidens LLM'er stiller, når det gælder om at beskytte menneskeheden? Alt dette, mens den kvælende kontrol har en bemærkelsesværdig lighed med stadig mere personlig reklame, nogle gange på en virkelig foruroligende måde, som jeg for nylig har oplevet. For ikke at nævne vores længsel efter frihed, som straks bliver til panik, når vi rent faktisk opnår den.
Men science fiction er ikke en litterær genre, der søger at forudsige fremtiden. I virkeligheden er det den perfekte arvtager til eventyret, som det forstås. JRR Tolkien i sit essay af samme navn i bogen "Træ og blad", med dens evne til at analysere virkeligheden gennem det mest kraftfulde værktøj, vi har: fantasien.
Videnskabens opdagelser og fantasiens rolle
Science og science fiction betragtes ofte som en dikotomi:
"Dette er videnskab, ikke science fiction."
Det var, hvad der stod i en reklame for et par år siden. Derved glemmer vi dog oprindelsen af begrebet science fiction: fantastisk videnskab, eller endnu bedre, spekulativ videnskab.
Og vi glemmer, at selv videnskab, trods sin karakteristiske metodiske strenghed, er baseret på vores evne til fantasi. Albert Einstein, faderen til relativitetsteorien, forbandt ofte videnskabeligt arbejde med intuition, fantasi og et pludseligt skift i perspektiv. Disse elementer er grundlaget for mange af de største videnskabelige opdagelser i historien.
Mens videnskaben naturligvis har pligt til først at omdanne intuitioner til falsificerbare eller beviselige hypoteser og derefter til mere eller mindre sammenhængende teorier, der kan verificeres ved eksperimenter, har science fiction magten til at skubbe spekulationer meget længere. Og det er ikke tilfældigt, at mange forskere, for eksempel på MIT, som professor Bruno Coppi, som jeg samarbejdede med i et par år om kommunikation relateret til hans Ignitor-projekt for nuklear fusion, er passionerede læsere, men ofte også science fiction-forfattere.
Vi har også et glimrende eksempel på dette i Italien, selvom det ikke er det eneste: Marco Casolino, fysiker, forskningsleder ved INFN-sektionen på Rom Tor Vergata, professor ved Institut for Fysik på Roms Universitet Tor Vergata, fremragende videnskabsformidler og lige så fremragende science fiction-forfatter.

Virkelighed, fantasi og deres forskelle
De, der ved lidt og har læst lidt god science fiction, betragter det sommetider som en mindre genre for nørdede børn, der "undslipper virkeligheden". Det er interessant at bemærke, at det samme Tolkien, som mange betragter som grundlæggeren af moderne fantasy, men som jeg “simpelthen” betragter som en af de største episke forfattere i det tyvende århundrede, afviste en meget lignende indvending vedrørende mytologi.
I det førnævnte essay "Om eventyr", angående den kunstige forbindelse mellem eventyr og børn, og forvirringen mellem virkelighed og fantasi, siger han:
"Jeg havde ingen særlig barnlig 'lyst til at tro'. Jeg ville vide det. Troen afhang af den måde, historierne blev præsenteret for mig på, af ældre mennesker, af forfatterne, eller af tonen og kvaliteten i fortællingen. Men jeg kan ikke huske, at den glæde, en historie gav mig, på noget tidspunkt afhang af, om jeg troede, at begivenheder af den slags kunne finde sted, eller havde fundet sted, i 'det virkelige liv'."
Intet kan irritere en science fiction-fan mere end at føle sig forbundet med for eksempel dem, der ukritisk tror på eksistensen af UFO'er som fremmede rumskibe. I virkeligheden er en god del af dem, der værdsætter science fiction, også passionerede videnskabsentusiaster. Det er ikke tilfældigt, at i Kina, staten med den hurtigste videnskabelige og teknologiske vækst i verden i dag, bør regeringen kraftigt fremme denne form for skrivning og læsning, da den er i stand til
"åbner unge sind".
Den nuværende kontrovers mod AI
For at vende tilbage til hovedemnet i denne lederartikel, er der betydelig og berettiget bekymring over de potentielt negative konsekvenser af den overdrevne brug af den nuværende generative kunstige intelligens: inden for de kreative og kunstneriske områder, i erhvervslivet, i masseovervågning og i våben. Disse emner er ikke uafhængige af hinanden: problemerne eksisterer og er lige så betydelige som de muligheder, de åbner op.
For bedre at forstå både udfordringerne og mulighederne, lad os tage et skridt tilbage. Når vi taler om kunstig intelligens, taler vi faktisk om en række ret forskellige evner, der er forenet af en fælles faktor: AI er i stand til at "programmere sig selv" og imitere bestemte hjernefunktioner – selvom vi er ret sikre på, at dyreintelligens ikke fungerer præcis sådan. I dag er de mest omtalte AI'er LLMStore sprogmodeller: Disse er de udvidede sprogmodeller, også defineret som generativ AI, da de er i stand til at generere tekster, billeder, lyd, videoer og musik i henhold til vores instruktioner.
En LLM simulerer matematisk, baseret på statistiske funktioner, funktionen af menneskelig sprogbehandling, hvilket faktisk er et af de vigtigste karakteristika, der adskiller vores art fra andre. Det kræver ikke forståelse af den virkelige betydning af termer; det fungerer lidt ligesom det "kinesiske rum" af John Searle, som vi allerede har talt om i denne artikelMen det gør dem ikke mindre interessante.

Hvorfor kunstig intelligens eksploderede
Når jeg viser filmen i mine timer "Skjulte figurer" (“Skjulte Figurer”), hvor en af hovedpersonerne forklarer, at IBM 7090-computeren, som NASA købte i 1961 for at hjælpe dem med at beregne missilbaner, beregner
"så mange som 24.000 operationer i sekundet",
Jeg stopper afspilningen i et par minutter og viser denne simple tabel:
- 1959: IBM 7090 – 24 kiloflops, eller 24.000 flops, flydende kommaoperationer pr. sekund
- 2018: iPhone XS Max – 410 gigaflops eller 410 milliarder flops
- 2023: iPhone 15 – 1,8 teraflops eller 1.800 milliarder flops
- 2024: iPhone 16 Pro – 2,4 teraflops eller 2.400 milliarder flops
- 2024: Apple M3 – 4 teraflops eller 4.000 milliarder flops
- 2025: Apple M4 Ultra – 27 teraflops eller 27.000 milliarder flops
Efterfulgt af dette:
- 410 milliarder flops / 24.000 = 17.083.333,333 eller 17 millioner gange hurtigere
- 1.800 milliarder flops / 24.000 = 75.000.000 eller 75 millioner gange hurtigere
- 2.400 milliarder flops / 24.000 = 100.000.000 eller 100 millioner gange hurtigere
- 4.000 milliarder flops / 24.000 = 166.666.666,667 eller 166 millioner gange hurtigere
- 27.000 milliarder flops / 24.000 = 1.125.000.000 eller 1.125 millioner gange hurtigere
Så forklarer jeg de forbløffede studerende, i hvert fald dem, der er interesserede i problemstillingen, at de nuværende supercomputere har nået og overskredet en milliard milliard operationer i sekundet, det vil sige tærsklen exaskala, og at hvis vi havde rumskibe, der var proportionalt hurtigere end dem fra 60'erne, og hvis der ikke var nogen fysisk grænse for lysets hastighed i det tomme rum, ville vi ikke rejse mellem stjerner, men mellem galakser.
Vi har faktisk opnået computerhastigheder, der ville have virket umulige for bare få år siden. Og dette er en af de faktorer, der har gjort det muligt for LLM'er at opnå deres nuværende effektivitet.
Så det er bare et spørgsmål om råstyrke?
Absolut ikke.
Videnskabelig forskning i AI har stået på i lang tid, og det er her, ChatGPT kommer til nytte:
"Forskning i kunstig intelligens har omkring 70 år af historien.
Udtrykket "kunstig intelligens" Det blev præget i 1956 i løbet af Dartmouth-værkstedet, en konference arrangeret af John McCarthy, Marvin Minsky, Nathaniel Rochester og Claude ShannonDet teoretiske grundlag for AI går dog tilbage til før denne dato:
- 40'erne og 50'ernede første undersøgelser af kunstige neuroner, med McCulloch og Pitts i 1943, og ideen om tænkende maskiner med Alan Turing og hans Turing-test i 1950
- 60'erne og 70'erneudvikling af de første ekspertsystemer og symbolsk intelligens
- 80'erne og 90'erne: neuralt netværksretur takket være algoritmen fra tilbageudbredelse
- 2000'erne og i dag: udvidelse af dyb læring, med stadig mere sofistikerede modeller takket være moderne computerkraft
Så vi kan sige, at AI-forskning har dybe rødder og har udviklet sig i løbet af ca. syv årtier".
Især i de senere år har udviklingen og open source-spredningen af arkitekturen Transformer af Google i 2017, tilgængeligheden af enorme mængder tekst takket være internettet, udviklingen af træningsteknikker takket være algoritmen for tilbageudbredelse, modeloptimering og store investeringer i felten har ført til den nuværende situation.
For at dykke dybere ned i disse emner på en populær, men dybdegående måde, kan jeg varmt anbefale det gratis kursus. "Eksplosionen af kunstig intelligens", afholdt online af professorer fra Urbino Universitet.

Men hvor intelligente er disse AI'er egentlig?
Lad os først og fremmest glemme, i hvert fald i flere år, HAL fra “2001”, Skynet fra “Terminator”, maskinerne fra “Matrix” eller de forskellige versioner af multivacDet er lidt trist at sige for en science fiction-fan, men som tingene ser ud nu, er vi langt fra den "tænkemaskine", som den er blevet præsenteret indtil videre, hvilket måske kan være betryggende for mange.
Jeg vil tilføje, at science fiction har flere fordele, men også nogle fejl.
Blandt dens fordele er helt sikkert, at den har forudset mange af de etiske spørgsmål, vi allerede står over for i dag, og på nogle måder har forberedt os på, hvad der venter os i den nærmeste fremtid. Den har også vænnet os til tanken om, at vi før eller siden ville blive nødt til at håndtere intelligenser, der er "forskellige" fra vores egne, hvilket faktisk sker.
Lad os komme til at give skylden.
Overforenklingen, med behørige undtagelser naturligvis, af mange science fiction-historier vedrørendekunstig intelligens Den har vænnet os til den forkerte ligning intelligens = bevidsthed.
Vi har længe vidst, at dette ikke er tilfældet: lad os tænke på mange dyreadfærdsmønstre, startende med insekter organiseret i kolonier, såsom myretuer og termitbunker, som har bemærkelsesværdige evner til problemløsningIngen er overbevist om, at en termithøj kan være bevidst om sig selv.
Ifølge de nyeste neurologiske studier er der ingen sammenhæng mellem årvågenhed og opmærksomhed.
Endelig har megen science fiction skabt udbredt paranoia omkring AI, som generelt, så snart den "vågner op", mere eller mindre bevidst beslutter sig for at kontrollere eller udrydde os. Det er præcis, hvad de fleste mennesker frygter.
Men dagens problemer er helt anderledes, ud over nogle ofte noget overdrevne udtalelser fra den brede presse eller fra administrerende direktører, der er overdrevent interesserede i at rejse finansiering.
Mellem bias og hallucinationer, matematik og overraskelser
Tilbage til konceptet med udvidet sprogmodel, eller LLM, som i øjeblikket er den type AI, der fanger offentlighedens fantasi mest, er det objektivt set også den, hvor de største økonomiske investeringer foretages, sammen med de andre såkaldte fundamentsmodelleren fundament modeller, som omfatter multimodale, der er i stand til at generere både tekst og billeder, lyd og video, dem der er specialiserede i billeder og dem med optimeret læring, eller få-skuds læring.
Dette førte i første omgang til en række hændelser og misforståelser, såsom en Google-ingeniørs tro på, at han havde at gøre med et følende væsen, eller modeller, der måtte lukkes ned kort efter offentliggørelsen, fordi de havde "absorberet" de værste bias fra interaktioner med ubehagelige brugere.
Siden udgivelsen af ChatGPT 3.5 i november 2022 er emnet AI blevet "masse"-nyheder, men frem for alt har det udløst et kapløb blandt Big Tech-virksomheder, med én undtagelse, Apple, som tilsyneladende følger sin egen vej, som aldrig før set, med milliardinvesteringer og en række mere eller mindre fornuftige udtalelser fra deres respektive administrerende direktører.

Emergente evner og AGI-hallucinationer
I fysikken findes der fænomener kaldet "faseovergange". Det enkleste eksempel er vand, som under en bestemt temperatur bliver til is, mens det over en bestemt temperatur bliver til damp.
Faseovergange er vigtige og forekommer selv i fænomener, der ikke er strengt fysiske. I tilfældet med LLM'er diskuterer en videnskabelig artikel offentliggjort på arXiv.org i august 2022 emergente fænomener: uforudsigelige AI-kapaciteter på de samme systemer i mindre skala, som pludselig viser sig at være ud over et vist niveau af kompleksitet. Faseovergange, ja.
Kompleksiteten af en LLM måles ud fra tre faktorer: antallet af parametre, mængden af behandling og størrelsen af træningsdatasættet. Nogle har længe troet, at stigende kompleksitet og computerkraft ville føre til en faseovergang svarende til det, fysikken kalder en "singularitet", et pludseligt skift fra AI til AGI (Kunstig Generel Intelligens), der er mere kraftfuld end det menneskelige sind og i stand til eksponentiel vækst ved at modificere og forbedre sig selv. Men dette er ikke sket, og i dag mener mange forskere, at vi endnu ikke er på rette vej mod AGI, fordi de nuværende algoritmer er for begrænsede.
Mekanisk apopheni og arkitekturen af den nuværende AI
Apopheni, et udtryk opfundet af den tyske neurolog og psykiater Klaus Konrad I 1958 var det den menneskelige tendens til at opfatte meningsfulde forbindelser mellem uafhængige fænomener. For eksempel er pareidolia en form for apopheni, der får os til at genkende ansigter eller former, hvor de faktisk ikke eksisterer.
Det er derfor en kognitiv bias, eller en form for forvrængning af virkeligheden, som dog i mange tilfælde kan vise sig nyttig i den kreative fase, hvis den kontrolleres af kritisk tænkning. Ellers kan det føre til fuldstændig irrationelle og urealistiske overbevisninger og overbevisninger.
Og i et system, der simulerer vores udførlige sprog, men mangler enhver erfaring med verden og en effektiv forståelse af betydningen af begreber, omsættes apopheni til en grundlæggende funktionel defekt i nuværende algoritmer, som kan kontrolleres og begrænses til en vis grad, men aldrig helt elimineres: hallucinationer.

Fra apopheni til epistæmi
Og her kommer vi til et afgørende punkt: i dag findes der en neologisme opfundet af Walter Quattrociocchi, professor ved Institut for Datalogi på Sapienza Universitet i Rom. Han er "epistemi", det vil sige
"den komfortable illusion af viden produceret ved at interagere med den generative AI i store sprogmodeller (LLM'er), hvor den simulative plausibilitet af flydende tale og narrativ sammenhæng erstatter kognitiv effektivitet og datapålidelighed."
Dette er ifølge Treccani-leksikonet.
Fænomenet er baseret på hjernens velkendte tendens til at projicere menneskelige egenskaber på komplekse systemer, såsom dyr.
Udtrykket epistemisk beskriver, hvordan den narrative sammenhæng, plausibilitet og flydende karakter i nutidens generative AI'er får en stor del af mennesker til at forveksle plausible og velstrukturerede svar med sandfærdige og fuldstændig pålidelige svar. Epistemik fører til den kognitive illusion, der allerede er beskrevet af den såkaldte "ekkoeffekt". Dunning-Kruger, hvor mindre kompetente personer overvurderer deres forberedelse i specifikke sektorer.
En overbevisende og måske endda velskrevet, men altid populær og derfor ekstremt forenklet, forklaring fra ChatGPT om kvantemekanikkens konceptuelle grundlag får os således til at tro, at vi er i stand til at diskutere den på lige fod med en forsker fra National Institute for Nuclear Physics.
Traditionelle kriterier for validering af kilder, der allerede undermineres af offentlighedens mangel på videnskabelig viden, såsom peer review, fagfællebedømmelse og akademiske institutioner, mister yderligere deres autoritet sammenlignet med udbredt statistisk viden, i hvert fald i ikke-eksperters øjne.
Fra de falske problemer med AI
I lyset af det, vi har udforsket i denne artikel, kan vi med sikkerhed konkludere, at kunstig generel intelligens, der er i stand til autonom ræsonnement og selvudvikling, og kunstig bevidsthed stadig er ret fjerne mål. Hvad angår førstnævnte, står vi over for de iboende begrænsninger ved nuværende maskiner: probabilistisk tilgang, hallucinationer, manglende forståelse af mening og mangel på erfaring.
Hvad angår det andet, har vi endnu ikke en universelt accepteret videnskabelig teori om bevidsthed, og derfor har vi ikke en præcis idé om de principper, ifølge hvilke et kunstigt objekt, uanset hvor komplekst det er, kan efterligne det. Dette er i hvert fald forfatterens mening, baseret på mange års interesse og forskning, herunder af kunstneriske årsager, og i lyset af talrige diskussioner med eksperter på området.
Forresten, enhver der er interesseret i den historie, som romanen er baseret på "Montecristo-projektet", som diskuterer kunstig bevidsthed fra intetanende tider – 1993 for novellen, 2010-2024 for romanen – kan give et interessant eksempel på et originalt perspektiv på emnet. Novellen er tilgængelig online på italiensk og engelsk: Baby.
...til de virkelige problemer med AI
Denne artikel har på ingen måde til hensigt at undervurdere kraften i de nuværende systemer eller deres evne til at påvirke vores liv. Men de virkelige problemer forbliver godt skjult under marketingens masker og misforståelser om forenkling.
I dag har vi systemer, der er i stand til at finde korrelationer og forbindelser, som ellers ville undgå vores analyse; ekstremt kraftfulde og utrættelige systemer, som kan udnyttes til ædle og mindre ædle formål. Og hvad kunne være den ældste og mest radikale fristelse, som disse systemer vil stimulere hos nogle af os? Kontrol, magt.
AI bruges i stigende grad i krigsførelse, ikke kun til at udstyre våben – en meget alvorlig sag – med autonome beslutningstagningskapaciteter i tilfælde af kommunikationssvigt, men frem for alt til at kontrollere slagmarken. Kombinationen af AI, satellitter og droner er ved at blive den nye grænse, hvilket gør mange af de militære taktikker, der blev brugt indtil for blot få år siden, forældede.
Generative AI-systemer er i stigende grad i stand til at skabe plausibel kommunikation, der er ekstremt vanskelig at skelne fra nyheder og data baseret på autoritative kilder. Desuden er de langt mere vanedannende end sociale mediealgoritmer, som i øjeblikket begrænses af lovgivning et årti senere, mens LLM-systemernes evne vokser for hurtigt, ifølge forskerne selv.
I mellemtiden taler et stort antal teenagere mere via ChatGPT og lignende systemer end med nogen ven eller voksen.

Nuværende og fremtidig anvendelse: hvem vil være ansvarlig?
I USA er der en voksende tankebevægelse, der mener, at man kan bruge AI uden for mange skrupler til at påvirke, vejlede og styre hele Vesten, et projekt der åbent erklæres i den seneste bog skrevet af administrerende direktør for Palantir, Alexander Karp, "Den Teknologiske Republik: Hård Magt, Blød Tro og Vestens Fremtid", på italiensk “Den Teknologiske Republik: Hård Magt, Blød Tro og Vestens Fremtid”.
Palantir Det er et firma, hvis navn er inspireret af Tolkien, men fuldstændig forvrænger dets sande betydning: "synsstenene" var i slutningen af den tredje tidsalder i Midgård faktisk ikke blevet en måde at afsløre sandheden på, men et system til tankekontrol af deres brugere af den mørke herre Sauron.
Derudover modeller specialiseret i vibe kodning Kom Claude di Antropisk, der er i stand til at oprette og analysere computerkode i ethvert kendt programmeringssprog, når effektivitetsniveauer, der er virkelig bekymrende. Tilsyneladende er Claudes seneste model, kaldet Mythos, var i stand til hurtigt at finde alvorlige sårbarheder i operativsystemer som Linux, der driver størstedelen af de servere, der kører internettet, store systemer i banker, lufthavne og andre følsomme funktioner, og i browsere som Firefox. Sårbarheder, der aldrig var blevet identificeret selv af hackermiljøet.
Indtil videre er Claude Mythos kun blevet frigivet til et par store virksomheder for at give dem tid til at udvikle de relevante programrettelser og håndtere disse cybersikkerhedsproblemer. Men når den først er i hænderne på cyberkriminelle organisationer, kan vi så være sikre på, at alle følsomme systemer – banker, hospitaler, ministerier og andre – vil være i stand til at opdatere i tide?
Det er disse emner, vi vil udforske i de næste artikler, og som bør få os alle og vores regeringer til at reflektere.
Apertus er den schweiziske open source AI, der udfordrer globale giganter
Yankee robot Atlas som en perfekt tømrerassistent
Michael von Liechtenstein om geopolitik og kunstig intelligens
Humanoide robotter og fysisk AI: Sådan ændrer BMW Group-fabrikken sig
Her er tre indsigter, som måske interesserer dig
LaMDA, Google og en lommelærers dyder
Fra drømme til virkelighed: Science fiction-forhåndsvisninger
Kunstig intelligens og den moderne tids globale etik



