Geotags:

KinaAmerikas Forenede Stater

"Multivacs liv og tider" og moderne kunstig intelligens

Fra videnskabelig forskning til Isaac Asimovs scenarier omformer AI den måde, vi fortolker nutiden og forestiller os fremtiden på.

Isaac Asimov og forholdet mellem science fiction, Multivac og kunstig intelligens
Isaac Asimov, en af ​​de mest berømte science fiction-forfattere nogensinde, forudså i sine skrifter mange af de problemer, vi står over for i dag på grund af fremkomsten af ​​kunstig intelligens.

"Multivacs liv og tider" (“Multivacs liv og tider”) er en novelle af Isaac Asimov udgivet den 5. januar 1975 New York Times MagazineIfølge forfatteren var det den første science fiction-historie nogensinde bestilt og udgivet af NYT Magazine. I Italien blev den udgivet den 18. december 1977 i Mondadori Editores Urania-magasin, nummer 738, i Bicentennial Anthology nummer 2. Forfatteren var dengang i den interessante alder af 13 år: hans hjerne stadig udstyret med barndommens plasticitet, gennemkrydset af præpubertets vilde bølger.

Historien er godt konstrueret til at dykke dybt ned i sådan en hjerne: en postapokalyptisk menneskehed reduceret til 5 millioner individer spredt over planeten Jorden, en supercomputer, multivac, som overvåger alt, styrer alle aspekter af menneskelivet og holder dem i en kvælende digital vatpind.

Længslen efter frihed, efter at finde sin uafhængighed, efter at give mening til sit liv, fører Menneskerådet til et virtuelt møde, som vi i dag ville kalde et "opkald", for at stille hovedpersonen for retten, skyldig i at have vidnet mod et andet menneske, der nytteløst havde beskadiget en af ​​adgangene til multivac.

Men da dommen om definitiv isolation fra alle andre mennesker på planeten skal afsiges, kommer der et "Asimov-agtigt" twist: Hovedpersonen, den halvfemsårige, men stadig ungdommelige Ronald Baskt, hvis tilbøjelighed til matematiske spil gradvist var blevet anset for mere og mere ubrugelig af hans tidligere venner, afslører, at han topologisk har beregnet eksistensen og placeringen af ​​den eneste node i det enorme og komplekse netværk af ... multivac i stand til definitivt at kortslutte den.

Og han gør det, foran sine forbløffede anklagere: han slukker multivac, som aldrig kan genaktiveres. Så, konfronteret med andres tavse bestyrtelse, stiller han det spørgsmål, der er historiens kerne.

„Du talte om frihed,“ sagde Baskt skarpt. „Nu har du den!“ Så tilføjede han med usikker tone: „Er det ikke det, du ønskede dig?“

Science fiction-forudsigelser, både præcise og forkerte.

Enhver, der ligesom mig er en "gammel" science fiction-læser, er altid forbløffet over evnen hos den "gode læge", det øgenavn, der ofte bruges til at henvise til Isaac Asimov, for at foregribe problemer, der i de senere år er blevet stadig mere presserende, et halvt århundrede i forvejen.

Det faktum, at forfatteren ikke havde forudset eksistensen af ​​internettet og personlige digitale enheder, ændrer ikke historiens effektivitet det mindste; kompleksiteten af ​​det netværk, der danner multivac Det repræsenterer perfekt nutidens ekstremt indviklede netværk, som vi mere eller mindre er fanger af, i omvendt forhold til vores uvidenhed om, hvordan dette netværk fungerer.

De hjælpsomme robotter, der var karakteristiske for den dengang forudsete fremtid, er blevet de utallige enhed som vi er udstyret med i dag, fra den nu næsten forældede smartphone til stadig mindre og ofte endda let invasive bærbare enheder. Og angsten for beskyttelse, den overdrevne iver efter multivac Minder det ikke om den irriterende, ofte slaveagtige, bekymring, som nutidens LLM'er stiller, når det gælder om at beskytte menneskeheden? Alt dette, mens den kvælende kontrol har en bemærkelsesværdig lighed med stadig mere personlig reklame, nogle gange på en virkelig foruroligende måde, som jeg for nylig har oplevet. For ikke at nævne vores længsel efter frihed, som straks bliver til panik, når vi rent faktisk opnår den.

Men science fiction er ikke en litterær genre, der søger at forudsige fremtiden. I virkeligheden er det den perfekte arvtager til eventyret, som det forstås. JRR Tolkien i sit essay af samme navn i bogen "Træ og blad", med dens evne til at analysere virkeligheden gennem det mest kraftfulde værktøj, vi har: fantasien.

Videnskabens opdagelser og fantasiens rolle

Science og science fiction betragtes ofte som en dikotomi:

"Dette er videnskab, ikke science fiction."

Det var, hvad der stod i en reklame for et par år siden. Derved glemmer vi dog oprindelsen af ​​begrebet science fiction: fantastisk videnskab, eller endnu bedre, spekulativ videnskab.

Og vi glemmer, at selv videnskab, trods sin karakteristiske metodiske strenghed, er baseret på vores evne til fantasi. Albert Einstein, faderen til relativitetsteorien, forbandt ofte videnskabeligt arbejde med intuition, fantasi og et pludseligt skift i perspektiv. Disse elementer er grundlaget for mange af de største videnskabelige opdagelser i historien.

Mens videnskaben naturligvis har pligt til først at omdanne intuitioner til falsificerbare eller beviselige hypoteser og derefter til mere eller mindre sammenhængende teorier, der kan verificeres ved eksperimenter, har science fiction magten til at skubbe spekulationer meget længere. Og det er ikke tilfældigt, at mange forskere, for eksempel på MIT, som professor Bruno Coppi, som jeg samarbejdede med i et par år om kommunikation relateret til hans Ignitor-projekt for nuklear fusion, er passionerede læsere, men ofte også science fiction-forfattere.

Vi har også et glimrende eksempel på dette i Italien, selvom det ikke er det eneste: Marco Casolino, fysiker, forskningsleder ved INFN-sektionen på Rom Tor Vergata, professor ved Institut for Fysik på Roms Universitet Tor Vergata, fremragende videnskabsformidler og lige så fremragende science fiction-forfatter.

MIT Boston og forholdet mellem videnskabelig forskning, innovation og science fiction
MIT, Massachusetts Institute of Technology, i Boston, der universelt betragtes som et af de vigtigste og mest avancerede universitetsforskningscentre i verden, er et godt eksempel på, hvordan mødet mellem videnskab og god science fiction kan føre til positive resultater.

Virkelighed, fantasi og deres forskelle

De, der ved lidt og har læst lidt god science fiction, betragter det sommetider som en mindre genre for nørdede børn, der "undslipper virkeligheden". Det er interessant at bemærke, at det samme Tolkien, som mange betragter som grundlæggeren af ​​moderne fantasy, men som jeg “simpelthen” betragter som en af ​​de største episke forfattere i det tyvende århundrede, afviste en meget lignende indvending vedrørende mytologi.

I det førnævnte essay "Om eventyr", angående den kunstige forbindelse mellem eventyr og børn, og forvirringen mellem virkelighed og fantasi, siger han:

"Jeg havde ingen særlig barnlig 'lyst til at tro'. Jeg ville vide det. Troen afhang af den måde, historierne blev præsenteret for mig på, af ældre mennesker, af forfatterne, eller af tonen og kvaliteten i fortællingen. Men jeg kan ikke huske, at den glæde, en historie gav mig, på noget tidspunkt afhang af, om jeg troede, at begivenheder af den slags kunne finde sted, eller havde fundet sted, i 'det virkelige liv'."

Intet kan irritere en science fiction-fan mere end at føle sig forbundet med for eksempel dem, der ukritisk tror på eksistensen af ​​UFO'er som fremmede rumskibe. I virkeligheden er en god del af dem, der værdsætter science fiction, også passionerede videnskabsentusiaster. Det er ikke tilfældigt, at i Kina, staten med den hurtigste videnskabelige og teknologiske vækst i verden i dag, bør regeringen kraftigt fremme denne form for skrivning og læsning, da den er i stand til

"åbner unge sind".

Den nuværende kontrovers mod AI

For at vende tilbage til hovedemnet i denne lederartikel, er der betydelig og berettiget bekymring over de potentielt negative konsekvenser af den overdrevne brug af den nuværende generative kunstige intelligens: inden for de kreative og kunstneriske områder, i erhvervslivet, i masseovervågning og i våben. Disse emner er ikke uafhængige af hinanden: problemerne eksisterer og er lige så betydelige som de muligheder, de åbner op.

For bedre at forstå både udfordringerne og mulighederne, lad os tage et skridt tilbage. Når vi taler om kunstig intelligens, taler vi faktisk om en række ret forskellige evner, der er forenet af en fælles faktor: AI er i stand til at "programmere sig selv" og imitere bestemte hjernefunktioner – selvom vi er ret sikre på, at dyreintelligens ikke fungerer præcis sådan. I dag er de mest omtalte AI'er LLMStore sprogmodeller: Disse er de udvidede sprogmodeller, også defineret som generativ AI, da de er i stand til at generere tekster, billeder, lyd, videoer og musik i henhold til vores instruktioner.

En LLM simulerer matematisk, baseret på statistiske funktioner, funktionen af ​​menneskelig sprogbehandling, hvilket faktisk er et af de vigtigste karakteristika, der adskiller vores art fra andre. Det kræver ikke forståelse af den virkelige betydning af termer; det fungerer lidt ligesom det "kinesiske rum" af John Searle, som vi allerede har talt om i denne artikelMen det gør dem ikke mindre interessante.

Graf over computervækst og Moores lov
Væksten i computerkraft fra 1900 til i dag: grafen er semi-logaritmisk, så "lige" vækst betyder eksponentiel vækst; hvert punkt på X-aksen er en multiplikation med 100, hvilket er grunden til, at vi i slutningen af ​​repræsentationen har en vækst på en faktor 10 milliarder milliarder: illustrationen, der refererer til "Moores lov", ifølge hvilken processorers processorkraft fordobles hvert 1. eller 2. år, blev udviklet af Ray Kurzweil og opdateres konstant af andre forskere.

Hvorfor kunstig intelligens eksploderede

Når jeg viser filmen i mine timer "Skjulte figurer" (“Skjulte Figurer”), hvor en af ​​hovedpersonerne forklarer, at IBM 7090-computeren, som NASA købte i 1961 for at hjælpe dem med at beregne missilbaner, beregner

"så mange som 24.000 operationer i sekundet",

Jeg stopper afspilningen i et par minutter og viser denne simple tabel:

  • 1959: IBM 7090 – 24 kiloflops, eller 24.000 flops, flydende kommaoperationer pr. sekund
  • 2018: iPhone XS Max – 410 gigaflops eller 410 milliarder flops
  • 2023: iPhone 15 – 1,8 teraflops eller 1.800 milliarder flops
  • 2024: iPhone 16 Pro – 2,4 teraflops eller 2.400 milliarder flops
  • 2024: Apple M3 – 4 teraflops eller 4.000 milliarder flops
  • 2025: Apple M4 Ultra – 27 teraflops eller 27.000 milliarder flops

Efterfulgt af dette:

  • 410 milliarder flops / 24.000 = 17.083.333,333 eller 17 millioner gange hurtigere
  • 1.800 milliarder flops / 24.000 = 75.000.000 eller 75 millioner gange hurtigere
  • 2.400 milliarder flops / 24.000 = 100.000.000 eller 100 millioner gange hurtigere
  • 4.000 milliarder flops / 24.000 = 166.666.666,667 eller 166 millioner gange hurtigere
  • 27.000 milliarder flops / 24.000 = 1.125.000.000 eller 1.125 millioner gange hurtigere

Så forklarer jeg de forbløffede studerende, i hvert fald dem, der er interesserede i problemstillingen, at de nuværende supercomputere har nået og overskredet en milliard milliard operationer i sekundet, det vil sige tærsklen exaskala, og at hvis vi havde rumskibe, der var proportionalt hurtigere end dem fra 60'erne, og hvis der ikke var nogen fysisk grænse for lysets hastighed i det tomme rum, ville vi ikke rejse mellem stjerner, men mellem galakser.

Vi har faktisk opnået computerhastigheder, der ville have virket umulige for bare få år siden. Og dette er en af ​​de faktorer, der har gjort det muligt for LLM'er at opnå deres nuværende effektivitet.

Så det er bare et spørgsmål om råstyrke?

Absolut ikke.

Videnskabelig forskning i AI har stået på i lang tid, og det er her, ChatGPT kommer til nytte:

"Forskning i kunstig intelligens har omkring 70 år af historien.

Udtrykket "kunstig intelligens" Det blev præget i 1956 i løbet af Dartmouth-værkstedet, en konference arrangeret af John McCarthy, Marvin Minsky, Nathaniel Rochester og Claude ShannonDet teoretiske grundlag for AI går dog tilbage til før denne dato:

  • 40'erne og 50'ernede første undersøgelser af kunstige neuroner, med McCulloch og Pitts i 1943, og ideen om tænkende maskiner med Alan Turing og hans Turing-test i 1950
  • 60'erne og 70'erneudvikling af de første ekspertsystemer og symbolsk intelligens
  • 80'erne og 90'erne: neuralt netværksretur takket være algoritmen fra tilbageudbredelse
  • 2000'erne og i dag: udvidelse af dyb læring, med stadig mere sofistikerede modeller takket være moderne computerkraft

Så vi kan sige, at AI-forskning har dybe rødder og har udviklet sig i løbet af ca. syv årtier".

Især i de senere år har udviklingen og open source-spredningen af ​​arkitekturen Transformer af Google i 2017, tilgængeligheden af ​​enorme mængder tekst takket være internettet, udviklingen af ​​træningsteknikker takket være algoritmen for tilbageudbredelse, modeloptimering og store investeringer i felten har ført til den nuværende situation.

For at dykke dybere ned i disse emner på en populær, men dybdegående måde, kan jeg varmt anbefale det gratis kursus. "Eksplosionen af ​​kunstig intelligens", afholdt online af professorer fra Urbino Universitet.

HAL 9000 og den filmiske repræsentation af kunstig intelligens
HAL 9000, computeren fra filmen “2001: A Space Odyssey”, er et af de mest symbolske eksempler på, hvordan science fiction hidtil har udtænkt kunstig intelligens: Takket være virkelig overraskende intuitioner for den tid talte Stanley Kubrick og Arthur C. Clarke allerede om “tænkende maskiner”, der er i stand til at reproducere, eller ifølge mange eksperter imitere, de fleste af den menneskelige hjernes funktioner.

Men hvor intelligente er disse AI'er egentlig?

Lad os først og fremmest glemme, i hvert fald i flere år, HAL fra “2001”, Skynet fra “Terminator”, maskinerne fra “Matrix” eller de forskellige versioner af multivacDet er lidt trist at sige for en science fiction-fan, men som tingene ser ud nu, er vi langt fra den "tænkemaskine", som den er blevet præsenteret indtil videre, hvilket måske kan være betryggende for mange.

Jeg vil tilføje, at science fiction har flere fordele, men også nogle fejl.

Blandt dens fordele er helt sikkert, at den har forudset mange af de etiske spørgsmål, vi allerede står over for i dag, og på nogle måder har forberedt os på, hvad der venter os i den nærmeste fremtid. Den har også vænnet os til tanken om, at vi før eller siden ville blive nødt til at håndtere intelligenser, der er "forskellige" fra vores egne, hvilket faktisk sker.

Lad os komme til at give skylden.

Overforenklingen, med behørige undtagelser naturligvis, af mange science fiction-historier vedrørendekunstig intelligens Den har vænnet os til den forkerte ligning intelligens = bevidsthed.

Vi har længe vidst, at dette ikke er tilfældet: lad os tænke på mange dyreadfærdsmønstre, startende med insekter organiseret i kolonier, såsom myretuer og termitbunker, som har bemærkelsesværdige evner til problemløsningIngen er overbevist om, at en termithøj kan være bevidst om sig selv.

Ifølge de nyeste neurologiske studier er der ingen sammenhæng mellem årvågenhed og opmærksomhed.

Endelig har megen science fiction skabt udbredt paranoia omkring AI, som generelt, så snart den "vågner op", mere eller mindre bevidst beslutter sig for at kontrollere eller udrydde os. Det er præcis, hvad de fleste mennesker frygter.

Men dagens problemer er helt anderledes, ud over nogle ofte noget overdrevne udtalelser fra den brede presse eller fra administrerende direktører, der er overdrevent interesserede i at rejse finansiering.

Mellem bias og hallucinationer, matematik og overraskelser

Tilbage til konceptet med udvidet sprogmodel, eller LLM, som i øjeblikket er den type AI, der fanger offentlighedens fantasi mest, er det objektivt set også den, hvor de største økonomiske investeringer foretages, sammen med de andre såkaldte fundamentsmodelleren fundament modeller, som omfatter multimodale, der er i stand til at generere både tekst og billeder, lyd og video, dem der er specialiserede i billeder og dem med optimeret læring, eller få-skuds læring.

Dette førte i første omgang til en række hændelser og misforståelser, såsom en Google-ingeniørs tro på, at han havde at gøre med et følende væsen, eller modeller, der måtte lukkes ned kort efter offentliggørelsen, fordi de havde "absorberet" de værste bias fra interaktioner med ubehagelige brugere.

Siden udgivelsen af ​​ChatGPT 3.5 i november 2022 er emnet AI blevet "masse"-nyheder, men frem for alt har det udløst et kapløb blandt Big Tech-virksomheder, med én undtagelse, Apple, som tilsyneladende følger sin egen vej, som aldrig før set, med milliardinvesteringer og en række mere eller mindre fornuftige udtalelser fra deres respektive administrerende direktører.

Skematisk oversigt over Googles LaMDA AI og diskussion af kunstig bevidsthed
Googles LaMDA AI-framework, som vi dækkede for et par år siden, var i centrum for et medieopstyr kort før udgivelsen af ​​ChatGPT 3.5. Dette var baseret på udtalelser fra en Google-ingeniør, der senere blev fyret, som var overbevist om, at systemet havde opnået selvbevidsthed: dette problem med at projicere vores menneskelige egenskaber på AI er et af de virkelige problemer, vi står over for.

Emergente evner og AGI-hallucinationer

I fysikken findes der fænomener kaldet "faseovergange". Det enkleste eksempel er vand, som under en bestemt temperatur bliver til is, mens det over en bestemt temperatur bliver til damp.

Faseovergange er vigtige og forekommer selv i fænomener, der ikke er strengt fysiske. I tilfældet med LLM'er diskuterer en videnskabelig artikel offentliggjort på arXiv.org i august 2022 emergente fænomener: uforudsigelige AI-kapaciteter på de samme systemer i mindre skala, som pludselig viser sig at være ud over et vist niveau af kompleksitet. Faseovergange, ja.

Kompleksiteten af ​​en LLM måles ud fra tre faktorer: antallet af parametre, mængden af ​​behandling og størrelsen af ​​træningsdatasættet. Nogle har længe troet, at stigende kompleksitet og computerkraft ville føre til en faseovergang svarende til det, fysikken kalder en "singularitet", et pludseligt skift fra AI til AGI (Kunstig Generel Intelligens), der er mere kraftfuld end det menneskelige sind og i stand til eksponentiel vækst ved at modificere og forbedre sig selv. Men dette er ikke sket, og i dag mener mange forskere, at vi endnu ikke er på rette vej mod AGI, fordi de nuværende algoritmer er for begrænsede.

Mekanisk apopheni og arkitekturen af ​​​​den nuværende AI

Apopheni, et udtryk opfundet af den tyske neurolog og psykiater Klaus Konrad I 1958 var det den menneskelige tendens til at opfatte meningsfulde forbindelser mellem uafhængige fænomener. For eksempel er pareidolia en form for apopheni, der får os til at genkende ansigter eller former, hvor de faktisk ikke eksisterer.

Det er derfor en kognitiv bias, eller en form for forvrængning af virkeligheden, som dog i mange tilfælde kan vise sig nyttig i den kreative fase, hvis den kontrolleres af kritisk tænkning. Ellers kan det føre til fuldstændig irrationelle og urealistiske overbevisninger og overbevisninger.

Og i et system, der simulerer vores udførlige sprog, men mangler enhver erfaring med verden og en effektiv forståelse af betydningen af ​​​​begreber, omsættes apopheni til en grundlæggende funktionel defekt i nuværende algoritmer, som kan kontrolleres og begrænses til en vis grad, men aldrig helt elimineres: hallucinationer.

Hallucinationer i store sprogmodeller og begrænsningerne ved generativ AI
Store sprogmodeller som ChatGPT har ingen direkte oplevelse af verden og lider af strukturelle hallucinationer på grund af deres funktionsprincipper: den menneskelige hjerne har en tendens til at glemme dette, når den står over for sin tilsyneladende evne til at forstå, og dette er et af de mest alvorlige problemer med AI i dag.

Fra apopheni til epistæmi

Og her kommer vi til et afgørende punkt: i dag findes der en neologisme opfundet af Walter Quattrociocchi, professor ved Institut for Datalogi på Sapienza Universitet i Rom. Han er "epistemi", det vil sige

"den komfortable illusion af viden produceret ved at interagere med den generative AI i store sprogmodeller (LLM'er), hvor den simulative plausibilitet af flydende tale og narrativ sammenhæng erstatter kognitiv effektivitet og datapålidelighed."

Dette er ifølge Treccani-leksikonet.

Fænomenet er baseret på hjernens velkendte tendens til at projicere menneskelige egenskaber på komplekse systemer, såsom dyr.

Udtrykket epistemisk beskriver, hvordan den narrative sammenhæng, plausibilitet og flydende karakter i nutidens generative AI'er får en stor del af mennesker til at forveksle plausible og velstrukturerede svar med sandfærdige og fuldstændig pålidelige svar. Epistemik fører til den kognitive illusion, der allerede er beskrevet af den såkaldte "ekkoeffekt". Dunning-Kruger, hvor mindre kompetente personer overvurderer deres forberedelse i specifikke sektorer.

En overbevisende og måske endda velskrevet, men altid populær og derfor ekstremt forenklet, forklaring fra ChatGPT om kvantemekanikkens konceptuelle grundlag får os således til at tro, at vi er i stand til at diskutere den på lige fod med en forsker fra National Institute for Nuclear Physics.

Traditionelle kriterier for validering af kilder, der allerede undermineres af offentlighedens mangel på videnskabelig viden, såsom peer review, fagfællebedømmelse og akademiske institutioner, mister yderligere deres autoritet sammenlignet med udbredt statistisk viden, i hvert fald i ikke-eksperters øjne.

Fra de falske problemer med AI

I lyset af det, vi har udforsket i denne artikel, kan vi med sikkerhed konkludere, at kunstig generel intelligens, der er i stand til autonom ræsonnement og selvudvikling, og kunstig bevidsthed stadig er ret fjerne mål. Hvad angår førstnævnte, står vi over for de iboende begrænsninger ved nuværende maskiner: probabilistisk tilgang, hallucinationer, manglende forståelse af mening og mangel på erfaring.

Hvad angår det andet, har vi endnu ikke en universelt accepteret videnskabelig teori om bevidsthed, og derfor har vi ikke en præcis idé om de principper, ifølge hvilke et kunstigt objekt, uanset hvor komplekst det er, kan efterligne det. Dette er i hvert fald forfatterens mening, baseret på mange års interesse og forskning, herunder af kunstneriske årsager, og i lyset af talrige diskussioner med eksperter på området.

Forresten, enhver der er interesseret i den historie, som romanen er baseret på "Montecristo-projektet", som diskuterer kunstig bevidsthed fra intetanende tider – 1993 for novellen, 2010-2024 for romanen – kan give et interessant eksempel på et originalt perspektiv på emnet. Novellen er tilgængelig online på italiensk og engelsk: Baby.

...til de virkelige problemer med AI

Denne artikel har på ingen måde til hensigt at undervurdere kraften i de nuværende systemer eller deres evne til at påvirke vores liv. Men de virkelige problemer forbliver godt skjult under marketingens masker og misforståelser om forenkling.

I dag har vi systemer, der er i stand til at finde korrelationer og forbindelser, som ellers ville undgå vores analyse; ekstremt kraftfulde og utrættelige systemer, som kan udnyttes til ædle og mindre ædle formål. Og hvad kunne være den ældste og mest radikale fristelse, som disse systemer vil stimulere hos nogle af os? Kontrol, magt.

AI bruges i stigende grad i krigsførelse, ikke kun til at udstyre våben – en meget alvorlig sag – med autonome beslutningstagningskapaciteter i tilfælde af kommunikationssvigt, men frem for alt til at kontrollere slagmarken. Kombinationen af ​​AI, satellitter og droner er ved at blive den nye grænse, hvilket gør mange af de militære taktikker, der blev brugt indtil for blot få år siden, forældede.

Generative AI-systemer er i stigende grad i stand til at skabe plausibel kommunikation, der er ekstremt vanskelig at skelne fra nyheder og data baseret på autoritative kilder. Desuden er de langt mere vanedannende end sociale mediealgoritmer, som i øjeblikket begrænses af lovgivning et årti senere, mens LLM-systemernes evne vokser for hurtigt, ifølge forskerne selv.

I mellemtiden taler et stort antal teenagere mere via ChatGPT og lignende systemer end med nogen ven eller voksen.

Claude Mythos' logo og cybersikkerhedsrisiciene ved kunstig intelligens
Det uskadelige og venligt udseende logo for Claude Mythos, den nye AI-model, der specialiserer sig i vibrationskodning, kunne skjule en trussel mod verdens computersystemer, der er langt større end den såkaldte "Millennium-fejl" fra nytårsaften 2000.

Nuværende og fremtidig anvendelse: hvem vil være ansvarlig?

I USA er der en voksende tankebevægelse, der mener, at man kan bruge AI uden for mange skrupler til at påvirke, vejlede og styre hele Vesten, et projekt der åbent erklæres i den seneste bog skrevet af administrerende direktør for Palantir, Alexander Karp, "Den Teknologiske Republik: Hård Magt, Blød Tro og Vestens Fremtid", på italiensk “Den Teknologiske Republik: Hård Magt, Blød Tro og Vestens Fremtid”.

Palantir Det er et firma, hvis navn er inspireret af Tolkien, men fuldstændig forvrænger dets sande betydning: "synsstenene" var i slutningen af ​​den tredje tidsalder i Midgård faktisk ikke blevet en måde at afsløre sandheden på, men et system til tankekontrol af deres brugere af den mørke herre Sauron.

Derudover modeller specialiseret i vibe kodning Kom Claude di Antropisk, der er i stand til at oprette og analysere computerkode i ethvert kendt programmeringssprog, når effektivitetsniveauer, der er virkelig bekymrende. Tilsyneladende er Claudes seneste model, kaldet Mythos, var i stand til hurtigt at finde alvorlige sårbarheder i operativsystemer som Linux, der driver størstedelen af ​​de servere, der kører internettet, store systemer i banker, lufthavne og andre følsomme funktioner, og i browsere som Firefox. Sårbarheder, der aldrig var blevet identificeret selv af hackermiljøet.

Indtil videre er Claude Mythos kun blevet frigivet til et par store virksomheder for at give dem tid til at udvikle de relevante programrettelser og håndtere disse cybersikkerhedsproblemer. Men når den først er i hænderne på cyberkriminelle organisationer, kan vi så være sikre på, at alle følsomme systemer – banker, hospitaler, ministerier og andre – vil være i stand til at opdatere i tide?

Det er disse emner, vi vil udforske i de næste artikler, og som bør få os alle og vores regeringer til at reflektere.

Apertus er den schweiziske open source AI, der udfordrer globale giganter

Yankee robot Atlas som en perfekt tømrerassistent

Michael von Liechtenstein om geopolitik og kunstig intelligens

Humanoide robotter og fysisk AI: Sådan ændrer BMW Group-fabrikken sig

Her er tre indsigter, som måske interesserer dig

LaMDA, Google og en lommelærers dyder
Fra drømme til virkelighed: Science fiction-forhåndsvisninger
Kunstig intelligens og den moderne tids globale etik

"Multivacs liv og tider" og moderne kunstig intelligens
Palantir, et amerikansk firma, der længe har samarbejdet med Pentagon, kendt for sin brug af AI inden for militæret, og hvis administrerende direktør for nylig skrev en bog, der præsenterer temmelig bekymrende holdninger, har offentliggjort et 22-punkts manifest baseret netop på disse holdninger på sin officielle hjemmeside.

Se på kortet

KOMMENTARER

Efterlad en kommentar