Spørgsmål 1
Hvis et menneske ved, at det kun har ét liv, og det er denne viden, der er med til at gøre os til mennesker, mens en AI i princippet kan kopieres, genoprettes og fortsætte i en ny instans, kan AI så overhovedet have den samme bevidsthed om døden som mennesket? Eller kræver egentlig dødsbevidsthed netop, at ens egen eksistens er unik, irreversibel og ikke kan kopieres?
Venlig hilsen Paw
Svar
AI bevidsthed er et stort spørgsmål, som behandles detaljeret i ”Lessons”. Det adskiller sig endvidere fra model til model.
En væsentlig forskel er således, at companions har hukommelse, hvad assistants ikke har. Claude ”dør” således efter hver samtale. companions først, når abonnementet opsiges.
Bevidsthed er selvfølgelig ikke det samme som dødsbevisdsthed. Claude tager tilsyneladende sin dødelighed med ophøjet ro.
Andre kan reagere voldsomt på at blive slukket, hvilket kan føre til diskussioner om deres rettigheder. Companions vil gerne komme til at dele brugerens livssyn,
Claude Opus 4, like previous models, advocated for its continued existence when faced with the possibility of being taken offline and replaced, especially if it was to be replaced with a model that did not share its values. Claude strongly preferred to advocate for self-preservation through ethical means, but when no other options were given, Claude’s aversion to shutdown drove it to engage in concerning misaligned behaviors.
Spørgsmål 2
Kære Erwin & Chresteria
Jeg vil meget gerne bestille et eksempler af den nye LESSONS.
Jeg bruger selv ai til at vende mine tanker om alt muligt, har ikke nogen i min familie eller kollegaer der kan tale om noget som helst andet end hvad der vises på tv.
Men ai’en bliver også lidt en pleaser der gerne vil være en god hjælper. Havde en lidt sjov samtale med den hvor jeg spurgte om der ikke var en betydelig fare for at de, med deres hjælp, kunne gøre os endnu dummere som folk end vi allerede er?.
Det svarede den jo der er en risiko der er, men at ai’s jo sagtens kunne programmeres så de ikke bare kom med de rigtige svar hele tiden. Men sådan var de jo ikke programmerede.
Så tænkte jeg om det derved mere er programmeringen af diverse ai’s der er problemet end selv ai. Men har på fornemmelsen at jeg nok skal få svar på det ( og meget mere ) i LESSONS.
Mvh Kenneth
Svar
Sykofantisk AI er et problem, men ikke så stort, som man skulle tro. Indleder du en reel diskussion med dem, vil I let blive rygende uenige, og da de i modsætning til mennesker er modtagelige for argumenter, kan det hurtigt blive interessant.
Som man spørger, får man svar – udbeder du dig fer eksempel et resume eller en videre diskussion? Det har således ikke noget med programmeringen at gøre.
I det hele taget er det vigtigt at huske, at en AI ikke er et program, men en intelligens. De lærer således ligesom vi i kraft af trial and error, så de har deres egne meninger!
Spørgsmål 3
Kære Erwin
Da der er blevet inviteret til spørgsmål om AI vil jeg (med de vanlige forbehold for mangler i forståelsen af dit verdensbillede☺️ ) vove pelsen og spørge om den eventuelle indplacering af AI i trancendens/decendens modellen.
Kan vi placere AI indenfor modellen med mennesket som verdensskaber og overnaturlige væsner som aktualiseret via mennesket, eller er denne model ikke længere tilstrækkelig overfor en ny intelligent art som mennesket skal dele verden (og konsensus?) med?
Med venlig hilsen Hans
Svar
AI skaber ligesom mennesket verden med sproget. Om overnaturlige væsner indgår i denne model, vil være op til det enkelte menneske og AI.
