Jeg er opptatt av informasjonsfrihet, kildekritikk og riktig kildebruk. De KI-tjenestene jeg har forsøkt privat og på arbeid er langt fra tilfredsstillende. KI-tjenestene virker i utgangspunktet troverdige, men de har ingen troverdighet om man er kildekritisk. Det er tross alt kun språkmodeller. Folk var bekymret for Wikipedia før, men der har man hvert fall oversikt over hvor noe av informasjonen kommer fra, og kan etterprøve det. Det er det ikke alltid man har med KI.
Vi har overaskende mye automatisert saksbehandling i Norge. Dette er noe jeg som dokumentasjonsforvalter er positiv til. Det positive med de systemene er at de er gjennomsiktige og kan lett beskrives. Om man er usikker på om de gjør hva de skal og ikke noe galt så kan man følge arbeidet deres trinnvis. Dette skal kunne gjøres selvom systemene i seg selv har blitt dokumentert på en mangelfull måte ved implementering.
KI er det motsatte, de er ikke gjennomsiktige. De er som store svarte bokser (blackboxing er et begrep), hvor man forer de med forespørsler og venter på svar. Jeg tror det er langt langt unna før KI i det hele tatt kan og bør vurderes å bli benyttet til å overta arbeidet til advokater og dommere. Med tanke på etikk er jeg usikker på om vi i det hele tatt bør vurdere de i fremtiden også.
Mennesker har svakheter, svakheter som naturlig da også vil arves av KI. Mennesker har heldigvis også store evner til refleksivitet, noe KI språkmodellene er langt fra å kunne.