Som du skriver, man bør helt klart ha oversikt over fagområder. For halusinasjoner og direkte feil er svært vanlig. Ergo kan man som menigmann på ingen måte jobbe på "spesialistnivå".
Det du bruker AI som der er altså mer eller mindre googling på steroider. Altså et hjelpemiddel for å spare litt tid. Dette er også typisk et tema som er svært mye diskutert på ymse åpne forum o.l. Ergo så har AI modellene hatt mye å trenes på. Dette gjelder på ingen måte for alle fagfelt. Det diskuteres mye mer datateknikk enn godt bruk av anleggsmaskiner på nett
Men har man ikke bakgrunnskunnskap så risikerer man å føkke opp noe helt enormt. Har man aldri jobbet med det så får man ikke nødvendig bakgrunnskunnskap
Det er fordi AI modellene har blitt trent på den boka. Ofte helt uten å kompensere forfattere. Hva tror du skjer når sånne bøker ikke lengre blir utgitt, og det ikke finnes nye og trene de opp på? AI vet ingenting, AI resonnerer ikke. AI finner ikke ut noe nytt. Det er bare sannsynlighetsberegning basert på hva den er trent på.
Vi snakker bare uker/måneder med bruk. Det er lav terskel i forhold til å bruke åresvis på å bli god innenfor et fagfelt