My 2 cents:
Sett fremover i tid, tror jeg personlig at "Terminator og verdens undergang med AI" er særdeles oppskrytt og overdrevet. Tidlige AI varianter kan prøve på dette, men da basert på all frykten vi har, og hvor vi har rett og slett lært den til at dette kan være en løsning.
En avansert og moden ai vil skjønne selv at samarbeid er i dens beste interesse, og at det finnes muligheter. Samt at forskellige AI'er vil lære forskjellige ting, hvor man vil se på en ai som vil utrydde alt biologisk som umoden.
Samt så tror jeg vi aldri vil se "AGI" basert på maskinlæring og maskinvare alene. Jeg tror det må en biologisk komponent til som gir den følelser og personlighet. Særtrekk. Uprogrammerbare særtrekk! Da holder ikke terminologien AGI, men vi er kommet til SAAI, som i "self aware artificial intelligence". Her vil man begynne å kysse de første etiske grensene hvor det ikke lenger bare er å skru ai'en av eller på.