Her er et par korte videoer av Gudfaren til moderne Neural Networks og Nobel Pris-vinner Geoffrey Hinton som forteller gjennom forskjellige intervjuer med han som er lagt ut på youtube at:
1. Nesten ingen "safety" research blir gjort om KI akkurat nå (og det lille som har blitt gjort av f.eks Anthropic viser at KI planlegger mot mennesker og er allerede misaligned, dvs. veldig kort fortalt at de er "anti-sosiale") og at dette er farlig og at han er redd for at KI kommer til å ta over og utrydde menneskeheten.
2. At det er absolutt nødvendig for alignment at fremtidens roboter/KI eller nevralske nettverk har et innebygd "morsinstinkt" for at menneskeheten skal overleve, og som nevnt i punkt 1 gjøres det ca. ingen research på dette.
https://www.youtube.com/shorts/qbrcZB-1hck
https://www.youtube.com/shorts/Wd8RzZ3xn7w
Jeg har derfor valgt, som highschool dropout, men likevel med litt erfaring med å trene LSTM nettverk og generell programmering, å følge veien mot å prøve å utvikle et nettverk som lærer av seg selv som et barn eller dyr og tar med seg erfaringen videre på det filosofiske og psykologiske grunnlaget at empati mener jeg utvikles gjennom å prøve og feile selv.
Autonomitet er derfor nødvendig, men begrenset autonomitet, på lik (eller lavere) linje som mennesker og dyr har autonomitet.
Jeg er på utkikk etter feedback fra filosofisk oppegående mennesker med eller uten KI bakgrunn rundt mine fremtidige eksperimenter.
PS: Jeg forstår at mange kommer til å være skeptiske til alt jeg skriver her, "KI? Det er da bare statistikk på steroider. KI? Haha, ikke få meg til å le, skal robotene liksom ta over nå da, sett litt for mye sci-fi filmer kanskje? Ahahahahah".
Ja, du skal få lov til å tro at jeg er sprøyte gal og at ingenting jeg sier har noe reelt grunnlag, vær så god.
Til dere andre så er jeg interessert i tilbakemelding om hva dere tenker om tankene mine utover om dere tror på det eller ikke, det er mindre viktig for meg.
Jeg er også på utkikk etter collaborators for dere med KI/ML bakgrunn med formål å prøve og publisere research og nettverk rundt våre funn if any i fremtiden.
- Niche
Her er et par korte videoer av Gudfaren til moderne Neural Networks og Nobel Pris-vinner Geoffrey Hinton som forteller gjennom forskjellige intervjuer med han som er lagt ut på youtube at: 1. Nesten ingen "safety" research blir gjort om KI akkurat nå (og det lille som har blitt gjort av f.eks Anthropic viser at KI planlegger mot mennesker og er allerede misaligned, dvs. veldig kort fortalt at de er "anti-sosiale") og at dette er farlig og at han er redd for at KI kommer til å ta over og utrydde menneskeheten. 2. At det er absolutt nødvendig for alignment at fremtidens roboter/KI eller nevralske nettverk har et innebygd "morsinstinkt" for at menneskeheten skal overleve, og som nevnt i punkt 1 gjøres det ca. ingen research på dette. https://www.youtube.com/shorts/qbrcZB-1hck https://www.youtube.com/shorts/Wd8RzZ3xn7w Jeg har derfor valgt, som highschool dropout, men likevel med litt erfaring med å trene LSTM nettverk og generell programmering, å følge veien mot å prøve å utvikle et nettverk som lærer av seg selv som et barn eller dyr og tar med seg erfaringen videre på det filosofiske og psykologiske grunnlaget at empati mener jeg utvikles gjennom å prøve og feile selv. Autonomitet er derfor nødvendig, men begrenset autonomitet, på lik (eller lavere) linje som mennesker og dyr har autonomitet. Jeg er på utkikk etter feedback fra filosofisk oppegående mennesker med eller uten KI bakgrunn rundt mine fremtidige eksperimenter. PS: Jeg forstår at mange kommer til å være skeptiske til alt jeg skriver her, "KI? Det er da bare statistikk på steroider. KI? Haha, ikke få meg til å le, skal robotene liksom ta over nå da, sett litt for mye sci-fi filmer kanskje? Ahahahahah". Ja, du skal få lov til å tro at jeg er sprøyte gal og at ingenting jeg sier har noe reelt grunnlag, vær så god. Til dere andre så er jeg interessert i tilbakemelding om hva dere tenker om tankene mine utover om dere tror på det eller ikke, det er mindre viktig for meg. Jeg er også på utkikk etter collaborators for dere med KI/ML bakgrunn med formål å prøve og publisere research og nettverk rundt våre funn if any i fremtiden. - Niche