AI, kunstig intelligens

[Ove38]

Misbruk av AI

 

[ps5]

Pioneer innenfor feltet (spesifikt nevrale nett) gir oss maks 10-20 år før agi / super intelligence har passert oss med voldsom reduksjon i arbeidsplasser på veien. Og vi kan kanskje ikke bli utryddet.

 

[Red Frostraven]

Grok er nå endret til å være mindre realitetsorientert og mer enig med konservative, og er altså ubrukelig, som forutsett.

https://www.npr.org/2025/07/09/nx-s1-5462609/grok-elon-musk-antisemitic-racist-content

Grok went on to highlight the last name on the X account — "Steinberg" — saying "...and that surname? Every damn time, as they say." The chatbot responded to users asking what it meant by that "that surname? Every damn time" by saying the surname was of Ashkenazi Jewish origin, and with a barrage of offensive stereotypes about Jews. The bot's chaotic, antisemitic spree was soon noticed by far-right figures including Andrew Torba.

"Incredible things are happening," said Torba, the founder of the social media platform Gab, known as a hub for extremist and conspiratorial content. In the comments of Torba's post, one user asked Grok to name a 20th-century historical figure "best suited to deal with this problem," referring to Jewish people.

Endret 10. juli av Red Frostraven

[Comma Chameleon]

Ref videoen over. Det er jo bare vill gjetning. Faktisk AGI er bare en teori fortsatt. Det meste populære innen AI må, LLMer, er kategorisk noe helt annet enn hva AGI er. Det mangler viktige biter, som å kunne lære og forbedre seg selv.

Selv om ChatGPT er en fin autocomplete så vil den aldri bli smartere enn oss, fordi det ikke er faktisk intelligens.

Om de skulle løse de bitene og vi faktisk får AGI er det også umulig å spå hvilke yrker som beholdes. Noen sier rørlegger, men en AGI kombinert med roboter vil kunne erstatte det også helt fint.

[ps5]

1 hour ago, Comma Chameleon said:

Ref videoen over. Det er jo bare vill gjetning. Faktisk AGI er bare en teori fortsatt. Det meste populære innen AI må, LLMer, er kategorisk noe helt annet enn hva AGI er. Det mangler viktige biter, som å kunne lære og forbedre seg selv.

Selv om ChatGPT er en fin autocomplete så vil den aldri bli smartere enn oss, fordi det ikke er faktisk intelligens.

Om de skulle løse de bitene og vi faktisk får AGI er det også umulig å spå hvilke yrker som beholdes. Noen sier rørlegger, men en AGI kombinert med roboter vil kunne erstatte det også helt fint.

Vill gjetning er det når menigmann kaster om seg med påstander. Å høre nøye etter gir mening når nobelpris vinnende grunnlegger av underliggende teknologi som har fulgt utviklingen i 50 år og også brakt frem (akademisk) flere de mest sentrale personene i de moderne variantene vi bruker i dag fremlegger strukturerte tanker om fremtiden.

Anbefaler for øvrig at du faktisk ser samtalen som går mellom annet inn i temaene du nevner.

Endret 10. juli av ps5

[Enceladus]

Relevant artikkel som kom for et par dager siden:

Quote

What is AGI? Nobody agrees, and it’s tearing Microsoft and OpenAI apart.

Several definitions make measuring "human-level" AI an exercise in moving goalposts.

https://arstechnica.com/ai/2025/07/agi-may-be-impossible-to-define-and-thats-a-multibillion-dollar-problem/?comments-page=1#comments

[Enceladus]

Dette var litt bananas!

Her ryker ekteskapet med unger etter at en fyr faller for en chatbot. Spol til 35:00 hvis timestampen min ikke fungerer.

 

Også mer om dette og mye annet AI i podkasten deres forrige uke. Timestamp: 14:28

 

Virkelig sprø tider vi lever i! De neste årene blir mildt sagt interessante.

[ps5]

1 hour ago, Enceladus said:

Virkelig sprø tider vi lever i! De neste årene blir mildt sagt interessante.

 

[Comma Chameleon]

ps5 skrev (4 timer siden):

Vill gjetning er det når menigmann kaster om seg med påstander. Å høre nøye etter gir mening når nobelpris vinnende grunnlegger av underliggende teknologi som har fulgt utviklingen i 50 år og også brakt frem (akademisk) flere de mest sentrale personene i de moderne variantene vi bruker i dag fremlegger strukturerte tanker om fremtiden.

Anbefaler for øvrig at du faktisk ser samtalen som går mellom annet inn i temaene du nevner.

Det er (en kvalifisert) vill gjetning ja, fordi vet ikke hvilken form AGI vil ta (hardware/software) hvis vi kan oppnå det i det hele tatt. Jeg har troen på at vi kan komme oss dit nå som så mange store firmaer jobber mot det, men det er ingen garanti at vi kan se det i vår levetid. Jeg så igjennom de spørsmålene jeg syntes var mest relevant/interessant, fint med chapters på YT.

Nå bruker jeg en tolkning der AGI er noe som kan "leve" i form av at den forbedrer seg selv og lærer underveis, og kan bli eksponensielt dyktigere og raskere. Ellers er det ikke intelligens på nivå med en høne engang.

Noen har andre svakere definisjoner av AGI, men de er ikke relevante fordi de vil ikke være en trussel og mer laget for investorer. Har ikke noe å si hvor kraftig en LLM blir, den er ikke en trussel for oss og tar heller ikke jobbene våre. LLM-er er ikke intelligens.

[Enceladus]

Quote

Demis Hassabis on our AI future: ‘It’ll be 10 times bigger than the Industrial Revolution – and maybe 10 times faster’

Lite utdrag fra artikkelen:

Quote

That frontier to be reached is surely AGI – “artificial general intelligence” – the pivotal point at which AI matches human intelligence. “I don’t know if it will be a single moment. It may be a gradual thing that happens,” he says, “but we’ll have something that we could sort of reasonably call AGI, that exhibits all the cognitive capabilities humans have, maybe in the next five to 10 years, possibly the lower end of that.”

In other words, we are in the final few years of pre-AGI civilisation, after which nothing may ever be the same again. To some the prospect is apocalyptic, to others, like Hassabis, it’s utopian.

“Assuming we steward it safely and responsibly into the world, and obviously we’re trying to play our part in that, then we should be in a world of what I sometimes call radical abundance,” says Hassabis. He paints a picture of medical advances, room-temperature superconductors, nuclear fusion, advances in materials, mathematics. “It should lead to incredible productivity and therefore prosperity for society. Of course, we’ve got to make sure it gets distributed fairly, but that’s more of a political question. And if it is, we should be in an amazing world of abundance for maybe the first time in human history, where things don’t have to be zero sum. And if that works, we should be travelling to the stars, really.”

Is he getting too close to his own technology? There are so many issues around AI, it’s difficult to know where to even begin: deepfakes and misinformation; replacement of human jobs; vast energy consumption; use of copyright material, or simply AI deciding that we humans are expendable and taking matters into its own hands.

To pick one issue, the amount of water and electricity that future AI datacentres are predicted to require is astronomical, especially when the world is facing drought and a climate crisis. By the time AI cracks nuclear fusion, we may not have a planet left. “There’s lots of ways of fixing that,” Hassabis replies. “Yes, the energy required is going to be a lot for AI systems, but the amount we’re going to get back, even just narrowly for climate [solutions] from these models, it’s going to far outweigh the energy costs.”

There’s also the worry that “radical abundance” is another way of framing “mass unemployment”: AI is already replacing human jobs. When we “never need to work again” – as many have promised – doesn’t that really mean we’re surrendering our economic power to whoever controls the AI? “That’s going to be one of the biggest things we’re gonna have to figure out,” he acknowledges. “Let’s say we get radical abundance, and we distribute that in a good way, what happens next?”

https://www.theguardian.com/technology/2025/aug/04/demis-hassabis-ai-future-10-times-bigger-than-industrial-revolution-and-10-times-faster

 

Jeg veksler mellom å være entusiastisk og redd. 

5-10 år og verden kan se veldig annerledes ut.

Men, hva skal en liksom gjøre? Ta prepping mer alvorlig? Bygge bunker? Eller er det meningsløst å bekymre seg for noe vi uansett ikke har mye kontroll over eller vet utfallet av?

 

Og, i helga kom jeg over denne artikkelen fra 10+ år tilbake: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Den er interessant med tanke på det vi nå ser utfolde seg.

Quote

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

 

What does it feel like to stand here?

Quote

It seems like a pretty intense place to be standing—but then you have to remember something about what it’s like to stand on a time graph: you can’t see what’s to your right. So here’s how it actually feels to stand there:

 

😬

Endret 5. august av Enceladus

[Enceladus]

Dette er spinnvilt!

Jeg vil ha dette i VR!!

 

https://deepmind.google/discover/blog/genie-3-a-new-frontier-for-world-models/?utm_source=x&utm_medium=social&utm_campaign=genie3

Endret 5. august av Enceladus