Micron: RAM-krisen kan vare til 2028

[Diskusjon.no]

Selskapet avviser kritikken etter at de forlot forbrukermarkedet.

Les hele artikkelen på Tek.no her

[Kajac]

AI-boblen sprekker lenge før 2028. Da kommer nok Micron til å angre på at de la ned Crucial...

[WiiBoy]

27 minutes ago, Kajac said:

AI-boblen sprekker lenge før 2028.

Hva legger du egentlig i det?

• At selskapene, som OpenAI ++, går konkurs?
• At tjenestene som ChatGPT++ ikke lenger blir brukt, og vi går tilbake til tradisjonelle søk?
• At stillinger som er effektiviserte med AI går tilbake til gamle måten å jobbe på?

Jeg er på ingen måte "frelst" av AI bølgen, og synes definitivt at markedsverdien er overvurdert, men jeg ser ingen vei tilbake.
Dersom ting ikke går tilbake til sånn det var før, så vil jo behovet for komponenter fremdeles være der. 

[Kajac]

WiiBoy skrev (10 minutter siden):

Hva legger du egentlig i det?

• At selskapene, som OpenAI ++, går konkurs?
• At tjenestene som ChatGPT++ ikke lenger blir brukt, og vi går tilbake til tradisjonelle søk?
• At stillinger som er effektiviserte med AI går tilbake til gamle måten å jobbe på?

Jeg er på ingen måte "frelst" av AI bølgen, og synes definitivt at markedsverdien er overvurdert, men jeg ser ingen vei tilbake.
Dersom ting ikke går tilbake til sånn det var før, så vil jo behovet for komponenter fremdeles være der. 

Hvor hardt boblen sprekker vet vi ikke enda. Personlig tror jeg vi ender opp med noe lignende dotcom-boblen. Språkmodeller forsvinner neppe, men ting er nødt til å stabilisere seg. Stadig flere forstår at prediksjonsmodeller ikke er intelligent, og ikke egner seg til veldig mange oppgaver. 

Selvsagt vil det være behov for komponenter til AI-bruk i fremtiden også. Men grunnen til at f.eks. RAM er blitt så dyrt er jo fordi AI-selskapene kjøper opp både det som er tilgjengelig, men også fremtidig produksjon. Med andre ord kjøper de RAM som ikke eksisterer til datasentre som ikke bygget. Når boblen sprekker og behovet for datasentre reduseres kraftig, er det Micron som vil sitte igjen med skjegget i postkassen.

[WiiBoy]

2 hours ago, Kajac said:

Hvor hardt boblen sprekker vet vi ikke enda. Personlig tror jeg vi ender opp med noe lignende dotcom-boblen. Språkmodeller forsvinner neppe, men ting er nødt til å stabilisere seg. Stadig flere forstår at prediksjonsmodeller ikke er intelligent, og ikke egner seg til veldig mange oppgaver. 

Selvsagt vil det være behov for komponenter til AI-bruk i fremtiden også. Men grunnen til at f.eks. RAM er blitt så dyrt er jo fordi AI-selskapene kjøper opp både det som er tilgjengelig, men også fremtidig produksjon. Med andre ord kjøper de RAM som ikke eksisterer til datasentre som ikke bygget. Når boblen sprekker og behovet for datasentre reduseres kraftig, er det Micron som vil sitte igjen med skjegget i postkassen.

Men med mindre AI blir langt, langt dyrere å bruke, så vil nok mengden "tull og tøys" bruk fortsette å stige kraftig. Det er KUN pris som vil stoppe det.
Når det kommer til kommersiell bruk, så ser jeg heller ingen vei tilbake. Det er ekstremt mye dyrere å lønne folk for å erstatte AI enn å bare betale for en eventuell mangedobling i pris.

Jeg tror derfor ikke at en "boble som sprekker" vil redusere behovet for komponenter, kun kraftige børsfall og de ringvirkningene det gir. 

[Kajac]

WiiBoy skrev (48 minutter siden):

Men med mindre AI blir langt, langt dyrere å bruke, så vil nok mengden "tull og tøys" bruk fortsette å stige kraftig. Det er KUN pris som vil stoppe det.
Når det kommer til kommersiell bruk, så ser jeg heller ingen vei tilbake. Det er ekstremt mye dyrere å lønne folk for å erstatte AI enn å bare betale for en eventuell mangedobling i pris.

Jeg tror derfor ikke at en "boble som sprekker" vil redusere behovet for komponenter, kun kraftige børsfall og de ringvirkningene det gir. 

Hvis du med "kommersiell bruk" tenker på språkmodeller, så er det praktisk talt ikke-eksisterende. All forskning så langt viser at bruk av AI til ekte arbeid i beste fall gir marginal økning i produktivitet, og i verste fall reduserer produktiviteten. Selskaper begynner å se dette, og lurer på hvorfor i huleste de betaler i dyre dommer for verktøy som ikke fungerer. Og de selskapene som har vært dumme nok til å erstatte mennesker med AI har jo måtte gå tilbake på dette alle som en. Det er ingen selskaper som kommer til å godta mangedobling i pris for AI-tjenester når de ikke leverer. Du må ikke høre på hva AI-sjefene og tech-bros'a sier, du må se på fakta. 

Når det er sagt, så MÅ prisene på AI opp, jo før jo bedre. Pengene renner ut av AI-selskapene, og de må snart begynne å omsette for beløper aldri før sett i verdenshistorien for å i det hele tatt klare å gå i null. Det er ikke bare usannsynlig, men praktisk talt økonomisk umulig at dette skjer. Hele AI-boblen er bygget på en løgn. Et premiss som ikke eksisterer. Alle med god forståelse for teknologi ser dette, men ingen investorer har god forståelse for teknologi. Av en eller annen grunn tror fremdeles finansfolk på idéen om at noe kan stige eksponensielt for alltid. 

Uansett, den begrensende faktoren her er teknologien; LLM (og andre store modeller). Ingen mengde penger og datasentre kan endre på dette. Skal AI-utviklingen fortsette må vi oppdage/finne opp en helt ny teknologi. Et tilfeldig vitenskapelig mirakel om du vil. Det kan skje, men sannsynligheten er veldig liten. Store modeller (LLM) er en blindvei. Og det får både folk og bedrifter i stadig større grad øynene opp for. 

Så for å trekke tråden tilbake til tema; boblen kommer til å sprekke. Spørsmålet er bare når og hvor kraftig. Men når det skjer blir det brå stopp i byggingen av datasentre og investering i AI-teknologi, som igjen vil redusere markedet for RAM, med påfølgende priskutt.

 

Edit: Denne videoen handler ikke om RAM-krisen, men har en del interessante betrakninger rundt AI-boblen og hvor lite produktivt AI faktisk er i jobb-sammenheng.

Endret 14. januar av Kajac

[WiiBoy]

5 minutes ago, Kajac said:

Hvis du med "kommersiell bruk" tenker på språkmodeller, så er det praktisk talt ikke-eksisterende. All forskning så langt viser at bruk av AI til ekte arbeid i beste fall gir marginal økning i produktivitet, og i verste fall reduserer produktiviteten. Selskaper begynner å se dette, og lurer på hvorfor i huleste de betaler i dyre dommer for verktøy som ikke fungerer. Og de selskapene som har vært dumme nok til å erstatte mennesker med AI har jo måtte gå tilbake på dette alle som en. Det er ingen selskaper som kommer til å godta mangedobling i pris for AI-tjenester når de ikke leverer. Du må ikke høre på hva AI-sjefene og tech-bros'a sier, du må se på fakta. 

Når det er sagt, så MÅ prisene på AI opp, jo før jo bedre. Pengene renner ut av AI-selskapene, og de må snart begynne å omsette for beløper aldri før sett i verdenshistorien for å i det hele tatt klare å gå i null. Det er ikke bare usannsynlig, men praktisk talt økonomisk umulig at dette skjer. Hele AI-boblen er bygget på en løgn. Et premiss som ikke eksisterer. Alle med god forståelse for teknologi ser dette, men ingen investorer har god forståelse for teknologi. Av en eller annen grunn tror fremdeles finansfolk på idéen om at noe kan stige eksponensielt for alltid. 

Uansett, den begrensende faktoren her er teknologien; LLM (og andre store modeller). Ingen mengde penger og datasentre kan endre på dette. Skal AI-utviklingen fortsette må vi oppdage/finne opp en helt ny teknologi. Et tilfeldig vitenskapelig mirakel om du vil. Det kan skje, men sannsynligheten er veldig liten. Store modeller (LLM) er en blindvei. Og det får både folk og bedrifter i stadig større grad øynene opp for. 

Så for å trekke tråden tilbake til tema; boblen kommer til å sprekke. Spørsmålet er bare når og hvor kraftig. Men når det skjer blir det brå stopp i byggingen av datasentre og investering i AI-teknologi, som igjen vil redusere markedet for RAM, med påfølgende priskutt.

Det du skriver har kan umulig være basert på noe annet enn personlig synsing. Det stemmer overhode ikke med virkeligheten.

Men hold gjerne tråden på topic, men konklusjonen din om at compute basert på AI kommer til å bli borte/kraftig redusert er bare ekstremt feil og lite troverdig. Eneste håpet er om det kommer nye modeller som er langt mer effektive enn dagens modeller.

 

[Kajac]

WiiBoy skrev (Akkurat nå):

Det du skriver har kan umulig være basert på noe annet enn personlig synsing. Det stemmer overhode ikke med virkeligheten.

Men hold gjerne tråden på topic, men konklusjonen din om at compute basert på AI kommer til å bli borte/kraftig redusert er bare ekstremt feil og lite troverdig. Eneste håpet er om det kommer nye modeller som er langt mer effektive enn dagens modeller.

Uansett hvor mye penger man bruker, kan man ikke få en gris til å fly. Jeg sier ikke at generativ AI forsvinner. Det er det ingen som tror. Internett forsvant ikke selv om dotcom-boblen sprakk. Men det er mer enn tydelig bevist at LLM-basert AI ikke er det ultimate verktøyet vi har blitt lovet i mange år nå, og at det heller ikke kommer til å bli det. Og det blir mer og mer tydelig at de tekniske begrensingene med disse modellene er det som kommer til å stoppe dagens AI-bølge.

Generativ AI vil snart finne sin rette plass i samfunnet, og tech-selskapene vil finne en ny hype som skal snu opp-ned på hele verdensordenen. Akkurat som syklusen alltid går. Husk at for kun ti år siden ble vi lovet at Bitcoin og blockchain kom til å snu hele den finansielle verden på hodet. Eller at det i starten av 2020-årene kun skulle være tillatt med selvkjørende biler på veiene.  For ikke å nevne NFTer...

[scuderia]

3 hours ago, Kajac said:

Hvor hardt boblen sprekker vet vi ikke enda. Personlig tror jeg vi ender opp med noe lignende dotcom-boblen. Språkmodeller forsvinner neppe, men ting er nødt til å stabilisere seg. Stadig flere forstår at prediksjonsmodeller ikke er intelligent, og ikke egner seg til veldig mange oppgaver. 

Selvsagt vil det være behov for komponenter til AI-bruk i fremtiden også. Men grunnen til at f.eks. RAM er blitt så dyrt er jo fordi AI-selskapene kjøper opp både det som er tilgjengelig, men også fremtidig produksjon. Med andre ord kjøper de RAM som ikke eksisterer til datasentre som ikke bygget. Når boblen sprekker og behovet for datasentre reduseres kraftig, er det Micron som vil sitte igjen med skjegget i postkassen.

Det vil nok komme en korreksjon men jeg er usikker på om det hjelper så mye om "boblen sprekker". Det er et kappløp mellom disse selskapene om å kjøpe opp så mye prosesseringskraft som mulig. Alle disse sitter allerede med tonn av GPU'er, CPU'er og RAM som de ikke får brukt siden de ikke har strøm nok til å drive de men det stopper ikke hamstringen. For hver eneste GPU de får tak i er det et mindre for noen andre. Selv en nedjustering av forventet pris vil ikke stoppe denne galskapen for det handler om dominans av verdens prosessor kraft som så kan leies ut igjen til andre. Føydal-samfunnet all over again..

Et annet poeng her er verdisetting av feks en GPU. Vi er villige til å hoste opp 8000 nok for en 5070 ish med så så mye prosesseringskraft. Denne bruker vi kanskje 2-5% av tiden vi har produktet hos oss. Når den står plugget inn hos OpenAI så kjøres den 24/7/365 non stop så 20 til 50 ganger mer skvises ut en hva vi får ut av den. Selvsagt vil alltid OpenAI da kunne overbetale uansett hvor vår smertegrense er.. 

Eneste som kan hjelpe er en enorm overproduksjon... og trist å si men her kommer kineserne inn men de er fortsatt langt bak i teknologien. Blir mye gammal hardware på oss fremover..

[rozon]

11 minutes ago, scuderia said:

Eneste som kan hjelpe er en enorm overproduksjon... og trist å si men her kommer kineserne inn men de er fortsatt langt bak i teknologien. Blir mye gammal hardware på oss fremover..

Er ikke Taiwan Kina da... øøøøh

18 minutes ago, Kajac said:

Jeg sier ikke at generativ AI forsvinner. Det er det ingen som tror.

Generativ AI vil nok leve evig, akkurat som andre statistiske verktøy vi har. Utfordringen er mer relatert til hvordan det presenteres - en AI er ikke kreativ, den er produktiv. Til noen oppgaver er det riktig bruk å anvende generativ AI, og til andre oppgaver er det mer eller mindre en katastrofe.

28 minutes ago, scuderia said:

Eneste som kan hjelpe er en enorm overproduksjon...

Mer sannsynlig er at AI-arbeidslastene får egne prosessorer og arkitekturer som ikke har noe med PC-markedet å gjøre. GPU traff godt fordi de allerede var optimalisert for flyttall og massiv dataparallellitet, og fordi de var tilgjengelige i stort volum da deep learning tok av. Fremover vil ASIC-løsninger ta stadig større andeler, og GPU-markedet normaliseres. Den egentlige begrensningen er ikke etterspørsel, men mangelen på avanserte fabs globalt.

Venter enda at noen i Norge skal finne på å starte en fab... Det kunne startet en hel verdikjede på størrelsen med oljebransjen...

[scuderia]

15 minutes ago, rozon said:

Er ikke Taiwan Kina da... øøøøh

Generativ AI vil nok leve evig, akkurat som andre statistiske verktøy vi har. Utfordringen er mer relatert til hvordan det presenteres - en AI er ikke kreativ, den er produktiv. Til noen oppgaver er det riktig bruk å anvende generativ AI, og til andre oppgaver er det mer eller mindre en katastrofe.

Mer sannsynlig er at AI-arbeidslastene får egne prosessorer og arkitekturer som ikke har noe med PC-markedet å gjøre. GPU traff godt fordi de allerede var optimalisert for flyttall og massiv dataparallellitet, og fordi de var tilgjengelige i stort volum da deep learning tok av. Fremover vil ASIC-løsninger ta stadig større andeler, og GPU-markedet normaliseres. Den egentlige begrensningen er ikke etterspørsel, men mangelen på avanserte fabs globalt.

Venter enda at noen i Norge skal finne på å starte en fab... Det kunne startet en hel verdikjede på størrelsen med oljebransjen...

Agentic AI vil ta over.. mye skumlere

Hjelper lite om ASIC eller andre design blir mer populære så lenge de lages med de samme wafer som brukes til andre ting. Vi vil heller trolig se at de beste nodene prioriteres til datasentre mens konsumentmarkedet blir, i beste fall, på nåværende prosesser. Trolig vil dette resultere i at Nvidia og AMD rett og slett ikke lanserer nye GPU'er for oss i lang fremtid. Samme som minne. Det som brukes av datasentre er HBM minne men siden disse lages med de samme minnemodulene som til DDR5 så blir produksjonen flyttet der avkastningen er best.

 

Norge er helt uegnet til å starte foundries.. bare å glemme. Selv USA sliter med å få dette til. Tyskland har fortsatt produksjon men på eldre noder men siden ASML leverer maskinene som brukes til produksjon så kan en europeisk initiativ kanskje fungere. Koster enormt med penger.. hundrevis av milliarder.

[Svein M]

Tipper han har rett når han sier at prisene kan være høye til ut i 2028.

sitat: Selskapet bygger nye anlegg, men Moore sier det ikke vil gi merkbare forbedringer før i 2028

[joandreas]

Er og kun 1 leverandør på de maskinene.

https://youtu.be/iSVHp6CAyQ8?si=RWeeH9H1miVMSg6R

[Kalle Klo]

Hvis folk har lyst til å vite hvordan det ser ut når bobler sprekker, så kan man se på dot-com. Aksjene til Cisco (datidens svar på Nvidia) peaket på rundt $77 dollar. Nå, 25 år senere, så er den nesten oppe på det samme igjen ($75). Den bunnet ut på under $10.

Cisco overlevde, men det var mange av "stjernene" fra dotcom som ikke gjorde det (pets.com er beryktet). 

Så Nivdia eksisterer mest sannsynlig i en eller annen form post-boble, men god sjanse for at feks. OpenAI ikke gjør det. Det kommer fort helt andre firmaer som tar over.

Tror ikke AI forsvinner, men det er massivt overhypet, og det vil ta tid før det kan levere en brøkdel av det som har blitt hypet. 

 

Å hoarde HW har aldri lønt seg i det lange løp. Man fikk et skudd for baugen allerede i fjor med kinesiske AI-modeller som ga god ytelse med dårlige HW. Google er i ferd med å slå hardt tilbake, er ikke avhengig av Nvidia HW slik som OpenAI. 

Hovedtingen er at kundene til kundene til AI-firmaene må tjene penger på AI for at dette skal gå i det lange løp. Foreløpig er HW-fabrikantene de eneste som faktisk tjener penger, feks. OpenAI lekker som en sil og drives kun på VC-penger. Før eller senere tar tålmodigheten slutt. 

[rozon]

6 minutes ago, scuderia said:

Agentic AI vil ta over.. mye skumlere

Agentisk AI er i praksis en systematisert prøv-og-feil-sløyfe med planlegging, handling og evaluering. Det er et naturlig neste steg fra dagens modeller, og ikke spesielt skummelt i seg selv. Derimot er det svært ressurskrevende, spesielt på minne og lagring, noe som neppe vil hjelpe på den allerede pressede minnemarkedet vi snakker om.

AGI er et helt annet kvalitativt sprang – og det er der de virkelig vanskelige spørsmålene begynner.

13 minutes ago, scuderia said:

Hjelper lite om ASIC eller andre design blir mer populære så lenge de lages med de samme wafer som brukes til andre ting.

Det ironiske er at mens Europa snakker om strategisk autonomi, har Norge lagt ned wafer-produksjon som faktisk fungerte. NorSun og Norwegian Crystals produserte ekstremt høy renhet, men uten et langsiktig hjemmemarked eller politisk vilje ble det umulig å videreføre. Kompetanse forsvinner mye raskere enn den bygges.

17 minutes ago, scuderia said:

Norge er helt uegnet til å starte foundries.. bare å glemme. Selv USA sliter med å få dette til. Tyskland har fortsatt produksjon men på eldre noder men siden ASML leverer maskinene som brukes til produksjon så kan en europeisk initiativ kanskje fungere. Koster enormt med penger.. hundrevis av milliarder.

Tusenvis av milliarder er nok mer korrekt. Utfordringen er ikke bare størrelsen på investeringen, men den ekstremt lange horisonten før avkastning. Det er urimelig å forvente at private investorer skal bære dette alene. Derfor nevnte jeg spesifikt Norge – dette er et område der staten faktisk må involvere seg dersom det i det hele tatt skal være mulig.

Verdikjeden som må bygges rundt en halvlederindustri er enorm, men vi må uansett etablere nye bærebjelker i økonomien etter olje og gass. Norge har både kapital og sentrale innsatsfaktorer. Spørsmålet er ikke om vi har råd til å investere, men hva vi velger å investere i.

Eksportbegrensningene rundt ASMLs EUV-maskiner er et mindre problem for Norge enn for mange andre land, men det er heller ikke nødvendig å starte med det mest krevende. Med målrettet industripolitikk og omprioritering av dagens subsidier kan man styre utviklingen slik at vi om 20–30 år faktisk har et kompetansemiljø og en industri rundt dette.

Mange sa også at månelandingen var umulig:
“We choose to go to the Moon in this decade and do the other things, not because they are easy, but because they are hard.” – JFK

[Kajac]

scuderia skrev (32 minutter siden):

Agentic AI vil ta over.. mye skumlere

Agentisk AI er fremdeles bare generativ AI hvor du som bruker gir tekstprediksjons-modellen kontroll over ting (en veldig dårlig idé IMO). Så joda, agentisk AI er på en måte skumlere. Vi har jo allerede eksempler på AI-agenter som har slettet både harddisker og produksjonsdatabaser 🤣

[joandreas]

rozon skrev (19 minutter siden):

Mange sa også at månelandingen var umulig:
“We choose to go to the Moon in this decade and do the other things, not because they are easy, but because they are hard.” – JFK

Det har ikke skjedd etter 1970 tallet. Men usa og Vesten har alt av lage fysiske varer gått nedover.

Om det heller er noe med at kald krig er over.

https://www.skyatnightmagazine.com/news/when-will-artemis-ii-launch

Endret 14. januar av joandreas

[joandreas]

Er en kostnad med bygge og en annen med oppgradere fasilitetene hvert år.

https://youtu.be/dX9CGRZwD-w?si=R5z8I2HJjGRA0uzT

[Simen1]

WiiBoy skrev (6 timer siden):

Dersom ting ikke går tilbake til sånn det var før, så vil jo behovet for komponenter fremdeles være der. 

Prisene er ikke høye nå på grunn av maskinvare som allerede er solgt, men på grunn av det som kjøpes nå og forventes kjøpt de neste tre årene.

[WiiBoy]

2 hours ago, Simen1 said:

Prisene er ikke høye nå på grunn av maskinvare som allerede er solgt, men på grunn av det som kjøpes nå og forventes kjøpt de neste tre årene.

Ja og dersom "AI boblen sprekker" ikke handler om at folk/bedrifter bruker mindre AI/ressurser, så vil jo behovet for komponenter være like høyt uansett.

Dette endrer seg derfor ikke før produksjon tar seg opp.