[Infected]

Hei Rudde og tingo! Og ikke minst, takk for oppmerksomheten! Paa en slik rund dag.. 😟

10 aar. En liten levetid. Hvordan i alle dager endte man opp her?

Jeg burde ha gitt meg for lenge siden, er bare saa lenge man kan piske en dod hest for man bor innse at lopet er kjort..

Burde ivertfall ha en eller annen form for konklusjon. En verdig avslutning, men har ikke det engang, bare masse arbeid som er ugjort.

Glad for aa hore at det er ivertfall noen har kost seg med galskapen, de fleste har vel blitt lei av tullet for mange aar siden

Bare en liten oppdatering til, jeg lover.. det burde definitivt bli den siste 😏

workstation..

konsollrom, rotete greier

malekosten..

sparkling (lipstick on a pig 😋)

grunning..

fremdrift..

litt mer fremdrift..

forsatt masse igjen

puh.

yaay! se paa maling torke ftw 😆

ganske sterilt..

To be continued?? 🤨

Litt SAS oppgraderinger..

Expander..

Expandere..

NAS'et.. ikke verdens raskeste, men godt nok til NAS

Gammelt, men det spinner naa enda..

Litt mer plass i SAN'et ogsaa..

Litt oppgraderinger paa Wifi maa ogsaa til

Mikrotik RB4011, en aldri saa liten ulv i faareklaer, blir CapsMAN kontroller

Test og oppsettt.. og blinkenlights

Woo! Zero Trust.. 'Got the T-Shirt' 😆

Lastbalansering er ogsaa kjekk kunnskap

Labbing horer alltid med 🤠

Er bare en ting som er bedre enn en BigIP i LAB, og det er ett cluster

Eneste som er bedre enn en F5 i LAB, er ett cluster 😎

Kjolelosningen begynner aa komme seg osaa

Gammelt utstyr alltid noe som feiler, godt med litt reservedeler i bakhaand. Skifte radialvifte..

Nytt stasj

Stasj..

Enda mer stasj

Begynner aa ligne paa noe, aldri nok stasj

Ny stromforsyning til kjolelosningen

Ut med det gamle...

Bedre 😀

Ikke saa alt for dumt

Woo! Nytt rack..

Passelig 😄

Rydding i rotet..

Overskuddslageret... enn saa lenge.. i fremtiden blir det nok strom og backup skap.

Perspektiv 🙃

2 hours ago, kpolberg said:

Mnjæ, fikk nå 22 Gbps gjennom IPoIB, så faktisk raskere enn hva jeg hadde klart hvis jeg hadde satt kortet i Ethernet modus (gamle ConnectX3 kort).

Men forøvrig enig, har man ikke bruk for RDMA, så blir Infiniband fort mye jobb for lite utbytte.

Mja, men var vel netopp derfor jeg hadde lagt inn en slik eksplisitt `caveat` plassert akkurat der i innlegget mitt, men ja. Gitt nok semantikk, tolkning og forutsetninger er jo det tentativt  helt riktig det som du sier. Var vel kanskje min feil her aa sammenligne 40Gbit Infiniband med 40Gbit Ethernet (derav "line rate") akkurat der, mens jeg nedenfor nevner dual-personality som her vil vaere 10Gbit. Jeg beklager det, tar det til etterfolge og etteretning, selv om det kanskje her egentlig ikke var det som var poenget mitt.

Poenget var vel mer at emuleringslaget for IP trafikk paa toppen av Infiniband var "ineffektivt" og har en rekke andre begrensninger som normalt sett ville gjore det til ett uoptimalt/merkelig valg, (under da gitte forutsetninger, og da sammenlignet med IB over IB, og selvfolgelig, blah) gitt at det er faktisk Ethernet man egentlig skal bruke. Forovrig ville ikke overrasket meg ett sekund at med nok tuning, og riktige applikasjoner og gitte forhold, kan helt sikkert IPoIB yte tilnaermet "line rate" over IB det ogsaa..  men hva er vitsen?

Naar det kommer til responsivitet er vel det der jeg synest IPoIB faller til kort, sammenlignet med ren Ethernet. Session creation og teardown mellom filer paa feks. NFS over IPoIB er smertefullt treigt mellom filer sammenlignet med NFS over RDMA eller NFS over Ethernet. Men seff, overforing av en gigantisk fil innenfor samme sesjon er hastigheten ikke noe klagemoment i seg selv. Men er mer interessert i IOPS enn "MB/s" disse dager.. og da er det uansett blokk og ikke fil som gjelder.. igjen, jeg har ikke tunet IPoIB, og kjorer det ganske saa "out of the box", saa er nok sannsynlig traadstarter ligger naermere mine verdier er dine..

Beste argumentet for IB er vel kanskje som traadstarter sier, laeringsmomentet, og IPoIB er vel tilnaermet saa naert man kommer "Plug and Play"; paa Linux trenger vel ikke engang aa installere en RDMA stack, trenger vel bare 'modprobe ib_ipoib' og aa sette en IP saa er man i gang, saa fremt distroen har MLXx driverene i treet, og at en subnet-manager finnes ett sted selv om kanskje det vil kreve noe mer tuning og optimalisering for aa naa >20Gbit..

Uansett imponert over aa klare 22Gbit over IPoIB, min stack IPoIB stack kanguruer 'all over the place', alt fra 4Gbit til 16Gbit, men 10Gbit Ethernet (og RDMA/iSER/SRP over IB forovrig) er fjellstabilt innenfor desimalverdier

IPoIB er jo dorgende treigt (da sammenlignet med samme rate paa Ethernet), kanskje noe med min stack som er daarlig optimalisert, men Infiniband med RDMA peaker jo PCIe bus'en saa kan ikke vaere helt totalt feil oppsett heller.. men ser liksom ikke helt vitsen med aa investere i Infiniband om man bare skal bruke IPoIB og bare skal bruke til det helt ren IP trafikk... aldri brukt det til noe annet en OOB signallering og debugging... Ethernet er saa mye bedre til IP trafikk, og moderne kort fra Mellanox er jo dual personality, saa hvorfor bry seg med Infiniband i det hele tatt om man ikke skal kjore RDMA?

mumble mumble. Eksponere selve management interfacet (TMUI) direkte paa Internettet er vel ikke helt "beste praksis" saann rent sikkerhetsmessig uansett... normalt er vel disse (forhaapentligvis!) gjemt unna i ett management nett eller tilsvarende.

Quote

This vulnerability allows for unauthenticated attackers, or authenticated users, with network access to the TMUI, through the BIG-IP management port and/or Self IPs, to execute arbitrary system commands, create or delete files, disable services, and/or execute arbitrary Java code. This vulnerability may result in complete system compromise. The BIG-IP system in Appliance mode is also vulnerable. This issue is not exposed on the data plane; only the control plane is affected.

K52145254: TMUI RCE vulnerability CVE-2020-5902

If it ain't broke... something something

Sad robot; glitch in the matrix

Ingen vei utenom, bare aa ta frem skrujernet

Error code '9E 09' betyr visst noe i gaten av "Tape elevator vertical motion failed", og det kan jo desverre se ut som om det stemmer..                        

Heisen, eller selve "roboten" i 'roboten'

Hmm.. hvor skal man begynne?

Heisen demontert.. god start.. trikset er bare aa fikse den og ikke odelegge den

Selve heiselementet      

Tannhjulene er hva som driver magien her, rengjoring og smoring ser ikke ut til aa fikse det... ingen innlysende tegn til noen blokkering heller

Fant deg, din bitte-lille jaevel! Den lille bristen var visst alt som skulle til..

Tilbake i roboten.   

Woo, elevator vertical motion in action!

Strekkodeskanneren fungerer

Beep boop -robot- ?

Back in business

[Recap] A Game of Ladders

Oversikten

Konteksten

Utfordreren

Begynnelsen

Prosessen

Fortsettelsen

Strekkingen

Strukturen

Konklusjonen

I saa tilfelle burde du kunne forvente ett par hundre megabit stablit, kanskje gigabit med litt FCS under hoy belastning, men ingenting man ikke kan leve med. Avhengig av lengden og kvaliteten paa kablene i spredenettet. Jeg ville forsokt.

Utfordringen er ikke patchesnorene.. utfordringen er hva kabling som ligger i veggene. Naar man finner 110 blokk modifisert til data er det normalt fordi ett gammelt telco spredenett en gang i tiden ble oppgradert til aa kjore datatrafikk.. (derav CAT3 som var normalt for telco paa den tiden) Men uten aa vite hva kabler som ligger i veggene er det ikke godt aa si.

https://store.cablesplususa.com/110-block-patching-110-to-rj45-patch-cords.html

AT&T 110 blokk.. brukt i gamle bygg.. er egentlig telco saa ikke forvent veldig hastighet med datatrafikk.. ca~ CAT3 standard.

Det skal fungere fint med point-to-point med IB.

Naar jeg tenker meg om har jeg faktisk aldri kjort det oppsettet med QDR og nyere, men med SDR og DDR fungerer det fint, så kan ikke se hvorfor det ikke skal være tilsvarende med QDR.

For å etablere en link må du ha en 'subnet manager' kjørende på en av maskinene.

Forøvrig, du vil ikke kunne 'route', forwarde, eller gjøre noe annet "gøy" med IB, dvs. du kan ikke ha ett multiport i en server og to klienter-- en på port hver og sende data mellom disse.. kan jukse med ipoib og noe høyere i stack'en, men da er jo "IB" litt redundant uansett siden disse er multi-personality-kort.

Generasjon 4.0

En ny oppdatering herfra! Etter mange aars stillhelt. Mye rart har skjedd siden sist, baade paa hjemmefronten, og ellers. Jobb og privatliv har holdt meg opptatt, har bla. giftet meg, men datasenteret lever utrolig nok fortsatt i beste velgaaende. Jobber ogsaa med aa bygge ett helt nytt datasenter for min arbeidsgiver disse dager, saa erfaringene fra hjemmefronten har absolutt gitt avkastninger..

Disse bildene er fra "generasjon 4.0" som mer eller mindre er ferdigstillt naa, og tenkte kanskje det var paa tide etter saa lenge og poste en liten oppdatering, en aldri saa liten 'state of the lab', om du vil.

Datasenteret har begynt aa ta form, en vegg av plexiglass optimaliserer kjolepotensialet og holder stoynivaaet paa et behagelig 'humm' i konsollrommet. Litt stemningslys hjelper ogsaa godt paa, og en 'tech blue' hue inlemmer datarommet. Ett nytt IBM rackskap er ogsaa paa plass, selv om det bare blir brukt til oppbevaring for oyeblikket.

Kjolingen har blitt oppgradert ganske mye siden sist.. En ny air-condition for aa hjelpe litt paa de varmeste sommerdagene naar inntaksluften er litt for varm kommer ogsaa godt med. Ellers er datarommet stort sett 100% luftkjolt. Grovt regnet er PUE ca. i underkant av 1.1, dvs, jeg bruker ca 150-200W paa aa fjerne 2500W med varme. En vifte bringer ogsaa varmluft inn konsollrommet paa vinterstid.

Nettverket har blitt oppgradert ganske mye siden sist.. Cisco core har blitt faset ut og Extreme Network stack'en har blitt utvidet. En ny liten Cisco kjorer IGMP proxy for IPTV, ellers er nettverket naa nesten rent Extreme, Mikrotik og pfSense.

Har sluttet aa jobbe med Juniper naa, og gaatt helt over til CheckPoint (har endt opp med CCSA, CCSE, CCSM og VSX + MDM Expert siden sist..) Saa var liten vits aa vedlikeholde Juniper SRX stack'en.

En ny Mikrotik CRS317 gir 10 gigabit til klyngen, og linker den til core. En ny liten raatass av en Mikrotik RB4011 kjorer naa som CAPSMAN WiFi kontroller mot 4 Mikrotik CAPac aksesspunkter rundt i huset.

To BKK fiberlinjer og en 4G LTE backuplosning er ogsaa paa plass.

Litt artsy perspektiv paa nettverket. Samt alteret hvor jeg tilber Slack. Vi trenger alle litt slack her i livet.

Paa serversiden har ikke stort skjedd siden sist. Infiniband stack'en begynner aa bli voksen, QDR 40Gbit gjor jobben sin helt fantastisk, og klyngen er naa mer eller mindre ren RDMA backend. Ellers begynner det vel snart aa bli paa tide aa vurdere litt oppgraderinger her ogsaa..

Arbeiddstasjonen hvor jeg hacker inn i matrix.. Gronne skjermer med rullende gibberish-tekst betyr at jeg er en 110% uber-1337 haXXor.

Thanks for looking!

Oppdatering #110

[stay tuned]

[kommentartraaden]

Du må ordne bildene i siste post..

 

edit: alle bildene dine er visst nede. skrudd av serverne?? ^^

Stemmer visst det Opprinnelig var det bare planlagt at ting skulle vaere nede ett par dager mens rack'ene ble omrokkert og slikt, men det som maatte skje skjedde jo selvfolgelig..

Selve monteringen tok en dag leger enn planlagt, saa tok installasjon og konfigurasjonen litt lengre enn planlagt, og selvfolgelig var det noen skikkelig koselige bugs i koden min som jeg ikke hadde oppdaget i test .. og vipps var noen dager blitt til en uke.

Heldigvis hadde jeg plalnagt for det og tatt meg en uke fri fra jobben til aa faa arbeidet gjort

Satser paa ting blir litt mer stabilt naa fremover, ja, ivertfall helt til nettverket straks skal rives fra hverandre og bygges om

Update #109

Klar til test

Stay tuned..

[kommentartraaden]

Åååååh jeg hadde helt glemt ut denne tråden, tror det er et par år siden jeg var her og sjekket sist. Fortsatt masse gøy maskinvare å sikle på!

 

Jeg henger ikke med på teknologien her lenger (gikk over til bilskruing), men det er godt å se at du opprettholder warningtape-trenden. 

Hyggelig at du tok turen innom, og velkommen tilbake Har kanskje holdt paa alt for lenge med det tullet her naa Og warning tape og advarsel skilter maa man jo selvfolgelig ha, maa holde paa tradisjonene, og saa ser jo det umaatelig bra ut ogsaa da

Har blitt noen runder og iterasjoner naa med nye hardware generasjoner, foler ivertfall selv at ting begynner aa komme seg, haaper du tar innom igjen og sjekker ut status'en en gang i blandt, selv om du som du sier har skiftet litt jaktmarker, teknologi er jo alltid morsomt

Museksritt til 10Gbit

Intel XR997 10G Base-T nettverkskort.

 

 

Lydnivaaet paa disse kortene er helt idiotisk, 9000rpm, ren galskap, saa litt motstand maa til. Fant ut at ca 50-60ohm var smorsona mellom god kjoling og akseptabelt lydnivaa.. Endel av viftene ble ogsaa regelrett skfitet ut til fordel for noen Papst.

 

Mye bedre

 

En essensiell ingrediens i oppgraderingen.. Lilla nettverksutstyr ftw!

 

Mmm, fabrikknytt

 

2x 10G Base-T porter er ikke aa forakte.

 

Ett ekspansjonskort installert, to igjen

 

Har litt mer kjott paa beinet de nye ekspansjonskortene, sammenlignet med de gamle

 

DrainYou faar installert sitt 10Gbit nettverkskort

 

Brannveggen blir ogsaa regelrett snudd rundt, samt oppgradert for aa kunne ta unna litt mer ekspansjonskort..

 

Litt mat for brannveggen. 2x Intel xr997 10G Base-T, ett Intel X540 dual-port SFP+ og ett Intel E1000 1Gbit

 

Ganske grei utnyttelse, blir noen gigabiter dette forhaapentligvis

 

Benchtesting.. pfSense maa optimaliseres og tweakes en god del for aa kunne pushe akseptabelt. Med 40Gbit puttet inn i en kasse blir ogsaa ting fryktelig varmt, saa ekstra kjoling maa til.. Nettverksoppsettet blir omtrent som folger:

• 2x 10Gbit BASE-T: LACP til Servercore
• 1x 10Gbit SFP+: Link til WAN router
• 1x 10Gbit SFP+: CARP (failover sync) og dedikerte nett
• 1x 1Gbit BASE-T: Core Linknett
• 1x 1Gbit BASE-T: Management

 

Rack'ed

 

 

kommentartraaden

Got default route??

Routerconfig og en skikkelig vellagret og neat whiskey til arbeidet, hvordan ellers skulle man gjort ting? Kanskje en god vodka hadde passet bedre her.. you live you learn

Kommentarer

~~teaser~~ Litt 10Gbit nettverksgoodies ~~teaser~~

Litt infrastrukturoppgraderinger planlagt.. blir nok havregrot paa meg de neste maanedene.. skjitt au

Fremskritt, i form eller fasong

En aldri saa liten oppdatering av ett slag, med noen bilder av fremskrittene mot "generasjon 2.0" som det saa kjent heter. Mange aspekter av byggingen kommer sammen ganske saa fint, men fortsatt saa alt for mye arbeid som gjenstaar. Maalet i seg selv virker mer som en abstrakt ide eller konsept ett sted langt der oppe i bonnestengelen i drommeland ett sted.  Men nok om det, ett par bilder!

Lithium har faatt noen bilder allerede, begynner sakte men sikkert aa komme sammen

kommentartraaden

Reparere, automatisere, appifisere

Paa tide med litt hjemmeautomasjon Systemet som skal til pers brukes til aa kontrollere ventilasjonen til serverene, siden dette jo er den infamose "Internets of all the things@@!", foltes det som det er paa tide og vie litt tid til intelligensen bak det hele..

En liten instrumentboks jeg har hatt liggende en stund, i paavente av en god unnskyldning til aa bruke den.. Og siden den opprinnelig var del i ett automatiseringssystem virket det som ett passende valg for anledningen

Enda en adapter, denne er 5V og skal drive TTL logikken. Grei passform paa den ogsaa


Fortsettelse folger..

Kommentartraaden

Skraphaugen er elretur snart, får finne noen som vil hoste spill på de

Doh, mer peng enn meg ivertfall, alltids brukendes til noe, selv om kanskje ikke foldig