Il Lab
C'è chi festeggia l'exit comprandosi una Porsche. Io ho comprato un armadio rack.
Non sono esattamente una persona ordinata. Però riesco a mettere in ordine i cavi meglio dei miei pensieri.
Prima una domanda. Se ti dico «un armadio rack pieno di server», tu cosa rispondi?
La storia è la stessa. Cambia solo la lingua.
Giorno uno

Giorno uno Ne ho sempre voluto uno mio. In ufficio ce n'era uno, ma era dell'azienda e serviva per i test.
Configurazione

Configurazione Dopo la cessione avevo tempo. Ho deciso di usarlo per sperimentare le cose nuove, non solo studiarle.
Volevo capire l'intelligenza artificiale facendola girare in casa mia, non su un server di qualcun altro.
Inferenza locale, LLM privati, virtualizzazione. Tutto configurato a mano.
Cavi

Cavi Un pomeriggio intero a capire perché un server non andava più. Avevo spostato due cavi. Nella presa sbagliata.
Due cavi spostati, un pomeriggio perso. Il server stava benissimo: ero io che non ricordavo come l'avevo collegato.
Due cavi spostati sullo switch, dimenticandomi del bonding su quelle porte. Un pomeriggio di debug per una porta sbagliata.
Non sono ordinato. Però i cavi adesso li etichett… a mia moglie.
Rack pieno

Rack pieno Si è riempito più in fretta del previsto. Come tutte le passioni.
La GPU

Unboxing della GPU Il pezzo che mancava: l'intelligenza artificiale che lavora qui, non nel cloud di qualcun altro.
È il cervello dell'intelligenza artificiale. Più memoria ha, più grandi sono i modelli che riesce a far girare in casa.
32 GB di VRAM: il minimo per continuare con i test di inferenza e l'OCR sui RAG. Non saranno mai abbastanza.
Accensione
Accensione8 secondi, senza audio Il primo respiro.
Sì, ho fatto il video. Sì, ero emozionato. Poteva esplodere… forse.
Oggi

Oggi Ho costruito un luogo dove tenere privato quello che è giusto che resti privato.
Ci girano intelligenze artificiali private: lavorano sui miei dati senza mandarli a nessuno.
Switch 10GbE, bonding Linux per usare tutta la banda, GPU dedicata all'inferenza di LLM privati, NAS. E poi solo la fantasia.
Perché te lo racconto?
Non vendo server. Ma quando una cosa mi interessa, la costruisco finché non posso dire di averla capita davvero.
Parliamone