Il Lab

C'è chi festeggia l'exit comprandosi una Porsche. Io ho comprato un armadio rack.

Non sono esattamente una persona ordinata. Però riesco a mettere in ordine i cavi meglio dei miei pensieri.

Prima una domanda. Se ti dico «un armadio rack pieno di server», tu cosa rispondi?

La storia è la stessa. Cambia solo la lingua.

  1. Giorno uno

    L'armadio rack il primo giorno, quasi vuoto.
    Giorno uno

    Ne ho sempre voluto uno mio. In ufficio ce n'era uno, ma era dell'azienda e serviva per i test.

  2. Configurazione

    Un portatile appoggiato sul server durante la configurazione.
    Configurazione

    Dopo la cessione avevo tempo. Ho deciso di usarlo per sperimentare le cose nuove, non solo studiarle.

    Volevo capire l'intelligenza artificiale facendola girare in casa mia, non su un server di qualcun altro.

    Inferenza locale, LLM privati, virtualizzazione. Tutto configurato a mano.

  3. Cavi

    Primo piano dello switch e dei cavi di rete.
    Cavi

    Un pomeriggio intero a capire perché un server non andava più. Avevo spostato due cavi. Nella presa sbagliata.

    Due cavi spostati, un pomeriggio perso. Il server stava benissimo: ero io che non ricordavo come l'avevo collegato.

    Due cavi spostati sullo switch, dimenticandomi del bonding su quelle porte. Un pomeriggio di debug per una porta sbagliata.

    Non sono ordinato. Però i cavi adesso li etichett… a mia moglie.

  4. Rack pieno

    Il rack, pieno.
    Rack pieno

    Si è riempito più in fretta del previsto. Come tutte le passioni.

  5. La GPU

    La nuova GPU appena arrivata, ancora imballata, nella sua scatola.
    Unboxing della GPU

    Il pezzo che mancava: l'intelligenza artificiale che lavora qui, non nel cloud di qualcun altro.

    È il cervello dell'intelligenza artificiale. Più memoria ha, più grandi sono i modelli che riesce a far girare in casa.

    32 GB di VRAM: il minimo per continuare con i test di inferenza e l'OCR sui RAG. Non saranno mai abbastanza.

  6. Accensione

    Accensione8 secondi, senza audio

    Il primo respiro.

    Sì, ho fatto il video. Sì, ero emozionato. Poteva esplodere… forse.

  7. Oggi

    Il rack oggi, con un monitor.
    Oggi

    Ho costruito un luogo dove tenere privato quello che è giusto che resti privato.

    Ci girano intelligenze artificiali private: lavorano sui miei dati senza mandarli a nessuno.

    Switch 10GbE, bonding Linux per usare tutta la banda, GPU dedicata all'inferenza di LLM privati, NAS. E poi solo la fantasia.

Perché te lo racconto?

Non vendo server. Ma quando una cosa mi interessa, la costruisco finché non posso dire di averla capita davvero.

Parliamone