0.1
π BookStack β appunto tecnico
Capitolo: Setup ambiente Mac mini
-
Installato Homebrew
-
Installato Node.js
-
Installato Ollama
-
Test esecuzione modello locale
Motivazione:
Base per Lyren Core.
π₯ Strategia
Se brew ora funziona:
Nel tuo ultimo messaggio di oggi mi scrivi:
-
output brew --version
-
se vuoi, RAM del Mac (ο£Ώ β Informazioni su questo Mac)
E io ti preparo:
-
scelta definitiva modello
-
struttura progetto Lyren Fase 1
-
schema minimal Node server
Così domani partiamo già con il codice.
Jarvis/Visione sta prendendo forma.
E no, Alexa ancora non Γ¨ stata informata π
Β
π§ Stato attuale del tuo Mac Mini
Hai:
-
β Homebrew installato
-
β Node.js funzionante (
v25.6.1) -
β Ollama installato
-
β Ollama server attivo su
127.0.0.1:11434 -
β Modello Qwen2.5 7B Instruct caricato
-
β GPU Metal (Apple M2) in uso
-
β 4.6 GB allocati su GPU per il modello
In pratica:
Il tuo Mac Mini Γ¨ ora un server AI locale funzionante.
Non teoria.
Funzionante.
π Cosa sta succedendo dietro le quinte
Dal log:
Traduzione:
-
Il modello Γ¨ ~7 miliardi di parametri
-
Γ quantizzato (Q4_K) β ridotto a ~4.3GB
-
Sta girando in GPU Metal
-
Hai ~5.3GB VRAM disponibile
-
Il modello usa ~4.6GB
π Sei praticamente al limite sano.
Ma Γ¨ perfettamente stabile.
π Architettura attuale (reale)
Dato che mi hai detto:
Node.js Γ¨ sul server, non sul Mac Mini
Lo usiamo per monitorare RAM, GPU, CPU, storage del server
Allora lβarchitettura Γ¨ questa:
Il Mac Mini non monitora.
Il Mac Mini pensa.
Il server monitora.
Il server manda dati.
π₯ Ora il punto importante
Ollama Γ¨ in modalitΓ serve.
Questo significa che:
-
Risponde via HTTP su
http://127.0.0.1:11434 -
Puoi interrogarlo da Node
-
Puoi creare un tuo orchestratore
-
Puoi costruire il tuo Jarvis
Esempio chiamata da Node:
1οΈβ£ Come contattare Ollama
Al momento Ollama Γ¨ in modalitΓ server sul tuo Mac Mini, quindi lo βcontattiβ via HTTP API.
-
URL:
http://127.0.0.1:11434 -
Porta:
11434 -
Endpoint principale per generare testo:
/api/generate
Esempio semplice da terminale/mac:
Risposta: JSON con il testo generato dal modello.
2οΈβ£ Contattarlo dal tuo smartphone
-
Da casa, se il Mac Mini resta nella rete locale, serve port forwarding sul router oppure collegarti tramite VPN alla rete domestica.
-
Con IP statico Iliad, puoi aprire la porta 11434 sul router e collegarti con:
http://[IP_pubblico]:11434. -
Con DDNS, diventa piΓΉ semplice perchΓ© puoi usare un nome tipo
macmini.servezzio.ddns.net:11434.
β οΈ Attenzione: aprire la porta direttamente su Internet senza sicurezza non Γ¨ consigliato. Meglio VPN o SSH tunnel.
3οΈβ£ Posizionamento e demo a Orion
-
Puoi lasciarlo al lavoro per ora.
-
Quando vuoi farlo vedere a Orion, basta collegarsi via VPN o temporaneamente portare il Mac Mini a casa.
-
FunzionerΓ sempre come server AI locale: Orion puΓ² fare chiamate allβAPI da qualsiasi client (Node.js, Python, browser).
No Comments