orbitalo/homelab-brain
1
0
Fork 0
Code Issues 41 Pull requests Projects Releases Packages Wiki Activity Actions

KI-Tower Muldenstein — Linux + Ollama + RTX 3090 aufsetzen #11

New issue
Closed
opened 2026-03-05 15:58:11 +00:00 by orbitalo · 0 comments
orbitalo commented 2026-03-05 15:58:11 +00:00
Owner
Copy link

Ist-Zustand

  • Server: Tower mit RTX 3090 (24 GB VRAM) in Muldenstein
  • Aktuell: Windows 11 mit Netzwerkproblemen
  • Keine Tailscale-Anbindung
  • Status in MASTER_INDEX.md: "Geplant"

Ziel

Lokaler KI-Server für RSS-Zusammenfassungen (ersetzt OpenRouter, spart ~144 USD/Jahr).

Schritte

  • Windows 11 durch Linux ersetzen (Ubuntu Server 24.04 oder Proxmox)
  • Nvidia-Treiber + CUDA installieren
  • Ollama installieren + Modell laden (Llama 3 70B 4-bit oder Mistral 7B)
  • Tailscale installieren + ans Netz anbinden
  • Ollama API testen (von Hetzner + pve1 erreichbar)
  • RSS Manager umstellen: OpenRouter → Ollama API auf KI-Tower
  • MASTER_INDEX.md + CT 999 Doku aktualisieren (IP, Status, Modell)

Hardware

  • GPU: RTX 3090 (24 GB VRAM)
  • Kann Llama 3 70B (4-bit) mit ~15-20 Tok/Sek laufen lassen
  • Ersparnis: ~144 USD/Jahr OpenRouter-Kosten

Abhaengigkeit

  • Siehe Issue #10 (arakavanews.com Redundanz) — lokale KI spart doppelte API-Kosten bei zwei RSS Managern
## Ist-Zustand - Server: Tower mit RTX 3090 (24 GB VRAM) in Muldenstein - Aktuell: Windows 11 mit Netzwerkproblemen - Keine Tailscale-Anbindung - Status in MASTER_INDEX.md: "Geplant" ## Ziel Lokaler KI-Server für RSS-Zusammenfassungen (ersetzt OpenRouter, spart ~144 USD/Jahr). ## Schritte - [ ] Windows 11 durch Linux ersetzen (Ubuntu Server 24.04 oder Proxmox) - [ ] Nvidia-Treiber + CUDA installieren - [ ] Ollama installieren + Modell laden (Llama 3 70B 4-bit oder Mistral 7B) - [ ] Tailscale installieren + ans Netz anbinden - [ ] Ollama API testen (von Hetzner + pve1 erreichbar) - [ ] RSS Manager umstellen: OpenRouter → Ollama API auf KI-Tower - [ ] MASTER_INDEX.md + CT 999 Doku aktualisieren (IP, Status, Modell) ## Hardware - GPU: RTX 3090 (24 GB VRAM) - Kann Llama 3 70B (4-bit) mit ~15-20 Tok/Sek laufen lassen - Ersparnis: ~144 USD/Jahr OpenRouter-Kosten ## Abhaengigkeit - Siehe Issue #10 (arakavanews.com Redundanz) — lokale KI spart doppelte API-Kosten bei zwei RSS Managern
Sign in to join this conversation.
No Branch/Tag specified
Branches Tags
main
No results found.
Labels
Clear labels   
flugscanner

Flugpreisscanner

  
fuenfvoracht

FünfVorAcht Telegram

  
infrastruktur

Server, Container, Netzwerk

  
jarvis

Projekt Jarvis — KI-Assistent mit Sprache, Smart Home, Monitoring

  
ki-tower

RTX 3090 / Lokale KI

  
nice-to-have

Kein Zeitdruck

  
prio-1

Höchste Priorität

  
wartung

Backups, SSL, Monitoring

  
wordpress

Arakava News / RSS Manager

No labels
flugscanner
fuenfvoracht
infrastruktur
jarvis
ki-tower
nice-to-have
prio-1
wartung
wordpress
Milestone
Clear milestone
No items
No milestone
Projects
Clear projects
No items
No project
Assignees
Clear assignees
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference: orbitalo/homelab-brain#11
No description provided.
Delete branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?