Autarke KI-Infrastruktur im Rechenzentrum betreiben

Lokale LLMs, RAG-Systeme und KI-Governance sicher für IT-Admins und die IT-Infrastruktur umsetzen

BESCHREIBUNG

Künstliche Intelligenz im Unternehmen bietet enormen Nutzen, birgt aber auch Risiken bei Datenschutz und Datensicherheit. In diesem zweitägigen Praxis-Seminar lernen Sie, wie Sie eine vollständig autarke KI-Infrastruktur im eigenen Rechenzentrum sicher aufbauen und betreiben.

Nach dem ersten Seminartag verstehen die Teilnehmer die technische Basis und können am Ende des Tages eine autarke KI-Infrastruktur im eigenen Rechenzentrum aufsetzen und administrieren.

Am zweiten Tag lernen die Teilnehmer, internes Wissen sicher in die eigene KI-Infrastruktur zu integrieren, ohne sensible Daten an externe Anbieter zu übermitteln, und das System wirksam gegen Angriffe und Datenabfluss abzusichern.

Sie erfahren praxisnah, wie Sie mit Open-Source-Modellen, Ollama und Docker sowie RAG effizient arbeiten und klare Governance-Strukturen schaffen.

Warum Sie diese Schulung besuchen sollten:

Öffentliche KI-Dienste wie ChatGPT stellen für viele Unternehmen ein erhebliches Sicherheits- und Datenschutzrisiko dar. Gleichzeitig fordert die Belegschaft moderne KI-Werkzeuge zur Unterstützung im Arbeitsalltag. Als IT-Verantwortlicher stehen Sie vor der Herausforderung, diese Tools bereitzustellen, ohne die Souveränität über Ihre Unternehmensdaten zu verlieren.

Dieses Seminar liefert Ihnen das technische Rüstzeug, um eine autarke KI-Umgebung sicher und performant im eigenen Rechenzentrum zu betreiben.

Lernen Sie, wie Sie KI für repetitive Admin-Aufgaben nutzen, interne Dokumente per RAG durchsuchbar machen und unerlaubte Shadow AI im Firmennetzwerk wirksam unterbinden. Sichern Sie sich jetzt wertvolles Praxiswissen für eine zukunftssichere IT-Infrastruktur!

Info Info

Teilnehmer-Information

Allen Teilnehmenden steht ein passend ausgestatteter eigener Labserver zur Verfügung, der Zugriff erfolgt per Browser.

TERMIN 2027

15.02.-16.02.2027 online

PREIS

1.390,- € online

ORGANISATORISCHES

Beginn 09:30 Uhr
Beginn Folgetage 09:00 Uhr
Ende letzter Tag 15:00 Uhr

Schulungsdauer 15,5 Stunden

LEISTUNGEN

  • alle Vortragspräsentationen als PDF-Datei zum Download
  • eine digitale Teilnahmebescheinigung

INHALTE

Tag 1: Lokale KI-Infrastruktur und Open-Source LLMs

Grundlagen und Lokales Deployment

  • Architektur verstehen (ohne Mathe-Hype)
    • Wie funktionieren LLMs (Gewichte, Kontextfenster, Tokens) aus Sicht der IT-Infrastruktur?
    • Welche Hardware-Ressourcen (VRAM, RAM, CPU) werden für Modelle wie Llama 3 oder Mistral benötigt?
  • Hands-On: Der eigene KI-Server (Ollama und Docker)
    • Installation und Konfiguration von Ollama auf Linux- und Windows-Servern
    • Deployment von Open-Source-Modellen
    • Aufsetzen von Web-Oberflächen (z.B. Open WebUI) als self-hosted ChatGPT-Alternative für die Belegschaft

Integration und erste Automatisierung

  • Die API als Admin-Werkzeug
    • Einführung in das OpenAI-kompatible API lokaler Modelle
    • Nutzen von Werkzeugen wie curl und einfachen Python/PowerShell-Skripten, um strukturierte Daten aus unstrukturierten Logs zu extrahieren (Grundlagen)
  • Automatisierung im Admin-Alltag: Integration von KI in bestehende Workflows
    • Praxisbeispiele: Automatisches Analysieren von Windows Event-Logs oder Linux Syslogs bei Fehlern; automatische Generierung von passenden PowerShell- oder Bash-Skripten zur Fehlerbehebung durch die KI

Tag 2: KI-Sicherheit, RAG (Unternehmensdaten) und Governance

RAG (Retrieval-Augmented Generation) und eigene Daten

  • Das „Wikileaks“-Problem umgehen
    • Warum Feintunen unbezahlbar ist, aber RAG die Lösung liefert.
    • Wie man der lokalen KI-Zugriff auf interne Dokumente (Handbücher, Wissensdatenbanken, Ticketsysteme) gibt, ohne dass Daten das Haus verlassen.
  • Hands-On: Aufbau einer lokalen Knowledge-Base
    • Anbindung von Open WebUI oder Dokumenten-Schnittstellen an lokale PDF- und Markdown-Verzeichnisse
    • Testen der KI als interner „IT-Support-Assistent“, der Fragen auf Basis alter Tickets beantwortet

Security, Monitoring und Governance

  • KI-Security und Hardening für IT-Admins
    • Shadow AI unterbinden: Wie sperre und überwache ich die Abwanderung von Firmendaten zu öffentlichen KIs (ChatGPT, Claude) im Firmennetzwerk (Firewall/Proxy-Ebene)?
    • Prompt Injection und Jailbreaking: Wie sichere ich meine internen KI-Schnittstellen gegen Missbrauch ab?
  • Monitoring, Ressourcen und Lizenzen:
    • Wie überwacht man die GPU-Auslastung (z.B. mit Prometheus/Grafana)?
    • Welche Open-Source-Lizenzen (Apache 2.0, MIT, kommerzielle Einschränkungen bei Meta) müssen IT-Admins kennen?
  • Abschlussdiskussion und Q&A:
    • Individuelle Architektur-Fragen der Teilnehmer für ihre jeweiligen Unternehmen (Mittelstand, Systemhaus etc.)

REFERENT

clodt_web

Franz-Georg Clodt ist technischer Berater und IT-Trainer und blickt auf über 25 Jahre Berufserfahrung zurück. Zu seinen Spezialgebieten zählen Microsoft Exchange und Exchange Online, Powershell, Windows Serversysteme, Active Directory, Windows Clustering, PKI, Internet Information Server und Docker und Kubernetes. Herr Clodt ist seit 1994 durchlaufend zertifiziert als Microsoft Trainer.

DAS SAGEN UNSERE TEILNEHMER

5sterne

ZIELE

IN DIESEM SEMINAR LERNEN SIE:

  • Aufbau und Betrieb einer vollkommen autarken KI-Infrastruktur mittels Ollama und Docker im eigenen Rechenzentrum
  • Anbindung interner Unternehmensdokumente über RAG ohne Datenabfluss an externe Anbieter
  • Automatisierung alltäglicher IT-Prozesse wie Log-Analysen und Skript-Erstellung durch lokale APIs
  • Absicherung von KI-Schnittstellen, Abwehr von Prompt Injections sowie Unterbindung von Shadow AI auf Netzwerkebene

ZIELGRUPPE

  • Administratoren
  • Rechenzentrumsleiter
  • Entscheider

Dieses Seminar richtet sich an Systemadministratoren, IT-Infrastruktur-Verantwortliche und Rechenzentrumsleiter, die KI-Tools sicher und datenschutzkonform im eigenen Haus bereitstellen möchten. Melden Sie sich jetzt an und machen Sie Ihre IT zukunftssicher!

Grundlegende Vorkenntnisse in der Administration von Server-Betriebssystemen (Linux oder Windows Server), Basiswissen im Bereich Netzwerk/Firewalls sowie Vertrautheit mit der Kommandozeile (Bash oder PowerShell) sind wünschenswert, aber nicht zwingend.

skill level1 2 1 scaled

DIESE VERANSTALTUNGEN KÖNNTEN SIE AUCH INTERESSIEREN

Windows PKI und Zertifikatsverwaltung
15.12.-16.12.2026 online

Cloud Security
10.11.2026 in Aachen | online

© Copyright - ComConsult