Katalog
/
Künstliche Intelligenz und angewandte KI
/
Ollama für lokale und private AI Model Deployments

Ollama für lokale und private AI Model Deployments

Ein praxisnaher zweitägiger technischer Kurs für Teilnehmende, die neu mit Ollama arbeiten und Open-Weight AI Models in lokalen und privaten Umgebungen bereitstellen und integrieren möchten. Die Agenda führt von Installation, Model Selection und Model Management über Konfiguration und APIs bis zu Application Integration, Tool Calling und operativen Aspekten. Der Kurs konzentriert sich auf eine praktische Grundlage für den Einsatz von Ollama als lokale AI Runtime innerhalb von Development-, Automation- und Enterprise-Application-Workflows.

Was werden Sie lernen?

Sie lernen, wie Ollama installiert und betrieben wird, wie geeignete Modelle ausgewählt und verwaltet werden und wie sich Model Behavior konfigurieren lässt. Sie arbeiten mit Modelfiles, REST APIs, OpenAI-kompatiblen Interfaces sowie Python und JavaScript Integrationen. Zusätzlich verstehen Sie Hardware Anforderungen, Model Sizing, Context Configuration, Security und Deployment Aspekte für zuverlässige private AI Umgebungen.

  • Open-Weight AI Models mit Ollama lokal bereitstellen und verwalten
  • Modelle, Parameter, Context und wiederverwendbare Custom Model Definitions konfigurieren
  • Ollama über REST APIs, kompatible Interfaces und Application Libraries integrieren
  • Sichere und wartbare lokale AI Deployments für Development und Enterprise Use Cases gestalten

Voraussetzungen:

  • Technischer Hintergrund in Software Development, Infrastructure, DevOps, Data Engineering oder einem verwandten Bereich
  • Grundlegende Command-Line-Erfahrung
  • Grundlegende Programmierkenntnisse, vorzugsweise Python oder JavaScript
  • Keine vorherige Erfahrung mit Ollama oder lokalen LLMs erforderlich

Kursübersicht*:

*Wir passen den Kursaufbau und die Inhalte an Ihre spezifischen Anforderungen und relevanten Anwendungsfälle an.

Modul 1: Ollama Architektur und lokales AI Deployment

  • Ollama als Runtime für lokale und privat bereitgestellte AI Models verstehen
  • Ollama auf unterstützten Desktop- und Server-Umgebungen installieren und ausführen
  • Ollama Service, CLI, Model Storage und lokale API verstehen
  • Lokale Ausführung mit optionalem Remote- oder Cloud-Model-Zugriff vergleichen

Modul 2: Modelle auswählen und verwalten

  • Modelle anhand von Aufgabe, Model Size, Capabilities und Hardware auswählen
  • Modelle herunterladen, ausführen, auflisten, untersuchen, kopieren und entfernen
  • Model Variants, Quantization, Context Requirements und Memory Consumption verstehen
  • Geeignete Modelle für Chat, Coding, Reasoning, Vision, Embeddings und Tool Use auswählen

Modul 3: Modelle mit Modelfiles konfigurieren

  • Aufbau und Zweck eines Ollama Modelfile verstehen
  • Base Models, System Instructions, Templates und Runtime Parameters definieren
  • Temperature, Context Length, Stop Sequences und weiteres Generation Behavior konfigurieren
  • Wiederverwendbare angepasste Modelle für spezifische Anwendungen und organisatorische Anforderungen erstellen

Modul 4: Hardware, Performance und Runtime Configuration

  • CPU-, GPU-, Memory- und VRAM-Anforderungen für lokale Model Execution verstehen
  • Model Size und Quantization an verfügbare Hardware anpassen
  • Context Length, Model Loading und Resource Usage konfigurieren
  • Typische Installations-, Memory-, Model-Loading- und Performance-Probleme analysieren

Modul 5: Mit der Ollama API arbeiten

  • Die lokale REST API für Chat, Generation, Embeddings und Model Operations einsetzen
  • Messages, Parameters und strukturierte Requests programmatisch senden
  • Mit Streaming Responses und Structured Outputs arbeiten
  • Das OpenAI-kompatible Interface für Anwendungen verstehen, die auf verbreiteten AI APIs basieren

Modul 6: Python und JavaScript Application Integration

  • Anwendungen mit den offiziellen Python und JavaScript Libraries an Ollama anbinden
  • Grundlegende Chat- und Generation-Workflows mit lokalen Modellen entwickeln
  • Prompts, Conversation History, Model Selection und Response Handling verwalten
  • Application Code so strukturieren, dass Modelle und Konfiguration ohne umfangreiche Änderungen ausgetauscht werden können

Modul 7: Tool Calling und externe Integrationen

  • Tool Calling verstehen und Modelle mit entsprechender Unterstützung auswählen
  • Model Responses mit Application Functions, APIs und externen Services verbinden
  • Ollama mit Development Tools und AI Application Frameworks integrieren
  • Kontrollierte Workflows gestalten, in denen das Modell Aktionen anfordern kann, ohne uneingeschränkten Systemzugriff zu erhalten

Modul 8: Private Deployment und operative Einsatzbereitschaft

  • Ollama für andere Anwendungen und Services innerhalb kontrollierter Umgebungen bereitstellen
  • Network Access, Authentication Layers, Container und Service Boundaries berücksichtigen
  • Modelle, Versionen, Konfiguration, Updates und Resource Consumption verwalten
  • Eine praktische Deployment Checkliste für Privacy, Security, Hardware, Monitoring, Integrationen und Wartung aufbauen

Praxisnahes Lernen mit erfahrenen Trainern an Ihrem Standort für Organisationen.

4.122€*
Graph Icon - Education X Webflow Template
Niveau:
advanced
Clock Icon - Education X Webflow Template
Dauer:
14
Stunden (Tage:
2
)
Camera Icon - Education X Webflow Template
Training angepasst an Ihre Bedürfnisse
Star Icon - Education X Webflow Template
Intensive praktische Erfahrung in einer speziellen Umgebung
*Der Preis kann je nach Teilnehmerzahl, Änderung des Programms, Standort usw. variieren.

Neue Fähigkeiten erlernen, angeleitet von erfahrenen Trainern von überall.

3.097€*
Graph Icon - Education X Webflow Template
Niveau:
advanced
Clock Icon - Education X Webflow Template
Dauer:
14
Stunden (Tage:
2
)
Camera Icon - Education X Webflow Template
Training angepasst an Ihre Bedürfnisse
Star Icon - Education X Webflow Template
Reduzierte Schulungskosten
*Der Preis kann je nach Teilnehmerzahl, Änderung des Programms, Standort usw. variieren.

Starttermine

11.-12.02.2027
Stuttgart
11.-12.03.2027
Hamburg
18.-19.03.2027
Stuttgart
30.-31.03.2027
München
06.-07.04.2027
Frankfurt
21.-22.04.2027
Wien
03.-04.06.2027
Stuttgart
15.-16.06.2027
München

Kein passender Termin dabei? Sprechen Sie uns gerne auf Ihren Wunschtermin an.

Wir verwenden Cookies, um die Navigation zu verbessern, die Nutzung der Website auszuwerten und unser Marketing zu unterstützen. Sie können alle Cookies akzeptieren, nicht notwendige ablehnen oder einzelne Kategorien auswählen. Zum Cookie-Hinweis