Zum Inhalt springen
pflegedozi.org Freie Software. Lokal. Unabhängig.

AGPLv3 · Linux · ohne Cloud

Ollama Manager · Version 0.2 · KI-Arbeitsumgebung für Linux

Künstliche Intelligenz, die den Rechner nicht verlässt. Nachprüfbar.

Eine vollständige deutschsprachige Arbeitsumgebung für künstliche Intelligenz, die ausschließlich auf dem eigenen Rechner läuft — mit Oberfläche, Gedächtnis, Dokumentensuche, Agent, Sprachein- und -ausgabe und Offline-Betrieb.

In einem Satz

Was Ollama allein nicht mitbringt

Der Ollama Manager setzt auf Ollama auf — der Software, die KI-Modelle lokal ausführt — und ergänzt sie um alles, was dort fehlt. Ollama allein ist ein Kommandozeilenwerkzeug: Man kann ein Modell starten und in einem schwarzen Fenster mit ihm reden, mehr nicht. Kein Verlauf, keine Dokumente, keine Einstellungen, kein Gedächtnis. Der Ollama Manager macht daraus ein benutzbares Programm.

Der Kern der Sache: Es verlässt nichts den Rechner. Keine Frage, keine Antwort, kein Dokument, keine Nutzungsstatistik. Das ist keine Absichtserklärung, sondern durch zwei technische Sperren erzwungen und mit Bordmitteln nachprüfbar.

Warum es das gibt

Eine Exit-Strategie, kein Spielzeug

Ich halte Künstliche Intelligenz für eine der nützlichsten Techniken unserer Zeit. Ich halte aber nichts davon, dafür Mega-Rechenzentren zu bauen, die Hardware- und Wertschöpfungsketten immens verteuern, die umweltschädlich sind und die Menschen einschränken, die direkt daneben leben oder ökologisch davon betroffen sind.

Wenn US-KI-Anbieter unerreichbar werden, ihre Preise massiv steigen oder ihre Nutzungsbedingungen ändern, falle ich nicht ins kalte Wasser. Alles, was ich brauche – Code generieren, Code prüfen, Webseiten reparieren, Dokumente erstellen – erledige ich dann lokal. Mit kleiner, ressourcenschonender KI, die auf vorhandener Hardware läuft und niemandem nützt außer mir.

Für Pflege und Gesundheit kommt der entscheidende Punkt dazu: Wer über Cloud-KI nachdenkt, muss die Datenschutzfrage bei jedem Dokument neu beantworten. Wer lokal arbeitet, hat sie ein für alle Mal beantwortet.

Ein Datenschutzversprechen, das man prüfen kann, ist mehr wert als eines, dem man glauben muss.

Aufbau

Acht Bereiche, über Reiter erreichbar

Dazu kommen zwei Fenster außerhalb des Hauptprogramms: ein kleines Schnellfrage-Fenster, das per Tastenkombination von überall aufgeht, und ein optionales Artefakte-Fenster für den Betrieb mit zwei Bildschirmen.

Die Bereiche im Einzelnen

Was jeder Bereich konkret leistet

01

Status

Hardware-Erkennung · Ollama-Zustand

Zeigt auf einen Blick, ob Ollama installiert ist und ob der Dienst läuft, und listet die installierten Modelle. Die Hardware wird beim Start erkannt — Prozessor, Arbeitsspeicher, Grafikkarte — und daraus eine Empfehlung abgeleitet, welche Modelle auf diesem Rechner sinnvoll laufen. Ollama lässt sich aus dem Programm heraus starten und installieren.

02

Modelle

verwalten · vergleichen · eigene Varianten bauen

Sprachmodelle sind die eigentliche „Intelligenz“: Dateien zwischen einem und acht Gigabyte, die einmalig heruntergeladen und danach beliebig oft offline benutzt werden.

Verwalten

  • Übersicht über installierte Modelle mit Größe und Kategorie
  • Filter, unter anderem einer, der nur die Modelle zeigt, die in den vorhandenen Arbeitsspeicher passen
  • Online-Bibliothek zum Stöbern und Nachladen
  • Empfehlungen auf Basis der erkannten Hardware
  • Löschen einzelner Modelle, um Platz zu schaffen

Eigene Modellvarianten

  • Ein Dialog erzeugt ein Modelfile aus einem Basismodell (FROM) und einem festen Systemauftrag (SYSTEM)
  • So entsteht aus einem Standardmodell eines, das ohne weiteres Zutun immer in der gewünschten Rolle antwortet

Speicherschutz. Das häufigste Ärgernis auf kleinen Rechnern: Ein zu großes Modell mit Standardkontext lässt den Arbeitsspeicher überlaufen, das Betriebssystem beendet daraufhin nicht die Anfrage, sondern den Modellserver — und damit bricht Ollama mitten in der Antwort komplett weg. Der Speicherschutz erkennt das Missverhältnis zwischen Modellgröße und freiem Speicher vorher und begrenzt die Kontextlänge automatisch. Auf einem gut ausgestatteten Rechner greift die Bremse nicht — dieselbe Installation läuft dort ungebremst. Abschaltbar oder durch einen festen Wert ersetzbar.

03

Chat

der Arbeitsplatz · Schnellbefehle · Artefakte

Antworten laufen Wort für Wort ein, statt dass man minutenlang auf einen Block wartet.

Gespräche

  • Mehrere Gespräche parallel, die einen Programmneustart überleben
  • Vollständiger Verlauf, durchsuchbar, exportierbar
  • Tastenkürzel: Strg+N neues Gespräch, Strg+E exportieren, Strg+1 bis Strg+7 für die Bereiche
  • Befehlspalette (Strg+K) — eine durchsuchbare Liste aller Aktionen

Schnellbefehle

  • Mit einem Schrägstrich am Zeilenanfang wird aus einer beiläufigen Eingabe ein sauber formulierter Auftrag
  • /code, /erklaere, /zusammenfassen, /uebersetzen, /brainstorm, /merken, /plan, /kritik
  • Jeder Befehl ergänzt im Hintergrund einen passenden Systemauftrag — /zusammenfassen etwa bindet die Antwort auf höchstens fünf Punkte oder 200 Wörter

Artefakte

  • Liefert die KI Programmcode oder eine HTML-Seite, wird das automatisch erkannt und rechts neben dem Chat dargestellt
  • Kein Herauskopieren aus dem Gesprächsverlauf mehr
  • Anfangs ausgeblendet, klappt beim ersten Artefakt auf; der Inhalt überlebt das Wegklappen
  • Für zwei Bildschirme bleibt ein eigenes Fenster verfügbar

Modell-Weiche und Kontext-Budget

  • Bilder lassen sich anhängen, sofern das gewählte Modell sehen kann
  • Die Modell-Weiche erkennt rein regelbasiert vier Fälle — Programmierung, Bild, langer Text, normales Gespräch — und schlägt aus den installierten Modellen das passende vor; ohne zusätzlichen Modellaufruf
  • Dabei wird geprüft, ob ein Modell Bilder überhaupt verarbeiten kann; sonst würde ein Anhang stillschweigend ignoriert
  • Das Kontext-Budget verteilt den begrenzten Platz auf die konkurrierenden Quellen: Gesprächsverlauf, Dokumentfundstellen, dauerhafte Erinnerungen, Werkzeugbeschreibungen
04

Projekte

wiederkehrende Aufgaben bündeln

Ein Projekt bündelt alles, was für eine wiederkehrende Aufgabe gleich bleibt: Systemauftrag (die Rolle), festes Modell, Kontextgröße sowie die Schalter für Dokumentensuche, Gedächtnis und Auto-Agent — dazu ein Notizfeld. Eigene Projekte lassen sich frei anlegen; drei sind mitgeliefert.

Allgemein

  • Ohne Vorgaben.

Pflegedozent

  • Antwortet immer auf Deutsch, mit korrekter pflegewissenschaftlicher Fachterminologie
  • Orientiert sich an aktuellen Pflegestandards
  • Dokumentensuche und Gedächtnis sind an
  • Gedacht für Unterrichtsvorbereitung, Lernmaterialien und Fachfragen

Code

  • Knapp und präzise, Code zuerst, dann kurze Erklärung, keine Floskeln
  • Großer Kontext, Auto-Agent aktiv
05

Dokumente — Wissensdatenbanken

Auskunft über die eigenen Unterlagen

Hier bekommt das Programm die eigenen Unterlagen, um anschließend über diese Unterlagen Auskunft zu geben. Die Dokumente werden in Abschnitte von rund 500 Zeichen zerlegt (mit 50 Zeichen Überlappung, damit an den Schnittstellen kein Sinn verlorengeht), lokal in Zahlenvektoren übersetzt und in einer Vektordatenbank abgelegt. Bei jeder Frage werden die passendsten Abschnitte herausgesucht und der KI mitgegeben. Die Antwort stützt sich damit auf Ihr Material statt auf das Halbwissen des Modells.

Einlesen

  • Formate: PDF, TXT, Markdown, RST, CSV, LOG sowie Quelltext- und Konfigurationsdateien (PY, JS, HTML, XML, JSON, YAML, INI, CFG, CONF)
  • Ganze Ordner einlesen, wahlweise mit Unterordnern
  • Mehrere getrennte Wissensdatenbanken — Dienstanweisungen getrennt vom Unterrichtsmaterial, jede mit eigener Sammlung

Pflegen und prüfen

  • Abgleich über Prüfsummen: Es wird erkannt, welche Dateien sich seit dem letzten Einlesen geändert haben — nur die werden neu verarbeitet
  • Suche testen: zeigt, welche Abschnitte die KI zu einer Frage tatsächlich vorgelegt bekommt
  • Statistik über Dokumente und Abschnitte, Export der Daten

Auch das läuft vollständig lokal: Die Übersetzung in Vektoren macht ein Modell auf dem eigenen Rechner. Es wird nichts hochgeladen.

06

Erinnerung

Gedächtnis · Aufgaben · Verlauf · Bewertungen

Vier Dinge unter einem Dach, in SQLite-Datenbanken. Darüber liegt eine Volltextsuche, mit der sich auch Monate später wiederfinden lässt, was einmal besprochen wurde.

Dauerhafte Erinnerungen

  • Fakten, die über einzelne Gespräche hinaus gelten: Vorlieben, Schreibstil, Angaben zur eigenen Einrichtung
  • Werden künftigen Anfragen automatisch beigelegt
  • Per /merken direkt aus dem Chat heraus anlegbar

Das Übrige

  • Aufgaben — eine einfache Liste mit Zuständen
  • Gesprächsverlauf — alle geführten Gespräche, dauerhaft gespeichert
  • Bewertungen — gute und schlechte Antworten lassen sich markieren
07

Der Agent

neun Werkzeuge · Ampelsystem · harte Schranken

Auf Wunsch redet die KI nicht nur, sondern handelt: „Sieh dir die Datei an, fasse sie zusammen und leg die Zusammenfassung daneben ab.“ Es gibt zwei Betriebsarten — Werkzeuge auf Zuruf oder ein Auto-Agent, der eigenständig so lange arbeitet, bis die Aufgabe erledigt ist.

Die neun Werkzeuge

  • Datei lesen, Ordner auflisten, in Dateien suchen, Quelltext analysieren
  • Harmlosen Systembefehl ausführen
  • Webseite abrufen, im Web suchen
  • Datei schreiben, Datei ändern

Das Ampelsystem

  • Grün — läuft ohne Rückfrage (reines Lesen)
  • Gelb — fragt nach; kann pauschal freigegeben werden
  • Rot — fragt immer. Der Dialog zeigt genau, was geschrieben werden soll, und lässt sich jederzeit mit „Nein“ beantworten

Fest eingebaut und nicht abschaltbar

  • Zugriff nur im persönlichen Ordner und in /tmp; Systemordner gesperrt
  • Gesperrt sind zusätzlich alle Pfade, die nach Zugangsdaten aussehen
  • Befehle nur aus einer festen Positivliste harmloser Kommandos
  • Ausdrücklich gesperrt: alles, was Rechte ausweitet, löscht, Rechte ändert, Prozesse beendet, Daten aus dem Netz holt oder weitere Programme startet
  • Keine Sonderzeichen, mit denen sich mehrere Befehle verketten ließen
  • Zehn Sekunden Zeitlimit je Befehl
  • Ein Stopp-Knopf, der sofort greift — auch mitten in einem laufenden Auto-Agent-Durchlauf
08

Fremdwerkzeuge (MCP)

strengere Regeln, weil fremder Code läuft

Über das Model Context Protocol lassen sich fremde Werkzeugserver anbinden — für Dateisystem, Git, Datenbanken und anderes. Server laufen als Unterprozesse; Werkzeugnamen werden eindeutig gemacht, damit zwei Server dasselbe Werkzeug anbieten können.

Strengere Einstufung

  • Kein MCP-Werkzeug ist jemals grün
  • Standard ist gelb; rot bei allem, was sich selbst als verändernd oder zerstörend meldet
  • Ein Werkzeug ohne laufenden Server gilt grundsätzlich als rot

Freigabe auf Werkzeugebene

  • Nicht nur pro Server, sondern je einzelnem Werkzeug
  • Das ist kein Luxus: Ein einziger Dateisystem-Server bringt 14 Werkzeuge mit rund 9.000 Zeichen Beschreibung mit — die neun eigenen sind zusammen knapp 3.000
  • Diese Beschreibungen gehen in jede Anfrage, und ein kleines Modell hat insgesamt nur etwa 3.000 Zeichen Budget. Ohne Auswahl erstickt es
  • Mit zwei gezielt freigegebenen Werkzeugen sind es 1.251 statt 9.055 Zeichen. Die Einstellungen zeigen die Summe an und warnen ab 4.000 Zeichen
09

Sprache

Vorlesen und Diktieren — ohne Cloud

Vorlesen

  • Über Piper mit einer deutschen Stimme, die einmalig abgelegt wird
  • Stimme und Sprechtempo einstellbar, mit Testknopf
  • Eine englische Stimme kann deutsche Laute gar nicht bilden — die Stimmenerkennung prüft deshalb das Piper-Namensschema statt nur auf „de“ im Dateinamen

Diktieren

  • Über den Mikrofonknopf im Chat, lokal per faster-whisper
  • Deutsch ist voreingestellt; Modellgröße, Aufnahmedauer und Sprache sind wählbar
  • Beim ersten Klick wird einmalig das Erkennungsmodell nachgeladen (rund 140 MB), danach arbeitet es offline
  • Gemessen auf einem älteren Notebook: 7,4 Sekunden Sprache in 2,5 Sekunden erkannt, Umlaute und „ß“ korrekt, einmalig rund zehn Sekunden Ladezeit je Sitzung
  • Der Aufnahmedialog trennt Aufnahme und Verarbeitung sichtbar voneinander

Beides ohne Cloud — kein gesprochenes Wort verlässt den Rechner.

10

Schnellzugriff

Tastenkürzel · Taskleiste · Autostart

Von überall erreichbar

  • Globales Tastenkürzel, voreingestellt Strg+Alt+Leertaste, öffnet ein kleines Fragefenster — auch wenn das Hauptprogramm geschlossen ist
  • Frei änderbar, mit Selbsttest-Knopf, der 20 Sekunden auf einen Tastendruck wartet
  • Symbol in der Taskleiste mit Menü
  • Autostart für beides, einzeln an- und abschaltbar

Ehrlich zum Sitzungstyp

  • Unter X11 arbeiten globale Tastenkürzel zuverlässig
  • Unter Wayland sind sie systemseitig eingeschränkt — darauf wird hingewiesen, statt es stillschweigend nicht zu tun
11

Offline-Betrieb

für abgeschottete Netze

In Kliniken und Behörden eher Regel als Ausnahme. Damit lässt sich ein vollständig eingerichteter Arbeitsplatz auf einen Rechner ohne jeden Internetanschluss übertragen.

Übertragen

  • Modelle exportieren und importieren als Archiv
  • Ollama-Programmdatei exportieren und auf dem Zielrechner aus der lokalen Kopie installieren

Sichern

  • Programmdaten sichern und zurückspielen — Gespräche, Erinnerungen und Wissensdatenbanken zusammen
  • Vorhandene Archive finden, um ein Paket wiederzuverwenden

Sicherheit und Datenschutz

Vier Schichten, die unabhängig voneinander wirken

Nachprüfbarkeit — das ist der eigentliche Punkt. Während eines laufenden Chats zeigt ein einziger Bordmittel-Befehl alle Netzverbindungen des Programms an. Dort darf keine einzige externe Verbindung erscheinen. Und weil der Quelltext offenliegt, kann jeder mit Python-Kenntnissen die Sperre selbst nachlesen — sie steht in einer einzigen, überschaubaren Datei. Ein Datenschutzversprechen, das man prüfen kann, ist mehr wert als eines, dem man glauben muss.

Datenhaltung

Alles im persönlichen Ordner, in offenen Formaten

Technische Umsetzung

Bewusst schlank gebaut

Unterbau

  • Sprache: Python 3, Oberfläche: Tkinter/Tk
  • Datenhaltung: SQLite
  • Dokumentensuche: ChromaDB, pypdf, lokales Einbettungsmodell
  • KI-Laufzeit: Ollama (MIT-Lizenz)
  • Sprachausgabe: Piper · Spracheingabe: faster-whisper
  • Betriebssystem: Linux (entwickelt und getestet auf Linux Mint / Ubuntu)

Aufbau

  • 39 Module, klar getrennt: Oberfläche in einem eigenen Verzeichnis, Fachlogik daneben
  • Eigene Module für Dokumente, Gedächtnis, Agent, Fremdwerkzeuge, Modell-Weiche, Speicherschutz, Kontext-Budget, Netzwerksperre, Telemetrie-Block, Offline, Sprache und Schnellzugriff
  • Alle optionalen Abhängigkeiten sind wirklich optional: Fehlt eine, meldet sich die betroffene Funktion mit einem Installationshinweis, statt dass das Programm abstürzt

Bewusste Entscheidung: keine schweren Abhängigkeiten für die Oberfläche. Kein Electron, kein eingebetteter Browser, kein Webserver. Das Programm startet in Sekunden und läuft auch auf einem zehn Jahre alten Notebook — der Entwicklungsrechner ist genau so einer. Ebenso bewusst wurde für MCP auf das offizielle Paket verzichtet: Es ist durchgehend asyncio-basiert, während diese Anwendung threadbasiert und synchron arbeitet. Eine Ereignisschleife je Server im Hintergrundthread wäre mehr Reibung als das Protokoll selbst.

Qualitätssicherung

Was geprüft wurde, und wie

Systemvoraussetzungen

Was der Rechner mitbringen muss

Grenzen

Offen benannt, weil es Enttäuschungen spart

Linux

Windows und macOS werden nicht unterstützt.

Das globale Tastenkürzel braucht X11

Unter Wayland ist es systemseitig eingeschränkt; alles Übrige funktioniert dort.

Ohne Grafikkarte ist es langsamer

Nutzbar, aber spürbar. Der Arbeitsspeicher entscheidet darüber, wie große Modelle überhaupt laufen.

Nicht jedes Modell kann den Agenten bedienen

Das selbstständige Aufrufen von Werkzeugen beherrschen nur bestimmte Modelle — und die Selbstauskunft der Modellverwaltung dazu ist nicht verlässlich. Das Handbuch nennt geprüfte Modelle namentlich.

Version 0.2

Getestet und im täglichen Einsatz, aber keine Version 5.0 mit zehn Jahren Politur.

Häufige Fragen

Kurz beantwortet

Brauche ich eine Grafikkarte?

Nein. Das Programm läuft auf dem Hauptprozessor; eine NVIDIA-Karte beschleunigt deutlich, ist aber nicht nötig. Der Arbeitsspeicher entscheidet darüber, wie große Modelle laufen.

Braucht das eine Internetverbindung?

Für den Betrieb nicht. Eine Verbindung wird nur gebraucht, um Modelle herunterzuladen, das Erkennungsmodell für das Diktieren einmalig zu holen, eine Webseite abzurufen oder im Web zu suchen — und auch nur in genau diesen Momenten wird die Netzwerksperre punktuell geöffnet. Für abgeschottete Netze gibt es den Offline-Betrieb: Modelle und Programmdaten lassen sich als Archiv übertragen.

Werden meine Eingaben irgendwohin übertragen?

Nein. Weder Fragen noch Antworten, Dokumente oder Nutzungsstatistiken. Das ist technisch erzwungen und lässt sich während eines laufenden Chats mit Bordmitteln selbst nachprüfen.

Kann ich damit meine eigenen Unterlagen durchsuchen?

Ja, das ist der Bereich „Dokumente“. PDF, Text, Markdown, CSV und Quelltextdateien werden eingelesen und lokal durchsuchbar gemacht — mehrere getrennte Wissensdatenbanken sind möglich.

Kann die KI Dateien auf meinem Rechner verändern?

Nur wenn Sie es im Einzelfall bestätigen. Schreibende Werkzeuge sind rot eingestuft und fragen immer nach; der Dialog zeigt vorher, was geschrieben werden soll. Systemordner und alles, was nach Zugangsdaten aussieht, sind fest gesperrt.

Unter welcher Lizenz steht das?

GNU Affero General Public License, Version 3. Sie dürfen das Programm benutzen — privat wie beruflich, ohne Gebühr, auf beliebig vielen Rechnern —, es weitergeben, in den Quelltext sehen und ihn verändern. Geben Sie eine veränderte Fassung weiter oder bieten Sie sie über ein Netzwerk an, muss auch diese unter der AGPL stehen und ihren Quelltext mitbringen.

Warum die AGPL und keine freizügigere Lizenz?

Ein Programm, das für Datensouveränität gebaut wurde, soll sich nicht in einen geschlossenen Cloud-Dienst verwandeln lassen — also in genau das, wogegen es antritt.

Gelten für die KI-Modelle dieselben Bedingungen?

Nein. Die Modelle sind nicht Teil dieser Lizenz; sie haben eigene Bedingungen.

Kostenlos · AGPLv3 · für Linux

Herunterladen

Version 0.2. Das Archiv entpackt zu einem einzigen Ordner. Darin ein Terminal öffnen und bash install.sh ausführen — das war es. Die Installation prüft die Voraussetzungen, installiert Fehlendes nach, legt Startmenü-Eintrag und den Terminal-Befehl ollama-manager an, ist gefahrlos mehrfach ausführbar und rührt vorhandene Daten nicht an.

Vollständig

Ollama Manager v0.2

Das komplette Programm mit 39 Python-Modulen, beiden Handbüchern, Lizenztext und Installationsprogramm — 47 Dateien, die zu einem einzigen Ordner ollama-manager-v0.2/ entpacken. Ollama selbst wird bei Bedarf aus dem Programm heraus nachinstalliert.

Ollama Manager herunterladen

Version 0.2 · ZIP-Archiv · 891.474 Bytes (rund 0,9 MB) · 47 Dateien · Linux Mint / Ubuntu

Liegen bei

Die beiden Handbücher

Erste Schritte (15 Seiten) führt in etwa einer Stunde von der Installation bis zur ersten Antwort. Das Handbuch (37 Seiten) beschreibt alle Funktionen, die Bedienung und die Problembehebung — beide mit Bildschirmfotos und ohne IT-Vorkenntnisse lesbar.

Als PDF im Ordner handbuch/ des Pakets.

Offen

Quellcode und Lizenz

Der vollständige Quelltext ist der Download — nichts ist kompiliert, nichts verborgen. Auch die Netzwerksperre lässt sich direkt nachlesen; sie steht in einer einzigen Datei von rund 140 Zeilen.

Lizenztext als LICENSE im Paket · GNU AGPL v3.

Zwei Dinge, die nach der Installation noch zu tun sind, wenn Sie sie brauchen: Für die Sprachausgabe muss einmalig eine deutsche Stimmdatei abgelegt werden — eine englische Stimme kann deutsche Laute nicht bilden, deshalb wird sie nicht blind mitgeliefert. Ohne Stimme bleibt allein der Vorlesen-Knopf wirkungslos, alles Übrige funktioniert. Für das Diktieren lädt die Spracherkennung beim ersten Klick einmalig ihr Modell nach (rund 140 MB); danach arbeitet auch sie vollständig offline.