Ich trainiere gerade Igakuro auf Version 1.1 um eine bessere Qualität bei der Pseudonymisierung zu erhalten. Aktuell fährt das Training mit etwas über 32GB im Speicher dahin, dauert ein wenig, aber es läuft. Ich gebe Bescheid wenn das Training durch ist und online steht.
Hier eine kurze Beschreibung um was es geht:
Lokale KI-Textanonymisierung (DSGVO/PII): igakuro.de – Textdaten schwärzen ohne Cloud-Zwang
da das Thema Datenschutz und DSGVO bei der Nutzung von KI/LLMs (oder der Aufbereitung von Daten für externe Dienstleister) immer wieder aufkommt, wollte ich ein Projekt teilen, an dem/das wir entwickelt haben: igakuro.de.
Worum geht es?
Viele kennen das Problem: Man möchte Fließtexte, E-Mails, Support-Tickets oder Dokumente automatisiert verarbeiten,darf/will aber keine personenbezogenen Daten (PII) wie Namen, Adressen, Telefonnummern oder IP-Adressen an externe Cloud-APIs schicken.
igakuro setzt genau an diesem Punkt an: Es handelt sich um eine lokale Lösung zur automatisierten Text-Anonymisierung für die deutsche Sprache.
Die wichtigsten technischen Eckpunkte:
- 100 % Lokal / On-Device: Das Modell läuft direkt auf der eigenen Infrastruktur (On-Premise / Edge). Es gehen keinerlei Daten über externe Server oder APIs ins Netz.
- Präzise PII-Erkennung: Speziell auf deutsche Sprachstrukturen trainiert, um Entitäten (Namen, Organisationen,Kontaktdaten, ID-Nummern etc.) zu erkennen und zu maskieren/schwärzen.
- DSGVO-Konformität: Da die Verarbeitung vor Ort stattfindet, entfällt das Risiko von Datenschutzverstößen durch Drittanbieter-Uploads.
- Geringer Footprint: Optimiert für schnelle Inferenz auch ohne High-End-GPU-Cluster.
Typische Use Cases:
- Vorbereitung für LLM-Prompts: Sensible Daten aus Kundenanfragen herausfiltern, bevor der Text an Modelle wie GPT-4 oder Claude übergeben wird.
- Ticket- & E-Mail-Archivierung: Anonymisieren von Altbeständen für Analysen oder Testdatenbanken.
- Kanzleien, Behörden & Healthcare: Sicheres Verarbeiten von vertraulichen Schriftsätzen und Patientenakten.
Mich würde eure Meinung dazu interessieren:
- Wie löst ihr die Anonymisierung von deutschen Texten aktuell in euren Projekten?
- Verlasst ihr euch auf klassisches Regex/Rule-Based-Matching oder nutzt ihr bereits NLP/Transformer-Modelle dafür?
Über Feedback, Testberichte oder Anregungen zu Features würde ich mich sehr freuen!