Modellimplementierung der internen Wissensbasis KI auf Basis von MAG, die Dokumente, Verfahren und Anleitungen indiziert und dann auf Basis von Unternehmensquellen auf Mitarbeiter reagiert.
Ein Modellkunde ist ein Unternehmen mit über 20 Mitarbeiter, mehrere hundert Dokumente, Dutzende von Verfahren, mehrere Standorte und verteilte Materialien zwischen SharePoint, OneDrive, Google Drive, Teams, PDF, Word, Confluence, Wiki, E-Mail und Netzwerk-Ordner. Jede Abteilung hat seine eigenen Anweisungen und neue Mitarbeiter fragen oft nach den gleichen Regeln, Dokumente und Prozesse.
Die Mitarbeiter wussten nicht, welche Version des Dokuments aktuell ist, wo das Verfahren ist, wie der Prozess der Beschwerde, Einkauf, Onboarding oder Systemhandling aussieht. Experten waren ständig von der Arbeit abgelenkt, und die klassische Suchmaschine verstand Fragen in der natürlichen Sprache nicht und zeigte keine Antwort mit Quellen.
Jeden Tag suchen Mitarbeiter nach Prozeduren, Anleitungen, Vorlagen, Beschwerderichtlinien, Onboard-Informationen, Sicherheitsrichtlinien und Antworten zu Systemen. RAG schafft kein neues Wissen. Es hilft, vorhandenes Wissen zu finden, Quellen anzugeben und wiederkehrende Fragen an Experten zu begrenzen.
Indikative Werte. Jeder Indikator ist ein Beispielwert, der eine Bestätigung während der Vorimplementierungsanalyse erfordert, basierend auf realen Dokumenten, Benutzerfragen und Zugriffsregeln.
Jede Abteilung hat ihre eigenen Materialien, Ordner und Abkürzungen. Neue Mitarbeiter fragen nach den Grundlagen, und Experten sind ständig von ihrer Arbeit abgelenkt. Das Wissen existiert, aber es ist über SharePoint, OneDrive, Google Drive, Teams, PDF, Word, Confluence, Wiki, E-Mail und Netzwerkordner verstreut.
Eine interne KI-Wissensbasis macht am sinnvollsten, wenn ein Unternehmen viel Material hat, aber Mitarbeiter fragen immer noch Leute, weil sie der Ordnerstruktur nicht vertrauen oder nicht wissen, was sie das gesuchte Dokument nennen sollen.
Dokumente existieren, sind aber über Ordner, E-Mails, Teams, SharePoint, OneDrive und lokale Kopien verstreut.
Mitarbeiter verschwenden Zeitsuche, anstatt die Aufgabe zu erledigen.Die gleiche Prozedur erscheint in mehreren Dateien und der Benutzer weiß nicht, welche Version aktuell ist.
Das Unternehmen riskiert, an veralteten Prinzipien zu arbeiten und falsche operative Entscheidungen zu treffen.Anweisungen nach Prozessänderungen werden nicht immer an einem Ort veröffentlicht und verlieren schnell an Glaubwürdigkeit.
Das Team fragt öfter Experten, weil sie der Dokumentation nicht trauen.Die klassische Suchmaschine versteht keine Fragen in natürlicher Sprache und erfordert Kenntnisse über Dateinamen.
Neue und weniger technische Anwender sind schneller auf die Suche allein zu verzichten.Onboarding wirft die gleichen Fragen zu Verfahren, Werkzeugen, Blättern, Systemen und Verantwortlichkeiten auf.
Experten sind von ihrer Arbeit abgelenkt und wiederholen die gleichen Antworten.Wissen ist in den Köpfen von mehreren Menschen, so dass Teams und das Telefon eine informelle Suchmaschine werden.
Die versteckten Kosten steigen mit der Anzahl der Mitarbeiter und Standorte.Das System findet keine Antwort, wenn der Benutzer eine Frage mit anderen Worten als dem Dokumentnamen stellt.
Die Daten sind zwar verfügbar, für die Mitarbeiter jedoch praktisch unsichtbar.Der neue Mitarbeiter muss die Ordnerstruktur, Abteilungen, Dokumentennamen und informelle Abkürzungen erlernen.
Onboarding wird von der Verfügbarkeit der Betreuer abhängig.Die Ordner wurden im Laufe der Jahre von verschiedenen Abteilungen erstellt und spiegeln den aktuellen Prozess nicht mehr wider.
Unternehmenswissen ist schwer zu pflegen und zu organisieren.Es ist nicht bekannt, wer das Dokument geändert hat, wenn es indiziert wurde, und welche Antworten welche Version benutzten.
Es ist schwieriger, KI-Antworten zu prüfen und das Vertrauen in das System zu bewahren.Der Mitarbeiter fragte zuerst in Teams, schickte dann eine E-Mail, rief einen Experten an oder suchte nach einem PDF in Ordnern. Die Antwort ging oft nur an eine Person, so dass das gleiche Problem nach ein paar Tagen zurück.
Wir trainieren das Modell nicht von Grund auf und bitten das Team nicht, Dokumente auf das neue System zu kopieren. Wir erstellen einen Dokumentenindex, Einbettungen, eine semantische Suchmaschine, Quellsteuerung, ein Administratorpanel, Antworthistorie und Berechtigungen, die mit der Organisation übereinstimmen.
RAG erfordert die Kontrolle des gesamten Prozesses: Quellen, OCR, Chunking, Einbettungen, Index, Antworten, Feedback und Wartung durch den Administrator.
Eine Datei aus SharePoint, OneDrive, Google Drive, PDF, Word oder einem Netzwerkordner tritt in den Indexierungsprozess ein.
Rolle: Besuch • Status: SynchronisierenEine Datei aus SharePoint, OneDrive, Google Drive, PDF, Word oder einem Netzwerkordner tritt in den Indexierungsprozess ein.
KI findet die aktuelle Kaufanleitung, beschreibt die Akzeptanzstufen und zeigt das Quelldokument an.
Der Mitarbeiter fragt nach Sicherheitsregeln, und das System zeigt das aktuelle Dokument und das entsprechende Fragment an.
AI findet Anweisungen für eine bestimmte Systemfunktion ERP und bietet Schritte, ohne durch Ordner zu suchen.
Das System findet die richtige Vertragsvorlage, Version und Nutzungsregeln für einen bestimmten Kundentyp.
KI gibt den aktuellen Prozess, den Dokumenteninhaber und den Audit-Kontext an.
Der Mitarbeiter erhält den Beschwerdeabwicklungsprozess, Fristen, Rollen und Links zu Formularen.
Die Wissensbasis beantwortet Fragen zu Blättern, Vorteilen, Vorschriften und Onboarding.
AI zeigt Anweisungen für VPN, MFA, Passwort-Reset oder Hardware-Bericht.
Der Bediener findet das Arbeitshandbuch, die Qualitätsregeln und die erforderlichen Checklisten.
Das System beschreibt das Verfahren für die Annahme, Beschwerde über eine Lieferung oder die Ausstellung eines Materials.
AI gibt Rechnungsumlaufanweisungen, Feldbeschreibungen und verantwortliche Personen an.
Der Benutzer findet aktuelle Richtlinien, Meldeverfahren und KPI-Definitionen.
Der Rechner hilft, die Größe des Informationsproblems abzuschätzen. Es ist ein Ausgangspunkt für ein Gespräch, nicht eine Garantie für Ergebnisse.
Beispielwert, der eine Bestätigung während der Vorimplementierungsanalyse erfordert. Das Ergebnis hängt von der Anzahl der Fragen, der Qualität der Dokumente, den Berechtigungen, der Frische der Quellen und der Arbeitsweise des Teams ab.
SharePoint • OneDrive • Google Drive • Confluence • PDF • Word • SQL
OCR • chunking • metadane • wersje • walidacja
embedding • pgvector • Qdrant • Pinecone • Weaviate
LLM • RAG • cytowania • guardrails • feedback
Next.js • React • Teams • API • admin panel
Redis • PostgreSQL • monitoring • backup • audit logs
Die Ordnerintegration allein reicht nicht aus. Jede Quelle sollte einen Eigentümer, Zugriffsregeln, Nachrichtenstatus und eine Möglichkeit haben, den Index zu aktualisieren.
RAG für Unternehmen erfordert die Berechtigungskontrolle auf Benutzer-, Abteilungs-, Dokument- und Quellebene. Antworten müssen mit dem Zugriff übereinstimmen, und Protokolle sollten zeigen, welche Fragmente das System verwendet.
Wir Bestandsaufnahme Quellen von Wissen, Dokumententypen, Eigentümern, Versionen, Zugriffsebenen und häufig gestellte Fragen.
In diesem Stadium legen wir auch fest, welche Dokumente indexiert werden können, welche Ausschluss erfordern und wer dafür verantwortlich ist, das Wissen auf dem Laufenden zu halten.
Wir entwerfen die RAG-Architektur, Rollen, Berechtigungen, Metadatenschema, Antwortformat, Zitierregeln und Umfang von MVP.
Es ist wichtig festzustellen, ob das System nur als Suchmaschine oder auch als Assistent fungieren soll, der die Fragen der Mitarbeiter beantwortet.
Wir bereiten die Bearbeitung gescannter Dokumente, PDFs und Dateien ohne Textebene vor.
OCR sollte auf echten Dokumenten getestet werden, da die Qualität von Scans, Tabellen und Briefmarken die Genauigkeit der Antwort beeinflussen kann.
Wir teilen Dokumente in Fragmente auf und schaffen Einbettungen, die semantische Suche ermöglichen.
Wir wählen die Chunking-Strategie, das Einbetten von Modell, Metadaten und die Methode zur Aktualisierung des Index nach dem Ändern von Dokumenten.
Wir verbinden SharePoint, OneDrive, Google Drive, Confluence, Ordner, Datenbanken oder API mit der Indexierungsschicht.
Wir überprüfen API Grenzen, Berechtigungen, Synchronisation, Fehler und wie auf gelöschte oder geänderte Dateien reagiert werden kann.
Wir starten die erste Version für eine ausgewählte Abteilung, Dokumenttyp oder Prozess, z.B. HR, IT, ISO oder Vertrieb.
MVP sollte Testfragen, Quellenzitaten, ein Feedback-Panel und eine administrative Ansicht enthalten.
Wir testen die Genauigkeit von Antworten, Zitaten, Berechtigungen, prompten Injektionen, fehlenden Dokumenten und Fragen außerhalb des Anwendungsbereichs.
Erst nach dem Testen lohnt es sich, den Umfang der Dokumente zu erweitern und die Wissensbasis für eine größere Gruppe von Mitarbeitern zur Verfügung zu stellen.
Nach dem Start überwachen wir Fragen, Feedback, Wissenslücken, die Währung der Dokumente und die Qualität der Quellen.
Die Entwicklung umfasst folgende Abteilungen, Teams, Slack, Sprachsuche, Übersetzungen, Zusammenfassungen und Dokumentenaktualisierungs-Workflow.
Jeder Indikator ist ein Beispielwert, der eine Bestätigung während der Vorimplementierungsanalyse erfordert.
| Bereich | Vorher | Nach MVP | Messverfahren |
|---|---|---|---|
| Zeit gefundene Informationen | Durchsuchen von Ordnern und fragen Experten | Natürliche Sprachfrage und Antwort mit Quelle | mediane Zeit bis zum Ansprechen |
| Fragen an Experten | Experten beantworten wiederholte Fragen | KI unterstützt risikoarme Fragen | Anzahl der Fragen in Teams / Email |
| Onboarding | Neue Leute fragen ihren Vorgesetzten nach den Grundlagen | Die Wissensbasis führt zu Prozeduren und Anweisungen | Umsetzungszeit für die Unabhängigkeit |
| Anzahl der Dokumente | Indexierungssteuerung fehlt | Quelle, Version und Eigentümerstatus | Anzahl der aktiven Quellen |
| Suchen | Keine Daten über den Nutzerbedarf | Häufig gestellte Fragen Dashboard | Anzahl der Suchanfragen und Themen |
| Genauigkeit der Antwort | Keine Messung | Feedback- und Reaktionstests | Nutzerbewertung / Bewertungs-Rate |
| Aktueller Wissensstand | Niemand weiß, was alt ist | Warnungen und Dokumentenstatus | Anzahl der zu überprüfenden Dokumente |
| Quellen | Antwort ohne Spur | Zitate und Links | Antwort mit Quellen teilen |
Daten, KPIs und Szenarien sind Beispiele. Sie erfordern die Analyse von Dokumenten, Berechtigungen, Quellen, Qualität OCR, aktuelle Prozesse und Sicherheitsanforderungen einer bestimmten Organisation.
Im ersten Gespräch prüfen wir die Quellen von Wissen, Dokumententypen, Berechtigungen, häufig gestellten Fragen und den sicheren Umfang MVP für die erste Abteilung oder den ersten Prozess.
In der professionellen Umsetzung ist es notwendig, die Verwendung von Dokumenten als Kontext klar von der Modellausbildung zu unterscheiden. In RAG werden Architekturdokumente indexiert, in Fragmente gegliedert und zur Suche nach Antworten verwendet, aber das bedeutet nicht unbedingt, ein öffentliches Modell auf Unternehmensdaten zu trainieren. Das Modell erhält ausgewählte Fragmente als Kontext der Anfrage und bereitet auf dieser Grundlage eine Antwort vor. Die Entscheidung, wo die Daten verarbeitet werden, wie sie gespeichert werden und ob sie für die Ausbildung verwendet werden können, hängt von den gewählten Lieferanten-, Konfigurations- und Sicherheitsanforderungen des Unternehmens ab.
Das hängt von der Architektur ab. Sie können eine Cloud-, Hybrid- oder private Lösung entwerfen. In der Cloud-Variante können einige der Abfragen von externen APIs bearbeitet werden, aber Sie müssen den Datenbereich noch einschränken, sensible Informationen maskieren und die Aufbewahrung steuern. In der privaten Option oder vor Ort kann die meisten der Verarbeitung in der Client-Umgebung arbeiten. Vor der Implementierung müssen Sie rechtliche, technische und organisatorische Anforderungen festlegen und überprüfen, welche Dokumente indiziert werden können.
Ja, aber eine solche Variante erfordert mehr Infrastrukturarbeit. On-Premise kann lokale Datenbank, lokalen Vektor-Index, private API, eigenen Anwendungsserver, Überwachung, Backup und AI-Modell lokal oder in der privaten Cloud laufen. Dieses Modell macht Sinn mit hohen Sicherheitsanforderungen, sensiblen Daten oder Branchenbeschränkungen. Allerdings müssen Sie die Kosten für die Aufrechterhaltung, Aktualisierung, Skalierung, Tests, GPU-Ressourcen oder Integration mit einem privaten AI-Anbieter berücksichtigen.
Indexierung beginnt mit dem Herunterladen des Dokuments aus einer Quelle, z.B. SharePoint, OneDrive, Google Drive, Ordner oder API. Dann zieht das System Text heraus, führt OCR aus, wenn das Dokument ein Scan ist, teilt den Inhalt in Fragmente auf, fügt Metadaten hinzu und erstellt embeddingi. Fragmente gehen in die Vektordatenbank zusammen mit Informationen über Quelle, Version, Eigentümer und Berechtigungen. Nach dem Ändern des Dokuments sollte der Index aktualisiert werden, um auf den neuesten Inhalt aufzubauen.
In einem gut konzipierten Antwortsystem sollte auf zugelassene Unternehmensquellen beschränkt sein oder eindeutig bedeutet, dass es kein Dokument gibt, das die Antwort bestätigt. Das Sprachmodell kann allgemeine Kenntnisse haben, aber die Systemregeln sollten Antworten auf Basis von Dokumenten, Verfahren und Unternehmensanweisungen erzwingen. Wenn es keine Quelle gibt, sollte die KI sagen, dass keine Informationen gefunden wurden, und den Kontakt mit dem Prozesseigentümer vorschlagen oder eine Lücke in der Wissensbasis melden.
Das System sollte Änderungen in Dokumenten erkennen, alte Versionen aus dem Index löschen oder als veraltet markieren, neue Einbettungen erstellen und Metadaten aktualisieren. Es ist wichtig, den Eigentümer des Dokuments und das Überprüfungsdatum anzugeben. So sieht der Administrator, welche Quellen aktiv sind, welche Updates erfordern und welche Antworten von der vorherigen Version des Dokuments verwendet werden könnten.
Ja. PDFs sind eine der typischen Quellen des Wissens in Unternehmen, aber man muss PDF mit einer Textebene von einem Scan unterscheiden. Wenn die Datei Text hat, kann das System herunterladen und in Fragmente teilen. Wenn es ein Scan ist, benötigen Sie OCR. OCR Qualität hängt von der Qualität des Scans, Layout des Dokuments, Tabellen, Briefmarken, Signaturen und Sprache. Daher lohnt es sich, eine repräsentative Probe von Dokumenten vor der Implementierung zu testen, um zu überprüfen, welche PDFs für die automatische Indexierung geeignet sind.
Ja. SharePoint ist eine der häufigsten Quellen von Dokumenten für Unternehmen, die Microsoft 365 verwenden. Integration erfordert in der Regel Microsoft Graph API, Entra-ID-Anwendungen, entsprechende Berechtigungen und Regelungen, welche Dokumentenbibliotheken indiziert werden sollen. Schlüssel ist die Beibehaltung von Berechtigungen: Der Benutzer sollte nur eine Antwort von Dokumenten erhalten, auf die er Zugriff hat. Daher sollte die Implementierung die Synchronisierung von Quellen, Metadaten, Versionen und Zugriffskontrolle umfassen.
Ja. Teams können eine Schnittstelle für Fragen sein, aber es lohnt sich oft, es mit der Web-Anwendung und Administrator-Panel verbinden. Der Mitarbeiter kann Bot in Teams fragen, und das System reagiert auf der Grundlage des Dokument-Index und zeigt die Quellen. Allerdings braucht der Administrator einen Ort, um Quellen, Feedback, Dokumente zu überprüfen und Protokolle zu verwalten. Teams ist daher ein großer Kanal der Verwendung, aber nicht die gesamte Betriebsebene des RAG ersetzen.
Ja, und dies ist eines der wichtigsten Elemente der Implementierung. Das System sollte Rollen, Gruppen, Abteilungen, Dokumentenberechtigungen und Vertraulichkeitsebenen berücksichtigen. Die KI-Antwort kann keine Fragmente eines Dokuments aufdecken, das Sie nicht sehen sollten. In der Praxis bedeutet dies, die Suchergebnisse zu filtern, bevor Sie sie an das Modell übergeben und Protokollieren, welche Quellen verwendet wurden.
Ja, dies ist einer der größten Vorteile des MAG. Die Antwort sollte einen Link zu dem Dokument, den Namen der Quelle, die Version oder ein Fragment, aus dem das System verwendet wurde. Dies ermöglicht es dem Benutzer zu überprüfen, woher die Informationen kommen und der Administrator kann die Antworten prüfen. Keine Quellen sollten als Warnsignal behandelt werden. Dann sollte das System zugeben, dass er keine Bestätigung gefunden hat, anstatt eine Antwort ohne die Grundlage in den Unternehmensdokumenten zu generieren.
Die Versionierung sollte Informationen über die aktuelle Version des Dokuments, das Indexdatum, den Besitzer, den Status der Überprüfung und die Änderungen in der Quelle enthalten. Wird das Dokument durch eine neue Version ersetzt, sollte der Index aktualisiert und die älteren Teile als Archivierung gelöscht oder markiert werden. Dies ist insbesondere für ISO-Verfahren, Sicherheitsrichtlinien, technische Anweisungen und HR-Dokumente wichtig, bei denen eine veraltete Reaktion zu einer Fehlfunktion führen kann.
Es ist am besten, die Zeit der Suche nach Informationen, die Anzahl der wiederkehrenden Fragen an Experten, die Onboard-Zeit, die Anzahl der Suchen, Relevanz der Antworten, die Anzahl der Dokumente zu aktualisieren und den Austausch von Antworten mit Quellen. Es lohnt sich, durch die Messung des aktuellen Prozesses beginnen: wie viel Zeit Mitarbeiter nach Informationen suchen, wie oft sie fragen andere und welche Abteilungen am meisten geladen sind. Nur dann können Sie das Ergebnis nach MVP vergleichen. ROI sollte nicht im Voraus angenommen werden, nur auf Daten gemessen.
Die Zeit hängt von der Anzahl der Quellen, der Qualität der Dokumente, den Berechtigungsanforderungen, OCR, der Anzahl der Abteilungen und MVP-Bereich ab. Einfaches Pilotieren für eine Abteilung und ausgewählte Dokumente ist viel kürzer als die Implementierung für viele Quellen, Teams, SSO, Dokumentensicherheit, Admin-Panel und Dashboard. Der sicherste Weg zum Start ist die Prüfung von Dokumenten, Testfragen und MVPs für einen Prozess, und erst nach den Tests entwickeln weitere Quellen und Abteilungen.
Ja, aber jedes Format erfordert eine andere Art, Inhalte zu extrahieren. Word ist in der Regel einfach zu verarbeiten, Excel erfordert die Identifizierung von Blättern, Tabellen und Kontextdaten, und PowerPoint enthält oft Verknüpfungsinformationen, Grafiken und Dias. Das System sollte Datei-Metadaten und Quellinformationen speichern, so dass die Antwort überprüft werden kann. Im Falle von komplexen Dateien lohnt es sich, Regeln vorzubereiten, welche Fragmente indiziert werden sollen.
SmartCodeIT kann Ihnen helfen, Ihren Prozess zu gestalten, MVP vorzubereiten und eine auf Ihre Organisation zugeschnittene Anwendung zu implementieren. Wir beginnen mit einem kurzen Gespräch über Daten, Werkzeuge, Ausnahmen und Geschäftszweck.