← Homelab

Umfangreiche Ergänzung der Inhalte und Datenbank

Im letzten Teil stand eine unbequeme Zahl: 72,6 Prozent der Eingangsnotizen hatten keinen ausreichenden Inhalt. Wenige Tage später hieß es, die Lücke sei schon deutlich kleiner. Stimmt das, oder fühlt es sich nur so an?

4 Min. Lesezeit
Umfangreiche Ergänzung der Inhalte und Datenbank
Inhalt · 6 Abschnitte
  1. Nachmessen statt glauben
  2. Der Nachlauf kostet fast nichts
  3. Der erste Umzug: NUC 2 reicht
  4. Was das Projekt wirklich verändert hat
  5. Fazit
  6. Ausblick

Im letzten Teil stand eine unbequeme Zahl: 72,6 Prozent der Eingangsnotizen hatten keinen ausreichenden Inhalt. Wenige Tage später hieß es, die Lücke sei schon deutlich kleiner. Stimmt das, oder fühlt es sich nur so an? Dieser Teil prüft es nach, zieht die Konsequenz für die Suche und beschreibt den ersten Umzug des Stacks auf einen der NUCs. Außerdem gibt es eine Bilanz: Was hat sich durch das ganze Projekt gegenüber dem Lesen nach Gefühl tatsächlich verändert?

Nachmessen statt glauben

Statt der Behauptung zu vertrauen oder sie zu bezweifeln, habe ich exakt dieselbe Prüfregel noch einmal live gegen den aktuellen Bestand laufen lassen. Die dokumentierte Zahl vom ersten Scan zu zitieren, wäre keine Nachmessung gewesen. Dazu kam eine Stichprobe der neuen Treffer, um Fehltexte und Fehlermeldungen auszuschließen, die ein Web-Crawler statt echter Inhalte mitschleppen kann.

Das Ergebnis: Nur noch 23,5 Prozent der Notizen hatten keinen ausreichenden Inhalt, statt 72,6 Prozent. Von den Notizen, die sich verändert hatten, stammten 616 aus dem Web-Crawl und 228 aus den YouTube-Transkripten, ohne Überschneidung und ohne ungeklärte Fälle. Der Datenbestand war also schon viel weiter als die zuletzt dokumentierte Zahl. Nur die Datenbank wusste noch nichts davon, denn seit der Erstbefüllung hatte kein neuer Einleselauf stattgefunden.

Der Nachlauf kostet fast nichts

Hier zahlt sich die Prüfsumme aus dem Ingestion-Service aus. Der Lauf erkannte selbst, was sich geändert hatte: 12 neue Notizen, 841 aktualisierte, 899 unveränderte. Er dauerte rund zwei Minuten. Der Plausibilitätstest lieferte weiterhin den bekannten Spitzenreiter mit demselben Wert von 0,849, dazu jetzt mehr passende Treffer darunter. Mehr Text bedeutet bessere Trennschärfe. Bewusst habe ich nicht auf die vollen 100 Prozent gewartet, der Rest besteht überwiegend aus LinkedIn-Notizen, die nur von Hand nachzuziehen sind.

Um den Datenstand rechtzeitig fertigzustellen, habe ich für die letzten offenen YouTube-Videos außerdem die Pause zwischen den Abrufen deutlich verkürzt. Das erhöht das Risiko, von der Plattform gesperrt zu werden, und ich habe es bewusst in Kauf genommen.

Der erste Umzug: NUC 2 reicht

Parallel stand die Hardware-Frage aus dem Modellvergleich an: Reicht die vorhandene Flotte, oder braucht es einen Neukauf? Dank des schlanken nomic-embed-text reicht der Hauptserver NUC 2. Der gesamte Stack zog dorthin um, mit einem Snapshot der Datenbank als Transportmittel. Ein erneuter Plausibilitätstest lieferte 0,848 statt 0,849, praktisch identisch. Der Umzug verändert die Suchqualität also nicht, nur den Standort. Eine Anfrage dauert dort rund drei Sekunden, spürbar, aber für einen Werkzeugaufruf eines Agenten praktikabel. Der Gaming-PC ist damit aus dem produktiven System heraus.

Was das Projekt wirklich verändert hat

Der eigentliche Gewinn liegt nicht im Umzug, sondern im Vergleich mit dem Zustand vor VectorSearch:

  • Suchvorgehen, vorher: Der Redakteur las verarbeitete Notizen und offene Cluster selbst durch und verglich nach Gefühl. Das war eine Ermessensentscheidung beim Lesen, ohne messbare Ähnlichkeit.
  • Suchvorgehen, jetzt: Die Suche liefert Ähnlichkeitswerte. Das ermöglicht etwas, das vorher strukturell nicht ging: die Kohärenzprüfung. Der verworfene Gaming-Cluster ist das Beispiel. Es geht also nicht nur um Tempo, sondern um eine andere Fehlerklasse, die jetzt sichtbar wird. Die Kehrseite: Die Suche sieht nur, was das Ranking zurückgibt. Zufälliges Querlesen durch freies Stöbern fällt weg.
  • Datendichte, vorher: Es gab keinen eigenen Index und keine Messgröße. Was der Redakteur beim Lesen an Volltext fand, war Zufall.
  • Datendichte, jetzt: Ein abfragbarer Index mit rund 1.750 Notizen und einer ersten Vollständigkeits-Metrik. Sie ist ein Nebenprodukt des Projekts und machte überhaupt erst sichtbar, dass fast drei Viertel der Notizen anfangs nur Linksammlungen waren. Aktuell sind es 76,5 Prozent mit ausreichendem Inhalt.

Fazit

Die Ausgangsfrage war, ob sich die Lücke wirklich verkleinert hat. Sie ließ sich mit einer Messung beantworten, nicht mit einem Gefühl. Genau das ist der Kern des Projekts: von einer Ermessensentscheidung beim Lesen zu einer prüfbaren Ähnlichkeitsbewertung.

Ausblick

Ob NUC 2 die Endstation war, klärt sich in einem späteren Teil. Zuvor bleibt eine Frage offen, die bisher nur am Rand stand: Was passiert mit sehr langen Texten wie Büchern, wenn jede Notiz nur eine einzige Zahlenreihe bekommt? Dazu gibt es im nächsten Teil Zahlen, die überraschen.

Porträt Moritz Conjé

Geschrieben von

Moritz Conjé

Senior Projektmanager & Konzepter für Verwaltungsdigitalisierung

Projektmanager bei Dataport AöR, zertifiziert nach PRINCE2 Agile und IPMA Level D. Ich führe Teams zwischen Fachbereich, Management und IT und ordne Technik für Entscheidungen ein.

Meine Rolle in dieser Serie: Konzeption, Planung, Steuerung und Abnahme – die technische Umsetzung erfolgt KI-gestützt.

Beitrag teilen
LinkedIn Xing

Weiterlesen

Mehr aus der Serie KI-Diskurs

Alle 21 Teile

Remote Claude nutzt LiteLLM

Remote Claude nutzt LiteLLM

Im Beitrag über das Gateway habe ich einen zentralen Zugang gebaut, über den KI-Werkzeuge die Suche und das Regelwerk meines Second Brains erreichen. Zwei Wochen später fiel mir auf, dass ihn noch niemand benutzte. Den Anstoß gab etwas ganz anderes: ...
Eine eigene Statuszeile fürs Terminal: mehr Überblick bei der Arbeit mit Claude Code

Eine eigene Statuszeile fürs Terminal: mehr Überblick bei der Arbeit mit Claude Code

Wer täglich mit einer KI im Terminal arbeitet, kennt das Problem: Wie ausgelastet die laufende Sitzung gerade ist, wie nah man an ein Nutzungslimit kommt oder was sie bereits gekostet hat, bleibt normalerweise unsichtbar. Man merkt es meist erst, wen ...
Fähigkeiten ergänzen: passende Skills für die Rollen und Aufgaben finden

Fähigkeiten ergänzen: passende Skills für die Rollen und Aufgaben finden

Ein KI-Assistent kann schon ohne Erweiterungen erstaunlich viel. Für ein konkretes Projekt reicht „erstaunlich viel" aber selten als Arbeitsweise. Beim Aufbau des Second Brain kamen zuletzt drei sehr unterschiedliche, eigenständige Projekte zusammen: ...