Datenanalyse und Übertragungsminimierung
POC Guided Transfer Learning Methodik LLM
1. Ausgangslage
Lokale Analyse von Daten muss aufgrund von begrenzten Datenübertragungsraten auf einem Server vor Ort erfolgen, welcher von der Außenwelt gekapselt ist. Aufgrund einer minimalen Serverrechenleistung müssen Algorithmen entwickelt werden, die ähnlich gleichperformante Ergebnisse liefern, wie die Analyse auf größeren Servern ermöglichen würden (Benchmark >80%). Die Berechnung wie auch das Übertragungsvolumen ist auf ein notwendiges Minimun zu reduzieren. Auch soll die Analyse bei wenig vorhandenen Daten möglich sein und somit das Problem von Low-Sample-Size-Data minimieren.
US-Forschungseinrichtung und NASA
2. Lösung
- Bereitstellung einer eigenentwickelten „Guided Transfer Learning“–Methodik
- Use-Case-bezogener Algorithmus mit klarem Fokus auf den Anwendungsfall durch Vorabtraining eines LLM
- daraus Mustererkennungen und anschließender Beseitigung von Redundanzen und nicht relevanten ML-Layern
- erneutes Training mit geringer Sample zur Testung mit anschließendem Fine-tuning des LLM
3. Ergebnisse
- „Guided Transfer Learning“ – Methodik erreichte nach Use-Case-relevanter Mustererkennung und ohne anschließendes Fine-Tuning bereits eine Accurancy von 50%
- mit Hinzunahme des anschließenden Fine-tunings konnte die Accurancy auf 83% gesteigert werden und lag somit oberhalb der angesetzten Benchmark von 80%
- Methodik wurde in einem Live-Environment unter Echtzeitbedingungen erprobt und konnte mit minimalen Serverrechen-leistungen und Übertragung berechnen
