In unseren beiden vorherigen Blogbeiträgen hat Jeremy Ash ( @JeremyAshJMP ) und ich präsentierte JMP Spektralanalyse- und Visualisierungsfunktionen durch Analyse eines beliebten Spektroskopie-Datensatzes von Martens et al. 1 Wir zeigten verschiedene Möglichkeiten zur Visualisierung von Spektraldaten und ein paar Vorverarbeitungsschritte Dadurch konnten wir das Signal-Rausch-Verhältnis in den Daten für die weitere Analyse und Modellierung erheblich verbessern.
In diesem dritten Segment der Blog-Serie demonstrieren wir mehrere Möglichkeiten, wie Spektraldaten in JMP modelliert werden können.Partial Least Squares (PLS) ist das gebräuchlichste Werkzeug zur Analyse von Spektraldaten, und PLS kann sowohl mit JMP als auch mit JMP durchgeführt werden JMP Pro . JMP Pro bietet auch die Penalized-Regression von Elastic Net, die Modellierung von neuronalen Netzen und erweiterte Entscheidungsbaummethoden wie Bootstrap Forest.
Die Techniken Bootstrap Forest und Elastic Net ermöglichen ein schnelles und einfaches Auffinden der wichtigsten Wellenlängen einzelner Verbindungen sowie der Wellenlängen, die Komponenten in Mischungen definieren. Diese Modellierungstechniken können mit Rohdaten oder verarbeiteten Daten verwendet werden. In diesem Beitrag zeigen Jeremy und ich die Unterschiede zwischen der Modellierung der Rohdaten und der vorverarbeiteten Daten, um die allgemeine Verbesserung der Vorhersagefähigkeit nach der Vorverarbeitung zu zeigen. Zur Verdeutlichung des Gesamtvergleichs der Methoden wurde für alle Analysen dieselbe zweistufige Validierungssäule mit 20 % der Daten als Validierungssatz verwendet.
Modellierungsmethoden
Partielle kleinste Quadrate
Partial Least Squares ist die Standardmethode zur Analyse von Spektren. PLS verarbeitet sowohl breite als auch hohe Daten und ist besonders gut im Umgang mit stark korrelierten Faktoren. Diese Fähigkeit verheißt Gutes für Spektren, da Spektraldaten oft stark korrelierte Extinktionen aufweisen, was dazu führt, dass jede nachfolgende Wellenlänge von der einen Wellenlänge unmittelbar davor abhängt. Aufgrund dieser Abhängigkeit wird PLS häufig verwendet, um rohe Spektraldaten mit sehr guten Ergebnissen zu analysieren. Wie oben jedoch erwähnt, verbessert die Vorverarbeitung das resultierende Vorhersagemodell ausreichend, um es zu rechtfertigen, Zeit und Mühe in die Vorverarbeitung der Daten zu investieren. Denken Sie daran, dass die Probendaten eine Gruppe von Mischungen aus Gluten und Stärke sind, und im Fall von PLS leistet es wirklich gute Arbeit bei der Entwicklung eines Modells, das die Gluten- und Stärkeverhältnisse für zukünftige Proben gut vorhersagt.
Das PLS-Modell wurde mit zwei latenten Faktoren erstellt, da die vorherige Hauptkomponentenanalyse zwei Hauptkomponenten verwendete. Auch Q 2 verbessert sich nicht wesentlich über zwei Faktoren hinaus, und das Hinzufügen weiterer Faktoren erschwert die Modellinterpretation.
Abbildung 1. Einrichtung und Ausgabe des Partial-Least-Squares-Modells.
Abbildung 1. Einrichtung und Ausgabe des Partial-Least-Squares-Modells.
Figur 2. Partielles Modell der kleinsten Quadrate mit Rohdaten.
Figur 3. Partielles Modell der kleinsten Quadrate mit vorverarbeiteten Daten.
Unten finden Sie einen Vergleich zwischen dem Ist- und dem Vorhergesagt-Diagramm für beide PLS-Modelle. Der linke ist für die Rohdaten und der rechte verwendet die vorverarbeiteten Daten. Wie Sie sehen können, gibt es eine signifikante Verbesserung des Modells unter Verwendung der vorverarbeiteten Daten.
Figur 4. Modellvergleich der partiellen kleinsten Quadrate mit Rohdaten und vorverarbeiteten Daten.
Verallgemeinerte Regression (Gen Reg)
Verallgemeinerte Regressionstechniken finden sich in JMP Pro . Gen Reg gibt Ihnen mindestens zwei Dinge, die Sie nicht von gewöhnlichen kleinsten Quadraten bekommen werden. Einer davon ist, dass Ihre Daten mit Gen Reg nicht normalverteilt sein müssen. Sie haben Optionen für viele verschiedene Arten von Verteilungen. Ein weiterer Unterschied besteht darin, dass Gen Reg die Penalized Regression-Technik enthält und sehr gut mit stark korrelierten Daten umgeht. Gen Reg bietet Ridge, Lasso und Elastic Net. Elastic Net ist ein guter Kompromiss für die Modellierung von Spektraldaten, da Sie die Elastic Net Alpha (ENA)-Penalty anpassen können, um eine Unteranpassung eines Modells zu verhindern, indem Sie zu viele stark korrelierte Faktoren als wichtig für das Modell ablehnen. Der Standardwert von 0,99 ENA wurde verwendet, um ein erstes Modell zu erstellen. Dieses Modell schien eher spärlich und möglicherweise unterversorgt zu sein. Eine erweiterte Option in Gen Reg wurde verwendet, um den Bereich der Alpha-Werte zu scannen, um zu sehen, ob es ein besseres Modell gibt. Dieser Scan lieferte eine bessere Anpassung unter Verwendung eines ENA-Werts von 0,55. Sie können den Unterschied in der Anpassung für die beiden ENA-Werte in den Lösungspfaden unten sehen.
Abbildung 5 – Elastic Net-Lösungspfade für Rohdaten.
Abbildung 6 – Anpassungsstatistik für Gen Reg mit Rohdaten.
Abbildung 7 – Elastic Net-Lösungspfade für vorverarbeitete Daten.
Abbildung 8 – Anpassungsstatistik für Gen Reg mit vorverarbeiteten Daten.
Ohne näher darauf einzugehen, verwendete die Anpassung für die Rohdaten 10 Wellenlängen, wenn das Elastic Net Alpha (ENA) 0,99 betrug, und 37 Wellenlängen, wenn ENA 0,55 betrug.
Die vorverarbeiteten Daten haben ein deutlich anderes Ergebnis. Bei erneuter Verwendung von Elastic Net wurden 22 signifikante Wellenlängen mit einer ENA von 0,99 und 53 signifikante Wellenlängen mit einer ENA von 0,55 gefunden. Während eine große Anzahl, 37 und 53 signifikanter Wellenlängen, mit einer ENA von 0,55 identifiziert wurden, sind beide Ergebnisse bei weitem geringer als die der PLS-Modelle. Die Überprüfung der Anpassungsstatistiken für beide Modellsätze zeigt, dass die vorverarbeiteten Daten das insgesamt bessere Vorhersagemodell haben. Wenn Sie jedoch nur Rohdaten verwenden, können Sie immer noch ein einigermaßen gutes Vorhersagemodell erstellen.
Abbildung 9 – Modellvergleich für Gen Reg mit Rohdaten und vorverarbeiteten Daten.
Ein Vergleich von PLS- und ELN-Modellen mit verarbeiteten Daten zeigt, dass ELN-Modelle basierend auf R nur geringfügig besser sind 2 . Die ELN-Modelle sind jedoch einfacher und leichter zu interpretieren.
Abbildung 10 – Vergleich der PLS- und ELN-Modellierungstechniken für verarbeitete Daten.
Bedeutet das, dass Sie Elastic Net-Modelle für alle Ihre Spektralanalysen verwenden sollten? Sie sollten es als praktikablen Kandidaten betrachten, aber es kommt wirklich darauf an, welche Modellierungsplattform(en) Sie zur Verfügung haben und ob die Interpretierbarkeit des Modells zusätzlich zur Vorhersageleistung wünschenswert ist.
Mehr Modellierungsoptionen
Neuronale Netzmodelle
Zu Demonstrationszwecken können Sie auch neuronale Netzmodelle verwenden, die in diesem Fall extrem gute Passungen aufweisen, aber hochkomplexe Modelle sind.
Der Prediction Profiler in JMP ermöglicht es Benutzern jedoch, selbst die komplexesten, nichtlinearen Modelle zu interpretieren. Der Profiler kann überwältigend sein, wenn alle Wellenlängen für die Vorhersage verwendet werden. Um das neuronale Netzmodell einfacher zu halten, können Sie die mit Gen Reg ausgewählten Wellenlängen im Modelldialog bereitstellen.
Abbildung 11 – Vergleich der neuronalen Netzanpassungen für Rohdaten und vorverarbeitete Daten.
In beiden Fällen wurden die Daten mit einer verborgenen Schicht und drei Knoten mit einer hyperbolischen Tangens-Aktivierungsfunktion unter Verwendung einer festen 20 %-Validierungsspalte für die Kreuzvalidierung angepasst.
Bootstrap-Wald
Die Verwendung eines Bootstrap-Forest-Ansatzes ergibt die signifikantesten Wellenlängen für einen gegebenen Satz von Spektren. Es ist auch ein klarer Hinweis darauf, dass die Vorverarbeitung ein viel besseres Modell ergibt. Der Unterschied basiert auf dem Validation R 2 für jeden Datensatz. Die Bestätigung R 2 für die Rohdaten ist 0,805 und für die verarbeiteten Daten ist das Validierungs-R 2 ist 0,987. Die nachstehenden Modelle wurden mit festen 20 % der Daten als Validierungssatz angepasst, um eine zufällige Auswahl des Validierungssatzes zu vermeiden.
Abbildung 12 – Vergleich der Bootstrap Forest-Anpassungen für Rohdaten und vorverarbeitete Daten.
Unterstützung der Vektorregression
Support Vector Regression (SVR)-Modellierung ist ebenfalls in JMP Pro verfügbar und eine weitere gute Alternative zum Analysieren von Spektraldaten. SVR ist ein leistungsstarker und flexibler grenzenbasierter Algorithmus für maschinelles Lernen, der zum Erstellen von Vorhersagemodellen für eine kontinuierliche Reaktion verwendet wird. Im Falle unseres Datensatzes zeigt SVR auch eine signifikante Verbesserung bei der Analyse verarbeiteter Daten.
Abbildung 13 – Vergleich der SVR-Modellanpassungen für Rohdaten und vorverarbeitete Daten.
Es gibt weitere Modellierungstechniken in JMP und JMP Pro, die Sie zum Modellieren von Spektraldaten verwenden können. Wenn Sie also keine sehen, die Sie verwenden möchten oder verwendet haben, teilen Sie uns dies bitte mit, und wir werden dafür sorgen, dass es behandelt wird ein zukünftiger Blogbeitrag.
1) " Lichtstreuung und Lichtabsorption getrennt durch erweiterte multiplikative Signalkorrektur. Anwendung auf die Nahinfrarot-Transmissionsanalyse von Pulvermischungen " Analytische Chemie 2003 Feb1;75(3):394-404
