Mein Lieblingsfach in der High School war Geowissenschaften. Ich erinnere mich, dass ich während unserer Meteorologieabteilung täglich Wettermessungen durchgeführt habe. Jeden Morgen gingen wir nach draußen, maßen die Feucht- und Trockentemperatur, die Windgeschwindigkeit und -richtung sowie die geschätzte Wolkendecke. Ein- oder zweimal kehrten wir ins Klassenzimmer zurück und stellten fest, dass eine Lektüre nicht stimmte oder keinen Sinn ergab. Kein Problem, wir gingen wieder nach draußen und machten die Messung noch einmal – es war keine große Sache, die 50 Schritte zu laufen und die Messung noch einmal durchzuführen.
Das Problem
Etwa 18 Jahre später arbeite ich an der Helix Q4000 und versuche, Methanhydratproben aus Sedimenten zu gewinnen, die sich mehr als eine Meile unter meinen Füßen befinden. Die Beschaffung unseres ersten Kerns dauerte über 24 Stunden. Als es an die Oberfläche kam, hatte nichts richtig funktioniert: Die Probe wurde drucklos gemacht und die etwa 10 % des gewonnenen Sediments waren nur Suppe. Im Gegensatz zu meinen Temperaturmessungen in der High School konnten wir nicht zurückgehen und es noch einmal versuchen – diese Sedimentprobe war für immer verschwunden.
Dies ist die Herausforderung, vor der Geologen und Ingenieure regelmäßig stehen, wenn sie in den rauen Umgebungen unter der Erde arbeiten. Die Datenbeschaffung ist teuer und Sie haben nur eine Chance. Was also tun, wenn die Daten nicht so zurückkommen, wie sie sollten? Vielleicht versagt das Werkzeug in der Tiefe oder, noch schlimmer, es bleibt stecken und das gesamte Bohrloch muss aufgegeben werden? Wie können wir die wenigen Informationen, die wir haben, sinnvoll nutzen? Natürlich können wir die leistungsstarken Vorhersagetools von JMP Pro nutzen!
Das Experiment
Input parameters of Gamma (blue), Formation Density (red), Compressional Velocity (green), and Shear Velocity (purple). Interval one is >2064 ftkb and is above the black upper black line, interval two is between the two black lines (2065-2127 ftkb), and interval three is below the black line (2128-2206 ftkb).Eingabeparameter Gamma (blau), Formationsdichte (rot), Kompressionsgeschwindigkeit (grün) und Schergeschwindigkeit (lila). Intervall eins ist >2064 ftkb und liegt oberhalb der schwarzen oberen schwarzen Linie, Intervall zwei liegt zwischen den beiden schwarzen Linien (2065-2127 ftkb) und Intervall drei liegt unterhalb der schwarzen Linie (2128-2206 ftkb).
Vergleichen wir einige verschiedene Methoden zur Vorhersage einer schlecht erfassten Variablen mit robusteren. In diesem Fall versuchen wir, die Kohlenwasserstoffsättigung (Methanhydrat) zu verstehen, die in diesem speziellen Bohrloch ( Mt. Elbert-Bohrloch, North Slope, AK ) nur spärlich verfügbar ist. Was wir haben, sind vollständige Sätze von vier Variablen: Gammastrahlung, Formationsdichte, Kompressionsgeschwindigkeit und Schergeschwindigkeit. Im Untergrund gibt es drei Intervalle mit hydrathaltigem Sand, und wir möchten das erste Intervall (2003–2064 Fuß unter dem Kelly Bushing, ftkb) verwenden, um die Hydratsättigung in den unteren beiden Intervallen, 2065–2127 ftkb und 2128–2127 Fuß vorherzusagen. jeweils 2206 ftkb. Wir werden verschiedene Vorhersagemodelle testen: Standard-Kleinste-Quadrate, Generalisierte Regression, Neural Network und XGBoost. Wir werden R2-Werte als ersten Durchgang der Modellqualität verwenden, dann aber die tatsächlichen im Vergleich zu den vorhergesagten Bohrlochprotokollen qualitativ auswerten, um die Gesamtqualität jedes Modells zu bewerten.
Ergebnisse
Actual hydrate saturation (blue) compared to predicted hydrate saturation for Standard Least Squares (red), Generalized Regression (green), Neural Network (purple), and XGBoost (burnt orange).Tatsächliche Hydratsättigung (blau) im Vergleich zur vorhergesagten Hydratsättigung für Standard-Kleinste-Quadrate (rot), Generalisierte Regression (grün), Neuronales Netzwerk (lila) und XGBoost (gebranntes Orange).
Die Standardmethode der kleinsten Quadrate reicht einfach nicht aus. Es modelliert das Intervall 1 robust, kann die Kohlenwasserstoffsättigung in den unteren beiden Intervallen jedoch überhaupt nicht genau vorhersagen. Die generalisierte Regression (adaptiv; elastisches Netz) ist geringfügig besser, überschätzt jedoch im Allgemeinen die beiden unteren Intervalle um 0,1 bis 0,2 Sättigungseinheiten. Die Modelle für maschinelles Lernen leisten eine viel robustere Arbeit, aber ich gebe XGBoost die Nase vorn. Das neuronale Netzwerk erzeugt ein viel „verrauschteres“ Signal, da es zahlreiche Kicks gibt, die für 10–20 % Über- und Untervorhersage verantwortlich sind, während XGBoost eine viel stabilere Vorhersage sowohl bei niedrigen als auch bei hohen Kohlenwasserstoffsättigungen liefert.
Dies ist ein häufiges Problem, das ich bei der Arbeit mit geologischen Daten und/oder Bohrlochdaten beobachte: Die natürlichen Systeme sind unglaublich komplex, voller Heterogenitäten, und Modelle des maschinellen Lernens (Bootstrap Forest, Neural Network und XGBoost usw.) liefern tendenziell bessere Vorhersagen Modelle insgesamt.
Model results for validation data sets of XGBoost (top) and Neural Network (bottom).Modellergebnisse für Validierungsdatensätze von XGBoost (oben) und Neural Network (unten).
Vorwärts gehen
Den meisten Menschen, die in der Branche arbeiten, stehen wesentlich mehr Daten zur Verfügung als aus einem einzigen Bohrloch. Eine gängige Praxis ist die Clusterbildung, um Bohrlöcher anhand geologischer Parameter (Lithologie, Porosität, Permeabilität usw.) zu gruppieren und pro Cluster Vorhersagemodelle zu erstellen. Mit dieser Methode können Sie bessere Ergebnisse erzielen, da das Modell speziell für einen bestimmten Spielzug oder sogar ein bestimmtes Becken innerhalb eines bestimmten Spielzugs entwickelt wurde. Darüber hinaus empfiehlt es sich, Ihre Daten im Graph Builder visuell durchzugehen – versuchen Sie, ein Gefühl dafür zu bekommen, was mit den einzelnen Parametern passiert, um den besten Weg nach vorne zu finden.
Schließlich ermöglicht Ihnen die Demokratisierung der Datenanalyse in Ihrem Unternehmen, schneller größere Ziele zu erreichen: Geben Sie den Benutzern leistungsstarke Tools in die Hand, zeigen Sie ihnen, wie sie Modelle erstellen und interpretieren, und lehnen Sie sich dann zurück und genießen Sie!
Datenquelle
Diese Daten wurden im Rahmen einer Kooperationsvereinbarung zwischen DOE und BP Exploration Alaska (BPXA) in Zusammenarbeit mit dem US Geological Survey (USGS) und mehreren Universitäten und Industriepartnern gesammelt, um zu bewerten, ob Erdgashydrat aus dem Alaska North Slope vorhanden sein könnte entweder technisch oder kommerziell sinnvoll hergestellt werden. Die Mt. Elbert-Bohrung wurde 2007 gebohrt und die Daten sind über das Lamont Doherty Earth Observatory an der Columbia University verfügbar. Ich habe die Daten in Teilmengen unterteilt, bereinigt und in einer JMP-Tabelle auf JMP Public verfügbar gemacht (Hinweis: Ohne JMP Pro werden die Skripte GenReg, Neural w/ KFold und XGBoost nicht ausgeführt. Darüber hinaus erfordert das XGBoost-Skript JMP Pro und das XGBoost-Add-In ).
Michael, der durchschnittliche quadratische Wurzelfehler (zweites Maß für die Anpassung im JMP NN-Bericht) für diese speziellen Datensatzänderungen über sechs zufällige Starts hinweg variiert um ~0,01, was ziemlich gering ist. Was Ensemble-Modelle betrifft, können Sie in JMP Pro Bootstrap Forest oder verwenden erhöhen in NN oder Entscheidungsbäumen. Alle diese Funktionen sind in JMP 15 Pro verfügbar. Ich hoffe das hilft!
Tolle Sache, Peter! Und sagen Sie mir bitte, wie RMSEs waren. Denn für die Regressionen ist RMSE der wichtigste KPI. Hoffentlich ändert sich dieser Parameter nicht drastisch. Teilen Sie mir nun bitte mit, wie Sie die Ensembles auf JMP Pro erstellen. Meins ist 15,0, also kann es sein, dass Ihres 16 ist, da die Ensembles in der 15. Version nicht vorkommen. Ich wäre Ihnen sehr dankbar!
Vielen Dank für die Frage @Nazarkovsky , das ist ein sehr wichtiges Thema, das Sie angesprochen haben. Ich bin auf Fälle gestoßen, in denen bahnbrechende Forschung endgültig zurückgezogen wurde, weil der Autor mit NNs sehr robuste Korrelationen gefunden hatte, aber als andere Benutzer dieselben NNs mit denselben Daten, aber unter Verwendung eines anderen Zufallsstarts durchführten, wurden drastisch geringere Korrelationen festgestellt. Hier können Ensemble-Modelle wirklich hilfreich sein (z. B. Bootstrap Forest, Boosted NN's usw.). Nachdem ich das alles gesagt und die Wichtigkeit hervorgehoben habe, muss ich zugeben, dass ich das ursprünglich nicht getan habe. ABER ich konnte nicht anders und nachdem ich Ihren Kommentar gelesen hatte, ging ich zurück und ließ eine Reihe von NNs mit identischen Einstellungen und unterschiedlichen Zufallsstartwerten noch einmal laufen. Der mittlere Validierungssatz R^2 betrug 0,92 +/- 0,01, nur etwas niedriger als das, was ich ursprünglich gefunden habe.
Vielen Dank für diesen informativen und gründlich geschriebenen Beitrag! Nun, ich beschäftige mich auch mit Chemie und nutze JMP Pro für die jeweiligen Aufgaben.
Nun, meine Frage betrifft das neuronale Netzwerk (NN). In JMP unterscheiden sich für die Regressionsfälle selbst beim festen Zufallsstartwert die von NN vorhergesagten Werte mit all ihren Metriken (RMSE, R2 usw.), wenn wir das identische Modell neu starten. Für die Klassifizierung ist alles unter Beibehaltung der Metriken wiederholbar. Haben Sie Ihr NN-Modell unter gleichen Bedingungen neu arrangiert?
Danke!
Michael
