| Lautsprecher |
Transkript |
| Clay Barker |
Vielen Dank, mein Name ist Clay Barker. Ich bin Statistikentwickler in der JMP-Gruppe und werde heute über eine neue Funktion in JMP Pro Version 16 sprechen. Sie heißt Termauswahl und ich habe sie zusammen mit meinen Kollegen Paris Faison und Ernest Pasour entwickelt. |
| |
Textdaten werden daher in der Praxis immer häufiger verwendet. Wir verfügen beispielsweise über Kundenrezensionen zu unseren Produkten, über Beschreibungen von Ereignissen oder über Wartungsprotokolle für unsere Geräte. |
| |
Und in diesem Beispiel hier auf meinen Folien, das stammt aus dem |
| |
Flugzeugvorfälle...Vorfallsdatensatz, den wir in den Beispieldaten haben. |
| |
Und jede Datenzeile ist eine Beschreibung eines Flugunfalls, eines Absturzes oder einer anderen Art von Fehlfunktion. |
| |
Falls Sie die Text Explorer-Plattform noch nie verwendet haben: Sie wurde in JMP 13 eingeführt und wird hauptsächlich zur Zusammenfassung und Analyse von Textdaten eingesetzt. |
| |
Dadurch lassen sich gängige Aufgaben wie die Ermittlung der häufigsten Wörter und Ausdrücke vereinfachen, und auch die Gruppierung von Dokumenten oder die Suche nach Themen, beispielsweise im Rahmen einer Themenanalyse, wird erleichtert. Die Grundlage all dessen bildet die sogenannte Dokument-Term-Matrix. |
| |
Was ist also die Dokumenttermsmatrix? Am einfachsten lässt sie sich als Matrix von Indikatorvariablen vorstellen, die angeben, ob ein bestimmtes Wort oder eine bestimmte Phrase in jedem Dokument enthalten ist oder nicht. |
| |
Wir können dies danach gewichten, wie häufig das Wort in den einzelnen Dokumenten vorkommt. Jedes Dokument entspricht also einer Zeile in unserer Dokument-Term-Matrix und jede Spalte einem Wort. |
| |
Nehmen wir als ganz einfaches Beispiel die erste Zeile: „Die Pizzaverpackung war frustrierend.“ Wir haben also eine 1 für die Verpackung. |
| |
Eine 1 für Pizza, eine 1 für frustrierend und 0 für alle anderen Wörter. Und genauso verhält es sich in der zweiten Zeile: Eine 1 für Geruch, toll, Geschmack und Pizza und 0 für alle anderen Wörter. Es ist lediglich eine einfache Zusammenfassung der in den einzelnen Dokumenten vorkommenden Wörter. |
| |
Ich habe bereits erwähnt, dass es verschiedene Varianten der Dokument-Term-Matrix gibt. Die einfachste ist die binäre; sie besteht nur aus Einsen und Nullen. |
| |
Aber wir möchten vielleicht Informationen darüber einbeziehen, wie oft jedes Wort vorkommt. Hier ist also ein weiterer, etwas längerer Satz, in dem Pizza mehrmals vorkommt. |
| |
In der binären Dokumenttermmatrix ist die Spalte für „Pizza“ weiterhin eine 1, da die Häufigkeit des Vorkommens irrelevant ist. In der ternären Matrix ist sie eine 2, da diese nur aus Nullen, Einsen und Zweien besteht. Sie ist 0, wenn das Wort nicht vorkommt, 1 bei einmaligem Vorkommen und 2 bei mehrfachem Vorkommen. |
| |
Unabhängig davon, ob es hier viermal vorkommt, haben wir es trotzdem mit 2 kodiert. Die Häufigkeitsberechnung ist ganz einfach: Es ist einfach die Anzahl der Vorkommen jedes Wortes in diesem Dokument. |
| |
Das sind also drei ganz einfache Methoden. Wir bieten auch TF-IDF-Gewichtung an, die einer relativen Häufigkeitsberechnung ähnelt. Mehr über diese Gewichtungsschemata erfahren Sie in [Link einfügen]. |
| |
Text Explorer-Plattform. |
| |
Was ist also der nächste Schritt? Was könnten Sie als Nächstes verwenden? |
| |
Vielleicht möchten Sie den Text nutzen, um ein bestimmtes Ergebnis zu erzielen. Hier habe ich also einige Möbelbewertungen erstellt, und jeder Bewertung ist eine Sternebewertung zugeordnet, richtig? |
| |
Man könnte also annehmen, dass diese Rezensionen uns Hinweise darauf geben, warum jemand ein Produkt höher oder niedriger bewertet. In der ersten Zeile heißt es beispielsweise: „Die Anleitung war frustrierend“, und der Nutzer hat uns nur 3 Sterne gegeben. Wenn dieses Muster häufiger vorkommt und viele Leute Bewertungen abgeben … |
| |
Viele der niedrigeren Bewertungen beziehen sich auf die Bedienungsanleitung. Das könnte uns darauf hinweisen, dass wir die Bedienungsanleitung, die wir mit unseren Möbeln liefern, verbessern müssen. |
| |
Die einfache Idee ist also, diese als Regressionsmodell zu verwenden. Wir werden... wir werden unsere Dokument-Term-Matrix nehmen, |
| |
Wir werden diese Daten mit unseren Antwortinformationen kombinieren und einfach eine Regression durchführen. |
| |
Und das wird uns helfen zu verstehen, warum Kunden unsere Möbel oder andere Produkte mögen oder nicht mögen. |
| |
Es kann uns helfen, Objekte anhand der Beschreibungen zu klassifizieren – darauf werden wir später noch eingehen – oder vielleicht möchten wir anhand ihrer Wartungsaufzeichnungen verstehen, warum manche Maschinen ausfallen oder nicht. |
| |
Und die Art und Weise, wie wir das machen, ist ganz einfach. |
| |
Wir erstellen im Grunde ein Regressionsmodell, wobei jede unserer X-Variablen, also unsere Prädiktorvariablen, eine der Spalten in der Termmatrix darstellt. Wenn wir also Produktbewertungen modellieren, handelt es sich um eine einfache lineare Regression, und wenn wir |
| |
Wenn wir ein binäres Ergebnis modellieren, beispielsweise ob ein Kunde unser Produkt weiterempfehlen würde oder nicht. |
| |
Der Text umfasst möglicherweise Hunderte von Wörtern, und es wäre sinnvoll, nicht alle zu verwenden. Da nicht alle Daten nützlich sind, wenden wir ein Verfahren zur Variablenauswahl auf unser Regressionsmodell an und erhalten so ein einfacheres, leicht interpretierbares und gut passendes Modell. |
| |
Und hier unten lässt sich die Kombination dieser Indikatorvariablen mit unserer Antwortbewertung, unserer Sternebewertung, ganz einfach visualisieren. |
| |
Unsere Lösung in JMP 16 besteht darin, Regressionsmodelle in die Text Explorer-Plattform zu integrieren. Wenn Sie die allgemeine Regressionsplattform bereits zur Variablenauswahl verwendet haben, betten wir diese Plattform im Wesentlichen in den Text Explorer ein. |
| |
Wenn Sie also JMP Pro besitzen, sehen Sie den Begriffsauswahlpunkt im roten Dreiecksmenü des Text-Explorers. |
| |
Das ist es, was uns wirklich begeistert. Es macht es einfach und schnell, diese Art von Regressionsmodellen zu erstellen und zu verfeinern. |
| |
Wenn Sie also diese Plattform starten – wir werden gleich einige Demos durchgehen, aber nur kurz – |
| |
Gleich zu Beginn des Starts werden lediglich Informationen über unsere Reaktion und das Modell, das wir anpassen wollten, erbeten. |
| |
Es kann also sowohl kontinuierliche Antworten wie eine Sternebewertung verarbeiten, als auch, wenn Sie eine kontinuierliche Antwort angeben, einen Filter bereitstellen, mit dem Sie einige der Zeilen basierend auf der Antwort herausfiltern können. |
| |
Wenn wir eine Spalte mit nominalen Antwortvariablen haben, wählen wir den Zielwert aus. In diesem Fall also: Würden Sie unser Produkt weiterempfehlen, ja oder nein? Wir werden das modellieren... |
| |
Wir werden die Empfehlung gleich Nr. modellieren. |
| |
Und wenn wir eine mehrstufige Antwort haben, wie zum Beispiel blau, grün, gelb, wählen wir die Stufe aus, die wir modellieren möchten. Ein Beispiel dafür sehen wir gleich. |
| |
Nachdem Sie die Antwort festgelegt haben, geben wir der Plattform einige Informationen darüber, welche Art von Modell wir anpassen möchten. |
| |
Wenn wir also Variablen auswählen, verwenden wir dann das Elastic Net oder das Lasso? Beides sind in die generalisierte Regression integrierte Verfahren zur Variablenauswahl. Und wie führen wir die Validierung durch? Verwenden wir das AIC oder das BIC? |
| |
Zusätzlich können wir Details zu unserer Dokumenttermmatrix festlegen. Wir können die Gewichtung und die maximale Anzahl der zu berücksichtigenden Terme auswählen. Wenn wir also die 200 häufigsten Wörter berücksichtigen möchten, ist diese Anzahl aktuell auf 200 eingestellt. |
| |
Was passiert also, wenn man es startet und auf den Ausführen-Button klickt? Im Grunde genommen macht es alles. |
| |
Das Programm bereitet die Daten im Hintergrund korrekt vor, sodass Sie sich um nichts kümmern müssen. Es führt eine Variablenauswahl durch, sodass wir nun eine kleine Teilmenge von Wörtern haben, die unserer Meinung nach für die Vorhersage unserer Antwort nützlich sind, und präsentiert die Ergebnisse übersichtlich. |
| |
Der Bericht muss interpretiert werden, und er ist recht interaktiv, wie wir gleich sehen werden. Früher konnte man das folgendermaßen tun: |
| |
Speichern der Dokument-Term-Matrix in Ihrem Datensatz, selbst eine generalisierte Regressionsplattform starten, |
| |
Aber das ist jetzt nicht mehr nötig. Es geht jetzt nur noch um die Auswahl. |
| |
Wie können wir also bei dieser Modellspezifikation feststellen, was wir auswählen sollen? |
| |
Die verfügbaren Schätzmethoden sind das elastische Netz und das Lasso. Der Unterschied zwischen diesen beiden Methoden lässt sich am einfachsten merken. |
| |
Das elastische Netz neigt dazu, Gruppen korrelierter Prädiktoren auszuwählen. Wenn unsere Prädiktoren also in diesem Fall alle Wörter sind, |
| |
Das bedeutet, dass es dazu neigt, Wortgruppen auszuwählen, die häufig zusammen vorkommen. Wenn Sie also an „Anleitung“ und „Handbuch“ denken, |
| |
Diese Wörter treten aufgrund von Bedienungsanleitungen häufig gemeinsam auf. Daher wären diese beiden Prädiktoren stark korreliert, und das Elastic Net würde wahrscheinlich beide auswählen, während das Lasso wahrscheinlich entweder „Anleitung“ oder „Handbuch“ auswählen würde, aber nicht unbedingt beide. |
| |
Als Validierungsmethoden haben wir das AIC und das BIC. |
| |
Als Faustregel gilt also, dass das AIC tendenziell Modelle überbewertet und das BIC tendenziell unterbewertet. Daher gilt in unseren Spezifikationen: |
| |
Der AIC wählt tendenziell eine größere Menge an Wörtern aus, während der BIC eine kleinere Menge an Wörtern auswählt. |
| |
Ich persönlich neige dazu, in diesem Kontext häufig das AIC zu verwenden, weil ich lieber mehr Wörter als nötig als zu wenige habe, aber das ist letztendlich Geschmackssache. |
| |
Und die Gewichtung der Dokumentbegriffe... |
| |
Ich meine die Gewichtung der Dokumenttermsmatrix. |
| |
Das hängt ganz von Ihrem Problem ab. In diesem Beispiel also: |
| |
Das Wort „Farbe“ kommt in der Rezension mehrfach vor. Das könnte bedeuten, dass der Rezensent sehr... |
| |
Die Farbe war dem Rezensenten sehr wichtig und könnte in unserem Regressionsmodell von Bedeutung sein, daher würden wir eine Gewichtung wie die Häufigkeit anstelle einer binären verwenden wollen. |
| |
Wenn Sie also die Begriffsauswahl starten, gelangen Sie an einen Ort wie diesen, wo wir Folgendes haben: |
| |
Links sehen Sie eine Zusammenfassung aller Dokumente, rechts alle ausgewählten Wörter. Darauf gehe ich jetzt erst einmal nicht ein; das wird in der Demo deutlicher. |
| |
Ein weiterer Vorteil ist die Übersichtsfunktion. Mithilfe der Termauswahl können Sie eine Reihe von Modellen erstellen, die dann oben zusammengefasst werden. Sie können anschließend zwischen den Modellen hin- und herwechseln. Darauf gehen wir gleich noch genauer ein. |
| |
Werfen wir also einen Blick auf die Plattform. |
| |
Als Erstes werden wir uns das ansehen. |
| |
Flugzeugvorfalldatensatz, der sich im JMP-Beispieldatenordner befindet. |
| |
Jede Zeile in unserer Tabelle stellt also einen Vorfall dar. Wir wissen, wie hoch der Schaden am Flugzeug war, welche Verletzungen es gab und verfügen über eine Beschreibung. Die letzte Spalte enthält eine genaue Beschreibung des Vorfalls. |
| |
Wir starten also den Text Explorer. Falls Sie den Text Explorer noch nie benutzt haben: Links sehen Sie die am häufigsten vorkommenden Begriffe und rechts die am häufigsten vorkommenden Wortgruppen. |
| |
Wir möchten diese Wörter also verwenden, um vielleicht zu verstehen |
| |
Was also führt dazu, dass ein Unfall größere Schäden oder schwerere Verletzungen verursacht? Wir gehen also zum Menü mit dem roten Dreieck und wählen dann die entsprechenden Begriffe aus. |
| |
Wir sehen also jetzt diesen Start, den wir uns eben angesehen haben, und ich möchte mehr über die Schäden erfahren. Insbesondere möchte ich zwischen Vorfällen unterscheiden, bei denen das Flugzeug zerstört wurde, und solchen mit geringeren Schäden. Dazu wählen wir den Zielwert für die Zerstörung aus. |
| |
Ich möchte erwähnen, dass dieses frühzeitige Anhalten eine zeitsparende Funktion ist. |
| |
Die Variablenauswahl kann bei größeren Problemen sehr zeitaufwendig sein. Wenn Sie dieses Kontrollkästchen aktiviert lassen, wird dadurch sozusagen Folgendes signalisiert: |
| |
Wir glauben, dass unser Modell gut genug ist; wir werden es daher vorzeitig beenden. Ich deaktiviere diese Option normalerweise, es sei denn, ich weiß, dass ich ein viel größeres Problem habe. |
| |
Ich lasse es also bei Elastic Net, AIC und wir starten die Ausführung. |
| |
Im Hintergrund werden nun die benötigten Daten für das Regressionsmodell erstellt und das Modell wird im Hintergrund angepasst. Jetzt erhalte ich meine Zusammenfassung. |
| |
Alle Dokumente sind auf diesem linken Feld zusammengefasst, dies ist der erste Flugzeugvorfall, dies ist der zweite, der leer ist. |
| |
Der erste Vorfall ereignete sich so: Das Flugzeug kollidierte mit einer Schneewehe am Rand der Landebahn. |
| |
Wir haben alle wichtigen Wörter hervorgehoben, die blauen Wörter haben negative Koeffizienten, die orangen Wörter positive Koeffizienten. |
| |
Und wenn wir uns für die Wörter interessieren, können wir uns dieses Feld rechts ansehen. Ich sortiere sie gerne nach dem Koeffizienten, daher können Sie einfach oben klicken. |
| |
In diesem Fall ist es also unwahrscheinlicher, dass Wörter mit negativen Koeffizienten zerstört wurden. Wenn also |
| |
Das Dokument enthält das Wort „Landung“. Wenn das Flugzeug den Landeanflug erreicht hat, handelt es sich wahrscheinlich nicht um einen schwerwiegenden Zwischenfall. Daher sind solche Fälle eher unwahrscheinlich. |
| |
zerstört. Andererseits können wir uns die positivsten Begriffe ansehen, und das sind die Wörter, die am ehesten mit der Zerstörung des Flugzeugs in Verbindung gebracht werden. |
| |
Und dabei handelt es sich um Begriffe wie Feuer und Zeugen. Wenn Zeugen befragt werden, um den Vorfall zu schildern, bedeutet das wahrscheinlich, dass die Insassen des Flugzeugs nicht befragt werden konnten. |
| |
Feuer, Radar, Drehung, Nacht – all diese Wörter sind stark mit … verbunden. |
| |
mit der Zerstörung. |
| |
Vielleicht interessiert uns aber auch der Schweregrad der Verletzungen, und zwar ganz konkret die schwersten Fälle. |
| |
Und wir werden die Terminwahl erneut durchführen. |
| |
Und ich akzeptiere das einfach, um es schnell zu erledigen. |
| |
Jetzt können wir also ähnliche Dinge tun, aber jetzt betrachten wir stattdessen den Verletzungsgrad. |
| |
Wenn das Interview also den Kapitän oder die Landung beinhaltet, handelt es sich dabei wahrscheinlich nicht um sehr schwerwiegende Verletzungen. |
| |
Wenn aber Radar, Nacht und Berge erwähnt werden, sind das deutlich ernstere Begriffe. Wir können also schnell zwischen diesen beiden Reaktionen hin und her wechseln und sehen, welche Wörter die jeweiligen Reaktionen vorhersagen. |
| |
Verletzungsgrad und Schadensausmaß. |
| |
Schauen wir uns also ein weiteres Beispiel an. |
| |
Das hier ist also etwas, das mir wirklich Spaß macht. Vorhin habe ich in meinen Beispielen über Pizza gesprochen. Jetzt geht es um Bier. Das sind also ganz offensichtlich Dinge, die mir sehr am Herzen liegen. |
| |
Ich habe hier also... ich habe eine Beschreibung jedes Bierstils heruntergeladen, basierend auf einer Bierrezension. |
| |
Körper. |
| |
Jedes einzelne Bier hat also eine Beschreibung. |
| |
Und es steht da, woher das Bier stammt. Also haben wir... |
| |
die Vereinigten Staaten, Deutschland, Irland. |
| |
Verwenden Sie die Begriffsauswahl, um anzuzeigen |
