Erweiterung einiger der vom Text Explorer gefundenen PhrasenHallo,
Ich verwende den Text Explorer, um Phrasen in einem mir gut bekannten, sauberen Korpus zu finden – Oracle-Texte von Magic: The Gathering-Karten. Er funktioniert im Großen und Ganzen gut, aber ich möchte etwas verbessern. Er findet zwar die häufige Phrase „destroy up to one target“, aber nicht die Phrasen „destroy up to one target creature“ oder „destroy up to one target enchantment“. Ich möchte diese Phrasen aber finden können. Sie sind häufig genug, dass sie eigentlich gefunden werden sollten. Ich habe die maximale Wortanzahl pro Phrase von 10 auf 100 und dann auf 1000 erhöht, um zu sehen, ob sich das auf das Verhalten des Algorithmus auswirkt, aber das war nicht der Fall. Ich habe alle Stoppwörter deaktiviert und verwende kein Stemming. Ich habe die maximale Anzahl der zu findenden Phrasen auf 50.000 gesetzt, und es wurden nur etwa 30.000 gefunden. Daher glaube ich nicht, dass das die Ursache ist.
Gibt es neben diesen Grundeinstellungen eine Möglichkeit, den Algorithmus zur Phrasenfindung so zu trainieren, dass er diese erweiterten Phrasen findet? Ich verstehe reguläre Ausdrücke nicht, aber vielleicht lässt sich da etwas machen? Diese Art von unerwünschter Kürzung (zumindest für meine Forschungszwecke) tritt in meinem gesamten Korpus auf. Daher suche ich nach einer systematischen Lösung, anstatt das Problem nur einmalig durch Hinzufügen der gesuchten Phrase zu beheben. Ich denke, ich würde viele der gesuchten Phrasen finden, wenn der Algorithmus lernen würde, alle bestehenden Phrasen um ein Wort zu erweitern. Ich vermute, es gibt eine Regel, die den Algorithmus dazu anregt, den optimalen Endpunkt für jede Phrase zu finden, während er jeweils ein Wort hinzufügt. Bei diesem Korpus stoppt er jedoch oft etwas zu früh. Dadurch findet er natürlich auch allerlei sinnlose 10-Wort-Phrasen, die ich nicht suche.
Hat jemand eine Idee, wie man es dazu bringen kann, jede der gefundenen Phrasen um ein Wort zu erweitern?
Ich habe festgestellt, dass keine Einstellungsänderung etwas bewirkt. Hat jemand Vorschläge?
Grundlagen der Datenanalyse und ModellierungVerbraucher- und MarktforschungDatenexploration und -visualisierungBetreff: Erweiterung einiger der vom Text Explorer gefundenen PhrasenHallo @caseylott ,
Coole Idee! Ich frage mich, ob der LLM Prompt Runner auf dem Marktplatz ein guter Ausgangspunkt wäre. Ein LLM könnte die mühsame Arbeit übernehmen, Schlüsselphrasen zu identifizieren oder die Originaleinträge zu bereinigen, um die Datensuche zu vereinfachen. MTG-Orakeltexte haben eine sehr regelmäßige Domänengrammatik (Verb + „Ziel“ + optionaler Quantor + Objekttyp). Wenn man den LLM also anweist, das vollständige Objekt jeder Zielklausel zu extrahieren, würde er zuverlässig strukturierte Ausgaben wie „Zielkreatur“, „Zielverzauberung“, „Zielkreatur oder Planeswalker“ usw. liefern.
Eine weitere Möglichkeit wäre, den Ausdruck „destroy up to one target“ in einen einzigen Ausdruck „destroy_up_to_one_target“ umzuwandeln. Derzeit trennt der Text-Explorer die einzelnen Wörter, und da keiner der Endbegriffe dominant ist (d. h. es gibt nicht viele „target creature“), werden sie als einzelne Einträge angezeigt. Wenn Sie den Ausdruck in „destroy_up_to_one_target“ umwandeln, werden Einträge wie „destroy_up_to_one_target creature//enchantment“ oder Ähnliches angezeigt. Sie können „Spalte > Umkodieren > Zeichenkette ersetzen“ verwenden und ähnlich wie im folgenden Screenshot vorgehen:
Betreff: Erweiterung einiger der vom Text Explorer gefundenen PhrasenDanke, Ben. Ich werde den Trick mit der manuellen Neucodierung ausprobieren. Ich bin mir nicht sicher, was die LLM-Option auf dem Marktplatz genau ist, aber falls es sich um ein kostenpflichtiges Add-on handelt, verzichte ich darauf.
Casey
„Auch falsche Modelle können gefährlich sein.“Betreff: Erweiterung einiger der vom Text Explorer gefundenen PhrasenHallo Ben,
Ich wollte Ihnen nur ein großes Lob aussprechen und Ihnen mitteilen, dass die manuelle Umkodierung hervorragend funktioniert hat. Jedes Mal, wenn ich eine Phrase fand, der am Ende ein Wort zu fehlen schien, habe ich sie einfach zu einem einzigen Wort mit Unterstrichen umkodiert und die Analyse mit denselben Einstellungen erneut durchgeführt. Jedes Mal wurde die gesuchte Phrase gefunden. Nachdem ich beispielsweise „At the beginning of each opponents“ in „At_ the_beginning_of_each_opponents“ umkodiert und in die Termliste aufgenommen hatte, fand der Text Explorer beim nächsten Durchlauf „At the beginning of each opponents upkeep“, genau das, wonach ich ursprünglich gesucht hatte. Mein Korpus und die gesuchten Phrasen sind so klein, dass ich diese Art von manuellen Umkodierungen wahrscheinlich an etwa 20–30 Stellen vornehmen und damit alle gesuchten Terme effektiv finden kann. Für kleinere Analysen wie diese habe ich quasi einen praktischen Trick erhalten, den ich immer wieder verwenden werde. Vielen Dank!
Casey
Betreff: Erweiterung einiger der vom Text Explorer gefundenen PhrasenHallo @caseylott ,
Der LLM Prompt Runner (und alle Erweiterungen im Marketplace) ist kostenlos. Er ermöglicht es, mehrere Zeileneinträge an ein LLM zu senden und dessen Antwort zu erhalten. Anstatt beispielsweise manuell eine Analyse eines Karteneintrags vom LLM anzufordern (z. B. „Ist diese Karte zu stark? Ja/Nein“), sendet er die Anfrage automatisch für jeden Eintrag an die LLMs und sammelt die Antwort. Dies ist besonders nützlich für die Datenverarbeitung, insbesondere bei semantischem Text, wo verschiedene Deskriptoren im Wesentlichen auf dasselbe verweisen können (oder umgekehrt).
Wenn du vorhast, das irgendwo öffentlich zu veröffentlichen, wäre es toll, das zu sehen!
Danke,
Ben
