601006_de-DE

liliconcom

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Hier ist eine interessante Möglichkeit, Ihr Problem zu lösen.Es verwendet die Funktion Words(), um den String in eine JMP-Liste mit separaten Elementen umzuwandeln.Anschließend werden die Werte in numerische Werte konvertiert, indem es zum Erstellen einer neuen Spalte in einer Datentabelle verwendet wird.Wenn Sie diese Werte zurück in eine Matrix verschieben, erhalten Sie das gewünschte Ergebnis.

theList=words(ExampleStr,"|");
dtConvert=new table("temp", new column("theList", set values(theList)));
theMatrix = dtConvert:theList<<GET values=""></GET>

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

@txnelson , obwohl dieser Vorschlag tatsächlich funktioniert, ist er nicht schneller als meine aktuelle Lösung. Tatsächlich ist es langsamer und dauert auf meinem System etwa 4 ms im Vergleich zu 0,9 für die von mir verwendete Lösung.

Ich kann Ihre Lösung verbessern, indem ich die Datentabelle privat mache und die Gesamtzeit von ~ 4 ms auf ~ 1 ms verkürze, was vergleichbar ist, wenn auch etwas langsamer als das, was ich heute tue

dtConvert=new table("temp", new column("theList", set values(theList)), private);

Ich hoffe, ich kann etwas viel schneller finden, aber ich brauche möglicherweise eine C#-Lösung, um das zu erreichen

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

0,217 ms

 

Danke Craige!

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Jims

0 ms

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Wie kann man solche Daten in eine Matrix schreiben?

null direkte Entfernung

 

Danke Jim!

txt="[[1668,3140325,7.25,7.27],[1660,4677712,7.17,null]]";

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

@lala , beachten Sie, dass Sie Tick Seconds() verwendet haben, was Ihnen Zeiten in Sekunden gibt, während ich HPTime() / 1000 verwendet habe, was mir Zeiten in Millisekunden gibt. Ihr Beispiel ist tatsächlich 216 ms, was 2 Größenordnungen schlechter ist als meine Lösung, die es in < 1 ms macht, was immer noch viel zu langsam für mich ist!

Wenn Sie d1 in Ihrem Beispiel eine private Datentabelle sein lassen, halbiert sich die Zeit auf ~ 100 ms, aber immer noch ... viel zu langsam für das, was ich tun musste

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Ich verstehe

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Der CSV-Import kann das Pipe-Zeichen direkt verarbeiten. Und MFI kann die Importe parallel ausführen. Dieses Beispiel öffnet 1000 Dateien in 2,2 Sekunden und stapelt sie in einer einzigen Datentabelle. Wenn sich Ihre Dateien bereits auf der Festplatte befinden, funktioniert dies möglicherweise gut. Seien Sie vorsichtig mit dem Befehl delete directory!

ExampleStr =
"70|71|71|72|72|72|72|72|74|74|74|74|74|74|74|74|74|74|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|76|75|75|76|76|76|75|75|76|76|75|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|77|76|77|76|77|76|76|77|76|76|76|76|76|76|76|76|77|76|76|76|76|77|77|77|77|76|76|77|77|76|76|76|76|77|76|77|76|76|76|76|76|77|76|76|76|77|77|77|76|76|77|76|76|76|77|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|77|77|77|77|77|77|77|77|76|77|77|76|76|77|76|76|77|76|77|76|77|76|77|77|77|76|76|76|77|77|76|76|77|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|77|77|77|76|77|77|76|76|77|76|77|76|77|77|77|77|77|76|76|77|77|77|77|77|77|76|76|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|76|76|76|77|77|77|77|77|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|76|76|77|77|77|77|77|77|76|77|77|77|76|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|76|77|77|77|77|76|77|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|78|78|78|78|78|78|78|78|78|78|77|78|78|77|78|77|77|77|78|78|78|78|78|78|77|78|77|78|78|78|78|78|78|77|78|78|78|77|78|77|78|78|78|77|78|77|78|78|78|78|78|77|78|78|78|78|78|78|78|78|78|77|78|78|78|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|78|77|77|78|77|77|78|77|78|78|78|78|78|78|78|78|77|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|77|78|78|78|78|78|78|77|78|78|78|78|77|78|78|78|78|77|77|78|78|78|78|78|78";
dir = "$temp/test";
Delete Directory( dir );
Create Directory( dir );
For( i = 1, i <= 1000, i += 1,
    Save Text File( Eval Insert( "^dir^/ExampleStr^right(char(1000+i),4)^.txt" ), Char( 1000 + i ) || "|" || ExampleStr )
);

t1 = HP Time();
Multiple File Import(
    <<SET folder=""></SET>

Sogar der CSV-Einzelimport @lala gezeigt kann verbessert werden, indem der CSV-Import das Pipe-Zeichen verarbeitet, und erfordert dann keine Festplattendatei wie MFI.

Das obige MFI-Skript wurde vom MFI-Dialog erstellt, dann wurden die Standardoptionen für das Erscheinungsbild beschnitten.

MFI kann auch eine Spalte mit dem Dateinamen hinzufügen, die eine Analyseplattform als By-Variable verwenden kann.

 

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Hier sind einige Oracle SQL-Lösungen:

 

Wenn Sie Oracle verwenden und APEX installiert haben (Application Express), funktioniert apex_string.split.Dauerte 0,89 Sekunden auf meiner DB

SELECT COLUMN_VALUE FROM TABLE(apex_string.split(
        '70|71|71|72|72|72|72|72|74|74|74|74|74|74|74|74|74|74|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|76|75|75|76|76|76|75|75|76|76|75|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|77|76|77|76|77|76|76|77|76|76|76|76|76|76|76|76|77|76|76|76|76|77|77|77|77|76|76|77|77|76|76|76|76|77|76|77|76|76|76|76|76|77|76|76|76|77|77|77|76|76|77|76|76|76|77|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|77|77|77|77|77|77|77|77|76|77|77|76|76|77|76|76|77|76|77|76|77|76|77|77|77|76|76|76|77|77|76|76|77|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|77|77|77|76|77|77|76|76|77|76|77|76|77|77|77|77|77|76|76|77|77|77|77|77|77|76|76|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|76|76|76|77|77|77|77|77|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|76|76|77|77|77|77|77|77|76|77|77|77|76|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|76|77|77|77|77|76|77|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|78|78|78|78|78|78|78|78|78|78|77|78|78|77|78|77|77|77|78|78|78|78|78|78|77|78|77|78|78|78|78|78|78|77|78|78|78|77|78|77|78|78|78|77|78|77|78|78|78|78|78|77|78|78|78|78|78|78|78|78|78|77|78|78|78|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|78|77|77|78|77|77|78|77|78|78|78|78|78|78|78|78|77|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|77|78|78|78|78|78|78|77|78|78|78|78|77|78|78|78|78|77|77|78|78|78|78|78|78',
        '|'));

 

Wenn Sie APEX nicht installiert haben, funktioniert dies, ist aber langsamer (3,82 Sekunden):

WITH rws AS
 (SELECT '70|71|71|72|72|72|72|72|74|74|74|74|74|74|74|74|74|74|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|76|75|75|76|76|76|75|75|76|76|75|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|77|76|77|76|77|76|76|77|76|76|76|76|76|76|76|76|77|76|76|76|76|77|77|77|77|76|76|77|77|76|76|76|76|77|76|77|76|76|76|76|76|77|76|76|76|77|77|77|76|76|77|76|76|76|77|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|77|77|77|77|77|77|77|77|76|77|77|76|76|77|76|76|77|76|77|76|77|76|77|77|77|76|76|76|77|77|76|76|77|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|77|77|77|76|77|77|76|76|77|76|77|76|77|77|77|77|77|76|76|77|77|77|77|77|77|76|76|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|76|76|76|77|77|77|77|77|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|76|76|77|77|77|77|77|77|76|77|77|77|76|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|76|77|77|77|77|76|77|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|78|78|78|78|78|78|78|78|78|78|77|78|78|77|78|77|77|77|78|78|78|78|78|78|77|78|77|78|78|78|78|78|78|77|78|78|78|77|78|77|78|78|78|77|78|77|78|78|78|78|78|77|78|78|78|78|78|78|78|78|78|77|78|78|78|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|78|77|77|78|77|77|78|77|78|78|78|78|78|78|78|78|77|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|77|78|78|78|78|78|78|77|78|78|78|78|77|78|78|78|78|77|77|78|78|78|78|78|78'
         str
    FROM dual)
SELECT regexp_substr(str, '[^|]+', 1, LEVEL) VALUE
  FROM rws
CONNECT BY LEVEL <= LENGTH(str) - LENGTH(REPLACE(str, '|')) + 1;

 

 

Betreff: Suche nach Tipps für die schnelle Umwandlung von Zeichenfolgen in Matrix

Eine weitere Brute-Force-Lösung mit Worten.Geschwindigkeiten sind vergleichbar mit der Analyse.

t1 = HPTime();
w = words(examplestr, "|");
n = nitems(w);
m = j(n, 1);
for (i = 1, i <= n, i++,
 m[i] = num(w[i]);
);
t2 = HPTime();
show((t2-t1)/1000); 

Suchen Sie nach Tipps für die schnelle Konvertierung von Zeichenfolgen in Matrix

ICH Ich habe Daten, die ich aus einer Datenbank abrufe, die in einem durch Pipes getrennten Zeichenfolgenformat vorliegt. Zum Beispiel „70|71|69|78“. Diese Zeichenfolgen stellen numerische Messungen dar.

Es werden viele Messungen durchgeführt und die resultierenden Saiten sind sehr lang. Darüber hinaus verfüge ich über einen großen Datensatz dieser Zeichenfolgen.

Was ich tun muss, ist, die Zeichenfolgen in eine Matrix (eigentlich einen Vektor) umzuwandeln und einige Aggregationsstatistiken für den resultierenden Vektor auszuführen (Max, 95. Perzentil usw.). Ich habe keine Möglichkeit gefunden, dies in SQL auf der Datenbankseite zu tun, was noch besser wäre.

So mache ich es heute anhand eines typischen Beispiels für eine lange Zeichenfolge.

ExampleStr = "70|71|71|72|72|72|72|72|74|74|74|74|74|74|74|74|74|74|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|75|76|75|75|76|76|76|75|75|76|76|75|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|77|76|77|76|77|76|76|77|76|76|76|76|76|76|76|76|77|76|76|76|76|77|77|77|77|76|76|77|77|76|76|76|76|77|76|77|76|76|76|76|76|77|76|76|76|77|77|77|76|76|77|76|76|76|77|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|76|76|77|77|77|77|77|77|77|77|76|77|77|76|76|77|76|76|77|76|77|76|77|76|77|77|77|76|76|76|77|77|76|76|77|76|76|76|76|76|76|76|77|76|76|76|76|76|76|76|77|77|77|76|77|77|76|76|77|76|77|76|77|77|77|77|77|76|76|77|77|77|77|77|77|76|76|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|76|76|76|77|77|77|77|77|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|76|76|77|77|77|77|77|77|76|77|77|77|76|77|77|77|77|76|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|76|77|77|77|77|76|77|76|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|77|76|77|77|77|77|77|77|77|77|77|77|77|77|77|78|78|78|78|78|78|78|78|78|78|77|78|78|77|78|77|77|77|78|78|78|78|78|78|77|78|77|78|78|78|78|78|78|77|78|78|78|77|78|77|78|78|78|77|78|77|78|78|78|78|78|77|78|78|78|78|78|78|78|78|78|77|78|78|78|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|78|77|77|78|77|77|78|77|78|78|78|78|78|78|78|78|77|77|78|78|78|77|77|78|78|78|78|78|78|78|78|78|78|78|78|77|78|78|78|78|78|78|77|78|78|78|78|77|78|78|78|78|77|77|78|78|78|78|78|78";
  t1 = HPTime();
  V = parse("["||substitute(ExampleStr,"|",",")||"]") ;
  t2 = HPTime();
  show((t2-t1)/1000); // takes about 0.9 milliSec

Also ersetze ich die Pipes durch Kommas und lasse die Zeichenfolge dann wie eine Matrix aussehen, indem ich Matrixklammern voranstelle und anfüge. Dieser Teil ist schnell.

Der Großteil der Zeit wird für den Parse()-Aufruf aufgewendet.

Für dieses Beispiel mit 775 Werten in der durch Pipes getrennten Zeichenfolge dauert es etwa 0,9 ms, den obigen Code auf meinem Computer auszuführen.

Das scheint sehr wenig Zeit zu sein, aber ich brauche mindestens eine Größenordnung weniger Zeit. Weil meine Datentabelle in meinem aktuellen Beispiel 762.000 Datenzeilen enthält!

Nicht jede Zeichenfolge ist 775 Werte lang, einige sind kürzer und nicht jede Iteration dauert 0,9 ms, aber insgesamt hat es fast 10 Minuten gedauert, die Datentabelle durchzugehen und das zu tun, was ich tun muss, was ungefähr so aussieht:

 

dt << new column("P95_Value");
foreachrow(
 V = parse("["||substitute(:StrColumn,"|",",")||"]") ;
 :P95_Value = VQuantile(V,0.95); 
);

Der Aufruf von VQuantile() ist kein Problem, er geht sehr schnell. Der Großteil der Zeit wird in der Zeile parse() verbracht.

Ich habe mich nur gefragt, ob es eine intelligentere Möglichkeit gibt, diese Zeichenfolge zu verarbeiten und in einen Vektor umzuwandeln, idealerweise in etwa 0,09 Millisekunden oder besser!

Vielleicht muss ich diese Verarbeitung an ein C#- oder Python-Skript „auslagern“, das sie möglicherweise schneller verarbeitet?

Datenzugriff