Laden...

Performance von Regex

Erstellt von herbivore vor 18 Jahren Letzter Beitrag vor 15 Jahren 12.804 Views
herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 18 Jahren
Performance von Regex

Hallo Community, hallo Pulpapex,

du hattest schon öfter geschrieben, dass man RegexOptions.Compiled benutzen soll, und dass das dynamische Erzeugen von Pattern teuer ist. Mich hat mal interessiert, was wie teuer was ist und habe dem folgenden Programm gemessen.


//#define SW_ONEPATTERN
//#define SW_COMPILED
using System;
using System.Text.RegularExpressions;

abstract class App
{
   public static void Main (string [] astrArg)
   {
      DateTime dt;

      int iOk = 0;
      int iNichtOk = 0;
      int i = 0;
      int iCount;

      dt = DateTime.Now;

      #if SW_ONEPATTERN
      #if SW_COMPILED
      Regex re = new Regex ("hu.*hu" + i, RegexOptions.Compiled);
      iCount = 1000000;
      #else
      Regex re = new Regex ("hu.*hu" + i);
      iCount = 1000000;
      #endif
      #else
      #if SW_COMPILED
      iCount = 1000;
      #else
      iCount = 100000;
      #endif
      #endif
      for (i = 0; i < iCount; ++i) {
         #if !SW_ONEPATTERN
         #if SW_COMPILED
         Regex re = new Regex ("hu.*hu" + i, RegexOptions.Compiled);
         #else
         Regex re = new Regex ("hu.*hu" + i);
         #endif
         #endif
         if (re.IsMatch ("huhuhu1000")) {
            ++iOk;
         } else {
            ++iNichtOk;
         }
      }
      Console.WriteLine (DateTime.Now - dt);
      Console.WriteLine ("für " + iCount + " Schleifendurchläufe");

      #if SW_ONEPATTERN
      Console.WriteLine (" SW_ONEPATTERN");
      #else
      Console.WriteLine ("!SW_ONEPATTERN");
      #endif
      #if SW_COMPILED
      Console.WriteLine (" SW_COMPILED");
      #else
      Console.WriteLine ("!SW_COMPILED");
      #endif

      // Console.WriteLine (iOk);
      // Console.WriteLine (iNichtOk);
   }
}

Ergebnisse:

SW_ONEPATTERN
SW_COMPILED
1Mio = ca. 1.4s

SW_ONEPATTERN
!SW_COMPILED
1Mio = ca. 2.4s

!SW_ONEPATTERN
!SW_COMPILED
100k = ca. 2.4s

!SW_ONEPATTERN
SW_COMPILED
1000 = ca. 2.5s

Wenn ich die Zahlen richtig interpretiere und natürlich mit der Einschränkung, dass sie erstmal nur für die verwendeten Pattern und Strings gelten, ist ein Match mit einem nicht compilierten Pattern rund doppelt so teuer, wie mit einem compilierten Pattern. Das Erzeugen eines nicht compilierten Patterns ist ca. 10 mal teuer als ein Match und das Erzeugen eines compilierten Pattern ist nochmal 100 mal teuer als das Erzeugen eines nicht compilierten Patterns.

Wenn man also nur wenige Matches (<50) macht, scheint es mir also gerade nicht sinnvoll RegexOptions.Compiled zu benutzen.

herbivore

4.506 Beiträge seit 2004
vor 18 Jahren

Hallo Herbivore!

Verkaufst Du das an eine UNI? 🙂

Nein, Scherz beiseite, solch ein Testverfahren ergibt doch eindeutige Rückschlüsse, daher coole Aktion.

Ciao
Norman-Timo

A: “Wie ist denn das Wetter bei euch?”
B: “Caps Lock.”
A: “Hä?”
B: “Na ja, Shift ohne Ende!”

563 Beiträge seit 2004
vor 18 Jahren

kann ich nur unterstreichen! ich hab mich schon oft gefragt, was schneller ist 🙂

sauber sache!

S
8.746 Beiträge seit 2005
vor 18 Jahren

Es sei noch zu ergänzen, dass die statische Variante, gegenüber der nicht-compilierten Objekt-Variante nochmal erheblich schneller ist. Die Ursache ist, dass die Objekt-Erzeugung oft teurer ist, als die Auswertung des Ausdrucks selbst. Ist natürlich abhängig vom Ausdruck sowie der Größe des Suchfeldes.

Vielleicht kann Herbi das ja nochmal in den Test einbauen....

Im Prinzip macht es wenig Sinn, die Objekt-Variante ohne Compilierung zu nutzen... so zumindest mein Eindruck.

herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 18 Jahren

Hallo svenson,

ich verstehe nicht genau, welche neue Variante zu meinst. Was meinst du mit statisch? Sorry, kannst du bitte den gewünschten Testfall nochmal mit anderen Worten beschreiben?

herbivore

C
980 Beiträge seit 2003
vor 18 Jahren

Statisch tönt verdächtig nach

public static bool Regex.IsMatch(string input, string pattern);
herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 18 Jahren

Hallo cdr,

hm, für mich ist das das Gegenteil von statisch, weil ich ja gerade bei jedem Aufruf bel. Parameter mitgeben kann. Aber an sich ist es natürlich eine interessante Frage wie


if (Regex.IsMatch ("huhuhu1000", "hu.*hu" + i)) 

gegenüber


Regex re = new Regex ("hu.*hu" + i);
if (re.IsMatch ("huhuhu1000")) 

abschneidet. Es kommt jedoch erwartungsgemäß ziemlich aufs gleiche heraus (Abweichung im Rahmen der Messungenauigkeit).

herbivore

PS: Ich habe den Originalbeitrag korrigiert. Das Erzeugen eines nicht compilierten Patterns ist entsprechend der Messergebnisse natürlich nur ca. 10 mal (und nicht 100 mal) teuer als ein Match.

C
980 Beiträge seit 2003
vor 18 Jahren

Ja, ich würde auch etwas das gleiche erwarten, wenn man bedenkt dass die statische Methode ja auch einfach eine Instanz erstellt ...

public static bool Regex.IsMatch(string input, string pattern)
{
      return new Regex(pattern, RegexOptions.None, true).IsMatch(input);
}

herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 16 Jahren

Hallo zusammen,

anzumerken ist noch, dass es eine Methode Regex.CompileToAssembly gibt, mit der man die Compilierung des Pattern von Zeitpunkt der Programmausführung auf den Zeitpunkt der Compilierung des Programms verlagern kann. Damit hat man zu Laufzeit des Programms den Vorteil von Faktor 10 beim Match ohne den Nachteil von Faktor 100 beim Compilieren des Pattern.

herbivore

L
333 Beiträge seit 2007
vor 16 Jahren

Von dem CompileToAssembly steht in meiner MSDN aber nichts. Kannst du mir verraten, wo du das her hast?

Im übrigen bin ich nach der Beschreibung von Compiled bereits davon ausgegangen, dass der Ausdruck fest ins Assembly einkompiliert wird, daher war ich über den enormen einmaligen Aufwand zur Laufzeit, der oben beschrieben wurde, jetzt doch sehr überrascht. Allerdings verstehe ich deinen Beispielcode auch nicht.

--- edit
Argh, okay, ich sollte nicht so schnell lesen. Du meintest natürlich nicht RegexOptions. Aber auch diese Methode schaut verwirrend aus. Bedeutet das, dass ich zur Laufzeit des Programms einen Regex in eine zusätzliche Datei kompilieren lassen kann, die dann wie genau verwendet wird? Gibt es denn keine Methode, einen Regex fest in das Programm einzukompilieren? Ich mein das jetzt so wie z.B. in den Programmiersprachen der 70er Jahre SQL statisch kompiliert wurde, um die Performance zu steigern.

herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 16 Jahren

Hallo LonelyPixel,

die Methode steht ganz normal in der :rtfm: Doku: Regex.CompileToAssembly-Methode. Keine Ahnung, warum du sie nicht gefunden hast.

Im übrigen bin ich nach der Beschreibung von Compiled bereits davon ausgegangen, dass der Ausdruck fest ins Assembly einkompiliert wird

Nein, das ist nicht der Fall. Mit RegexOptions.Compiled wird der Pattern dynamisch zur Laufzeit des Programm compiliert.

Woher sollte der arme C#-Compiler auch wissen, dass er was spezielles machen sollte, nur weil er auf einen bestimmten Enum-Wert stößt. Er setzt den RegexOptions.Compiled einfach in seinen numerischen Wert um und damit hat es sich für ihn erledigt. Alles weiter passiert erst, wenn der Konstruktor mit diesem Wert aufgerufen wird, also zur Laufzeit des Programms.

herbivore

herbivore Themenstarter:in
49.485 Beiträge seit 2005
vor 16 Jahren

Hallo LonelyPixel,

Bedeutet das, dass ich zur Laufzeit des Programms einen Regex in eine zusätzliche Datei kompilieren lassen kann, die dann wie genau verwendet wird?

nein, man schreibt natürlich sinnvollerweise ein kleines Programm, dass zum Build-Zeitpunkt ausgeführt wird und mit Regex.CompileToAssembly die Assembly erstellt, die dann gleich - immer noch zum Build-Zeitpunkt - vom eigentlichen Programm referenziert wird.

Gibt es denn keine Methode, einen Regex fest in das Programm einzukompilieren?

Doch, eben Regex.CompileToAssembly.

Ich mein das jetzt so wie z.B. in den Programmiersprachen der 70er Jahre SQL statisch kompiliert wurde, um die Performance zu steigern.

Nein, in dieser Art wie bei embeded SQL läuft es nicht, sondern so, wie ich gerade beschrieben habe.

herbivore

C
980 Beiträge seit 2003
vor 15 Jahren

Falls diesen Thread wieder mal jemand findet, ein interessanter Artikel über die Innereien der .Net regular expressions (auch zum Thema Compilation): How .NET Regular Expressions Really Work

79 Beiträge seit 2007
vor 15 Jahren

Danke herbivore für Deinen Test und die Auswertung hier im Forum!

Danke auch an cdr - der Link ist interessant.

Schade finde ich allerdings, daß bei den .NET RegEx keine Rekursionen möglich sind. (So las ich es zumindest hier im Forum.)
Interessant sind übrigens die Fähigkeiten der Regex von Perl 6. Da kann man auch richtig komplexe Ausdrücke aus einzelnen Teilausdrücken zusammenbauen (Vererbungs-Prinzip?). Wenn ich richtig verstanden habe, prüft sich der Interpreter sogar selbst (durch Regex), ob die Syntax seines eigenen Quellcodes richtig ist. Klingt irgendwie leicht verrückt, paßt aber zur Perl-Philosophie g Dies nur am Rande.