Daten aus LOG-File visualisieren

[indeas]

Die vorhandenen Daten sollen visualisiert werden. Das funtioniert auch schon, aber eben nur sehr stockend bzw. nur bei kleinen Datenmengen vernünftig.
Habe eine Version die mit 100 Einträgen =(Zeilen) noch fertig wird, bei 500000 wird es dann zäh....
Zum Beispiel ist es problematisch (für mich) den Zeitstempel aus dem String zu erzeugen. Mit DateTimeParse dauert es bei den 500000 Zeilen ewig....
Den nächste Schritt, die Daten aus dem DataTable in eine Graph mit Zoom und dem genzen Krempel zu bringen, habe ich vor diesem Hintergrund noch gar nicht weiter verfolgt.

[Mxt]

Die vorhandenen Daten sollen visualisiert werden.

Eine wirkliche Antwort auf meine Frage ist das nicht.

Wenn man ein Programm haben will, muss man wohl erstmal ordentliche Grafikkomponenten kaufen. Mit den Bordmitteln von Visual Studio wird das sicher schwer.

Will man nur Diagramme, z.B. als PDF sollte das mit dem genannten Programm kein Problem sein. Origin kann Tabellen mit 90 Millionen Zeilen und 65000 Spalten bearbeiten. Die Programmierung ist auch auf solche Datenmengen ausgelegt und basiert auf C.
http://www.originlab.com/index.aspx?...amming/OriginC
Man kann dort auch mit Visual C++ geschriebene DLLs einbinden.

[Unregistriert]

Hallo,

willst du es auf PC oder einem Display direkt am µC anzeigen
Das kann man ,mit dem für privaten Gebrauch kostenlosen Qlikview, machen. Uneingeschränkte Funktionalität, bis auf die Dokumentenweitergabe.
Kann ich nur empfehlen steile Lernkurve und schnelle Umsetzung solcher kleinen Auswertungen.
BIRT ginge vermutlich auch damit kenne ich mich aber nicht aus.


gruß
Macros

[indeas]

Mir ist klar, dass dies mit den C# eigenen "Bordmitteln" nur schlecht geht; habe mir mal Nevron und ZedGraph angesehen.
Jetzt Suche ich aber auch noch jemanden, der die Aufgabe in Verbindung mit C# löst (gerne mit Origin, Nevron, ZedGraph,....)
Dass dieses Add-On auch Geld kostet, ist mir klar
Das ganze soll auf dem PC passieren.

[BMS]

Hallo,
würde es etwas helfen, die Daten zunächst in ein anderes Format zu konvertieren (csv, xml ... ?), wo Datum und Messwerte in einem lesbaren Format drin stünden?
Man könnte auch bestimmte Zeiträume auf mehrere Dateien aufteilen, z.B. pro Tag/Woche/Monat eine Datei, um beim Suchen nach einem Zeitraum schneller fündig zu werden.
Grüße, Bernhard

[Mxt]

Einer der Gründe für die Verlangsamung bei großen Datenmengen dürfte ineffizienter Umgang mit Strings sein. In .net sind Strings unveränderlich, wenn man das Zerlegen der Zeilen falsch macht, entstehen sehr viele Stringobjekte, die der Garbage Collector dann wieder aufräumen mus.

Ob es hier Freiberufler gibt, die solche Aufträge annehmen, bezweifle ich etwas. Aber vielleicht schaut mal jemand vorbei. Wenn das jemand macht, der sein Geld damit verdient, wird das aber nicht ganz billig.

[indeas]

Der Umgang mit Strings bremst mich gar nicht so sehr aus.
Ich kann alle Integers aus jeder der 500.000 Zeilen innerhalb <1s auslesen.
Ich kann auch die strings im Zeitstempel-Format erzeugen, auch das geht noch flott (<2s):
timestring = (year + 2000).ToString("0000") + month.ToString("00") + day.ToString("00") + hour.ToString("00") + minute.ToString("00") + "00";
Das ist nicht das zentrale Problem. Das wäre absolut OK.

Wenn ich dann aber die Zeitstempel im DateTime-Format jeder Zeile erzeugen möchte, dann wird alles langsam:
Egal ob so: TimeStamp = new DateTime(year, month, day, hour, minute, 0);
Oder aus einem aus den einzelnen Variablen zusammengesetzen string den ich dann parse, es ist dann super-langsam.

Würde gerne das DateTime Format nehmen, damit ich über eine TimeSpan nachher alles sauber selektieren kann.
Zur Visualisierung kommen wir dann erst später...Die sollte dann alle Werte zwischen zwei Zeitstempeln liefern.

Im Grunde genommen möchte ich das alles nicht unbedingt selber machen, sondern lieber jemand dafür bezahlen der so etwas kann und schon öfters gemacht hat.

[Mcgrizzly123]

Du könntest auch dem Einlesen der Daten die Umwandung in TimeStamps in mehrer Threads auslagen.

Einlesen -> (0-50.000 -> Thread 1 ) (50.000-100.000 -> Thread 2) ,...
So könnten man bei 10 Threads die Zeit auf ein Zehntel reduzieren.