Division liefert falsches Ergebnis

Grundsätzliche Themen zur Bedienung, Erstellung von Formularen, Datenbankanbindung und Beispiele ...
Antworten
Benutzeravatar
tat1308
Beiträge: 73
Registriert: 10.01.2012, 12:05

Division liefert falsches Ergebnis

Beitrag von tat1308 » 23.04.2013, 15:02

Hallo,
ich habe ein Problem mit einer Division. Ziel ist es den Wert von Millimeter in Meter umzurechnen.
Das Textfeld einer Tabelle liefert mir den
Wert in Text: 15780.00
Diesen Wert muss ich durch 1000 teilen.

Dieser Code:
data.Daten.Tabelle1.Zeile1[4].gv_test::calculate - (JavaScript, client)
this.rawValue = parseFloat(this.rawValue) / 1000

liefert mir folgendes Ergebnis:
0.01578

Wie muss ich das kodieren, damit ich auf das richtige Ergebis 15.78 komme? Wo ist mein Denk-/Codierfehler?

Vielen Dank.

Gruss
tat1308

Benutzeravatar
radzmar
Beiträge: 962
Registriert: 26.10.2011, 10:18

Division liefert falsches Ergebnis

Beitrag von radzmar » 23.04.2013, 16:22

Hi,

ein Meter hat 10.000 Millimeter nicht nur 1.000.
Deswegen sollte das Skript eher so aussehen.

Code: Alles auswählen

this.rawValue = parseFloat(Textfeld.rawValue) / 10000

Benutzeravatar
tat1308
Beiträge: 73
Registriert: 10.01.2012, 12:05

Division liefert falsches Ergebnis

Beitrag von tat1308 » 23.04.2013, 16:36

Hallo radzmar,

danke für Deine Antwort.
Vorsichtig ausgedrückt glaube ich, daß Du da nicht richtig liegst.

100mm = 10cm
1000mm = 1m

Bei 10000 würde das Komma ja noch mehr nach links rücken.
Ich benötige bei 15780mm das Ergebnis 15.78m.
Meine Division durch 1000 liefert mir aber das Ergebnis 0.01578
und das ist falsch. Aber wo liegt mein Fehler?

Gruss
Tobias

Benutzeravatar
radzmar
Beiträge: 962
Registriert: 26.10.2011, 10:18

Division liefert falsches Ergebnis

Beitrag von radzmar » 23.04.2013, 18:11

Ähhh klar...stimmt ;-) Weiß gar nicht, wie ich jetzt auf 10.000 gekommen war.

Anbei mal ein Beispiel zur Verdeutlichung.
Du hast keine ausreichende Berechtigung, um die Dateianhänge dieses Beitrags anzusehen.

Benutzeravatar
tat1308
Beiträge: 73
Registriert: 10.01.2012, 12:05

Division liefert falsches Ergebnis

Beitrag von tat1308 » 24.04.2013, 08:23

Hallo radzmar,

tausend Dank für Deine Hilfe, genau so geht es.
Ich werde das Feld erst mal außerhalb der Tabelle umrechnen müssen,
um es dann wieder in der Tabelle zu integrieren.
Oder siehst Du noch andere Möglichkeiten?
Denn das Feld in der Tabelle darf nicht als Numerisches Feld, sondern muss als Textfeld dargestellt werden.

Gruss
tat1308

Antworten