Datentypen: Unterschied zwischen den Versionen

Aus Asprova Hilfe
Wechseln zu: Navigation, Suche
(→‎Float)
Zeile 78: Zeile 78:
  
 
==== Gewichte für die Ressourcenbewertung setzen ====
 
==== Gewichte für die Ressourcenbewertung setzen ====
−
Since Asprova carries out evaluations down to six decimal places, the difference in evaluation value must be greater than 1E-6 when calculating the evaluation value during tentative assignment.
+
Da nur Unterschiede bis 1*10<sup>-6</sup> verglichen werden, müssen sich die vorläufigen Bewertungsergebnisse in der Ressourcenbewertung um mindiestens diesen Wert unterscheiden. Außerdem muss berücksichtigt werden, dass Float-Werte im Binärformat gespeichert werden, so dass ein zusätzlicher Puffer notwendig ist. Unsere Empfehlung ist es daher die Gewichte in der [Ressourcenbewertung] so zu setzen, dass der Unterschied mindestens 1*10<sup>-5</sup> ist.
−
Further, taking into consideration the error in floating point values expressed in binary, it is necessary to set a value with some extra margin compared with 1E-6.
 
−
Thus, it is recommended to set the weight of the scheduling parameters so that the evaluation value during tentative assignment will be worked out by 1E-5.
 
  
−
For example, the following two values are considered equivalent. This is because their difference is less than 1E-6.
+
So werden etwa 0,1234561 und 0,1234570 als gleich angesehen, da der Unterschied zwischen ihnen kleiner 1*10<sup>-6</sup> ist.
  
−
0.1234561
+
Ist [Nachrichtendetail] im Projekt auf "Detailliert" gesetzt, so wird das Bewertungsergebnis der vorläufigen Zuweisung als Nachricht ausgegeben. Wären etwa die beiden oben genannten werde die vorläufigen Bewertungsergebnisse, so würden diese als gleich angesehen und das erste genutzt. So könnte es passieren, dass bei der Anzeige von sechs oder sieben Dezimalstellen anscheinend nicht der größte Wert ausgewählt wird.
−
0.1234570
 
−
 
 
−
The evaluation value during tentative assignment will be output in the form of a message if "Assignment message level" in the project settings is set to "Detailed".
 
−
 
 
−
For example, if the two tentative assignment values are the above values, they are considered equivalent. In that case, the value that is found first takes precedence.
 
−
Thus, when displaying up to six digits or seven digits after the decimal point, the smaller value seems to be larger.
 
  
 
==== Anzeige von Dezimalstellen ====
 
==== Anzeige von Dezimalstellen ====
Zeile 114: Zeile 106:
 
|}
 
|}
  
−
Bei vorläufigen Zuweisungsergebnissen werden daher (ab Version 15.0) nur die ersten fünf Dezimalstellen angezeigt.
+
Daher werden bei vorläufigen Zuweisungsergebnissen (ab Version 15.0) nur die fünf ersten Dezimalstellen angezeigt.
  
 
<hr>
 
<hr>
 
<div align="right">Hilfe Nummer: 8999000</div>
 
<div align="right">Hilfe Nummer: 8999000</div>

Version vom 1. November 2021, 13:44 Uhr

Hilfe Nummer: 8999000

Speicherbedarf

Datentyp Interner Speicherbedarf1 Externer Speicherbedarf (OLE DB) Wertebereich
Zeichenfolge 8 Byte oder mehr Maximal 16 KB (8.000 Zeichen) Maximal 16 KB (8.000 Zeichen)
Formel 16 Byte oder mehr Maximal 16 KB (8.000 Zeichen) Maximal 16 KB (8.000 Zeichen)
Enum 8 Byte Maximal 16 KB (8.000 Zeichen) Maximal 16 KB (8.000 Zeichen)
Integer 8 Byte oder mehr 4 Byte vom Typ Integer 2.147.483.648 bis 2.147.483.647
Float 8 Byte oder mehr 8 Byte vom Typ Float -1,79769*10308 bis 1,79769*10308
Zeitspanne 8 Byte oder mehr 4 Byte vom Typ Integer 2.147.483.648 bis 2.147.483.647 2
Zeit 8 Byte oder mehr Datumstyp3 2. Januar 1970 00:00:01 bis 31. Dezember 2037 23:59:59
1 Gilt für x64, in der 32-Bit-Version ist der Bedarf teilweise niedriger.
2 Sekunden
3 Hängt von der verwendeten Datenbank ab, meist datetime oder date.

Besonderheiten

Zeichenfolgen

Sonderzeichen

Bestimmte Sonderzeichen sind im Code von Objekten verboten.

Zeilenumbruch

Zeichenfolgen können Zeilenumbrüche enthalten.

Hinweis 
Erst ab Version 16.0 verfügbar.

Zeit

Daten und Zeiten können vereinfacht eingegeben werden.

Float

Es werden 15 signifikante Stellen berücksichtigt.

Vergleiche

Es wird angenommen, dass der Integer-Bereich maximal neun Stellen umfasst (999 Millionen), so dass beim bei Vergleichen die ersten sechs Nachkommastellen berücksichtigt werden.

  1. Bei -0,000001 < x < 0,000001 wird x somit als 0 angesehen (im Folgenden wird anstatt von 0,000001 die Schreibweise 1*10-6 verwendet)
Wert Wird ausgewertet als Kommentar
0,0000010 1*10-6
0,0000009 0 9*10-7
... 0
0,0000000 0
... 0
-0,0000009 0 -9*10-7
... 0
-0,0000010 -1*10-6
  1. Ist der Unterschied zwischen x und y kleiner als 1*10-6, so wird er als 0 angesehen.
  2. Beim Export von Float-Werten von Asprova in eine Textdatei werden (aus Kompatibilitätsgründen zu älteren Versionen) maximal achte Dezimalstellen ausgegeben.

Gewichte für die Ressourcenbewertung setzen

Da nur Unterschiede bis 1*10-6 verglichen werden, müssen sich die vorläufigen Bewertungsergebnisse in der Ressourcenbewertung um mindiestens diesen Wert unterscheiden. Außerdem muss berücksichtigt werden, dass Float-Werte im Binärformat gespeichert werden, so dass ein zusätzlicher Puffer notwendig ist. Unsere Empfehlung ist es daher die Gewichte in der [Ressourcenbewertung] so zu setzen, dass der Unterschied mindestens 1*10-5 ist.

So werden etwa 0,1234561 und 0,1234570 als gleich angesehen, da der Unterschied zwischen ihnen kleiner 1*10-6 ist.

Ist [Nachrichtendetail] im Projekt auf "Detailliert" gesetzt, so wird das Bewertungsergebnis der vorläufigen Zuweisung als Nachricht ausgegeben. Wären etwa die beiden oben genannten werde die vorläufigen Bewertungsergebnisse, so würden diese als gleich angesehen und das erste genutzt. So könnte es passieren, dass bei der Anzeige von sechs oder sieben Dezimalstellen anscheinend nicht der größte Wert ausgewählt wird.

Anzeige von Dezimalstellen

Dezimalstellen Angezeigter Wert
7 0,1234561
0,123457
6 0,123456
0,123457
5 0,12345
0,12345

Daher werden bei vorläufigen Zuweisungsergebnissen (ab Version 15.0) nur die fünf ersten Dezimalstellen angezeigt.

Hilfe Nummer: 8999000
Abgerufen von „http://hilfe.asprova.eu/index.php?title=Datentypen&oldid=6969“