Sie sind nicht angemeldet.

16bit-Grenze

Lieber Besucher, herzlich willkommen bei: GEOS-InfoBase-Forum. Falls dies Ihr erster Besuch auf dieser Seite ist, lesen Sie sich bitte die Hilfe durch. Dort wird Ihnen die Bedienung dieser Seite näher erläutert. Darüber hinaus sollten Sie sich registrieren, um alle Funktionen dieser Seite nutzen zu können. Benutzen Sie das Registrierungsformular, um sich zu registrieren oder informieren Sie sich ausführlich über den Registrierungsvorgang. Falls Sie sich bereits zu einem früheren Zeitpunkt registriert haben, können Sie sich hier anmelden.

jpolzfuss

Profi

  • »jpolzfuss« ist der Autor dieses Themas

Beiträge: 835

  • Nachricht senden

1

Dienstag, 5. Juli 2016, 10:50

16bit-Grenze

Hallo!

GenValue-Objekte arbeiten nur mit WWFixed-Werten. 32766 ist damit die größte darstellbare positive ganze Zahl. Das Problem: Ich will die Anzahl von Einzelbildern bei Kino-/Schmalfilmen berechnen lassen. Und bei 24 Bildern pro Sekunde komme ich nicht sehr weit: 32766 Bilder / 24 Bilder/s = 1365,25s = 22min und ein paar Zerquetschte. :( Ich könnte zwar in R-Basic auf DWORD umstellen, aber wie lasse ich das Ergebnis anzeigen? Bleibt mir wirklich nur ein Textfeld?

Jörg
There are two rules in life:
1. Never give out all of the information.

Dieser Beitrag wurde bereits 1 mal editiert, zuletzt von »jpolzfuss« (5. Juli 2016, 11:54)

bolle732

Fortgeschrittener

Beiträge: 333

  • Nachricht senden

2

Dienstag, 5. Juli 2016, 14:29

Kenne auch keinen Weg mit GenValue. Habe dafür jeweils ein "Label" genommen, wenn der Benutzer die Zahl nicht ändern soll, sonnst ein Textfeld.

Komma und Exponent wären eventuell noch eine Möglichkeit, oder einen Bool für Tausender. Aber Du willst hier sicher den absoluten und ganzen Wert...

Gruss
Andreas

jpolzfuss

Profi

  • »jpolzfuss« ist der Autor dieses Themas

Beiträge: 835

  • Nachricht senden

3

Dienstag, 5. Juli 2016, 14:54

Zitat von »bolle732«

Tausender


Hmmm... ich könnte natürlich mehrere GenValue-Felder nehmen... Größter DWord-Wert ist 4.294.967.296 => drei GenValue-Felder: eins mit 4.294, eins mit 967 und eins mit 296... Nööö... das ist zu eklig! ;( 8| :thumbdown:
There are two rules in life:
1. Never give out all of the information.

jpolzfuss

Profi

  • »jpolzfuss« ist der Autor dieses Themas

Beiträge: 835

  • Nachricht senden

4

Dienstag, 5. Juli 2016, 15:02

Ich glaube, ein GenText mit GTA_SINGLE_LINE_TEXT und ATTR_GEN_TEXT_NUMERIC ist das Beste, oder? Unter R-Basic wäre das wohl eine "InputLine" mit textFilter = TF_NUMERIC + TF_NO_SPACES. maxLen könnte ich auch noch setzen...
There are two rules in life:
1. Never give out all of the information.

Rainer

Profi

Beiträge: 848

  • Nachricht senden

5

Dienstag, 5. Juli 2016, 15:36

Hallo Jörg,

im SDK kann man ein GenValue überschreiben. Ich hab das mal gemacht um den 16-Bit Hex-Bereich (positiv) voll abzudecken. Geht sicher auch bis zum DWord Bereich.
Unter R-BASIC bleibt dir wirklich nur ein InputLine Objekt (GenText mit GTA_SINGELE_LINE_TEXT) und die von dir angesprochenen Textfilter. Über negative Werte müsste man noch evt. mal nachdenken.


Alternative: Du mache ein GenValue für Stunden, eins für Minuten, eins für Sekunden ....
Erledigt. Du willst ja die Anzahl der Frames.


Gruß
Rainer
Es gibt 10 Arten von Menschen - die einen wissen was binär ist, die anderen nicht.

Ähnliche Themen

Thema bewerten