|
#1
|
|||
|
|||
El redondeo a float......
Buenos días, tengo un pequeño problema, el caso es que tengo una variable char(22), con una cifra el 50,3, y el problema está que al pasar a una varible float con un MOVE char to float. en float me carga el valor 5,029999999*10+01 o algo así...
El tema es que no quiero que al pasar de char a float me redondee a ese número porque luego hago una comparacíon por ese numero y me falla falla al comparar 5,03*10+1, con el 5,02999999*10+1.. Espero una ayuda porque he agotado casi todos mis recursos... |
#2
|
|||
|
|||
Entonces no declares una variable float sino type p decimals 2 o la cantidad de decimales que necesites y luego comparas versus esta variable typo P. Espero que esta sugerencia ayude. |
#3
|
|||
|
|||
Punto flotante
hola, buen dia !
yo tuve n problema parecido con algunas operaciones, lo soluciones yedo a objetos parciales que esta en la se38 , en la parte de atributos y tildé calculo de coma fija. Espero que sea de ayuda. Saludos |
Herramientas | Buscar en Tema |
Desplegado | |
|
|