PDA

Ver la Versión Completa : El redondeo a float......


katanka3
17/01/11, 09:02:45
Buenos días, tengo un pequeño problema, el caso es que tengo una variable char(22), con una cifra el 50,3, y el problema está que al pasar a una varible float con un MOVE char to float. en float me carga el valor 5,029999999*10+01 o algo así...

El tema es que no quiero que al pasar de char a float me redondee a ese número porque luego hago una comparacíon por ese numero y me falla

falla al comparar 5,03*10+1, con el 5,02999999*10+1..

Espero una ayuda porque he agotado casi todos mis recursos...

joau_fedipe
21/01/11, 14:49:05
Buenos días, tengo un pequeño problema, el caso es que tengo una variable char(22), con una cifra el 50,3, y el problema está que al pasar a una varible float con un MOVE char to float. en float me carga el valor 5,029999999*10+01 o algo así...

El tema es que no quiero que al pasar de char a float me redondee a ese número porque luego hago una comparacíon por ese numero y me falla

falla al comparar 5,03*10+1, con el 5,02999999*10+1..

Espero una ayuda porque he agotado casi todos mis recursos...

Entonces no declares una variable float sino type p decimals 2 o la cantidad de decimales que necesites y luego comparas versus esta variable typo P.

Espero que esta sugerencia ayude.

iparedes
18/02/11, 12:42:53
hola, buen dia !
yo tuve n problema parecido con algunas operaciones, lo soluciones yedo a objetos parciales que esta en la se38 , en la parte de atributos y tildé calculo de coma fija. Espero que sea de ayuda.
Saludos