2012-06-13 16 views
6
property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint=""; 

No entiendo la precisión o la escala correctamente. Usando la propiedad anterior, ¿por qué '1' daría un error y '2' sería aceptado? lo que debería cambiar a aceptar '1'comprensión precisión y escala en una propiedad

1) -118,27 = error

2) -18,27 = ok

Respuesta

7

escala se refiere el número de dígitos a la derecha del lugar decimal . Si usted tiene una precisión de 16 y la escala 14, que sólo puede tener 2 dígitos a la dejaron de la decimal, por lo

18.123456789= ok 
118.27 = error 

Probar:

precision="16" scale="13" 

que permitirá 118.1234567890123, pero que es una gran cantidad de decimales ¿Cuántos realmente necesitas?

precision="16" scale="4" 

Permitirá 123456789012,1234

+0

gracias Ahora entiendo – Prometheus

Cuestiones relacionadas