On Thu, 19 Jan 2017 23:20:05 +0100 Sigrid Lehuta <sigridlehuta@gmail.com> wrote: Salut,
Comme expliqué à Benjamin hier,
de retour après une p'tite grippette
java me fait des arrondis aléatoirement...
Euh, informatique et aléatoire a moins de l'avoir écrit explicitement, c'est rarement le cas. ...
les fo calculées pour chaque simus sont dans le fichier xlsx d'historique joint colonne "objective"
tu veux dire que pour toi 1,41E+07 ce n'est pas assez précis (Palice; gen 0; id 0) alors que 323438,048 c'est bien (Cod7d; gen 0; id 0) ? Normalement en double, il y a environs une quinzaine de chiffre significatif (https://en.wikipedia.org/wiki/Double-precision_floating-point_format) Donc là en 10e7 il devrait pourvoir y avoir tout de même plus de précision. On est d'accord que c'est bien cette ligne la qui te donne ta valeur ? obj += Math.pow((obs - simules)/1000.0, 2);// On prend le millieme au carre pour eviter les valeurs trop grandes As-tu affiché "obs" et "simules" pour voir leur valeur ? Essaies de faire les calculs en utilisant l'objet BigDecimal au lieu du primitif double. BigDecimal garde toutes la précision, mais c'est plus lent. -- Benjamin POUSSIN -------------------- tél: +33 (0) 2 40 50 29 28 email: poussin@codelutin.com http://www.codelutin.com