Smoothing the weather - Java precision

Back to Problem Solutions forum

wright_kevin     2017-05-25 13:32:57

Hi,

I am having problems getting Java to get the exact solutions. Does anybody know why I am having this problem. I have tried using floats and doubles. But I can never hit the exact results required.

please advise.

wright_kevin     2017-05-25 14:58:03

To further clarify:

Expected answer was:

33.1 34.7333333333 43.2666666667 51.7 51.0666666667 49.1 46.8333333333 43.9666666667 42.7333333333 44.8 43.5 35.5666666667 28.3 23.0666666667 15.2 13.3666666667 10.3666666667 14 10.7333333333 11.4666666667 10.7 12.3333333333 14.4 16.4 21.3666666667 28.5333333333 37.8 43.5666666667 45.0333333333 47 45.4333333333 45.0333333333 43 39.7 37.0333333333 32.4666666667 32.3666666667 27.4666666667 23.1 17.2 13.9333333333 8.26666666667 9.43333333333 7.23333333333 12.4 15.8 26.8666666667 32.0333333333 34.7666666667 35.0333333333 36.1 41.2666666667 44.9666666667 49 49.8666666667 49.2333333333 48.6 43.4333333333 41.1 37.4 33.3333333333 30.3333333333 29.0333333333 22.1333333333 11.6 5.1 7.3 14.9333333333 15.9666666667 18.5666666667 19.4666666667 25.7666666667 30.8333333333 35.7333333333 41.4333333333 47.7666666667 50.8666666667 52.3666666667 50.7666666667 47.7333333333 41.1666666667 38.1666666667 39.8 38.5 34.9666666667 27.4333333333 27.4333333333 21.7333333333 13.9 8.73333333333 7.7 13.1 14.4666666667 17.4666666667 22.9666666667 28.3333333333 35.3666666667 38.2 42.1333333333 40.9 40.6333333333 41.7666666667 47.3333333333 50 52.2333333333 48.1333333333 44.0666666667 35.1666666667 29.9666666667 21.2666666667 16.6 12.5666666667 13.4333333333 11.4666666667 14.9333333333 15.2666666667 16.3333333333 19.2 19.2333333333 24.2666666667 26.4 35.2666666667 36.5333333333 39.6333333333 43 51.9333333333 52.5333333333 51.8 46.8666666667 42.5 38.4666666667 33.8 30.1 24.6666666667 18.5333333333 14.4333333333 15.1 14.6333333333 18.4 15.6 17.7333333333 16.4 23.1666666667 27.5333333333 36 40.5 48.8 47.8 50.2333333333 53.2333333333 55.5333333333 53.5 46.7333333333 43.6333333333 38.3333333333 36.8333333333 31.7 27.8666666667 20.0666666667 18.8666666667 16.6 16.4 12.9666666667 12.7 11.0666666667 14.4333333333 22.5666666667 36.9

Your answer was: 33.1 34.733334 43.266666 51.7 51.066666 49.100002 46.833332 43.966663 42.733337 44.8 43.5 35.566666 28.299997 23.066666 15.200001 13.366666 10.366667 14.0 10.733334 11.466667 10.7 12.333333 14.400001 16.4 21.366667 28.533333 37.8 43.566666 45.033337 47.0 45.433334 45.033337 43.0 39.7 37.033337 32.466663 32.36667 27.466667 23.1 17.199999 13.933333 8.266667 9.433333 7.2333336 12.400001 15.8 26.866669 32.033333 34.766666 35.033333 36.100002 41.266666 44.966663 49.0 49.86667 49.233334 48.600002 43.433334 41.100002 37.4 33.333332 30.333334 29.033333 22.133333 11.599999 5.1 7.2999997 14.933334 15.966667 18.566668 19.466665 25.766668 30.833334 35.733334 41.43333 47.766666 50.86667 52.36667 50.766663 47.733334 41.166668 38.166668 39.8 38.5 34.966663 27.433334 27.433334 21.733332 13.900001 8.733334 7.7000003 13.099999 14.466667 17.466667 22.966667 28.333334 35.36667 38.2 42.133335 40.899998 40.633335 41.766666 47.333332 50.0 52.233337 48.13333 44.066666 35.166668 29.966665 21.266665 16.6 12.566667 13.433333 11.466667 14.933334 15.266666 16.333334 19.199999 19.233334 24.266668 26.4 35.266666 36.533333 39.633335 43.0 51.933334 52.533337 51.800003 46.86667 42.499996 38.466663 33.8 30.1 24.666666 18.533335 14.433333 15.099999 14.633332 18.4 15.599999 17.733334 16.4 23.166666 27.533333 36.0 40.5 48.8 47.8 50.233337 53.233334 55.533337 53.5 46.733337 43.63333 38.333332 36.833332 31.699999 27.866667 20.066668 18.866667 16.6 16.4 12.966667 12.7 11.066667 14.433333 22.566666 36.9 Click to view input data if you haven't saved it...

BigAndyD     2017-06-03 09:18:25

Using doubles for all your weather data variables should mean you get the correct accuracy. Worked for me.

Please login and solve 5 problems to be able to post at forum