Математика с нецелыми числами

CAMOCBAJI

Client
Регистрация
30.09.2011
Сообщения
34
Благодарностей
1
Баллы
8
Всем привет!

Никак не могу уговорить кубик Java работать с такими числами 0.00000123

пример
(переменная А) - (переменная B)

0.00007243-0.00007104

в кубике ява ставлю
{-Variable.A-}-{-Variable.B-}

Зачем то появляется куча лишних цифр 0.0000013899999999999986

А через раз получается какая то абракадабра в стиле 1.235e-1

Пробовал менять точку на запятую - не работает так.
Вариант с обрезанием и возвращением нулей добавляет кучу лишней ерунды, хотелось бы по-человечески решить проблему.

Заранее благодарю знатоков!
 

Sergodjan

Administrator
Команда форума
Регистрация
05.09.2012
Сообщения
19 516
Благодарностей
8 703
Баллы
113
Всем привет!

Никак не могу уговорить кубик Java работать с такими числами 0.00000123

пример
(переменная А) - (переменная B)

0.00007243-0.00007104

в кубике ява ставлю
{-Variable.A-}-{-Variable.B-}

Зачем то появляется куча лишних цифр 0.0000013899999999999986

А через раз получается какая то абракадабра в стиле 1.235e-1

Пробовал менять точку на запятую - не работает так.
Вариант с обрезанием и возвращением нулей добавляет кучу лишней ерунды, хотелось бы по-человечески решить проблему.

Заранее благодарю знатоков!
можно так попробовать:
Код:
(0.00007243-0.00007104).toFixed(10);
но тоже не оч. удобно, т.к. надо как то заранее определять с какой точностью ставить ограничение кол-ва знаков после запятой в ответе (10)..

upload_2018-1-15_15-51-39.png
 
  • Спасибо
Реакции: CAMOCBAJI

CAMOCBAJI

Client
Регистрация
30.09.2011
Сообщения
34
Благодарностей
1
Баллы
8
можно так попробовать:
Код:
(0.00007243-0.00007104).toFixed(10);
но тоже не оч. удобно, т.к. надо как то заранее определять с какой точностью ставить ограничение кол-ва знаков после запятой в ответе (10)..

Посмотреть вложение 26253
Как раз знаю сколько точно нужно. Все работает, спасибо большое!
 
  • Спасибо
Реакции: Sergodjan

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)