26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
1 | ||||||
преобразование типов10.06.2009, 02:44. Показов 2889. Ответов 14
Метки нет (Все метки)
Уважаемые специалисты, у меня имеется одна проблема. Есть два числа. double и float.
Надо из double вычесть float. Все бы хорошо, но проблема в следующем: при преобразовании float'а к double внутри функции float'овское число из 1.00010 становится, к примеру 1.0001000165939. А мне необходимо, чтобы оно был 1.0001000000000, т. е. чтобы та часть нового double, которая по точности "выше", чем точность float'a была заполнена 0. Говоря на примере:
Каким образом это сделать? Добавлено через 20 минут 50 секунд Хотя на самом деле мне нужно получить число |y_double-y_float| (y-одно и то же число, но с разной точностью). Возможно, для такого частного случая решение будет проще, чем для общего
0
|
10.06.2009, 02:44 | |
Ответы с готовыми решениями:
14
Преобразование типов Преобразование типов Преобразование типов Преобразование типов |
14 / 10 / 1
Регистрация: 28.04.2009
Сообщений: 219
|
||||||
10.06.2009, 02:53 | 2 | |||||
Не знаю, у меня фсё работает:
Чё за компилятор?
0
|
Заказ софта
343 / 188 / 21
Регистрация: 26.05.2009
Сообщений: 863
|
||||||
10.06.2009, 03:31 | 3 | |||||
У меня тоже все нормально выдает. По всей видимости, у тебя не Вижуал Студия...
Можешь попробовать так написать:
0
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
10.06.2009, 10:07 [ТС] | 4 | |||||
хммм. У меня Visual С++ 6.0
Дело в том, что такая конструкция у меня работает, но: есть вычисления, в ходе которых я преобразовываю y_double в y_float. Т.е допустим -19586.671870135 становится -19586.7 (значения написаны по значениям watch'ей) Когда же я вычисляю y_double-y_float, то y_float при обратном повышении до double становится не -19586.700000000, а -19586.67187500. Получается, что либо он каким то образом "помнит" "хвост" double, либо у float точность выше, чем мне показывает при отладке, либо еще что-то. Вот мой код:
0
|
10.06.2009, 11:19 | 5 |
Приведи код полность, потому как по словесному описанию проблема не совсем понятна. Почему при преобразовании из double а float число начинаем выглядеть немного по другому это понятно (Происходит потеря точности). Почему такое происходит при преобразовании в обратную сторону - непонятно (такого быть не должно)
0
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
10.06.2009, 12:25 [ТС] | 6 | |||||
ну... полный текст программы долог и нуден, поэтому покажу упрощенный вариант, который уже бажит:
0
|
Заказ софта
343 / 188 / 21
Регистрация: 26.05.2009
Сообщений: 863
|
|
10.06.2009, 12:32 | 7 |
Это не баг - это фича))
0
|
2348 / 1721 / 149
Регистрация: 06.03.2009
Сообщений: 3,675
|
|||||||||||
10.06.2009, 12:39 | 8 | ||||||||||
А что если преобразование производить с помощью
Т.е.
1
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
10.06.2009, 12:48 [ТС] | 9 |
хм... даже с кастом они остаются 3.84566e-008. Прям магия какая-то )))
0
|
10.06.2009, 12:56 | 10 | |||||
Когда тебя просят полный исходник,надо выдавать полный. Тот, который ты у себя запускал и проверял. А не так, чтобы те, кто тебе помогает, лазили по форуму, склеивали и добавляли то, что ты пропустил
Код
3.84566e-08 3.84566e-08 3.84566e-08 3.84566e-08 3.84566e-08
0
|
2348 / 1721 / 149
Регистрация: 06.03.2009
Сообщений: 3,675
|
|
10.06.2009, 12:59 | 11 |
Все правильно.
Когда мы 1.0001000 во float преобразуем к double то получаем 1.0001000165939331. Соответственно 1.0001000550504999 - 1.0001000165939331 получается 3.84566e-008.
0
|
10.06.2009, 13:06 | 12 | |||||
Тэкс, я перепутал, что выдаёт и что должно. А откуда ты вычислил, что должно быть "5.50505e-008"?
Добавлено через 5 минут 33 секунды Вот пример покороче:
Код
d=1.00010005505049992536 f=1.00010001659393310547 dd=0.00000003845656681989
0
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
10.06.2009, 13:18 [ТС] | 13 |
ладно, фиг с ним. На самом деле мне было просто было не ясно, почему мы из 1.0001000 получаем 1.0001000165939331, а не 1.000100000000000, потому что по моему мнению должно было получаться именно такое число. Потому что 165... в - какой-то там степени взяться просто неоткуда (ну, то есть как в физике, когда мы увеличиваем точность, то просто дописываем 0. Например 1 с точностью до 3 знака после запятой равно 1.00 а не 1.165). То есть, я предполагал, что при преобразовании из float в double берется float, а далее он "добивается" 0-ми.
0
|
10.06.2009, 13:23 | 14 | |||||
> На самом деле мне было просто было не ясно, почему мы из 1.0001000
Потому что это число НЕ представляется точно в формате double > То есть, я предполагал, что при преобразовании из float в double берется float, а далее он "добивается" 0-ми. Так оно и есть:
Код
d=1.00010005505049992536 f=1.00010001659393310547 dd=1.00010001659393310547
1
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
10.06.2009, 13:40 [ТС] | 15 |
Все, вроде понятно. Теперь ясно, почему так. Теперь я понял, что такое "странное" значение получилось из-за "двоичной" потери точности. А я рассчитывал на "десятичную" потерю точности.
0
|
10.06.2009, 13:40 | |
10.06.2009, 13:40 | |
Помогаю со студенческими работами здесь
15
Преобразование типов Преобразование типов Преобразование типов Преобразование типов Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |