Точность Single

@geopos · Регистрация: 16.10.2013

Author24 — интернет-сервис помощи студентам

Такая проблема: конвертирую StrToFloat в Single, при этом теряется точность, число округляется до целых, если учесть, что это геодезические координаты такое недопустимо. Пришла мысль, что дело в РНС: разделители дробной части или количестве знаков. Разделитель я нашел как поменять, а с дробной частью не справился.

Delphi

var 
    F: TFormatSettings;
    X,Y: Single;
S: String;
begin
  F := TFormatSettings.Create(GetThreadLocale);   //создаем копию РегНастроек Системы
  F.DecimalSeparator := '.';                                 //разделитель "."
 
  X := StrToFloat(S, F);                //вот здесь безобразие   5620116.939 ->  5620117
  Y := StrToFloat(S, F);
end;

Ну да ладно с этой дробной частью, я пока забил (надеюсь кто то подскажет!) и начал эксперементировать, короче поменял Single на Extended и все заработало как надо. Только нужный мне TPointF кушает сингл и
подсунув ему Extended он его округляет.

@volvo · 30.01.2014, 14:23

Сообщение от geopos

число округляется до целых

Это смотря какое число. Скажем, '116.323' не будет округляться. Вспомни, какова точность Single (сколько значащих цифр, в смысле) - поймешь, откуда проблема.

@geopos · 30.01.2014, 18:32 **[ТС]**

Спасибо, понятно.
И еще, спрошу на всякий случай, какое поле TFormatSettings отвечает за дробную часть числа?

@volvo Супер-модератор 32972 / 21285 / 8173 Регистрация: 22.10.2011 Сообщений: 36,559 Записей в блоге: 8
	30.01.2014, 14:23	2
	Сообщение от geopos число округляется до целых Это смотря какое число. Скажем, '116.323' не будет округляться. Вспомни, какова точность Single (сколько значащих цифр, в смысле) - поймешь, откуда проблема. 1

@geopos 0 / 0 / 0 Регистрация: 16.10.2013 Сообщений: 46
	30.01.2014, 18:32 [ТС]	3
	Спасибо, понятно. И еще, спрошу на всякий случай, какое поле TFormatSettings отвечает за дробную часть числа? 0