Точность Single

@geopos · Регистрация: 16.10.2013

Author24 — интернет-сервис помощи студентам

Такая проблема: конвертирую StrToFloat в Single, при этом теряется точность, число округляется до целых, если учесть, что это геодезические координаты такое недопустимо. Пришла мысль, что дело в РНС: разделители дробной части или количестве знаков. Разделитель я нашел как поменять, а с дробной частью не справился.

Delphi

var 
    F: TFormatSettings;
    X,Y: Single;
S: String;
begin
  F := TFormatSettings.Create(GetThreadLocale);   //создаем копию РегНастроек Системы
  F.DecimalSeparator := '.';                                 //разделитель "."
 
  X := StrToFloat(S, F);                //вот здесь безобразие   5620116.939 ->  5620117
  Y := StrToFloat(S, F);
end;

Ну да ладно с этой дробной частью, я пока забил (надеюсь кто то подскажет!) и начал эксперементировать, короче поменял Single на Extended и все заработало как надо. Только нужный мне TPointF кушает сингл и
подсунув ему Extended он его округляет.

@volvo · 30.01.2014, 14:23

Сообщение от geopos

число округляется до целых

Это смотря какое число. Скажем, '116.323' не будет округляться. Вспомни, какова точность Single (сколько значащих цифр, в смысле) - поймешь, откуда проблема.

@geopos · 30.01.2014, 18:32 **[ТС]**

Спасибо, понятно.
И еще, спрошу на всякий случай, какое поле TFormatSettings отвечает за дробную часть числа?

Новые блоги и статьи
Книги и учебные ресурсы по C# InfoMaster 08.01.2025 Базовые учебники и руководства Одной из лучших книг для начинающих является "C# 10 и . NET 6 для начинающих" Эндрю Троелсена и Филиппа Джепикса . Книга последовательно раскрывает основные концепции. . .	Что такое NullReferenceException и как исправить? InfoMaster 08.01.2025 NullReferenceException - одно из самых распространенных исключений, с которым сталкиваются разработчики на C#. Это исключение возникает при попытке обратиться к членам объекта (методам, свойствам или. . .	Что такое Null Pointer Exception (NPE) и как это исправить? InfoMaster 08.01.2025 Null Pointer Exception (NPE) - это одно из самых распространенных исключений в Java, которое возникает при попытке использовать ссылку на объект, значение которой равно null. Это исключение относится. . .	Русский язык в консоли C++ InfoMaster 08.01.2025 При разработке программ на C++ одной из частых проблем, с которой сталкиваются русскоязычные программисты, является корректное отображение кириллицы в консольных приложениях. Эта проблема особенно. . .	Telegram бот на C# InfoMaster 08.01.2025 Разработка ботов для Telegram стала неотъемлемой частью современной экосистемы мессенджеров. C# предоставляет мощный и удобный инструментарий для создания разнообразных ботов, от простых. . .	Использование GraphQL в Go (Golang) InfoMaster 08.01.2025 Go (Golang) является одним из наиболее популярных языков программирования, используемых для создания высокопроизводительных серверных приложений. Его архитектурные особенности и встроенные. . .
Что лучше использовать при создании класса в Java: сеттеры или конструктор? Alexander-7 08.01.2025 Вопрос подробнее: На вопрос: «Когда одновременно создаются конструктор и сеттеры в классе – это нормально?» куратор уточнил: «Ваш класс может вообще не иметь сеттеров, а только конструктор и геттеры. . .	Как работать с GraphQL на TypeScript InfoMaster 08.01.2025 Введение в GraphQL и TypeScript В современной разработке веб-приложений GraphQL стал мощным инструментом для создания гибких и эффективных API. В сочетании с TypeScript, эта технология. . .	Счётчик на базе сумматоров + регистров и генератора сигналов согласования. Hrethgir 07.01.2025 Создан с целью проверки скорости асинхронной логики: ранее описанного сумматора и предополагаемых fast регистров. Регистры созданы на базе ранее описанного, предполагаемого fast триггера. То-есть. . .	Как перейти с Options API на Composition API в Vue.js BasicMan 06.01.2025 Почему переход на Composition API актуален В мире современной веб-разработки фреймворк Vue. js продолжает эволюционировать, предлагая разработчикам все более совершенные инструменты для создания. . .	Архитектура современных процессоров inter-admin 06.01.2025 Процессор (центральный процессор, ЦП) является основным вычислительным устройством компьютера, которое выполняет обработку данных и управляет работой всех остальных компонентов системы. Архитектура. . .	История создания реляционной модели баз данных, правила Кодда Programming 06.01.2025 Предпосылки создания реляционной модели В конце 1960-х годов компьютерная индустрия столкнулась с серьезными проблемами в области управления данными. Существовавшие на тот момент модели данных -. . .

@volvo Супер-модератор 33006 / 21309 / 8183 Регистрация: 22.10.2011 Сообщений: 36,614 Записей в блоге: 8
	30.01.2014, 14:23	2
	Сообщение от geopos число округляется до целых Это смотря какое число. Скажем, '116.323' не будет округляться. Вспомни, какова точность Single (сколько значащих цифр, в смысле) - поймешь, откуда проблема. 1

@geopos 0 / 0 / 0 Регистрация: 16.10.2013 Сообщений: 46
	30.01.2014, 18:32 [ТС]	3
	Спасибо, понятно. И еще, спрошу на всякий случай, какое поле TFormatSettings отвечает за дробную часть числа? 0