Искажение данных VBA при передаче в ячейку листа excel

@Newzero · Регистрация: 30.11.2014

Author24 — интернет-сервис помощи студентам

Добрый день столкнулся с проблемой.
Считываю данные из текстового файла в массив
После передачи данных из массива на лист в ячейке данные искажены

Помогите разобраться в чем ошибка.
Запускаю процедуру open_incl_point_file
Выбираю текстовый файл: i_447 Зенит 10_00.txt

в Итоге в ячейке получается вместо 0,06 показывает 0,0599999986588955

@Anton Kadnikov · 25.03.2017, 14:42

задай формат при выводе в ячейку или формат самой ячейки

Добавлено через 7 минут

Visual Basic
1
2
G = 0.5468
ThisWorkbook.Sheets("Лист1").Cells(1, 1).Value = Format(G, "#0.00")

@Newzero · 25.03.2017, 14:53 **[ТС]**

самое интересное что использовал специально промежуточные переменные, у VBA бывают глюки с преобразованием типов. Промежуточная переменная содержит правильное число к примеру 10,02 а в ячейку пишется 10,0200004577636

@Anton Kadnikov · 25.03.2017, 14:56

Сообщение от Newzero

При использовании Format(tmp_data, "###.00") возвращается в формате текст, а если после этого использовать CSng один черт искажается

Тогда так

Visual Basic
1
2
G = 0.5468
ThisWorkbook.Sheets("Лист3").Cells(1, 2).Value = Round(G, 2)

@Newzero · 25.03.2017, 14:59 **[ТС]**

Не помогает проверил
Worksheets("data").Cells(index1 + 1, 2).Value = Round(CSng(Format(tmp_data, "###.00")), 2)

@Anton Kadnikov · 25.03.2017, 14:59

Сообщение от Newzero

Не помогает проверил
Worksheets("data").Cells(index1 + 1, 2).Value = Round(CSng(Format(tmp_data, "###.00")), 2)

Без Format, только округление

Visual Basic
1
Worksheets("data").Cells(index1 + 1, 2).Value = Round(tmp_data, 2)

@Newzero · 25.03.2017, 15:10 **[ТС]**

А если просто как текст загоняешь правильно вносит, но тогда придется еще макрос на преобразования формата данных в ячейке
Самое интересное что если присваиваю переменной значение к примеру 10,2 и загоняю в ячейку то вводится правильно. А если 10,22 то выводит с искажением

Добавлено через 2 минуты
Проверил только round тоже самое

Может какие настройки типа Option есть на этот счет?

@Newzero · 25.03.2017, 15:16 **[ТС]**

Скрин скинул как выглядит

@Anton Kadnikov · 25.03.2017, 16:10

Сообщение от Newzero

Cкрин скинул как выглядит

держите, Currency сначала в Double, потом округляем:

Visual Basic
1
Worksheets("data").Cells(index1 + 1, 2) = Round(CDbl(tmp(index1)), 2) 'CSng(tmp_data)

@Newzero · 25.03.2017, 16:49 **[ТС]**

Заработало, а изза чего это может быть?
Мне просто по работе отчеты чтобы ручками не забивать решил в excel макрос реализовать, не охото на чистом VB либо Делфи писать прогу.

@Anton Kadnikov · 25.03.2017, 17:06

Сообщение от Newzero

Заработало, а изза чего это может быть?

ну как я понял Currency не мог округляться... не совсем числовой тип видимо...

@Newzero · 25.03.2017, 17:50 **[ТС]**

Я с синглом пробовал тоже, может проблема глубже

@Anton Kadnikov · 25.03.2017, 17:52

Сообщение от Newzero

Я с синглом пробовал тоже, может проблема глубже

С синглом и с округлением или просто с синглом?

@Newzero · 25.03.2017, 19:13 **[ТС]**

С синглом и округлением и просто с синглом одинаково криво

А вот с Double, весьма интересная картина получается
так: CDbl(Format(tmp(index1), "###.000")) - нормально работает, даже без ROUND

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 17:50 [ТС]	12
	Я с синглом пробовал тоже, может проблема глубже 0

Новые блоги и статьи Все статьи Все блоги /
Лучшие практики оптимизации Docker Image Mr. Docker 13.03.2025 Размер Docker-образа влияет на множество аспектов работы с контейнерами. Чем больше образ, тем дольше его загрузка в реестр и выгрузка из него. Для команд разработки, работающих с CI/ CD пайплайнами,. . .	Вопросы на собеседовании по Docker Mr. Docker 13.03.2025 Ты сидишь напротив технического специалиста, и вдруг звучит вопрос про Docker Swarm или многоэтапные сборки. Пот на лбу? Не переживай, после этой статьи ты будешь готов ко всему! Эта статья будет. . .	Поиск текста в сносках : замена дефиса на тире или тире на дефис... РоΜа 13.03.2025 Нужно было найти текст в сносках и заменить. Почему-то метод селекшн не сработал. . . пришлось гуглить. найденный на форумвба код пришлось править. Смысл - заменяет в сносках дефисы и тире на нужные. . . .	Real PATH definitions in bash scripts jigi33 13.03.2025 Как поймать путь и путь к директории относительно запускаемого файла в BASH 1. поймать путь через вывод $(pwd) 2. более правильно - на основе realpath (см. скриншот)	Django или Flask: что выбрать для веб-разработки на Python py-thonny 13.03.2025 Django – это высокоуровневый фреймворк, который придерживается философии "всё включено". Он предоставляет разработчику готовые решения для большинства типичных задач веб-разработки: от аутентификации. . .
Непрерывное развертывание в Java с Kubernetes Javaican 13.03.2025 Чем так привлекателен Kubernetes для развертывания Java-приложений? Этот оркестратор контейнеров позволяет автоматизировать развертывание, масштабирование и управление контейнеризированными. . .	Предотвращение XSS, CSRF и SQL-инъекций в JavaScript run.dev 13.03.2025 JavaScript занимает первые позиции среди языков веб-разработки, но его распространенность делает его привлекательной целью для злоумышленников. Межсайтовый скриптинг (XSS), межсайтовая подделка. . .	PHP 8: JIT-компиляция и улучшение производительности Jason-Webb 13.03.2025 PHP никогда не славился своей скоростью. Многие сталкивались с проблемами производительности при работе со сложными вычислениями или обработкой больших объемов данных. Традиционная модель выполнения. . .	Сериализация данных с Apache Avro в Kafka Javaican 12.03.2025 Apache Kafka стала одним из ключевых решений для работы с большими потоками данных. Однако с ростом объемов передаваемых данных возникает проблема: как эффективно сериализовать и десериализовать. . .	Создание потребителей Kafka с помощью Reactor Kafka Javaican 12.03.2025 Reactor Kafka — это библиотека, объединяющая Apache Kafka с реактивным программированием на базе Project Reactor. Такое сочетание позволяет строить неблокирующие, асинхронные приложения с контролем. . .

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 14:53 [ТС]	3
	самое интересное что использовал специально промежуточные переменные, у VBA бывают глюки с преобразованием типов. Промежуточная переменная содержит правильное число к примеру 10,02 а в ячейку пишется 10,0200004577636 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 14:59 [ТС]	5
	Не помогает проверил Worksheets("data").Cells(index1 + 1, 2).Value = Round(CSng(Format(tmp_data, "###.00")), 2) 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 15:10 [ТС]	7
	А если просто как текст загоняешь правильно вносит, но тогда придется еще макрос на преобразования формата данных в ячейке Самое интересное что если присваиваю переменной значение к примеру 10,2 и загоняю в ячейку то вводится правильно. А если 10,22 то выводит с искажением Добавлено через 2 минуты Проверил только round тоже самое Может какие настройки типа Option есть на этот счет? 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 15:16 [ТС]	8
	Скрин скинул как выглядит Миниатюры 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 16:49 [ТС]	10
	Заработало, а изза чего это может быть? Мне просто по работе отчеты чтобы ручками не забивать решил в excel макрос реализовать, не охото на чистом VB либо Делфи писать прогу. 0

@Anton Kadnikov 4 / 4 / 1 Регистрация: 24.06.2013 Сообщений: 62
	25.03.2017, 17:06	11
	Сообщение от Newzero Заработало, а изза чего это может быть? ну как я понял Currency не мог округляться... не совсем числовой тип видимо... 0

@Anton Kadnikov 4 / 4 / 1 Регистрация: 24.06.2013 Сообщений: 62
	25.03.2017, 17:52	13
	Сообщение от Newzero Я с синглом пробовал тоже, может проблема глубже С синглом и с округлением или просто с синглом? 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	25.03.2017, 19:13 [ТС]	14
	С синглом и округлением и просто с синглом одинаково криво А вот с Double, весьма интересная картина получается так: CDbl(Format(tmp(index1), "###.000")) - нормально работает, даже без ROUND 0

Искажение данных VBA при передаче в ячейку листа excel

Решение