Количество знаков после запятой

@lan · Регистрация: 26.03.2007

Author24 — интернет-сервис помощи студентам

Из Sql server'a возвращаю рекордсет в котором, в поле, есть число '0,21', а во флексе отображается '0,2099999999999999'. Или умножаю поле1('0,23') на поле2(10) возвращает 2,30000000002.
Фигня какая-то. Чё делать?

@Grankin_Denis · 04.07.2008, 13:56

между представлением и отображением, есть разница воспользуйся
xx=format(xx,'#0.00')
Удачи, Денис.

@igor_c · 04.07.2008, 15:58

И еще рекомендую функцию Round()

@lan · 04.07.2008, 16:22 **[ТС]**

Я не об том, к тому же я знаю ещё команду convert. Меня интересует в принцЫпе следующее: когда я использую из энтерпрайз менагера команду для определённой таблицы 'open table -> return all rows' - усё у норма, в поле1 '0,21'. Но когда тож самое я делаю используя запрос типа ' SELECT * FROM mytable ' значение поле1 '0,209999999999'. Могёт где-то, какую галочку надо поставить али снять ?

@igor_c · 04.07.2008, 17:54

Значит, лежит в этом поле именно 0,209999999999. Округлить было бы неплохо, прежде чем класть в базу. Запрос выведет то, что есть, а не то, что в формате представления указано.

@palva · 04.07.2008, 22:28

Вообще-то для чисел, где важно точное десятичное представление, используют тип поля DECIMAL или NUMBER. А хранение в плавающем виде не желательно. Скажем, число 0.30 в принципе невозможно хранить абсолютно точно в поле плавающего типа.

@lan 0 / 0 / 0 Регистрация: 26.03.2007 Сообщений: 238
		1
	Количество знаков после запятой 03.07.2008, 12:39. Показов 4224. Ответов 5 Метки нет (Все метки) Из Sql server'a возвращаю рекордсет в котором, в поле, есть число '0,21', а во флексе отображается '0,2099999999999999'. Или умножаю поле1('0,23') на поле2(10) возвращает 2,30000000002. Фигня какая-то. Чё делать? 0

@Grankin_Denis 1 / 1 / 0 Регистрация: 06.05.2008 Сообщений: 68
	04.07.2008, 13:56	2
	между представлением и отображением, есть разница воспользуйся xx=format(xx,'#0.00') Удачи, Денис. 0

@igor_c 0 / 0 / 0 Регистрация: 04.03.2008 Сообщений: 250
	04.07.2008, 15:58	3
	И еще рекомендую функцию Round() 0

@lan 0 / 0 / 0 Регистрация: 26.03.2007 Сообщений: 238
	04.07.2008, 16:22 [ТС]	4
	Я не об том, к тому же я знаю ещё команду convert. Меня интересует в принцЫпе следующее: когда я использую из энтерпрайз менагера команду для определённой таблицы 'open table -> return all rows' - усё у норма, в поле1 '0,21'. Но когда тож самое я делаю используя запрос типа ' SELECT * FROM mytable ' значение поле1 '0,209999999999'. Могёт где-то, какую галочку надо поставить али снять ? 0

@igor_c 0 / 0 / 0 Регистрация: 04.03.2008 Сообщений: 250
	04.07.2008, 17:54	5
	Значит, лежит в этом поле именно 0,209999999999. Округлить было бы неплохо, прежде чем класть в базу. Запрос выведет то, что есть, а не то, что в формате представления указано. 0

@palva 4255 / 2951 / 688 Регистрация: 08.06.2007 Сообщений: 9,858 Записей в блоге: 4
	04.07.2008, 22:28	6
	Вообще-то для чисел, где важно точное десятичное представление, используют тип поля DECIMAL или NUMBER. А хранение в плавающем виде не желательно. Скажем, число 0.30 в принципе невозможно хранить абсолютно точно в поле плавающего типа. 0