[РЕШЕНО] Проблема с форматированием числа

Общие вопросы программирования, алгоритмы и т.п.

Модератор: Модераторы

[РЕШЕНО] Проблема с форматированием числа

Сообщение faurt » 03.01.2012 01:27:28

Уважаемые форумчане!
При написании программы для вычисления очень малых значений столкнулся с проблемой вывода результатов в TEdit. Вместо адекватно воспринимаемого числа выводится число вида "5,77367205542725E-7". Данное число - результат деления 0,000001 на 1.732. Искал информацию по форматированию числа с экспонентой в обычный вид, но так ничего не нашел.
Прошу Вашей помощи.
Последний раз редактировалось faurt 03.01.2012 03:08:46, всего редактировалось 1 раз.
faurt
незнакомец
 
Сообщения: 2
Зарегистрирован: 03.01.2012 01:20:05

Re: Проблема с форматированием числа

Сообщение Little_Roo » 03.01.2012 01:51:33

faurt писал(а):При написании программы для вычисления очень малых значений столкнулся с проблемой вывода результатов

Проверяйте в своей программе машинный эпсилон - (минимальное отклонение, фиксируемое Вашим процессором в Вашей ОС от проверяемых величин) - да поправят меня ВЕЛИКИЕ ГУРУ...

faurt писал(а):Искал информацию по форматированию числа с экспонентой в обычный вид,

Да, а что имеется в ввиду под обычным видом? 0,00000000012345 ?
Так это стандартный паскалевый форматный вывод
write(x:2:10);
Или это что-то другое? Поясните :shock:
Последний раз редактировалось Little_Roo 03.01.2012 01:58:26, всего редактировалось 1 раз.
Аватара пользователя
Little_Roo
энтузиаст
 
Сообщения: 639
Зарегистрирован: 27.02.2009 19:56:36
Откуда: Санкт-Петербург

Re: Проблема с форматированием числа

Сообщение Padre_Mortius » 03.01.2012 01:54:58

Код: Выделить всё
FloatToStrF(r, ffNumber, 30, 25);
Padre_Mortius
энтузиаст
 
Сообщения: 1265
Зарегистрирован: 29.05.2007 17:38:07
Откуда: Спб

Re: Проблема с форматированием числа

Сообщение Little_Roo » 03.01.2012 02:01:46

Padre_Mortius писал(а):FloatToStrF(r, ffNumber, 30, 25);


Упс, опередил.. :D
Аватара пользователя
Little_Roo
энтузиаст
 
Сообщения: 639
Зарегистрирован: 27.02.2009 19:56:36
Откуда: Санкт-Петербург

Re: [РЕШЕНО] Проблема с форматированием числа

Сообщение faurt » 03.01.2012 03:09:38

Padre_Mortius, Little_Roo благодарю Вас за помощь.
faurt
незнакомец
 
Сообщения: 2
Зарегистрирован: 03.01.2012 01:20:05


Вернуться в Общее

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 21

Рейтинг@Mail.ru