green_fr: (Default)
green_fr ([personal profile] green_fr) wrote2012-06-01 05:31 pm
Entry tags:

Точность превыше всего!

На работе использую программу для генерирования экономических сценариев (B+H ESG), при определённой конфигурации она вылетает с нечитаемой ошибкой. Hotline объясняет, что у меня данные неправильные, моя матрица должна быть положительно полуопределённой, бла-бла-бла.

Я проверяю — одно из собственных значений выходит −2E-16.
Формально да, отрицательное. Но мы все понимаем, что это ноль, проблема округления (более того, я могу с ручкой на бумажке доказать, что это ноль, я намеренно сделал вырожденную матрицу, мне так надо).

Весь день бодаюсь теперь с hotline’ом по почте, доказывая, что это не «extremely high degree of accuracy in calculations» (цитата из их ответа), а баг, требующий патча. Ищу понятные аргументы...

Update: победили, ошибку признали, постараются когда-нибудь починить, но уже точно не успеют к следующей (7.3.0) версии.
a_p: (Default)

[personal profile] a_p 2012-06-02 11:42 am (UTC)(link)
почему-то у меня создалось впечатление, что ты написал (сейчас перечитал пост и не нашёл, где ты это написал :), что хотлайн уже был в курсе проблемы и дал объяснение про extremely high degree типа "знаем-знаем, это у нас акьюраси".

[identity profile] green-fr.livejournal.com 2012-06-02 07:57 pm (UTC)(link)
Не, тут проблема именно в том, чтобы пробиться через хотлайн к разработчикам и принимателям решений. Так что срочно требуются понятные аргументы :-)