Арифметика чисел с фиксированной запятой формата 32.32

Тема в разделе "WASM.A&O", создана пользователем Aloner, 28 сен 2009.

Страница 3 из 3
  1. Mikl___

    Mikl___ Супермодератор Команда форума

    Публикаций:
    14
    Регистрация:
    25 июн 2008
    Сообщения:
    3.792
    статья И.Кантора "Эффективное вычисление дискретного преобразования Фурье и дискретного преобразования Хартли"
     
    Mikl___, 5 окт 2009
    #41
  2. Ra_

    Ra_ New Member

    Публикаций:
    0
    Регистрация:
    4 мар 2007
    Сообщения:
    289
    Ну это-то понятно. Конечно задача не вызывает комфорта. Но на досуге, думаю добьёшь... :)
    По идее дальше корни из 2, 3, 17, 257 с точностью 512/1024/2048.. бит после запятой.
    Числа e, пи... Ну да ладно, похоже закончили.
     
    Ra_, 5 окт 2009
    #42
Страница 3 из 3