Можно запихнуть в оперативку больше, чем туда влезает?

Тема в разделе "WASM.A&O", создана пользователем fegdri, 10 июл 2007.

  1. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    Вопрос на засыпку!!
    Допустим у нас есть... для начала 10 Гб, а ОЗУ 512 Мб. И вот все это дело нужно целиком обрабатывать чем чаще, тем лучше.
    Просто интересно, как быстрее всего можно работать с этим делом, практически не задействуя HDD, а в основном работая только с регистрами и оперативкой? Может быть кто-нибудь с чем-то подобным сталкивался?
    Что с инфой будет делаться не принципиально, просто как и куда ее девать, чтобы как можно быстрее к ней обращаться. Может как-нибудь в запакованном виде ее держать там? Хотя сомнительно, чтобы оно быстро распаковывалось и запаковывалось. Какие идеи?
     
  2. UbIvItS

    UbIvItS Well-Known Member

    Публикаций:
    0
    Регистрация:
    5 янв 2007
    Сообщения:
    6.243
    не обижайся, но ты реально прикалываешься.........:))))
     
  3. n0name

    n0name New Member

    Публикаций:
    0
    Регистрация:
    5 июн 2004
    Сообщения:
    4.336
    Адрес:
    Russia
    Допустим у нас есть ящик, 10x10x10 сантиметров и круглый камень метрового радиуса. Как бы его туда запихнуть? может кто-то уже решал такую задачу?
     
  4. asmlamo

    asmlamo Well-Known Member

    Публикаций:
    0
    Регистрация:
    18 май 2004
    Сообщения:
    1.734
    Купить больше оперативки благо она шас дешовая.
    Не задавать глупых вопросов.
     
  5. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    Ты не понимаешь меня. Речь идет именно о такой задачи, на которую никакой оперативки никаких денег не хватит. Так скажем цифры 10 и 512 очень сильно занижены. Можно просто использовать файл подкачки, но это медленно. Вот я и спрашиваю как можно быстрее (судя по ответам никак).
     
  6. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    Думаешь я сам не понимаю как это выглядит? Ну вот очень мне надо)
     
  7. dag

    dag New Member

    Публикаций:
    0
    Регистрация:
    17 авг 2004
    Сообщения:
    446
    SCSI/SAS RAID 0 из 15K дисков + кэшь контроллер с парами гигов памяти + куча гигов оперативки + оптимизация алгоритмов хранения и обработки + ... и всё получиться =) (да, чуть не забыл : вентиляторов побольше и UPS помощнее + батарейки на кэшь контролер )
     
  8. t00x

    t00x New Member

    Публикаций:
    0
    Регистрация:
    15 фев 2007
    Сообщения:
    1.921
    У вас наверное WinXP стоит?
     
  9. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    При чем здесь это?
     
  10. t00x

    t00x New Member

    Публикаций:
    0
    Регистрация:
    15 фев 2007
    Сообщения:
    1.921
    разгребаю.
     
  11. fram

    fram New Member

    Публикаций:
    0
    Регистрация:
    15 июн 2006
    Сообщения:
    24
    ну например есть алгоритмы, которые достаточно эффективны при работе с жестким диском. зависит от того, что именно надо сделать
     
  12. UbIvItS

    UbIvItS Well-Known Member

    Публикаций:
    0
    Регистрация:
    5 янв 2007
    Сообщения:
    6.243
    разговор из оперы пойдём туда не знаю....: ты задал вопрос в общем виде - вот и ответы в общем виде.
     
  13. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    вопрос то был не что мне купить надо, а просто как лучше работать с данными объем которых превышает размер оперативки.
    если это слишком в общем виде, то вот так: у нас есть допустим очень много однобайтных чисел, которые надо вынимать из памяти хотябы блоками по несколько мегабайт, потом обрабатывать и ложить обратно, при том, что они занимают места в двое больше размеров оперативки (это не обсуждается). все это выполняется в цикле и поэтому очень важно быстродействие и работу с HDD здесь нужно свести к минимуму.
    лана, ченибудь придумаю
     
  14. EvilsInterrupt

    EvilsInterrupt Постигающий азы дзена

    Публикаций:
    0
    Регистрация:
    28 окт 2003
    Сообщения:
    2.428
    Адрес:
    Russia
    fegdri
    А может вместо винта стример заюзать? ;) если его к ДВС врубить, скорость вращения будет выше! А раз так то данные, будут из цента сразу на край подаваться, то бишь скорость обмена данными возрастет! :)
     
  15. Pavia

    Pavia Well-Known Member

    Публикаций:
    0
    Регистрация:
    17 июн 2003
    Сообщения:
    2.409
    Адрес:
    Fryazino
    fegdri
    Вопрос стоял иначи.
    А это не вопрос, это уже ответ. Читаешь блоками. Блок выбирай в зависимости от данных. По 1МБайту можно и не грузить, хватит и 16КБайт. И алгоритм обработки подбирай нужный. А дальше все зависит, от целий.
     
  16. asmlamo

    asmlamo Well-Known Member

    Публикаций:
    0
    Регистрация:
    18 май 2004
    Сообщения:
    1.734
    Ой да ладно ...

    Лично участвовал при подключении кластера HP

    Оперативы там было 16 гиг + райд массив на основе винтов 15000 оборотов + оптическая шина и т.д.

    Стоило это удовольствие около 350 тыс $

    Вертелся там Oracle + апликейшин сервер SAP R3

    Так что если у тебя супер задача то готовь кошелек ...
     
  17. asmlamo

    asmlamo Well-Known Member

    Публикаций:
    0
    Регистрация:
    18 май 2004
    Сообщения:
    1.734
    Ну почему медленно ?

    Если нормальный райд + винты на 15000 оборотов но нормально ...
     
  18. asmlamo

    asmlamo Well-Known Member

    Публикаций:
    0
    Регистрация:
    18 май 2004
    Сообщения:
    1.734
    Друг работал в Росэнергоатоме они там тож кластер под R3 собирали.

    Оперативу носили ящиками - десятки гигабайт.
     
  19. asmlamo

    asmlamo Well-Known Member

    Публикаций:
    0
    Регистрация:
    18 май 2004
    Сообщения:
    1.734
    А смысл ? Потребности в памяти это не снижает а увеличивает т.е. нужно держать в памяти не только запакованные данные но и буфер для распакованных ...
    Я уже не говорю про время на распаковку для интреса сожми файл на 1 Gb и посмотри затраченное время ...
    Свопинг будет быстрее !
     
  20. fegdri

    fegdri New Member

    Публикаций:
    0
    Регистрация:
    18 сен 2006
    Сообщения:
    22
    EvilsInterrupt
    стримеры ж кажися еще медленнее винтов работают

    asmlamo
    $350000? Чувак, я же не миллионер.
    хочешь сказать скорость сравнимая с оперативкой? по-любому если так вот жостко HDD как оперативку юзать, он же убьется через полгода.