Д.Кнут - Искусство программирования( в 3х томах,част 4-го можешь в инете откопать ) Т.Кормен,Ч.Лейзерсон,Р.Ривест,К.Штайн - Алгоритмы. Построение и анализ.( 2-е изд ) Р.Сейджвик - Фундаментальные алгоритмы на C++( 5 частей )
Кнута не трогай, Кормена тоже. Сейджвика можно, но уж больно толстая) Для начала прочитай что-нибудь страниц на 200, например, "Алгоритмы - Просто как дважды два" Красикова.