Вот есть операция сложение по модулю: (A + K) mod M = R каково обратное действие? (R - K) mod M = A так? Возьмем игрушечный пример: A = 3 K = 5 M = 6 (3 + 5) mod 6 = 2 (2 - 5) будет -3, но мы же по модулю, значит 3! все верно?
ключевая фраза для гугля "классы вычетов". все эти сложения/вычитания/умножения/деления по модулю в алгебре довольно подробно разобраны, и есть всякие книжки на эту тему.
в алгебре: -3 mod M == (M - 3) mod M == (k*M - 3) mod M, где k -- любое целое но C-шный `%' действует иначе на отрицательных числах...
EvilsInterrupt я чёт не понимаю что тебе надо. Обратный элемент найти? hint: вычитания нету, есть добавление обратного. Если мы работаем по модулю M, то обратным к a будет любое из чисел: k*M - a, при целых k. Выбирай на вкус. Или тебя что-то другое интересует?