как правильно написать методичку по взлому и зашите

Как раз "Invalid password" можно оставить и незашифрованным. А шифровать какие-то критические для программы данные (числовые и текстовые константы и т.п.). А потом как-то так:

Код (Text):

1. printf("Enter password > ");
2. scanf("%s", &XOR);
3. decrypt(&DATA, XOR);
4. csum=calculate_checksum(DATA);
5. if (csum==proper_csum)
6.  {
7.    use_data(DATA); // Здесь основной алгоритм проги, использующий расшифрованные данные
8.  }
9. else
10. {
11.  printf("Invalid password");
12. }

IMHO, взломать можно только перебором XOR-а. Ну, это типа примера того, к чему можно прийти, последовательно усложняя защиту. По крайней мере, я именно об этой идее рассказываю студентам, как о наиболее удачной.