Нужно сравнить работу функции WINAPI (в отладчике по дизассемблеру) и ее версии из Wine, которая падает с исключением при вызове с теми же аргументами. Компенсировать потраченное время - готов.