The secret needs to be cast to u_char * not char *. Oops.
Signed-off-by: Paul Mackerras <paulus@samba.org>
MD5_Init(&ctx);
MD5_Update(&ctx, &idbyte, 1);
MD5_Init(&ctx);
MD5_Update(&ctx, &idbyte, 1);
- MD5_Update(&ctx, (char *)secret, secret_len);
+ MD5_Update(&ctx, (u_char *)secret, secret_len);
MD5_Update(&ctx, challenge, challenge_len);
MD5_Final(&response[1], &ctx);
response[0] = MD5_HASH_SIZE;
MD5_Update(&ctx, challenge, challenge_len);
MD5_Final(&response[1], &ctx);
response[0] = MD5_HASH_SIZE;