Запускай от админа и будет тебе счастье. Или как товарищ предлагал выше UAC отключи. Не знаю правда где и как) Вроде ведь пришли к выводу, что из за прав. Ну или скомпиль это дело все под дельфой. Не знаю в чем дело, но под ней у меня по крайней мере не зависали приложения. Может хуки просто не устанавливались по тихому, но не зависали. а ставить хуки надо по первому варианту.
По поводу как оно работает почитай в мсдн, там вроде на уровне драйвера система вызывает ловушку как надо. Так шо по идее длл не обязательна.
Журнальный хук все таки изучи. длл там не надо, а значит не будет плясок с зависаниями как сейчас. главное правильно разобрать данные и сразу перевести нужные сообщения в локализованные символы.