Как узнать, что в настоящий момент отображается экран входа в систему?

Как описано в комментариях, вы пытаетесь определить, должен ли процесс в сеансе интерактивного рабочего стола отображать окно сообщения. Нет смысла делать это, если интерактивный сеанс неактивен.

В этом случае я считаю, что предложенное вами решение неверно. Вместо этого вам следует зарегистрироваться для получения уведомлений об изменении сеанса, позвонив WTSRegisterSessionNotification. Когда вы это сделаете, вам будут отправлены WM_WTSSESSION_CHANGE сообщения, которые позволят вам отслеживать текущее состояние.

Обратите внимание, что вы делаете это в своем настольном приложении, а не в службе. Служба по-прежнему отправляет свои сообщения настольному приложению. Но теперь настольное приложение знает, стоит ли их показывать.

Обновить

Реми предлагает лучший способ в комментариях:

И если используется отдельное приложение, нет причин вообще обнаруживать изменения сеанса, это приложение может просто проверить, является ли назначенная ему в данный момент рабочая станция / рабочий стол интерактивной рабочей станцией / рабочим столом, сравнивая, например, GetThreadDesktop() с OpenInputDesktop().

Все такие экраны представлены на отдельном рабочем столе. Вы можете попробовать перечислить рабочие столы пользователя и сравните их с текущими (я не уверен, что служба в сеансе 0 - Vista и выше - может это сделать; если нет, создайте вспомогательный процесс в пользовательском сеансе). Однако это может дать ложное срабатывание, если рабочий стол UAC включен. Другой угловой случай - ситуация без пользователя (сразу после загрузки до того, как какой-либо пользователь отключился).

В окнах есть несколько состояний.

1. Состояние выхода из системы

Когда Winlogon находится в состоянии выхода из системы, пользователям предлагается идентифицировать себя и предоставить информацию для аутентификации. Если пользователь предоставляет правильную информацию об учетной записи и никакие ограничения не препятствуют этому, пользователь входит в систему, и на рабочем столе приложения запускается программа оболочки (например, Windows Explorer). Winlogon переходит в состояние входа в систему.

2. Состояние входа в систему

Когда Winlogon находится в состоянии входа в систему, пользователи могут взаимодействовать с оболочкой, активировать дополнительные приложения и выполнять свою работу. Находясь в состоянии входа в систему, пользователи могут либо прекратить всю работу и выйти из системы, либо заблокировать свои рабочие станции (оставив всю работу на месте). Если пользователь решит выйти из системы, Winlogon завершит все процессы, связанные с этим сеансом входа в систему, и рабочая станция станет доступной для другого пользователя. Если вместо этого пользователь решает заблокировать рабочую станцию, Winlogon переходит в состояние блокировки рабочей станции.

3. Состояние блокировки рабочей станции

Когда Winlogon находится в состоянии блокировки рабочей станции, отображается защищенный рабочий стол до тех пор, пока пользователь не разблокирует рабочую станцию, предоставив ту же идентификационную и аутентификационную информацию, что и пользователь, который первоначально вошел в систему, или пока администратор не выйдет из системы принудительно. Если рабочая станция разблокирована, отображается рабочий стол приложения, и работа может продолжаться.

ссылка: https://msdn.microsoft.com/ko-kr/library/windows/desktop/aa380547(v=vs.85).aspx

p.s. регистрация защищенной последовательности внимания (SAS, CTRL + ALT + Delete) включена в состояние Workstation-Locked

Точно так же в Windows есть несколько типов рабочего стола.

1. Рабочий стол Winlogon

2. Рабочий стол приложения (= Рабочий стол по умолчанию)

3. Заставка рабочего стола

4. Безопасный рабочий стол

Я рекомендую вам прочитать это: https://msdn.microsoft.com/ko-kr/library/windows/desktop/aa375994(v=vs.85).aspx

Я не знаю, что мои ответы - это то, что вы хотите ... но я надеюсь, что это в какой-то мере поможет.