group box, checkbox, radio button по всей видимости не посылают WM_DRAWITEM. MFC вообще не дает выставить стиль "Owner Draw" для таких контролов.
Из MSDN :
Код:
The WM_DRAWITEM message is sent to the parent window of an owner-drawn
button, combo box, list box, or menu when a visual aspect of the button,
combo box, list box, or menu has changed.
Проблему с бордером вокруг контрола можно попытаться решить следующим образом: B обработчике WM_CTLCOLOR получить прямоугольник контрола и обрисовать его прямо по DC нужным тебе цветом.