Есть два варианта:
1. Использовать стандартный API, но картинка должна быть загружена средствами API. Для этого нужно читать MSDN и использовать memory DC
2. Если все делать ручками, то найти статьи про интерполяции, выбрать нужный метод (по критерию сложность/качество) и написать прогу.