Самый простой, но полноценный сайтик будет без БД, но SSI потребует. Вам для отладки надо скачать простой HTTP сервер. Неплох, ИМХО конечно, Small HTTP server - бесплатный для гражан exUSSR
. Маленький - весит ~ 150K и очень шустрый.
Другой вариант сразу скачать и установить Денвер, опять же бесплатен.
А дальше определяться каким инструментом ваять. Есть, конечно Блокнот. Ну, а если более серьезные варианты - HTML Pad Editor Fisherman, кажется тоже бесплатный. Ну, ИМХО, один из лучших не WYSIWYG редакторов. Ну и графические редакторы понадобятся. Поскольку вопрос о цене не стоит остро - можно и Photoshop.
Ну для разработки простого сайта этого вооружения Вам должно хватить.