У меня из примера на ВЕСА256 вместо радуги выдается куча полосочек с черными пробелами и вообще картинка смутная, почему такое может быть?

Если включить телепатический режим
То можно предположить следующее:
1. в пример используется режим с банками памяти, несоответствующий режимам на вашей видеокарте.
Например, в примере используется режим банков 64К, а у Вас 128К.

Ну.. не знаю, винд ХР!!

Возможно дело как раз в ХР.
Посмотрите работу программы под DosBox
http://dosbox.sourceforge.net/news.php?show_news=1

А как этим пользоваться??

Из какого примера?
По-моему, всё нормально. Никакой радуги быть не должно, если ты сам палитру не изменяешь.