Поставить в настройках графики GTA:SA 32-битную глубину цвета, т.е resX*resY*32 должно быть, ни в коем случае не 16.
Чтобы текстуры были сглаженными, рекомендую наложить на них мип-маппинг, либо же скачать текстуры с наложенным мип-маппингом, за сглаживание в игре отвечает поле antialiasing (1-3, выкл.)