Возможна замена стандартного алгоритма генерации картинок на пользовательский. Для этого в файле /modules/captcha/user_functions.inc.php добавьте функцию nc_captcha_user_image(); в качестве первого параметра ей будет передаваться код, который должен быть изображен на картинке. Функция должна возвращать строку, которую можно отдать браузеру в качестве картинки (gif, jpeg, png).
При использовании стандартного алгоритма генерации картинок можно изменить используемый шрифт. Для этого разметстите файл с названием font.ttf с шрифтом в формате TrueType на сервере в папке модуля captcha (netcat/modules/captcha/font.ttf).