у меня такое было когда были завышены параметры -width и -height . Посмотри в диспетчере задач сколько отжирает памяти процесс.
А вообще у меня вопрос по параметрам haartraining -npos -nneg.
Что они означают? Кол-во положительных/отрицательных образцов которые уже сгенерировали createsamples ?
А вслучае с -nneg кол-во записей в background_file_name.
Так почему тогда программа проглатывает заведомо завышенные значения?