Спасибо , буду изучать .
Нашел работающий проект Extended GMM for Background Subtraction on GPU (CUDA) http://www.codeproject.com/Articles/142859/Extended-GMM-for-Background-Subtraction-on-GPU
В файле CvFastBgGMM.h надо только заменить CUDA_SAFE_CALL(x) на x
#ifdef _DEBUG
#define CUDAGMM_SAFE_CALL(x) x ///CUDA_SAFE_CALL(x)