Функций cvMatchShapes возвращает минимум, если контуры совпадают пиксель в пиксель она возвращает 0. Контуры проверял отличаются не значительно, разница в 5 - 9 пикселей, соотношения линий контура в принципе подходят, по крайней мере разница с прямоугольником большая.