Если провести бинаризацию, может и не сильно, надо пробовать.
У меня этот метод давал неплохой результат: https://stackoverflow.com/questions/22122309/opencv-adaptive-threshold-ocr/22127181#22127181
Еще думается если найти фазовый сдвиг, то он тоже даст границу стекла.
Можно после бинаризации наложить изображения по И темные линии станут толще, затем инверсия, эрозия, и найти convex hull.