Почему сети, обученные на базах ImageNet, так хорошо работают?

[BeS 53]

Всем привет,

А у кого какие мысли, почему сверточные сетки, предтренированные на ImageNet так хорошо работают на большом спектре задач?

Например, если взять ObjectDetection, то state of the art алгоритмы, такие как RCNN, SSD, etc. используют VGG16 предтренированную на ImageNet, затем файнтюнят на милипизерных базах PASCAL и получают одни из лучших результатов, например, на KITTI датасетах для детектирования машин/людей при том, что в ImageNet + PASCAL изображений людей дай бог тысяч 20 наберется...хотя по канонам надо брать много миллионов картинок, чтобы DL начал сходиться...

Да и вообще большая часть статей по DL сейчас начинаются с того, что "давайте возьмемсеть, предтренированную на ImageNet"

[Smorodov 578]

Думается просто много разнообразных классов, для того чтобы разделять такое количество классов нужна хорошая и довольно общая система координат, которую и формирует сеть обученная на ImageNet. В описываемых задачах, количество классов в основном меньше чем в ImageNet это помогает получить лучшие результаты.

[mrgloom 242]

Потому что low level features для всех классов одинаковые и на большой разнообразной выборке они получаются хорошие\репрезентативные.

[ProgRoman 9]

В 20.04.2016 at 12:25, mrgloom сказал:

Потому что low level features для всех классов одинаковые и на большой разнообразной выборке они получаются хорошие\репрезентативные.

low level features это признаки на первых слоях?

[mrgloom 242]

да