BeS 53 Жалоба Опубликовано February 2, 2016 11 minutes ago, mrgloom said: ну меня всё равно порадовало, что на моем железе GPU даёт прирост в ~x15. да и на хабре использовали ноутбучную видеокарту NVIDIA GeForce GT 540M. Сколько же занимает прогон MNIST на современных видеокартах, может кто то попробовать? (можно даже и не под виндой, а взять protobuf и данные из вышеобозначенного архива) Попробую собрать полноценно через https://github.com/willyd/caffe-builder Что вы подразумеваете под полным прогоном? До точности классификации 99.8% на моей GTX980Ti обучается ~10 секунд. p.s. в своем эксперименте исопльзовал топологию сети LeNet Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
mrgloom 242 Жалоба Опубликовано February 2, 2016 Я подразумеваю те настройки которые в protobuf. https://drive.google.com/file/d/0B88eZEyituf8YUlROE5oZWpXSkE/ Они вроде как отличаются немного от тех что лежат у стандартного caffe https://github.com/BVLC/caffe/tree/master/examples/mnist Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
BeS 53 Жалоба Опубликовано February 2, 2016 30 minutes ago, mrgloom said: Я подразумеваю те настройки которые в protobuf. https://drive.google.com/file/d/0B88eZEyituf8YUlROE5oZWpXSkE/ Они вроде как отличаются немного от тех что лежат у стандартного caffe https://github.com/BVLC/caffe/tree/master/examples/mnist Все итерации что ли пробежать? Вечером попробую. Но не думаю, что время работы будет сильно отличаться, т.к. в MNIST картинки маленькие, и современным картам разгуляться негде. Спидапы лучше при тренировке на ImageNet'е каком-нибудь тестировать Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
Smorodov 579 Жалоба Опубликовано February 2, 2016 MNIST 28x28 grayscale, LeNet, 30 эпох, 1 минута 25 секунд на GTX 970. Со стандартным размером бэтча, если увеличить то до 45 сек. Тестил на DIGITS 3. Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
mrgloom 242 Жалоба Опубликовано February 2, 2016 Цитата 30 эпох это что значит эпох? там вроде в терминах итераций задается. типа # The maximum number of iterations max_iter: 20000 Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
Smorodov 579 Жалоба Опубликовано February 2, 2016 21120 итераций. Эпоха, это один полный проход по всем сэмплам, количество итераций еще зависит от размера бэтча. Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
mrgloom 242 Жалоба Опубликовано February 2, 2016 Эпохи задаются только через DIGITS? или это вы примерно посчитали n_iter*batch_size/train_size Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
BeS 53 Жалоба Опубликовано February 2, 2016 1 hour ago, Smorodov said: 21120 итераций. Эпоха, это один полный проход по всем сэмплам, количество итераций еще зависит от размера бэтча. А как он узнает, что прошелся по всем самплам? В caffe ведь, вроде бы batch каждый раз из базы берется случайным образом... Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах
Smorodov 579 Жалоба Опубликовано February 2, 2016 Насколько я понимаю, берет он по-порядку, а вот при создании базы перемешивает, если задан такой флаг. Поделиться сообщением Ссылка на сообщение Поделиться на других сайтах