BeS 53 Report post Posted February 2, 2016 11 minutes ago, mrgloom said: ну меня всё равно порадовало, что на моем железе GPU даёт прирост в ~x15. да и на хабре использовали ноутбучную видеокарту NVIDIA GeForce GT 540M. Сколько же занимает прогон MNIST на современных видеокартах, может кто то попробовать? (можно даже и не под виндой, а взять protobuf и данные из вышеобозначенного архива) Попробую собрать полноценно через https://github.com/willyd/caffe-builder Что вы подразумеваете под полным прогоном? До точности классификации 99.8% на моей GTX980Ti обучается ~10 секунд. p.s. в своем эксперименте исопльзовал топологию сети LeNet Share this post Link to post Share on other sites
mrgloom 242 Report post Posted February 2, 2016 Я подразумеваю те настройки которые в protobuf. https://drive.google.com/file/d/0B88eZEyituf8YUlROE5oZWpXSkE/ Они вроде как отличаются немного от тех что лежат у стандартного caffe https://github.com/BVLC/caffe/tree/master/examples/mnist Share this post Link to post Share on other sites
BeS 53 Report post Posted February 2, 2016 30 minutes ago, mrgloom said: Я подразумеваю те настройки которые в protobuf. https://drive.google.com/file/d/0B88eZEyituf8YUlROE5oZWpXSkE/ Они вроде как отличаются немного от тех что лежат у стандартного caffe https://github.com/BVLC/caffe/tree/master/examples/mnist Все итерации что ли пробежать? Вечером попробую. Но не думаю, что время работы будет сильно отличаться, т.к. в MNIST картинки маленькие, и современным картам разгуляться негде. Спидапы лучше при тренировке на ImageNet'е каком-нибудь тестировать Share this post Link to post Share on other sites
Smorodov 578 Report post Posted February 2, 2016 MNIST 28x28 grayscale, LeNet, 30 эпох, 1 минута 25 секунд на GTX 970. Со стандартным размером бэтча, если увеличить то до 45 сек. Тестил на DIGITS 3. Share this post Link to post Share on other sites
mrgloom 242 Report post Posted February 2, 2016 Цитата 30 эпох это что значит эпох? там вроде в терминах итераций задается. типа # The maximum number of iterations max_iter: 20000 Share this post Link to post Share on other sites
Smorodov 578 Report post Posted February 2, 2016 21120 итераций. Эпоха, это один полный проход по всем сэмплам, количество итераций еще зависит от размера бэтча. Share this post Link to post Share on other sites
mrgloom 242 Report post Posted February 2, 2016 Эпохи задаются только через DIGITS? или это вы примерно посчитали n_iter*batch_size/train_size Share this post Link to post Share on other sites
BeS 53 Report post Posted February 2, 2016 1 hour ago, Smorodov said: 21120 итераций. Эпоха, это один полный проход по всем сэмплам, количество итераций еще зависит от размера бэтча. А как он узнает, что прошелся по всем самплам? В caffe ведь, вроде бы batch каждый раз из базы берется случайным образом... Share this post Link to post Share on other sites
Smorodov 578 Report post Posted February 2, 2016 Насколько я понимаю, берет он по-порядку, а вот при создании базы перемешивает, если задан такой флаг. Share this post Link to post Share on other sites
