Перейти к содержимому
Compvision.ru
margadon

Позиционирование объектов с помощью ИИ

Recommended Posts

Есть несколько трехмерных объектов ( mesh) неправильно - криво, косо, со смещением, наклоном расположенных друг относительно друга. 
Нужно их всех выровнять, подровнять, выстроить вдоль симмертричных ровных дуг. 
действующий алгоритм делает это с приемлемым результатом примерно в 70% случаев. и не использует ИИ, а использует 
страшную функцию, линеаризует, аппроксимирует и т.п. 
Хочется улучшить точность позиционирования и 
есть желание применить ИИ, но нет ни одной идеи на что это может быть похоже. 
эта задача классификации, регресии, сегментации? 
в качестве обучающей выборки есть большое количество правильных сетапов - как должно быть в итоге. 
Все осложняет тот факт что каждый объект в какой-то степени уникален. у каждого свои бугорки, выступы, трещинки, и по большому счету своя форма,
несмотря на то, что все они принадлежат к одному классу.
У каждого из объектов при этом есть набор лендмарков, или характерных точек - самая нижняя / верхняя точка, линеаризованная граница кромки, 
плоскость касательная к внешнему выступу, и т.п, eще порядка 10-15 фич. 
Почему решил ИИ - потому что в своих подходах он подобен человеку, а сейчас оценку итога работы алгоритма дает именно человек -
по своему опыту судит - нравится/не нравится, красиво/некрасиво, эстетично/ не очень. 

Что тут можно сделать, в какую сторону думать?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Так что имеем то ?

Сцену в 3д формате, и надо выставить объекты по некоторой ориентированной кривой ?

Так объекты аннотированны? Или где верх/низ, и т.д. должна решать сеть?

В общем пока не очень понял что дано, а что ищем.
Может пару картинок привелете, если не секретно конечно )

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Занятно, но тут ведь не только эстетика важна, нужно же и поверности совместить правильно.

Нейронку, кстати, я думаю, можно обучить сегментации поверхностей, где то на гитхабе видел проекты для сегментации 3д сеток (сегментация).

Далее, можно научить определять что это за зуб, и где его правильное место (классификация).

После этого, можно попытаться решить задачку регистрации 3д сеток. (Найти совмещение шаблона и нашей сетки). Классика здесь алгоритм iterative closest point.

Ну дальше по необходимости  и фантазии )

 

PS: Вот кстати про 3д зубы ) : https://github.com/Tai-Hsien/MeshSegNet

ну и вот тут покопайтесь: https://github.com/QiujieDong/Mesh_Segmentation

 

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Спасибо, все изучил. про ICP даже немного знал. 
Примерно понятно про фичепойнты мешей. Есть сети, которые их извлекают. 

Теперь имею идею. Думаю как придумать GAN сеть для этой цели. 
Основное сомнение - везде на вход генерирующая сеть получает шум, и учится из шума делать что-то под руководством 
сети-дискриминатора.
Мне же генерить зубы как таковые не надо. мне их надо только двигать в нужном направлении. 
как тут быть? как задаче подойти? как на вход генератора крывые зубы подать, а ровные получить?

Или я не то говорю?

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Да нет, просто вопрос как генерировать и как оценивать.

Можно, например, генерировать изображение лица с улыбкой из тестируемых зубов, а димкриминатор булет оценивать красоту )

Задаем параметры на входе генератора с матрицами трансформаций, например, на выходе - изображение, далее как обычный ГАН.

Можно напрямую, , без изображений, но надо как то обучить дискриминатор . 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

вот есть много ровных челюстей в качестве обучающего датасета. например таких на второй картинке выше.
а как задать на входе параметры генератора ? conditional GAN - это оно? а что за матрицы трансформаций? 

ко всему еще - у меня 3d meshes. свертка для них описана вроде. 
для Gan нужна вроде деконволюция. Это загадочная штука в случае меша,
но мне генерить сами зубы не нужно, их нужно только передвигать. т.е. подав на вход генератора, 
не изменять их в процессе учебы или инференса, а только передвигать их, поворачивать и тп. 
поэтому деконволюция мешей вроде это не мой случай. 
Куда мне дальше копать? насколько вообще сложной будет сеть? 

С одной стороны в каждом зубе под 10к вертексов. много. но с другой, мне с них нужны немножко фичей плана 
касательной к передней поверхности, удаление от плоскости окклюзии, угол курса, тангажа, крена и расстояние между зубами

Буду пробовать.
Может еще что-нибудь почитать посоветуете на эту тему?
 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Я имел ввиду сделать рендерилку, на взоде 3Д моделька с параметрами положения каждого зуба, 

поворот, смещение, масгтаб , это все обычно и запихнуто в матрицу 4 на 4 для каждого объекта.

Итого, картинка будет функцией от 16*32 параметров. 

А GAN будет обычный, картинковый ) , датасет тоже картинки. 

Сейчас есть хорошие PBR рендерилки, ну например googlовский filament иу или что нибудь из либов Nvidia.

 

PS: погуглите еще 3d morphable models может наведет на новые идеи.

Ну и вот это гляньте: https://github.com/NVlabs/nvdiffrast

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

для рендеринга планирую vtk использовать, есть наработки.
 

Цитата

А GAN будет обычный, картинковый )

с генератором не совсем, но примерно - он будет выдавать матрицу сдвигов всех зубов. 
А при инференсе он будет на вход получать 32 меша? а что с ними делать, не понятно. сравнивать последовательно каждый зуб с чем?  
ума не приложу. 
Читаю про cGAN - там на входе генератора при обучении конкатенируют с шумом например метку. он учится таким образом, что при инференсе 
метка на входе приведет к тому что генератор выдаст только объекты максимально похожие на те, которым его обучали вместе с этой меткой. 
а тут я что буду в качестве условия передавать на вход генератора в процессе обучения? все 32 меша зубов? и что с ними делать? выяснить какие-то фичи 
и потом каждый по своему каналу пройдя все фильтры преобразуется в матрицу 32*16? так что-ли?
 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Ну допустим так:
GAN получает рендеренные картинки как они должны выглядеть. 

Генератор получает при обучении случайные наборы зубов и расставляет, чтобы получать картинки, близкие к требуебым.

При использовании, даем набор сеток и картинку(-ки) с хорошим расположением и получаем набор из 32 матриц трансформации.

Еще посмотрите обратный рендеринг (inverse rendering), например matsuba2. 


VTK - все же больше для других целей, реалистично в нем сложно отрендерить. 

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах
18 часов назад, Smorodov сказал:

При использовании, даем набор сеток и картинку(-ки) с хорошим расположением и получаем набор из 32 матриц трансформации.

Если ей при использовании нужно давать картинку с хорошим расположением, то теряется смысл всего мероприятия. Мне от генератора как раз надо получить картинку с хорошим расположением как результат его работы над входным набором мешей. Ну или матрицу трансформаций, а потом отрисовать хорошую картинку, используя эту матрицу.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Ну может я что то упустил. 

Я имел ввиду, что входная картинка, например, вариант нормально расположенных зубов здоровой челюсти, вариаций то немного, на мой взгляд дилетанта )

А сеть постарается собрать что то максимально близкое из данных ей деталей. Как то так.

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

в общем. это не задача для гана. решилось все обычным автоэнкодером. пока только в 2D по одному признаку выравнил. для кодера хватило 3 слоя свертки с макспулингом, батч норм и нелинейностью.  декодер в обратной последовательности. вместо макспулинга - апсемплинг.
теперь в 3D делаю. и по нескольким признакам. 

Поделиться сообщением


Ссылка на сообщение
Поделиться на других сайтах

Создайте учётную запись или войдите для комментирования

Вы должны быть пользователем, чтобы оставить комментарий

Создать учётную запись

Зарегистрируйтесь для создания учётной записи. Это просто!

Зарегистрировать учётную запись

Войти

Уже зарегистрированы? Войдите здесь.

Войти сейчас


  • Сейчас на странице   0 пользователей

    Нет пользователей, просматривающих эту страницу

×