Новосибирец научил компьютер понимать жесты глухих

Первый экзамен сдали в школе жестового языка в Новосибирске

Он создал программу, не имеющую аналогов. Машина читает движения рук без специальных перчаток и браслетов.

Новосибирские новости

12:28, 06 сентября 2019

Программист НГТУ НЭТИ Алексей Приходько обучил систему переводить жесты на звуковой язык и управлять компьютером без мыши. Он — единственный глухой айтишник в мире, разработавший прототип такой программы, сообщает пресс-служба вуза.

Отсутствие слуха не помешало Алексею окончить аспирантуру, пройти стажировку в Германии, получить грант фонда Владимира Потанина и стать экспертом в IT-сфере.

Система работает по аналогии с мозгом человека. При помощи камеры распознаёт жесты, переводит картинку в модели и обрабатывает, сопоставляя с данными в нейронной сети, после чего компьютер выводит на монитор перевод.

«Если модель определяет, например, что пальцы раскрыты — буква В, если пальцы собраны — О. Согнулся локоть или нет. В зависимости от этого формируется некая математическая модель. Каждым числам из неё присваивается система координат, и на экране мы видим, какой это жест», — рассказал Алексей Приходько.

Кроме того, программа способна управлять компьютером при помощи жестов. Движениями рук можно настроить громкость, яркость и двигать курсор на экране без мыши.

По словам новосибирца, сегодня существует много компаний, которые рекламируют переводчики для глухих: Savvy Motion, Kinect Sign Language Translator в Microsoft Research и другие, однако качество работы их приложений оставляет желать лучшего.

Фото: пресс-служба НГТУ

Проблема связана с главной особенностью жестового языка — его грамматикой. Перевод зависит не только от конфигурации рук, но и от их расположения и немануального компонента (выражение лица, движение губ и другие знаки артикуляции).

Существует два способа распознавания жестов при помощи техники: безмаркерный и маркерный. Первый — когда надеты специальные перчатки, приборы на запястья, браслеты и агрегаты.

Переводчик айтишника из НГТУ — безмаркерный и не потребует от пользователя затрат на дополнительное оборудование. Сейчас Алексей ищет инвесторов, которые захотят профинансировать разработку.