다빈치 SW 공모전

'언택트 시대에 유용한 앱 혹은 서비스를 주제로한 SW 공모전으로
2020-2학기 비공학 전공 재학생 2인 이상이면 참가 가능합니다.

자세히 알아보기

캡스톤 디자인 경진대회

캡스톤 디자인 교과목 수행 결과물 또는 졸업 작품 심사
2019년 2학기, 2020년 1학기 중 한 학기 이상 캡스톤 디자인 교과목을
수강한 학생만 참가 가능합니다.

자세히 알아보기

PE연구활동 발표대회

PE연구/개발 활동을 수행하면서 얻어진 다양한 형태의 결과물
(논문형태의 결과보고서, 논문, 발명품, 작품, 콘텐츠 등)을 심사

자세히 알아보기

SW·AI 창업아이디어경진대회

SW 관련 전공 학부생 여러분!
반짝이는 SW창업 아이디어로 여러분의 미래를 바꾸십시오!

자세히 알아보기

SW·AI융합우수성과 발표회

SW융합전공 / 복수 전공 학생 여러분!
SW융합전공 / 복수전공을 이수하는 과정에서 얻어진 성과를 뽐내 주세요.

자세히 알아보기

다빈치 주니어 SW 작품대회

창의적인 아이디어와 소프트웨어를 활용한
멋진 SW 작품을 만들어 보세요!

자세히 알아보기

다빈치오픈소스 SW·AI 딥러닝 해커톤

4차 산업혁명을 견인하는 심층학습을 주제로한 SW·AI 딥러닝 해커톤으로
소프트웨어대학 재학생으로 구성된 2인 이하 팀으로 참가 가능합니다.

자세히 알아보기

코딩경진대회

소프트웨어 중심 대학으로서 중앙대학교의 소프트웨어 관련
교육 프로그램 성과를 공유합니다.

자세히 알아보기

캡스톤 디자인 경진대회

  • Muggles

    팀장
    이서라 (소프트웨어학부 | 4학년)
    팀원
    김영은 (소프트웨어학부 | 4학년)
좋아요 92
답변 수 43
작품(아이디어)명 : Handy Potter : 음성->수화 번역 어플리케이션
  • 작품 소개
  • 2020-09-12 update.

    Introduction

    -Project

    ekWT2f0bCitJGfVsjn66sx9F8NtymRPgU3pg8xmG34DQOZZaRWM2A7DszrBaojNWUI1by5wntDZTXbMwE_sF7YH4D2RuduknBMuKeCnlQZ_5yo5X5EAkyyY0z1gFD9-XS_DRTjnt
     

    : 해리포터는 지팡이를 사용하여 불가능이라 생각했던 일들을 해내곤 했습니다. 해리포터의 지팡이처럼, 우리가 만드는 어플도 청각장애인들이 놓치고 있던 음성 정보를 받아들이는 손 안의 지팡이처럼 사용될 수 있기를 바랍니다. 

    -Team

    Muggles

    : 해리포터에 나오는 일반인을 가리키는 말입니다. 머글들은 마법을 사용할 줄 모르지만, 때론 마법보다 더 강력한 일을 해내곤 했습니다. 

     

    Background

     

     수어는 청각 장애인 대부분이 의사소통을 위해 사용하는 또 하나의 언어입니다. 한국수어사용실태조사 보고서에 따르면 국내 장애인 중, 약 25%가 청각 장애인이고, 그들의 주 의사소통 수단은 수어라고 답했습니다. 하지만 제1언어인 수어로의 교육 환경이 제대로 마련되어 있지 않아 청각장애인은 배움에 있어 큰 어려움을 겪습니다.이것은 청각장애인의 교육권을 보장하지 못함을 나타내고 노동시장에서의 경쟁력 부족,사회적,문화적으로의 고립을 발생시키게 됩니다

     

    Project Necessity

    많은 분들이 이런 의문점을 가지셨을 것입니다. 

     자막을 보여주면 되지 않느냐?

     TUZ3-MO75dpNYxczyE1l2lDRwk4k8xqJUvNWBV_H2zr89RMq0PPcpsnPzgEU-cxe-XUT4_QAIHq-p7jQuOoNTBzcylYmYI4BuFnWGpzE4EfngHRmV688IkUXp7oVCf2-XcP75elo

     2017년 한국수어사용 실태조사 연구에 따르면 가족과의 의사소통에서 수어를 사용한다는 비율이 42.7%이고 수어와 음성 언어 중 수어를 선호하는 비율이 80.3%입니다. 청각장애인의 경우 수어가 제 1언어이고 한국어 제 2언어입니다. 이중언어의 관점에서 봤을 때 8-12세에 언어를 배우는 것이 가장 효과적인데  수어로 한국어 교육을 받는 청각장애인의 경우 이때 제대로 교육을 받지 못하면  한국어에 더 큰 어려움을 느끼게 됩니다. 국어문법과 수어의 문법차이로 인해 도서를 읽을 때도 이해가 어려운 경우가 많아 현재 도서관에서는 수어통역도서가 구분되어 제공됩니다. 

    일반인으로 빗대어 보면, 영어의 문법은 모른 채, 단어만 아는 상태로 원서를 읽는 것과 같은 경우입니다.  이런 상황에서 청각장애인들이 의사소통이나 정보 취득 면에서 뒤쳐질 수밖에 없습니다.  따라서 청각장애인이 비장애인만큼의 음성 언어 정보에 접근하도록 하는 것은 매우 중요한 문제입니다.

     

     따라서 우리가 해야 할 일은 모두가 ‘치료’되어 비장애인이 되는 사회가 아니라 모두에게 접근 가능한 사회를 만드는 것입니다.

    청각장애인에게 필요한 기술은 소리로 잘 말하기를 강요하는 것이 아니라,음성언어를 수화와 문자로 통역해주는 기술입니다.

     

    그래서 저희는 생각했습니다. 음 이걸 어떻게 해결할까

     

    Market Research

    먼저 해외 및 국내에서 사용할 수 있는 청각장애인 지원 서비스를 조사하였습니다.

     해외에서 주로 쓰이는 청각장애인용 수어 번역 어플리케이션은 크게 두 가지입니다. 첫 번째로 영어와 포르투갈어를 지원하는 핸드톡입니다. 짧은 문장만 수화로 번역이 되는 한계점이 있습니다. 성깅 no 두번째로 더 많은 언어를 지원하는 프로데프입니다. 이 또한 짧은 문장만 번역을 지원하고 수어 사전이 내장되어 있으나 업데이트가 잘되지않고 있습니다. 나머지 아래의 기술들은 수어를 번역해주는 서비스들로 글러브나 키넥트 등 비싼 보조기기가 필요한 서비스들입니다.
    VP5JDiNCHFwKYh__p9v61HGHAzLC-I3emEVvyRh3FsvgABk1ETo5fd3vHFOQwkA1HE7q7Ea_sqyvU-Eih_BLW8urAaS79v6J3WHXbl-r1DOB_BsJFP7xAepfmj_r13v7NmsT5O4r

     

     다음은 우리나라에서 사용할 수 있는 서비스 들입니다. 서울시는 올해부터 ‘청각장애인 소리를 문자로 만나다!’란 이름으로 속기서비스를 제공합니다. 또한 2016년 한국수화언어법 제정으로 수어를 이용한 수어영상도서 및 자막 제작 등 정보 생산을 독려하고 있지만, 상당 수 예산의 문제로 제대로 이루어지지 않고 있습니다.

     두번째로 청각장애인이 사용할 수 있는 수어통역 어플리케이션으로는 수화번역 도우미와 실시간 문자통역 서비스 쉐어타이핑 이렇게 두 가지가 있습니다. 수화번역 도우미의 경우에는 한국어가 지원되는 장점이 있지만 앱을 사용해보았을 때, 문자로 입력된 문장만 수화로 번역할 수 있었고, 긴 문장 검색 시 화면에서 문장을 볼 수 없는 등 사용 시의 불편점이 많았습니다. 쉐어타이핑의 경우에는 사람이 직접 속기서비스를 제공하는 것입니다. 이를 통해 알 수 있듯이 한국에서 사용할 수 있는 서비스는 주로 사람에 의해 이루어지는 것인데 교육부에 등록된 수어통역제공 통역사와 속기사는 160명에 불가합니다.

    BA0KV1nB0T14JFhgiRPYVRqoSYqN9WxSnQVuMkOpdQDq1ZkFqL9StKL2-blpCwuo8-JxUl8rL74hdiAAFgsbG63yTcLFjcO8IaxVsdGhMOvejzD0TS2aMu1WtQ4O2ItB-a6bLiq-

     

    Project Goal

     

    따라서 저희는 1) 수화 통역에 제3자를 참여시켜야 하는 번거로움을 줄이고 2)농인이 언제 어디서든 음성언어 정보에 쉽게 접근할 수 있도록 만드는 것과 더 나아가서 3)농인의 교육 현장에서 사용될 수 있는 한국 수어 어플리케이션을 만드는 것 이렇게 세 가지를 프로젝트 목표로 삼았습니다
     

    Differentiation

     

     현재 제공되고 있는 대부분의 청각장애인 관련 서비스는 수어통역사나 속기사에 의해 직접 제공되고 있습니다. 또한 미국 수화인 ASL은 관련 번역 어플이 많이 개발되고 있지만 우리 나라에서 사용할 수 있는 어플리케이션은 문장을 입력했을 때 수화를 애니메이션으로 보여주는 ‘수화번역 도우미’ 어플리케이션 하나입니다.

     

    ‘Handy Potter’는 이러한 문제점을 해결하기 위해, 음성 언어à수화로의 번역을 제공한다. 수화 통역에 제3자를 동행하여야 하는 번거로움을 줄이고, 언제 어디서든 쉽게 서비스에 접근할 수 있도록 안드로이드 어플리케이션으로 제작하였습니다. 또한 음성에서 감정 정보를 추출하여 수화의 주요 요소 중 하나인 비수지 신호를 함께 구현하여 말의 뉘앙스 또한 알 수 있도록 제작하였습니다.


     

  • 세부내용

  • Simple Architecture & Implementation

    Part 1. Modeling

     수화의 기본적인 요소는 수화소라는 의미 구분의 구성 요소입니다. 수화소는 음성언어의 음소(언어를 구성하는 가장 작은 소리의 기본단위로 국어의 자모에 해당)에 대비되는 개념으로서 한국 표준 한글 수화는 손 운동, 손 모양, 손 위치, 그리고 손 방향을 기본 요소로 사용합니다.
    수화는 이러한 기본적인 동작을 결합하여 구성되기 때문에 각각의 손 운동, 손 모양, 위치, 방향의 조합을 통해 수화를 나타내도록 하였습니다. 각 유닛 모델링은 논문을 참고하여 수화를 손 동작, 손의 위치, 움직임, 방향으로 나누어 동작을 DB화 하고 유니티로 모델링하였습니다.

     aa.PNG
     수화소 DB의 일부입니다. 왼쪽은 손의 위치, 오른쪽은 손 운동을 나눈 것입니다.
    각 동작은 오른손, 왼손에 따라 각각 모델링되어 있습니다.
    단어 출력은 다음과 같이 이루어집니다.

    오늘
    H11+D10+P13+M16@H11+D10+P13+M16

    날씨
    H4+P13+D5+M11+H11+P13+D5+M2+M16@H4+P13+D5+M11+H11+P13+D5+M16


    좋다
    H0+P0+D0+M0@H1+P13+D16+M0


    빨간색 부분의 경우에는 왼쪽 손이 실행하는 쿼리이고 파란색 부분은 오른쪽 손이 실행하는 쿼리입니다.

    다음은 여러가지 유닛 에니메이션을 동시에 실행하기 위한 파이프라인 시스템인 애니메이터입니다. 단어에 해당하는 각 동작을 모델링한 후 국립국어원의 수어사전을 참고하여 테스트하였습니다.

    캡처.PNG



     감정 표현의 경우에는 아래와 같이 Robert Plutchik's의 감정모델을 사용하여 배경색이 바뀌도록 하였습니다. 
    후에 더 정확한 감정 표현을 위해 이모티콘을 추가하였습니다.


    9.PNG

    Part 2. Text Processing

     수화는 한국어와 기본적인 유사성을 지니지만, 다음의 큰 차이점이 있습니다. 한국어가 의미형태소에 조사, 어미와 같은 형식 형태소가 붙음으로써 문법적 기능을 하게 되지만, 수화의 경우 문법적인 관계를 나타내는 형태소를 거의 쓰지 않고 일반적으로 각각의 단어가 독립적으로 어순에 따라 나열됩니다.
    또한 정보의 중요도에 따라 필요 없는 요소는 생략하고, 수화 표현을 위한 구성 요소의 일부를 변형시킴으로써 동일한 어휘로 문맥에 따른 의미를 반영합니다.

    예를 들어,
    어머니로부터 온 편지 à 어머니 + 오다 + 편지
    선생님께서 나에게 청소를 시키셨다. à 선생님 + 나 + 청소 + 시키다
     
    왼쪽의 한국어 문장은 수화로 번역될 때 오른쪽과 같이 바뀝니다.
    따라서 수화로 번역을 위해 두 가지의 텍스트 전처리를 실행하였습니다.

    1.
     오픈 소스 형태소 분석 엔진인 MeCab을 이용한 형태소 분석

    5.jpg
    Mecab을 이용하여 문장을 분석하면 위와 같은 형태로 출력이 됩니다.
    먼저 문장 데이터를 이용하여 수화에서 사용하는 문장 성분을 추출합니다.

    2. 
    Word2Vec를이용한 동의어 처리

    단어의 의미를 정확히 하기 위해 word2Vec을 사용하여 문장을 처리하면 각 단어의 유사 단어가 비슷한 순으로 10개씩 출력됩니다. 그 중 가장 유사도가 높은 첫 번째 값을 사용합니다.

    위의 두 전처리는 병렬로 처리되어 수화에서 필요한 형태소와 word2vec에서 나온 단어를 조합한 후, 수화의 문장 구성으로 재배열하여 저장합니다.
    마지막으로 문장에서 감정 추출을 위해

    3. 
    감성사전을 이용한 감정 추출

    KNU 한국어 감성사전과 더불어 ‘한국어 감정표현단어의 추출과 범주화라는 논문에서 발췌된 감성사전을 사용하여 문장에서 추출된 감정 표현 단어를 수집합니다. 수집된 단어는 감성 사전에서 기쁨’, ‘분노’, ‘놀람’, ‘흥미 10개의 감정 형태로 나뉘고, 감정의 수준에 따라 사전에 명시된 대로 점수가 부여됩니다. 문장에서 수집된 감정 단어의 점수를 합하여 점수가 높은 감정이 문장을 대표하는 감정이 됩니다.

    Part 3. Application
    6.jpg
    어플리케이션은 위와 같은 동작을 수행합니다.
    저희가 사용한 Unity 2019.3.1f에서는 유니티 라이브러리안에서 안드로이드 플러그인을 제공합니다. 또한 지원 형태로는 Clova의 경우 API를 지원하고 유니티의 경우 라이브러리를 지원합니다. 그렇기에 빠른 실행을 위해 유니티 라이브러리 내에서 Speech to text 결과값과 서버에서 전처리가 끝난 값을 바로 전달받아 실행될 수 있도록 하였습니다.


     

     

     

     

     

     

     

     

     

     

     

     

     

  • 기대 효과
  • 본 프로젝트를 통해 우리는 음성 -> 수어 번역 어플리케이션을 통해 청각 장애인들이 조금 더 쉽게 소통할 수 있게 어플리케이션을 제작하였다. 나아가 청각장애인이 아니더라도 수어 사전과 수어 배워보기라는 추가 기능을 제작하여 서비스를 이용하는 사람들이 수어를 배울 수 있다.
    Unity 에서 더 자연스러운 애니메이션과 수어 번역을 위한 데이터베이스가 더 많이 구축되고, 기존의 STT의 정확도를 높이게 되면 훨씬 사용성이 좋고, 실제 청각장애인들이 쓰기에 적절한 어플리케이션이 될 것이라 예상된다. 이 수어 번역 어플리케이션이 조금 더 다듬어지고 활성화가 된다면, 충분히 청각장애인들이 의사소통이나 정보 취득 면에서 음성 언어 정보에 더 쉽게 접근할 수 있을 것이다.
  • 결과물
  • 그림2.png

    그림1.png

    https://github.com/HandyPotter
     

좋아요 참여 92

  • 학년 별

  • 학과 별

QnA 참여 45

중앙대학교 다빈치 sw tech fair 참가신청 닫기