چکیده
استفاده از زبان اشاره یکی از روش های غریزی برای ایجاد ارتباط برای نشان دادن یک منظور یا مقصود خاص می باشد . ازین رو، تحقیقات در رابطه تفسیر زبان نشانه ها با استفاده از حرکت های اشاره ، به صورت گسترده در طول دهه های گذشته، بررسی شده است تا بتوان دستگاه ها و روش های مناسب کمکی برای افراد کر و لال فراهم شوند تا آن ها بتوانند بدون مشکل، ارتباطات اجتماعی داشته باشند. در این مقاله، یک سیستم تفسیر زبان نشانه ای هوشمند با استفاده از یک دستگاه پوشیدنی دستی پیشنهاد شده است تا بتوان به هدف مورد نظر دست پیدا کرد. این سیستم های پوشیدنی از 5 سنسور ترکیبی ، دو سنسور فشاری، یک سنسور حرکتی داخلی با سه محور استفاده می کند تا مشخصه های الفبای زبان انگلیسی اشاره را شناسایی کند. این سیستم به صورت کلی شامل سه ماژول می باشد : یک دستگاه پوشیدنی با یک ماژول سنسور و یک ماژول پردازش، یک واحد نمایش برنامه موبایل. داده های سنسور ها با استفاده از یک دسته بندی کننده ماشینی بردار پشتیبان داخلی، تحلیل و دسته بندی می شود. سپس، الفبای شناسایی شده از طریق ارتباطات کم انرژی بلوتوث به دستگاه موبایل ارسال می شود. یک نرم افزار موبایل مبتنی بر اندروید نیز با عملکرد تبدیل متن به گفتار ایجاد شده است که متن دریافت شده را به صورت خروجی های صوتی تبدیل می کند. نتایج آزمایش ها نشان می دهد که نرخ صحت شناسایی زبان اشاره به صورت 65.7% می باشد که به صورت میانگین در نسخه اول بدون سنسور های فشار، قابل شناسایی می باشد. یک نسخه دوم از سیستم پوشیدنی پیشنهاد شده با ترکیب سنسور های فشاری بر روی انگشت میانی نیز باعث افزایش صحت شناسایی به صور محسوس شد و این مقدار را به 98.2% رساند. سیستم پیشنهاد شده پویشدنی نسبت به روش های موجود عملکرد بهتری دارد، مثلا با وجود این که نور های پس زمینه ای و دیگر عوامل برای روش های پردازش مبتنی بر دید ضروری هستند، اما برای سیستم پیشنهاد شده ضروری نیستند.
5. جمع بندی
در این مطالعه، ما به صورت موفق ، دستگاه های پوشیدنی دستی هوشمند جدیدی را طراحی و اجرا کردیم که می توان با استفاده از طبقه بندی کننده های داخلی SVM از آن به عنوان یک سیستم تفسیر زبان اشاره، استفاده کرد. یک نرم افزار موبایل مبتنی بر اندروید هم در این سیستم توسعه یافته است که برای نمایش کارایی دستگاه هوشمند پوشیدنی با سرویس صوت به گفتار مورد استفاده قرار می گیرد. سوژه های مشارکت کننده در این برنامه ، امتیاز بالایی به این دستگاه هوشمند و سیستم تفسیر از نظر راحتی، انعطاف و قابلیت جابجایی دادند. پایه های نگهدارنده این دستگاه با استفاده از رشته های منعطف به صورت سه بعدی چاپ شد و سپس همین نگهدارنده برای تثبیت بر روی سایزهای مختلف دست و انگشت مورد استفاده قرار گرفت و ازین رو، دیگر نیازی به ساخت دستگاه های سفارشی وجود نداشت. کار های آتی بر روی این سیستم می تواند موضوعاتی مانند طراحی بورد های مدار چاپی با سایز کوچکتر، استفاده از کلمات و جملات در سطح زبان اشاره و خروجی صوتی فوری را در نظر بگیرد.
Abstract
Gesturing is an instinctive way of communicating to present a specific meaning or intent. Therefore, research into sign language interpretation using gestures has been explored progressively during recent decades to serve as an auxiliary tool for deaf and mute people to blend into society without barriers. In this paper, a smart sign language interpretation system using a wearable hand device is proposed to meet this purpose. This wearable system utilizes five flex-sensors, two pressure sensors, and a three-axis inertial motion sensor to distinguish the characters in the American sign language alphabet. The entire system mainly consists of three modules: 1) a wearable device with a sensor module; 2) a processing module; and 3) a display unit mobile application module. Sensor data are collected and analyzed using a built-in embedded support vector machine classifier. Subsequently, the recognized alphabet is further transmitted to a mobile device through Bluetooth low energy wireless communication. An Android-based mobile application was developed with a text-to-speech function that converts the received textinto audible voice output. Experiment results indicate that a true sign language recognition accuracy rate of 65.7% can be achieved on average in the first version without pressure sensors. A second version of the proposed wearable system with the fusion of pressure sensors on the middle finger increased the recognition accuracy rate dramatically to 98.2%. The proposed wearable system outperforms the existing method, for instance, although background lights, and other factors are crucial to a vision-based processing method, they are not for the proposed system.
V. CONCLUSION
In this study, we successfully designed and implemented a novel and smart wearable hand device as a sign interpretation system using a built-in SVM classifier. An Android-based mobile application was developed to demonstrate the usability of the proposed smart wearable device with an available text-to-speech service. The participating subjects gave a high rating to the proposed smart wearable sign interpretation system in terms of its comfort, flexibility, and portability. The device holders were 3D-printed using a flexible filament, and the same holders are able to fit different hand and finger sizes, thus eliminating the necessity of custom-made devices. Future work on the proposed smart wearable hand device will consider the design of a smaller sized printed circuit board, the inclusion of words and sentences at the sign language level, and instantly audible voice output components.
چکیده
1. مقدمه
2. طراحی سیستم
الف ) طراحی سخت افزاری و جریان سیستم
ب) ساز و کار آزمایش
3. روش ها
الف ) پیش پردازش
ب) استخراج ویژگی
ج) دسته بندی کننده اشاره ها
4. نتایج و مباحث
الف ) نتایج آزمایش
ب) کاربرد تفسیر زبان اشاره
5. جمع بندی
منابع
Abstract
I. INTRODUCTION
II. SYSTEM DESIGN
A. Hardware Design and System Flow
B. Experiment Setup
III. METHODS
A. Preprocessing
B. Feature Extraction
C. Sign Classifier
IV. RESULTS AND DISCUSSION
A. Experiment Results
B. Sign Interpretation Application
V. CONCLUSION
REFERENCES