دانلود مقاله الهام گیری از کوانتوم در شبکه های عصبی کانولوشنال
چکیده
1 مقدمه
2 عصب الهام گرفته از کوانتوم و عملیات پیچشی
3 معماری شبکه های عصبی پیچشی الهام گرفته از کوانتومی
4 نتایج تجربی
5 نتیجه گیری
منابع
Abstract
1 Introduction
2 Quantum-inspired neuron and convolutional operation
3 The architecture of quantum-inspired convolutional neural networks
4 Experimental results
5 Conclusions
Declarations
References
چکیده
شبکه عصبی مصنوعی الهام گرفته از کوانتومی یک حوزه تحقیقاتی جالب است که محاسبات کوانتومی و یادگیری عمیق را ترکیب می‌کند. چندین مدل از نورون های الهام گرفته از کوانتومی با وزن های واقعی پیشنهاد شده است، و آنها عمدتاً برای ساخت شبکه های عصبی پیشخور سه لایه استفاده شدند. در این کار، ما شبکه‌های عصبی کانولوشنال (CNN) را با استفاده از روش الهام گرفته از کوانتومی نمایش داده‌ها و عملیات کانولوشنی بهبود می‌بخشیم. به طور خاص، ما ابتدا نورون الهام گرفته از کوانتومی را با بهره‌برداری از وزن‌های با ارزش پیچیده، که ظرفیت نمایشی غنی‌تر و غیرخطی بودن بهتری دارند، بهبود می‌بخشیم. علاوه بر این، ما روش پیاده‌سازی نورون‌های الهام‌گرفته از کوانتومی را برای انجام عملیات کانولوشن گسترش می‌دهیم و به طور طبیعی مدل‌های شبکه‌های عصبی کانولوشنال الهام گرفته از کوانتومی (QICNN) را که قادر به پردازش داده‌های با ابعاد بالا هستند ترسیم می‌کنیم. در اینجا پنج نوع خاص از QICNN پیشنهاد شده‌اند که در نحوه اجرای لایه‌های کانولوشنال و لایه‌های کاملاً متصل متفاوت هستند. ما چارچوب ریاضی جزئیات را برای پیاده سازی QICNN ها ایجاد می کنیم. عملکرد دقت، همگرایی و استحکام پنج QICNN در برابر همتای کلاسیک با استفاده از مجموعه داده‌های MNIST و CIFAR-10 آزمایش می‌شود. نتایج نشان می‌دهد که (1) QICNN می‌تواند به دقت طبقه‌بندی بالاتر (تا 99.65%) نسبت به CNN کلاسیک در هنگام استفاده از مجموعه داده MNIST دست یابد. (2) QICNN سرعت همگرایی سریع‌تری دارد، به این معنی که QICNN را می‌توان به راحتی نسبت به CNN کلاسیک در زمانی که تعداد پارامترهای مشابهی دارند آموزش داد. (3) QICNN در مورد استفاده از روش های مختلف اولیه سازی وزن یا چرخش داده های ورودی، استحکام بهتری دارد. انتظار می‌رود که QICNNهای ما بتوانند در کارهای یادگیری عملی‌تر از همتایان کلاسیک بهتر عمل کنند.
توجه! این متن ترجمه ماشینی بوده و توسط مترجمین ای ترجمه، ترجمه نشده است.
Abstract
Quantum-inspired artificial neural network is an interesting research area, which combines quantum computing and deep learning. Several models of quantum-inspired neuron with real-valued weights have been proposed, and they were mainly used to build the three-layer feedforward neural networks. In this work, we improve the convolutional neural networks (CNNs) by utilizing the quantum-inspired way of data representation and convolutional operation. Specifically, we first improve the quantum-inspired neuron by exploiting the complex-valued weights, which have richer representational capacity and better non-linearity. Moreover, we extend the method implementing the quantum-inspired neurons to perform convolutional operations, and naturally draw the models of quantum-inspired convolutional neural networks (QICNNs) capable of processing high-dimensional data. Here five specific types of QICNNs are proposed, which are different in the way of implementing the convolutional layers and fully connected layers. We establish the detail mathematical framework to implement the QICNNs. The performances of accuracy, convergence and robustness of the five QICNNs against the classical counterpart are tested using the MNIST and CIFAR-10 datasets.
Introduction
In the past few years, the field of quantum computing has witnessed many breakthroughs in both quantum processors [1, 2] and quantum algorithms [3–5]. Quantum computing performs information processing in a quantum mechanical way, that is, encoding the data into an exponentially large Hilbert space and manipulating this data space in a parallel way, which result into the exponential improvements of data representation power and computational power. On the other hand, deep learning is the art of making computers learn how to solve problems based on huge amounts of data, and now faces challenges of storage and computational resources. It is therefore only natural to ask if and how they could be combined to add something new to how machines recognize patterns in data.
At present, algorithm researches at the junction of quantum computing and deep learning focus on two active directions. One is to search for the real quantum algorithms [3]; such algorithms harness the unique properties of quantum mechanics, including the quantum superposition and entanglement, to encode and process data. The other direction is to develop the so-called quantum-inspired algorithms [6–19]; such algorithms borrow the basic ideas and formalism of quantum computing, such as the way of data representation and complex operations, to improve the existing classical algorithms or even find new algorithms. The salient difference between the two realms of algorithms is that the first kind of algorithms run on the quantum computers, while the second one run on the conventional computers.
Conclusions
In the present work, we improve the quantum-inspired neurons by exploiting the complex-valued weights to have richer representational capacity and better non-linearity. Then the basic idea of quantum-inspired neuron is extended naturally to perform the complex-valued convolutional operations. By employing the quantum-inspired neurons in the fully connected layers and/or the convolutional operations in the convolutional layers, we develop five types of quantuminspired convolutional neuron networks (QICNNs). The detail mathematical framework to implement the QICNNs are developed, which can be executed based on the common realvalued framework of machine learning. The performances of the five QICNNs are studied using the MNIST and CIFAR-10 dataset. The results show that the QICNN using the quantuminspired neuron in the fully connected layers has the best performance. The performance of classification accuracy, convergent rate and robustness is remarkably higher than the classical template CNN.