RU77483U1 - ASSOCIATIVE MEMORY - Google Patents
ASSOCIATIVE MEMORYDownload PDFInfo
- Publication number
- RU77483U1 RU77483U1RU2007147587/22URU2007147587URU77483U1RU 77483 U1RU77483 U1RU 77483U1RU 2007147587/22 URU2007147587/22 URU 2007147587/22URU 2007147587 URU2007147587 URU 2007147587URU 77483 U1RU77483 U1RU 77483U1
- Authority
- RU
- Russia
- Prior art keywords
- information
- associative memory
- neural network
- domain
- inputs
- Prior art date
Links
- 238000013528artificial neural networkMethods0.000claimsabstractdescription39
- 210000002569neuronAnatomy0.000claimsabstractdescription33
- 238000012545processingMethods0.000claimsabstractdescription14
- 210000004027cellAnatomy0.000claimsabstractdescription9
- 238000012549trainingMethods0.000claimsabstractdescription9
- 230000004044responseEffects0.000claimsabstractdescription8
- 239000012634fragmentSubstances0.000claimsabstractdescription7
- 244000052769pathogenSpecies0.000claimsabstractdescription7
- 230000001717pathogenic effectEffects0.000claimsabstractdescription7
- 238000000034methodMethods0.000claimsabstractdescription6
- 230000006870functionEffects0.000claimsdescription5
- 238000005516engineering processMethods0.000abstractdescription2
- 238000003909pattern recognitionMethods0.000abstractdescription2
- 230000005540biological transmissionEffects0.000description2
- 108091027981Response elementProteins0.000description1
- 238000004891communicationMethods0.000description1
- 238000010276constructionMethods0.000description1
- 230000001537neural effectEffects0.000description1
- 238000012546transferMethods0.000description1
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
Translated fromRussianDescription
Translated fromRussianЗаявленное устройство ассоциативной памяти относится к вычислительной технике и может использоваться в информационно-поисковых системах, системах распознавания образов, системах управления сложным технологическим оборудованием, экспертных системах, обучающих системах, а также в других вычислительных устройствах, где требуется сбор, хранение, обработка и поиск большого объема разнородной информации.The claimed associative memory device relates to computer technology and can be used in information retrieval systems, pattern recognition systems, control systems for complex technological equipment, expert systems, training systems, as well as in other computing devices that require the collection, storage, processing and search of large the volume of heterogeneous information.
Известно устройство ассоциативной памяти, где для поиска информации используется некоторая совокупность свойств или описаний объекта /Л-1/. Данные, которые содержат описание или совокупность свойств, для разных объектов, сохраняются в различных ячейках, запоминающих устройствах или фрагментах ассоциативной памяти. Обращение к ассоциативной памяти производится путем указания объекта и (или) его описаний, перечня свойств, которые являются признаком этого объекта и отличают его от других, похожих объектов.A device for associative memory is known where some set of properties or descriptions of an object / L-1 / is used to search for information. Data that contains a description or set of properties for different objects is stored in different cells, storage devices or fragments of associative memory. An appeal to associative memory is made by specifying an object and (or) its descriptions, a list of properties that are a sign of this object and distinguish it from other, similar objects.
Известна иерархическая система ассоциативной памяти, содержащая ассоциативное запоминающее устройство /Л-2/. В иерархическую систему ассоциативной памяти введены дополнительные ассоциативные запоминающие устройства. Входы/выходы блока памяти ассоциативного запоминающего устройства с i-м (i=1...N) направлением ассоциативного доступа соединены с выходами/входами блоков памяти i ассоциативных запоминающих устройств с (i-1) направлением ассоциативного доступа. Управляющие входы ассоциативного запоминающего устройства с i-м направлением ассоциативного доступа являются управляющими входами i-й группы системы.Known hierarchical system of associative memory containing an associative storage device / L-2 /. Additional associative storage devices are introduced into the hierarchical system of associative memory. The inputs / outputs of the memory block of the associative storage device with the i-th (i = 1 ... N) associative access direction are connected to the outputs / inputs of the memory blocks of the i associative storage device with the (i-1) associative access direction. The control inputs of the associative storage device with the i-th direction of associative access are the control inputs of the i-th group of the system.
Известно также устройство ассоциативной памяти, содержащее средство запоминания и обработки сигналов, которое является искусственным нейронным прибором /Л-3/. Это устройство ассоциативной памяти выполнено с возможностью оперативного приема и преобразования сигналов, представляющих скалярные значения данных в комбинациях «возбудитель»-«отклик», содержащих соответственные взаимно связанные наборы входных элементов возбудителя и отклика.Also known is an associative memory device containing a means for storing and processing signals, which is an artificial neural device / L-3 /. This associative memory device is capable of promptly receiving and converting signals representing scalar data values in the pathogen – response combinations, containing respective mutually connected sets of input pathogen and response elements.
Известны устройства нейронных сетей, которые состоят из нескольких десятков или сотен нейронов /Л.-4/. В этих сетях нейрон выполняет прием информации, ее обработку иKnown devices of neural networks, which consist of several tens or hundreds of neurons / L. 4/. In these networks, a neuron receives information, processes it, and
передачу результата на выход нейрона, масштабирование с выхода нейрона на соответствующие входы других нейронов. С ростом количества нейронов в сети увеличивается количество линий связи, усложняется работа нейрона и увеличиваются затраты на передачу информации.transferring the result to the output of a neuron, scaling from the output of a neuron to the corresponding inputs of other neurons. With the increase in the number of neurons in the network, the number of communication lines increases, the operation of the neuron becomes more complicated, and the cost of information transfer increases.
Известна ассоциативная память, построенная на нейронных сетях Хемминга и Хопфилда /Л-5/. Структура нейронных сетей не позволяет построить ассоциативную память достаточного объема без применения больших компьютеров и суперкомпьютеров.Known associative memory built on neural networks of Hamming and Hopfield / L-5 /. The structure of neural networks does not allow building associative memory of a sufficient volume without the use of large computers and supercomputers.
Наиболее близким по технической сущности к заявляемой полезной модели является ассоциативная память, построенная на нейронных сетях Хемминга и Хопфилда /Л-5/. Она принята в качестве прототипа.The closest in technical essence to the claimed utility model is associative memory built on Hamming and Hopfield / L-5 / neural networks. It is accepted as a prototype.
Заявленная полезная модель ассоциативной памяти, построена на нейронных сетях. В нейронную сеть входят нейроны, вход и выход которых подсоединены к коммутарорам.The claimed utility model of associative memory, built on neural networks. The neural network includes neurons whose input and output are connected to the switches.
Нейрон имеет один вход и один выход. Нейрон выполняет прием обработку и передачу информации.A neuron has one input and one output. A neuron performs reception processing and transmission of information.
Коммутаторы имеют много входов и много выходов, к которым подсоединены входы и выходы коммутаторов, нейронов и доменов. Домен является структурным аналогом нейрона. Домен представляет собой фрагмент большой нейронной сети. Домен реализует функции приема, хранения и обработки информации. Домены имеют иерархическую структуру и могут включать в себя внутренние коммутаторы, нейроны и домены более низкого уровня.Switches have many inputs and many outputs to which the inputs and outputs of switches, neurons, and domains are connected. A domain is a structural analogue of a neuron. A domain is a fragment of a large neural network. The domain implements the functions of receiving, storing and processing information. Domains have a hierarchical structure and can include internal switches, neurons, and lower-level domains.
Заявленное устройство ассоциативной памяти реализовано на нейронной сети с иерархической структурой, что позволяет получить память практически неограниченного объема и сократить затраты времени на поиск и доступ к информации с использованием сети персональных компьютеров (контроллеров и др. вычислительных устройств).The claimed associative memory device is implemented on a neural network with a hierarchical structure, which allows you to get memory of almost unlimited size and reduce the time spent on searching and accessing information using a network of personal computers (controllers and other computing devices).
Существует связь между размером нейронной сети, реализующей ассоциативную память, и максимальным количеством хранимых в ней объектов. Для большой ассоциативной памяти необходима достаточная по размеру нейронная сеть. Построение больших нейронных сетей требует особых способов их организации. Ассоциативная память может быть реализована на нейронной сети путем композиции нейронов сети и выделения в ней доменов, объединения доменов в домены более высокого уровня, а также создания некоторого числа резервных доменов для хранения и обработки данных о новых объектах или для копирования доменов, содержащих ответственные данные. В устройстве ассоциативной памяти домен реализует прием, хранение и обработку данных о некотором объекте или совокупности объектов.There is a relationship between the size of the neural network that implements associative memory and the maximum number of objects stored in it. For large associative memory, a sufficient-sized neural network is needed. The construction of large neural networks requires special ways of organizing them. Associative memory can be implemented on a neural network by composing network neurons and allocating domains in it, combining domains into higher-level domains, as well as creating a number of backup domains for storing and processing data about new objects or for copying domains containing responsible data. In an associative memory device, a domain implements the reception, storage, and processing of data about a certain object or set of objects.
Техническим результатом заявляемой полезной модели ассоциативной памяти является создание ассоциативной памяти практически неограниченного объема, а также сокращение затрат на хранение, обработку и поиск информации.The technical result of the claimed utility model of associative memory is the creation of associative memory of almost unlimited size, as well as reducing the cost of storage, processing and retrieval of information.
Схема заявленного устройства ассоциативной памяти представлена на рис.1.The scheme of the claimed associative memory device is shown in Fig. 1.
Устройство ассоциативной памяти, выполненной на нейронной сети, которая состоит из доменов 4, коммутаторов 2 и нейронов 1. Каждый домен 4 реализует функции одной или нескольких ячеек ассоциативной памяти. Домен представляет собой фрагмент большой нейронной сети. Домен является аналогом нейрона. Домен реализует функции приема, хранения и обработки информации о некотором объекте или совокупности объектов. Домен имеет один вход и один выход. В домен 4 входят следующие компоненты: шлюз 3, коммутаторы 2, нейроны 1, и домены более низкого уровня. Шлюз 3 содержит таблицу шлюзования, а также устройство, которое принимает, передает и перераспределяет информацию на основе этой таблицы. Шлюз 3 имеет один внешний вход и один внешний выход, которые образуют вход и выход домена, а также много внутренних входов и выходов, к которым подсоединены входы и выходы внутренних коммутаторов 2, нейронов 1 и доменов более низкого уровня.An associative memory device executed on a neural network, which consists of domains 4, switches 2, and neurons 1. Each domain 4 implements the functions of one or more associative memory cells. A domain is a fragment of a large neural network. The domain is an analogue of a neuron. A domain implements the functions of receiving, storing and processing information about a certain object or set of objects. A domain has one entry and one exit. Domain 4 includes the following components: gateway 3, switches 2, neurons 1, and lower-level domains. Gateway 3 contains a gateway table, as well as a device that receives, transmits and redistributes information based on this table. Gateway 3 has one external input and one external output, which form the input and output of the domain, as well as many internal inputs and outputs, to which the inputs and outputs of the internal switches 2, neurons 1 and lower-level domains are connected.
Заявленное устройство ассоциативной памяти работает следующим образом.The claimed device associative memory operates as follows.
Ассоциативная память выполнена на нейронной сети. Нейронная сеть состоит из доменов 4, коммутаторов 2 и нейронов 1. Ячейки ассоциативной памяти выполнены на доменах большой нейронной сети.Associative memory is performed on a neural network. A neural network consists of domains 4, switches 2 and neurons 1. Associative memory cells are made on the domains of a large neural network.
Нейрон 1 имеет один вход и один выход. Нейрон выполняет прием, хранение, обработку и передачу информации.Neuron 1 has one input and one output. A neuron performs the reception, storage, processing and transmission of information.
Коммутатор 2 имеет много входов и много выходов, к которым подсоединены входы и выходы коммутаторов 2, нейронов 1 и доменов 4. Коммутатор состоит из таблицы коммутации, а также устройства, которое принимает, передает и перераспределяет информацию на основе этой таблицы.Switch 2 has many inputs and many outputs, to which the inputs and outputs of switches 2, neurons 1, and domains 4 are connected. The switch consists of a switching table, as well as a device that receives, transmits, and redistributes information based on this table.
Домен 4 включает фрагмент большой нейронной сети, а также шлюз 3. Этот фрагмент большой нейронной сети содержит соединенные между собой коммутаторы 2, нейроны 1 и домены более низкого уровня. Домен имеет один вход и один выход. Домен является аналогом нейрона. Домен выполняет функции одной или нескольких ячеек ассоциативной памяти. Домен обеспечивает прием, хранение и обработку информации о некотором объекте или совокупности объектов.Domain 4 includes a fragment of a large neural network, as well as a gateway 3. This fragment of a large neural network contains interconnected switches 2, neurons 1, and lower-level domains. A domain has one entry and one exit. The domain is an analogue of a neuron. A domain acts as one or more cells of associative memory. A domain provides reception, storage and processing of information about a certain object or set of objects.
Внешний вход и внешний выход шлюза 3 образуют, соответственно, вход и выход домена. Шлюз состоит из таблицы шлюзования, также устройства, которое принимает, передает и перераспределяет информацию на основе этой таблицы. Шлюз обеспечивает соединениеThe external input and external output of the gateway 3 form, respectively, the input and output of the domain. A gateway consists of a gateway table, also a device that receives, transmits and redistributes information based on this table. Gateway provides connection
одного внешнего входа и одного внешнего выхода с некоторым числом внутренних входов и выходов, к которым подсоединены коммутаторы 2, нейроны 1 и домены более низкого уровня. Шлюз выполняет функции передачи информации между доменами сети.one external input and one external output with a number of internal inputs and outputs, to which switches 2, neurons 1 and lower-level domains are connected. The gateway performs the function of transmitting information between network domains.
При обучении нейронной сети происходит запись информации в комбинации возбудитель-отклик о свойствах объекта в ячейку ассоциативной памяти, которая реализована на домене нейронной сети.When training a neural network, information is recorded in a pathogen-response combination about the properties of an object in an associative memory cell, which is implemented on a neural network domain.
В процессе работы ассоциативной памяти на входы доменной нейронной сети поступает информация-возбудитель, на выходе нейронной сети формируется информация-отклик о свойствах объекта, которая была записана в домен сети в процессе обучения. При этом информация на входе доменной нейронной сети может быть не полной. Ассоциативная память определит наиболее близкий по входам запомненный объект, восстановит недостающие входные данные и сформирует информацию-отклик о свойствах объекта, которая была записана в домен сети в процессе обучения.In the process of associative memory, the causative information is received at the inputs of a domain neural network, and information is output at the output of the neural network about the properties of the object, which was recorded in the network domain during training. Moreover, the information at the entrance of a domain neural network may not be complete. Associative memory will determine the closest memorized object by the inputs, restore the missing input data and generate response information about the properties of the object, which was recorded in the network domain during training.
Источники информации, принятые во внимание при составлении описания полезной модели:Sources of information taken into account when compiling a description of a utility model:
1. Кохонен Дж. Ассоциативные запоминающие устройства. М.: Мир, 1985 /Л.-1/1. Kohonen J. Associative storage devices. M .: Mir, 1985 / L.-1/
2. Борисов В.В., Огнев И.В. Иерархическая система ассоциативной памяти. Патент №2025795, приоритет 1992.03.17. /Л.-2/2. Borisov V.V., Ognev I.V. Hierarchical system of associative memory. Patent No. 2025795, priority 1992.03.17. / L.-2/
3. Сутерланд Джон. Устройство ассоциативной памяти (варианты) и способ распознавания образов (варианты) патент №2193797, приоритет 1991.04.26 /Л-3/3. Sutherland John. The device of associative memory (options) and the method of pattern recognition (options) patent No. 2193797, priority 1991.04.26 / L-3 /
4. Каллан Роберт, «Основные концепции нейронных сетей»: Пер. с англ. - М.: Издательский дом «Вильямс», 2001. - 288 с. /Л.-4/.4. Callan Robert, “Basic concepts of neural networks”: Per. from English - M.: Williams Publishing House, 2001. - 288 p. / L.-4/.
5. Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992.5. Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992.
Claims (4)
Translated fromRussian
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| RU2007147587/22URU77483U1 (en) | 2007-12-24 | 2007-12-24 | ASSOCIATIVE MEMORY |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| RU2007147587/22URU77483U1 (en) | 2007-12-24 | 2007-12-24 | ASSOCIATIVE MEMORY |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| RU77483U1true RU77483U1 (en) | 2008-10-20 |
Family
ID=40041760
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| RU2007147587/22URU77483U1 (en) | 2007-12-24 | 2007-12-24 | ASSOCIATIVE MEMORY |
Country Status (1)
| Country | Link |
|---|---|
| RU (1) | RU77483U1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2744440C1 (en)* | 2020-09-23 | 2021-03-09 | Федеральное государственное бюджетное учреждение науки Институт физики твердого тела Российской академии наук (ИФТТ РАН) | Method of writing and reading information for permanent memory elements of neuromorphic systems |
- 2007
- 2007-12-24RURU2007147587/22Upatent/RU77483U1/ennot_activeIP Right Cessation
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2744440C1 (en)* | 2020-09-23 | 2021-03-09 | Федеральное государственное бюджетное учреждение науки Институт физики твердого тела Российской академии наук (ИФТТ РАН) | Method of writing and reading information for permanent memory elements of neuromorphic systems |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Bhardwaj et al. | Memory-and communication-aware model compression for distributed deep learning inference on IoT | |
| Hontoria et al. | A new approach for sizing stand alone photovoltaic systems based in neural networks | |
| Osipov et al. | Space–time signal binding in recurrent neural networks with controlled elements | |
| WO2021159714A1 (en) | Data processing method and related device | |
| Schmidhuber | One big net for everything | |
| CN114298287A (en) | Prediction method and device based on knowledge distillation, electronic equipment, storage medium | |
| US11080592B2 (en) | Neuromorphic architecture for feature learning using a spiking neural network | |
| Zhang et al. | Spiking echo state convolutional neural network for robust time series classification | |
| CN111527734B (en) | Node traffic ratio prediction method and device | |
| CN112924951A (en) | Multifunctional radar radiation source intelligent identification method | |
| CN116822722A (en) | Water level prediction methods, systems, devices, electronic equipment and media | |
| CN114169493A (en) | Multivariable time sequence prediction method based on scale-aware neural architecture search | |
| WO2025152770A1 (en) | Method and apparatus for improved generative ai models | |
| RU77483U1 (en) | ASSOCIATIVE MEMORY | |
| Kumara et al. | Use of associative memory and self-organization in conceptual design | |
| KR102788433B1 (en) | Method for sturcture learning and model compression for deep neural netwrok | |
| CN113255747B (en) | Quantum multi-channel convolution neural classification method, system, terminal and storage medium | |
| RU72084U1 (en) | DOMAIN NEURAL NETWORK | |
| CN112784972A (en) | Synapse implementation architecture for on-chip neural network | |
| RU66831U1 (en) | NEURAL NETWORK | |
| CN118262533A (en) | Traffic flow prediction method based on self-adaptive dynamic fusion graph convolution network | |
| Zhang et al. | A versatile neuromorphic system based on simple neuron model | |
| EP1388122A1 (en) | Fourier series-based automatic generation system and method for multi-variable fuzzy systems | |
| US20210097391A1 (en) | Network model compiler and related product | |
| Podlesnykh et al. | Mathematical model of a recurrent neural network for programmable devices focused on fog computing |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| MM1K | Utility model has become invalid (non-payment of fees) | Effective date:20091225 |