Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013

Sistemas de software basados en Redes Neuronales (Inteligencia Artificial Avanzada) y el Estado del Arte de la

Tecnologiacutea Global

NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH ITUSERSFernando Jimenez Motte PhDEE (c) MSEE BSEE

Inteligencia Artificial Avanzada

(Redes Neuronales con 3 ejes de visioacuten)

1 Arquitectura Algoritmos y Aplicaciones

2 Hardware + Software

3 Neurociberneacutetica y el advenimiento de la Bioacutenica


ldquoThe Gene is by far the most sophisticated program aroundrdquo

- Bill Gates Business Week June 27 1994

Genes Atoms Cells and Neurons are the Building Blocks of the XXI Century- Fernando Jimeacutenez M Meacutexico 2011

Road Map de Tecnologiacutea y la evolucioacuten

de la PC hasta la Web 40

Semaacutentica de las conexiones sociales

The Semantic Web (AI)

La evolucioacuten hacia la Inteligencia Artificial

EVOLUCION HACIA LA INTELIGENCIA ARTIFICIAL

Aumento exponencial de la capacidad computacional de las PCacutes Capacidad de manejo computacional masivo paralelo y distribuiacutedo Escalamiento de la ciencia a la nube (Scaling Science to the Cloud) Advenimiento de Sistemas Neuro y biomimeacuteticos Emergencia de la Neurocomputacioacuten o Neurocomputing Very large Scale Integrated Systems VLSI Convergencia de las GRIN Technologies


ldquoBACK TO THE FUTURErdquo 2010 -2050CONVERGENCIA DE LAS GRIN TECHNOLOGIES

G

R

N

N

I

ARQUITECTURAS ALGORITMOS Y

APLICACIONES


Queacute es una Red Neuronal

Una Red Neuronal Artificial es un sistema de procesamiento de informacioacuten o

Processing Element (PE) en el caso de una neurona el cual tiene caracteriacutesticas

de performance en comuacuten con redes neuronales bioloacutegicas

Han sido desarrolladas a traveacutes de generalizaciones de modelos matemaacuteticos

(Matemaacutetica Neurobioloacutegica) basados en cognicioacuten humana o biologiacutea neuronal y

basadas en asunciones como

El procesamiento de informacioacuten ocurre en muchos elementos simples llamados

neuronas

Las sentildeales son enviadas entre neuronas a traveacutes de conexiones (LINKS)



Cada conexioacuten (LINK) tiene un peso asociado el cual en una red neuronal tiacutepica

multiplica la sentildeal transmitida

Cada neurona aplica una funcioacuten de activacioacuten (usualmente no lineal) a su entrada

neta (net_input) para determinar la sentildeal de salida


Red Neuronal Bioloacutegica

Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon


Estructura de una neurona bioloacutegica

1 Nucleo 2 Nucleoide 3 Soma 6 Membrana Celular 7 Regioacuten Sinaacuteptica 8 Axon 11 Dendritas


ldquoBuilding blockrdquo de una Neurona Artificial


Anologiacutea entre Redes Neuronales Bioloacutegicas y

Redes Neuronales Artificiales

Biological Neural Network Artificial Neural NetworkSoma

DendriteAxonSynapse

Neuron

InputOutputWeight


Recursos disponibles en computadoras y cerebro humano


bull Aplicaciones- Clasificacioacuten (Classification)- (Clustering)- Aproximacioacuten de funciones (Function approximation)- Prediccioacuten (Prediction)- Toma de decisiones en situaciones con restriccioacuten (constrained optimization)

bull Tipo de conexioacuten- Estaacutetica Static (feedforward)- Dinaacutemica Dynamic (feedback)

bull Topologiacutea- Una soacutela capa (Single layer)- Multicapa (Multilayer)- Recurrente (Recurrent)- Auto Organizacional (Self-organizing Neural Net)

bull Meacutetodo de aprendizaje- Supervizada (Supervised)- No Supervizada (Unsupervised)

Tipos de Redes Neuronales


Perceptron


Redes Neuronales en Reconocimiento y Clasificacioacuten de de Patrones(Pattern RecognitionPattern Recognition )


Reconocimiento de caracteres




Perceptron(Pattern RecognitionPattern Classification)

M

S

D

N

MSDNhelliphelliphelliphelliphelliphelliphelliphelliphelliphelliphelliphellip


REDES NEURONALES BASADAS EN COMPETICION (Neural Computation)


Self Organizing Map (SOM) Neural Network


Self organizing maps


Mapas auto organizantes del cuerpo humano(Somatotensory cortex)


Topologiacutea de mapeo SOM

Dos capas capa de entrada y la capa de salida (mapa o COMPUTATIONAL LAYER)

Capas de entrada y de salida estaacuten completamente conectadas

Las neuronas de salida estaacuten interconectadas dentro de un vecindario definido

Una topologiacutea (relacioacuten de vecindad) se define en la capa de salida


SELF ORGANIZING NEURAL NETWORK


4x4 SOM Network (4 nodes down 4 nodes across)


Self-Organizing Maps (Kohonen Maps)Estructuras de salida tiacutepicas (ldquoComputational layerrdquo)

Uni-dimensional(completamente interconectada para determinarla unidad ganadora (ldquowinnerrdquo)

Bi-dimensional

i

i

Vecindario de la neurona i


Mapas Auto Organizantes


Self Organizing Neural Network

Kohonen Learning


ldquoSelf Organizing Traffic Lightsrdquo

La evolucioacuten de la inteligencia artificial la concepcioacuten moderna es que la ciudad es la red neuronal Las diferentesviacuteas avenidas y autopistas de una ciudad emulan a las dendritas y axons de la estructura intracelular yextracelular de una neurona o red neuronal bioloacutegica En la red viacuteal de una ciudad las intersecciones definenentonces neuronas y la red neuronal viacuteal aprende del flujo de traacutefico de vehiacuteculos


Arreglo lineal de ldquoclusterrdquo units


Arquitectura

bull Grilla Rectangular


Arquitectura

bull Grilla hexagonal


Topological SOM (Matlab)


Radius 1

Radius 2

Winning unit only one to update if radius=0

Units to be updated when radius=1


La topologiacutea determina que unidad caedentro del radio R de una unidad oneurona ganadora

La unidad ganadora adaptaraacute sus pesos en la cual acercaraacute a ese ldquoclusterrdquo haciael vector de entrenamiento

Actualizacioacuten de pesos dentro de un radio de accioacuten


Entrenamiento no supervizado en SOMs

Ejemplo Aprendiendo la representacioacuten unidimensional de un espacio de entrada

(ldquoinput spaceldquo) bi dimensional

0

25000

20 100

1000 10000



Ejemplo Aprendiendo una representacioacuten bi-dimensional de un espacio de entrada



Aplicaciones

bull WEBSOM Organizacioacuten de una coleccioacuten masiva de documentos


SOFM ldquoPhoneme Recognitionrdquo

Phonotopic maps

Recognition result for ldquohumppilardquo


Aplicaciones

bull Clasificando la pobreza mundial


Neural Networks in Agriculture






Self Organizing Map SOMldquoElastic virtual networkrdquo





Ejemplo

Aprendiendo el mapeo bi-

dimensional de texturas de

imaacutegenes


Autonomous Land Vehicle in a Neural Network ALVINN system

bull Input 30 x 32 grid of pixel intensities (960 nodes)

bull 4 hidden units

bull Output direction of steering (30 units)

bull Training 5 min of human driving

bull Test up to 70 miles for distances of 90 miles on public highway (driving in the left lane with other vehicles present)




Wireless Localization Using Self-Organizing Maps

ndash Utiliza una Red Neuronal Auto Organizante para determinar las posiciones de los nodos de una red inalaacutembrica


Multiple Self-Organizing Mapsfor Intruder Detection

Euclidean Norm NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH ITUSERSFernando Jimenez Motte PhDEE (c) MSEE BSEE

Self-Organizing Neighborhood Wireless MeshNetworks


Millions of Neural Nets covering the world over the Internet

Each TCIP Node becomes a Neuron so that a SuperNet is built over the

Internet The whole network will behave as a Synthetic Intelect


Sistema de control Neuro Difuso Geneacutetico

Modelo de Sistema o Proceso (Red Neuronal)

Test Driver

Control Difuso

Fuzzy Inference Engine

Pesos

Rules

Relaciones difusas

Decodificacioacuten cromosoacutemica

Algoritmos

geneacuteticos

Control de temperatura

Modelo del Sistema

Test function

Funcioacuten evaluacioacuten

GRINNEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH ITUSERSFernando Jimenez Motte PhDEE (c) MSEE BSEE

Self Organizing Map SOMldquoSemantic mappingrdquo


SOM ldquobuilding blockrdquo CADCAM


N13(1) N13(2)


Self organized semantic map Word categories


Cronologiacutea de SOMacutes

bull Kohonen (1984) Speech recognition - a map ofphonemes in the Finish language

bull Optical character recognition - clustering ofletters of different fonts

bull Angeliol etal (1988) ndash travelling salesman problem(an optimization problem)

bull Kohonen (1990) ndash learning vector quantization(pattern classification problem)

bull Ritter amp Kohonen (1989) ndash semantic maps


ldquoSkeletonization of imagesrdquo

bull Esqueletizacioacuten de imaacutegenes ruidosas

bull Aplicacioacuten del MST SOM robustez con respecto al ruido


CELULLAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3 NEIGHBORHOOD CONNECTIVITY


RED NEURONAL DE MULTIPLES CAPAS


Backpropagation Neural Network

(Red Neuronal de Retropropagacioacuten)


Three-Layer Network

321 SSSR Number of neurons in each layer


Algoritmo de aprendizajeBackpropagation

Las siguientes diapositivas describe el proceso de ensentildeanza del algoritmo de aprendizaje para redes neuronales de retropropagacioacuten de muacuteltiples capas

Para ilustrar este proceso la red neural que utilizaremos consiste de tres capas con dos entradas y una salida como se muestra en la siguiente arquitectura













Propagacioacuten de las sentildeales a traveacutes del ldquooutput layerrdquo



En el paso siguiente del algoritmo se obtiene la sentildeal de salida de la red y secompara con el valor de salida deseado (valor objetivo o ldquotargetLa diferencia se llama error de la sentildeal d de la capa de salida de la redneuronal



La idea es la de propagar la sentildeal de error d (calculado en la etapa deensentildeanza) de nuevo a todas las neuronas cuyas sentildeales de salida fueronentrada para dicha neurona



La idea es la de propagar la sentildeal de error d (calculado en la etapa deensentildeanza) de nuevo a todas las neuronas cuyas sentildeales de salidafueron entrada para dicha neurona



Los pesos wmn laquocoeficientes utilizados para propagar erroreshacia atraacutes son iguales a utilizar a los que fueron utilizados paracalcular el valor de salida La direccioacuten del flujo de datos cambia(se propagan las sentildeales de salida a entradas de una despueacutes dela otra) Esta teacutecnica se utiliza para todas las capas de red








REDES NEURONALESHARDWARE - SOFTWARE


Redes Neuronales en Procesamiento Digital de Sentildeales

DSP


Redes Neuronales en Ingenieriacutea de Control

(Neural Network Adaptive Control Systems)


Redes Neuronales en Ingenieriacutea de Control (Modelamiento Inverso)


Redes Neuronales en Ingenieriacutea de Control (Navigation amp Collition

Avoidance)


NEURO COPTER 10 DESIGN



Redes Neuronales en Ingenieriacutea de Control (Pathfinder + Sojourner

en Marte)



(Control No Lineal de Manipuladores de Robot)


Redes Neuronales en Ingenieriacutea de Control Inteligente

(ldquoUpper backer Track Neural Networkrdquo)


Redes Neuronales en Reconocimiento de lenguage y voz


Redes Neuronales en Medicina y Bio Ingenieriacutea


Redes Neuronales en Interfase Hombre Maacutequina

ldquoHuman Machine InterfaseBionicsrdquo


Neural Network-Based Face Detection (Face Pattern Recognition)

A Convolutional Neural Network Hand Tracker (Gesture Recognition)

Neural Networks for speech and image processing

Speech recognition with Neural Networks

Conversational Speech Transcription Using Context-Dependent Deep Neural Networks

Speech recognition breakthrough via machine translation that converted spoken English words into computer-generated Chinese language (Humannatural machine interfase HMI)


Microsoft Neural Network AlgorithmSQL Server

In SQL Server Analysis Services the Microsoft Neural Networkalgorithm combines each possible state of the input attribute witheach possible state of the predictable attribute and uses thetraining data to calculate probabilities You can later use theseprobabilities for classification or regression and to predict anoutcome of the predicted attribute based on the input attributes

A mining model that is constructed with the Microsoft NeuralNetwork algorithm can contain multiple networks depending onthe number of columns that are used for both input and predictionor that are used only for prediction The number of networks that asingle mining model contains depends on the number of states thatare contained by the input columns and predictable columns thatthe mining model uses



NEURO SOLUTIONS FOR EXCEL


CNAPS Chip(Paralell processor for Pattern Recognition Image Processing and Neural networks)

64 x 64 x 1 in 8 micros

(8 bit inputs 16 bit weights

CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4

Execution time ~500 ns

Weights coded in 16 bitsStates coded in 8 bits

with data arriving every BC=25ns

Electrons tau hadrons jets

Neural Network architecture


Very fast architecturebull Matrix of nm matrix

elements

bull Control unit

bull IO module

bull TanH are stored in LUTs

bull 1 matrix row computes a neuron

bull The results is back-propagated to calculate the output layer

TanH

PE

256 PEs for a 128x64x4 network

PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network



CELULAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3 NEIGHBORHOOD CONNECTIVITY


Matlab + Simulink Neural Network Toolbox


Celullar Neural Network


Boltzman Machine Neural Network


Radial Basis Function RBF


Neocognitron

GLOBAL NAVIGATIONAL SATELLITE SYSTEM GNSS


INTELIGENCIA ARTIFICIAL NEURO CIBERNETICA

La emergencia de la Bioacutenica


ldquoDinaacutemica Estocaacutestica del Complejo Neuronalrdquo


Representacioacuten de Red de la actividad Neurocelular

Aspectos estocaacutesticos de un complejo neuronal infectado por ruido


Teoriacutea de Campo Neuronal

Control del complejo organizativo (minimizacioacuten de entropiacutea)


NEUROMORPHIC ENGINEERING


Analog Neural Network Core (ANNCORE)containing 128k synapses and 512 membrane circuits which can be groupedtogether to form neurons with up to 16k synapses



Proacuteximos Chips Neuromoacuterficos a ser lanzados por IBM e INTEL

Bionic Eye


Bionic ear


THE MESSENGER(Neural Network Somatosensory maps)


Antildeo 2030-2050 El cerebro Artificial Positronic Brain

Red Neuronal Artificial para emular un Cerebro Humanoide

El Humanoide Data (ldquoStar Treckrdquo) tiene 100000 terabytes de memoria (equiv a 100000000 de 1-GB hard drives) Tieneuna capacidad de almacenamiento de 800 quadrillones de bits (100 quadrillion bytes) Data procesa 60 trillones deoperaciones x segundo Si uno compara su capacidad de almacenamiento de 100000 terabytes con la los ordenadoresactuales podrigravea decirse que la del ser humano es equivalente a unos 3 Terabytes es decir Data contendrigravea 260000Cerebros humanos


Fernando Jimenez Motte PhDEE (c) MSEE BSEEDirectorTechnology Product ManagerConsultorTechnology Director CTO ITUSERSNEUROMORPHIC TECHNOLOGIES

Product CatalogProduct Management Consulting and Training

Project Management Consulting and Training

Strategic Product Planing

Workshops and Tutorials on site and via On Line

Scientific Research Projects and Teaching

International Conferences

Nacional Conferences

maurice_2500hotmailcom

Inteligencia Artificial Avanzada

(Redes Neuronales con 3 ejes de visioacuten)

1 Arquitectura Algoritmos y Aplicaciones

2 Hardware + Software

3 Neurociberneacutetica y el advenimiento de la Bioacutenica














G

R

N

N

I


APLICACIONES










neuronas










Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon










DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear





























G

R

N

N

I


APLICACIONES










neuronas










Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon










DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear


















APLICACIONES










neuronas










Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon










DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

























neuronas










Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon










DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear
























Soma Soma

Synapse

Synapse

Dendrites

Axon

Synapse

Dendrites

Axon










DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

























DendriteAxonSynapse

Neuron

InputOutputWeight










Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

























Perceptron









M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear
























M

S

D

N























Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear





































Bi-dimensional

i

i






Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear




















Kohonen Learning







Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear






















Arquitectura



Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

















Arquitectura





Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear



















Radius 1

Radius 2











0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear




















0

25000

20 100

1000 10000






Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear





















Aplicaciones




Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear


















Phonotopic maps



Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

















Aplicaciones














Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear




























Ejemplo



imaacutegenes




bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear



















bull 4 hidden units




















Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear
































Test Driver

Control Difuso


Pesos

Rules

Relaciones difusas


Algoritmos

geneacuteticos


Modelo del Sistema

Test function







N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear





















N13(1) N13(2)






















Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear






































Three-Layer Network









































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear























































DSP








Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear























Avoidance)






en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear





















en Marte)
































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear















































CNAPS 1064 chip

Adaptive Solutions

Oregon


helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

















helliphellip

helliphellip

64

128

4








elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear


















elements

bull Control unit

bull IO module




TanH

PE


PE PEPE

PE PE PEPE

PE PE PEPE

PE PE PEPE

TanH

TanH

TanH

ACC

ACC

ACC

ACC

IO module

Control unit

Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear

















Three-Layer Network













Neocognitron




















Bionic Eye


Bionic ear



























Neocognitron




















Bionic Eye


Bionic ear




































Bionic Eye


Bionic ear

















Bionic ear

















Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013

Technology

Transcript of Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013