뇌정보처리 메커니즘에 기반한 인간행동 시스템 연구

뇌정보처리 메커니즘에 기반한뇌정보처리 메커니즘에 기반한인간행동 시스템 연구인간행동 시스템 연구

중앙대학교 , 서울대학교 , 포항공대전홍태 , 최종호 , 오세영

뇌신경 정보학 연구사업뇌신경 정보학 연구사업

2002. 2. 27. 뇌신경정보학 연구사업

연구개발의 목표연구개발의 목표 뇌 행동 기작 원리 규명 행동 기능의 인공적 구현 연구결과의 활용

두뇌의 행동 정보처리 메카니즘?

Neuro-cognition

인공신경망( , , )개발 응용 개선신경생리학

+ +

+

+

+

+

?


연구 배경연구 배경 행동 기작을 발현하는 생물학적 뇌 구조

대뇌 피질

해마

시

상

대뇌기능

운동 ( 안구 등 )

감각 ( 시 청각 등 )

운동 ( 몸체 )

감각 ( 근육센서 )

대뇌 피질

해마

시

상

대뇌기능

운동 ( 안구 등 )

감각 ( 시각 등 )

운동 ( 몸체 )

감각 ( 근육센서 )

소 뇌

척 수


연구 배경연구 배경 뇌 행동 신경계의 기능적 구성

외부환경

근육

감각

피질

추론/인지 기능

공간인식 및운동명령

자율행동 및학습

다중 분산지능

감각운동 연상기억

동작궤적 학습 및 생성

고유수용의 모터제어(자각궤환제어)

신경계행동시스템의 범위

감각 정보

대뇌피질

해마

소뇌피질

척수


연구 내용연구 내용 연구체계

자율적응행동 및 학습

모델 연구

공간인식 및운동 명령모델 연구

다중 분산 지능모델 연구

( 협조 행동 )

동작궤적학습 및 생성

모델 연구

자각 궤환 제어모델 연구

지능형자율주행 로봇

개발

두발로봇개발

캐처로봇개발

감각운동 연상 기억

학습 기능을 가지는고속 대용량 신경망 칩 구현


모델 연구



( 협조 행동 )


모델 연구



개발

두발로봇개발

캐처로봇개발




모델 연구



( 협조 행동 )


모델 연구



개발

두발로봇개발

캐처로봇개발



인공적 모델링 공학적 응용


모델 연구



( 협조 행동 )


모델 연구



개발

두발로봇개발

캐처로봇개발


기능을 가지는고속 대용량 신경망 칩 구현

학습

감각정보처리기작

대뇌피질기능

해마기능

/ 소뇌 척수기능

칩구현


연구 내용연구 내용 세부 연구 내용

대뇌피질과 해마를 공학적으로 모델링하고대뇌피질과 해마를 공학적으로 모델링하고 , , 자율 학습 및 다중 분산 지능 시스템을 자율 학습 및 다중 분산 지능 시스템을 구현하는 것을 최종 목표로 함구현하는 것을 최종 목표로 함 .. 특히특히 , , 지능적 자율성지능적 자율성 , , 학습 및 적응성학습 및 적응성 , , 협조적 분산 지능을 토대로 모듈화 된 협조적 분산 지능을 토대로 모듈화 된 신경회로망신경회로망 , , 셀룰라 연상 메모리셀룰라 연상 메모리 , , 강화 행동학습 시스템을 연구 개발함강화 행동학습 시스템을 연구 개발함 ..

뇌의 시상뇌의 시상 -- 해마해마 -- 소뇌소뇌 -- 척수로 이어지는 뇌의 감각운동제어 기능의 규명 및 이에 기반으로 한 척수로 이어지는 뇌의 감각운동제어 기능의 규명 및 이에 기반으로 한 감각운동제어모델의 공학적 구현을 최종 목표로 함감각운동제어모델의 공학적 구현을 최종 목표로 함 ..

다양한 센서 융합과 환경인식 및 지능 알고리즘에 기반으로 한 주행 다양한 센서 융합과 환경인식 및 지능 알고리즘에 기반으로 한 주행 hardware / hardware / SoftwareSoftware 의 개발을 통하여 사회에 도움이 되는 가치를 창출할 수 있는 서비스 로봇의 개발을 의 개발을 통하여 사회에 도움이 되는 가치를 창출할 수 있는 서비스 로봇의 개발을 최종 목표로 함최종 목표로 함 ..

자율 학습 및 다중 분산 지능 모델 모듈

감각 운동 학습 및 제어 모델 모듈

자율 주행 시스템 모듈


연구 내용연구 내용 1 차년도 연구 목표

연구기간 연구개발목표

2001. 8.-

2002. 5.

대뇌피질 정보처리 메커니즘의 공학적 모델링을 통한 기능별 모듈구성과 학습 알고리즘 개발 해마의 기억학습 및 연상작용 모델에 의한 셀룰라 신경회로망 자율학습 알고리즘 개발 협조적 분산 지능의 강화 학습에 관한 연구

색이 운동에 미치는 영향규명 감각정보의 특징추출 및 상황인지 방법제시 동작계획 및 자각 궤환 운동제어 메커니즘 규명 감각운동제어모델 하드웨어 설계

센서 특성 및 정보 추출 방법에 대한 연구 센서융합 기법에 대한 연구 지능형 Local Path Planning 알고리즘 연구 Landmark 추출 및 인식 Landmark 을 이용한 경로 결정 알고리즘 연구

주관과제 주관과제 :: 자율학습 및 다중분산 지능모델 연구자율학습 및 다중분산 지능모델 연구

연구책임자 : 전홍태 ( 중앙대학교 ) 연구원 : 심귀보 ( 중앙대학교 )

강 훈 ( 중앙대학교 )


연구 내용 – 연구 내용 – 주관기관 주관기관 (( 중앙대중앙대 ))

대뇌피질 정보처리 메커니즘의 공학적 모델링을 통한 기능별 모듈구성과 학습 알고리즘 개발

보행자의 행동 판단 알고리즘 구현

Module 1

ART

Decision Tree

Walk StopWarningStandby

Input 감각 정보

시각정보모양색상

청각정보크기종류

Module 2

Memory

GatingNetwork

Leg Eye/Ear LegEye/Ear

Behavior Decision

Update by result

감각 정보의 처리 메커니즘을 Hierarchical Module 구조를 통해 모델링하여 대뇌 피질에서의 행동 판단 구현

대뇌피질 정보처리 메커니즘의 공학적 모델링


연구 내용 연구 내용 - - 주관기관 주관기관 (( 중앙대중앙대 ))

학습 알고리즘

Walk/Stop

Warning

Sound

Stop

Stop

Walk

1. If Signal shape(circle) & Red color & Low level Car sound, then Stop(standby).

2. If Train shape(rectangular) & Blue color & High level sound, then Stop.

3. If Train shape (rectangular) & Red color & Chime sound, then Warning(watch).

4. If Signal shape(circle) & Blue color & Chime sound, then Across(walk).

학습 규칙



청각Sound Type

Sound Level

시각Color Detection

Shape Detection

시각에 의한 행동 판단

청각에 의한 행동 판단

행동추론

시각 청각 Decision

Color Shape Type Level

Red Circle Car High Stop(Watch)

Blue Circle Signal High Walk

BlueTriang

leCar

Medium

Warning(Watch)

감각정보 모듈별 행동 판단 최종 행동 결정 행동 명령 하달

시상 감각피질 연합피질 행동피질

대뇌피질운동계

입력 모듈 1 / 모듈 2 Decision TreeBehavior Command



Modular Network Structure

Module 1

ART

Decision Tree

Walk StopWarningStandby

Module 2

Memory

GatingNetwork

Leg Eye/Ear LegEye/Ear

Behavior Decision

Update byresult

Inputs

•Module 1 : 신경망을 이용하여 시각정보 학습•Module 2 : 신경망을 이용하여 청각정보 학습•ART : 기억된 내용과 각 모듈의 출력을 분석하여 행동 추론 및 판단•Decision Tree 의 출력을 바탕으로 행동 기관에 행동 명령 하달•Memory 의 내용을 최종 결정된 행동에 의해 갱신 , 저장



자율학습 및 다중분산 지능모델 연구 모델 구조

해마의 기억학습 및 연상작용 모델에 의한 셀룰라 신경회로망 자율학습 알고리즘 개발

협조적 분산 지능의 강화 학습에 관한 연구

대뇌피질 정보처리 메커니즘의 공학적 모델링

감각 기관의 정보 기억 – 해마 및 시상

감각 / 연합 / 운동 피질의 기능 - 대뇌피질

협조 행동 및 강화 학습 - 대뇌피질



해마의 기억학습 및 연상작용 모델에 의한 셀룰라 신경회로망 자율학습 알고리즘 개발

AM with CNN



global output

final output



셀룰라 신경회로망을 이용하여 학습과 패턴매칭을 통한 영상의 분류와 인식

2 진 이미지 ( 숫자이미지 ) 와 그레이 이미지 ( 표지판 이미지 ) 에서 적용

Weight 선택을 통한 Hebb 학습 방법의 한계 극복

심하게 왜곡된 이미지 복원 가능

인간 두뇌의 기억 방법에 적용 가능

다수의 weight 선택으로 한글 문자인식 가능



협조적 분산 지능의 강화 학습에 관한 연구

인공면역계 기반 자율분산로봇시스템의 협조전략과 군행동

주변 환경 전 략

항 원

밀도 높음

밀도 중간

밀도 낮음

밀도 없음

항 체

집합 (Aggregation : Ab0) 집단의 개체들이 정해진 거리를 유지하며 모인다 .

탐색 (Random search : Ab1 – basic strategy)

임의의 방향으로 움직이며 작업을 찾는다 .

확산 (Dispersion : Ab2) 집단의 개체들이 정해진 거리를 설정 , 유지하기 위해 퍼진다 .

귀향 (Homing : Ab3) 특정한 지역이나 위치를 찾아간다 .

항원과 항체 정의



자율분산로봇 시스템과 면역 시스템의 관계자율분산로봇 시스템 면역 시스템

로봇의 주변환경 항원

행동 전략 항체 (B- 세포 )

제어 변수 T- 세포

적합 자극

부적합 억제

우수한 로봇 혈장세포 ( 클론 )

열등한 로봇 비활성화된 셋포

로봇의 의견 조정을 위한 알고리즘

[ 단계 1] 모든 행동 전략에 대한 항체의 자극 , 농도를 초기화[ 단계 2] 다른 항체에 비하여 농도가 높은 항체의 전략을 선택해서 실행[ 단계 3] 한 로봇이 다른 로봇을 만났을 때 , 그들은 서로의 행동 전략에 대하여 자극 또는 억제[ 단계 4] 만약 한 로봇의 항체 중에서 가장 높은 농도가 상한치를 넘으면 이 로봇은 우수한 로봇이 된다 . 만약 한 로봇의 모든 항체의 농도가 하한치보다 작으면 이 로봇은 열등한 로봇이 된다 .[ 단계 5] 만약 열등한 로봇이 우수한 로봇을 만나면 각 전략의 농도값을 전달받아 새롭게 갱신한다 . 이것은 B- 세포의 클론 선택을 모방한 것이다 .[ 단계 6] t 를 증가시키고 단계 2 로 간다 .



T- 세포 및 B- 세포 모델을 포함한 면역 네트워크 모델

Antibodies(B-cells)of i-th robot

Antibodiesof j-th robot

s0,i

s1,i

s2,i

s3,i

s0,j

s1,j

s2,j

s3,j

m00

m33

g0,i

g1,i

g2,i

g3,i

ß

Antigensof i-th robot

Sensing information form environments

Internal state of a robot Communication dataform other robot

m01

...

c0,i

c1,i

c2,i

c3,i

T-cellsof i-th robot

ß

ß

ß



실험 조건

1. 10(m)*10(m) 의 작업공간에 직경이 50(mm) 인 50대의 로봇이 흩어져 있으며 , 시스템의 목적은 작업영역에 흩어져 있는 500개의 작업을 찾아 수행

2. 작업의 밀도를 계산하기 위한 항원의 평가시간을 40초로 설정3. 이 때 , 로봇은 1 초동안 방향을 바꾸거나 25(mm) 를 이동할 수 있으며 , 1 회의 통신을 할 수 있음4. 작업 하나의 수행시간은 15 초5. 파라미터는 =0.3, =0.05, =0.002 로 설정6. Ab0 : 집합 , Ab1 : 탐색 , Ab2 : 확산 , Ab3 : 귀향 등의 행동 전략을 선택

α β ik

실험 결과 1 : B- 세포 모델(only)

실험 결과 2 : B- 세포 및 T- 세포 모델



실험 결과 3 : 환경 변화 경우 (B- 세포 모델 only)

실험 결과 4 :환경 변화 경우 (B- 세포 및 T- 세포 모델 )

결 론1. T- 세포 모델이 추가된 면역알고리즘이 환경변화에 대한 적응성을 개선2. 실제의 적용문제에 있어서 로봇의 적응 능력이 바로 시스템 성능의 개선으로 나타난다면 제안한

알고리즘은 큰 효과를 거둘 수 있을 것으로 기대됨3. 로봇의 다양한 적용분야에서 다수의 소형 마이크로 로봇에 의한 오염물질의 정화와 같은 군집형 로봇

행동의 경우 , 로봇 집단의 효율적인 의견 조정 및 관리를 위해서는 자율적인 로봇의 판단과 집단 전체의 의견을 조정할 수 있는 알고리즘이 필요

제 제 2 2 공동과제 공동과제 :: 감각운동 학습 및 제어모델 연구감각운동 학습 및 제어모델 연구

연구책임자 : 최종호 ( 서울대학교 ) 연구원 : 최진영 ( 서울대학교 )

이종호 ( 인하대학교 ) 김남균 ( 전북대학교 )


연구 내용 – 연구 내용 – 공동기관공동기관 1 (1 ( 서울대서울대 ))

감각 운동 학습 및 제어모델 연구

인지실험 연구

인공 모델링

구현

• 감각정보 특징 추출 및 목표물 감지방법 연구

• 동작궤적의 학습 및 기억방법 연구

• 감각 - 운동 협응의 인지적 실험에 대한 연구

• 두발로봇 제작• 캐처로봇 제작 - 고속 신경망 칩 응용

• 시공간적 상황정보 학습모델 연구



인지실험 연구 • 감각 - 운동 협응의 인지적 실험에 대한 연구

• 감각 운동 협응의 정확한 측정 방법의 부재• 기존 주파수 분석의 인지 측정의 부정확함• 3차원 공간상의 단순 지시 및 반응 운동 외 인지의 측정 방법의 어려움

• 대부분의 인지 실험은 단순 반응시간 및 EEG 의 주파수 분석만을 행함 .

기존연구 기존연구의 문제점

• 다양한 색 자극 제시 후 인간의 반응시간 및 ERP 에 관한 연구• 3 차원 공간에서 시청각 자극 제시 후 SOA 및 cue 에 따른 반응 시간 측정•자극 제시 후 ERP 연구에 따른 자극별 인지 영역의 검출

연구목표Sensor

(Electrode)

Sensor(Electrode)

AmplifierAmplifier

A/D ConverterA/D Converter

ComputerComputer

TerminalBoard

TerminalBoard

Interfacecard

Interfacecard

Data Acquisition

Data Acquisition

Semicircularboard


• 실험 시스템의 완성• 피험자를 대상으로 다양한 색 자극 제시 후 반응시간 및 ERP 에 관한실험

연구결과

향후 연구계획

• 3 차원 색 자극 장치 구축• 반응시간 측정 장치 개발• ERP 검출 및 분석 시스템 마무리 작업



• 기존의 얼굴인식을 위한 특징 추출 방법 : PCA (Eigenface), LDA (Fisherface)


인공 모델링 • 감각정보 특징 추출 및 목표물 감지방법 연구


• Orthogonal 한 특징만을 추출 PCA: Class label 을 이용하지 않음 LDA: Mean-difference 가 큰 Gaussian 분포에만 적용

분류 문제를 위한 특징 추출 방법 제시 및 얼굴 인식에의 적용

• Higher order statistics 를 이용• Supervised learning• 기존의 ICA 알고리즘 이용• 높은 분류 성능

연구목표Wx1

xN

c

xM

u1

uM

f1

fM

-WM,N+1C

+

uN+1

uN

W1C

1

xM+1 uM+1

-W1,N+1C

+

WMC



• Multi-class 에 대한 ICA-FX의 이론적 뒷받침• 자동으로 얼굴부분을 감지하고 인식하는 전반적인 시스템의 구축

• ICA-FX (Feature Extraction based on ICA) 알고리즘 제시• Yale database

연구결과

향후 연구계획

YALE DATA

0

5

10

15

20

25

PCA ICA LDA ICAFX

err

or

rate

(%

)

AT&T DATA

0

0.5

1

1.5

2

2.5

3

3.5

4

4.5

PCA ICA LDA ICAFX

erro

r ra

te (

%)


기존의 학습 방법은 주어진 개별적인 상황을 학습하는 데에 적합함 이전 학습에서 얻어지는 정보 ( 경험 ) 를 활용하지 않음

다수의 상황을 학습하는 경우에 비효율적

공통된 상황을 반복해서 학습 많은 수의 자료와 학습시간이 필요

다수의 상황을 학습하는 경우에 효율적인 학습방법 개발 이전 학습에서 얻어지는 정보를 재활용함

이전에 얻어진 정보를 분해 , 재결합하여 새로운 정보를 학습 하는 데에 이용


• 시공간적 상황정보 학습모델 연구인공 모델링


연구목표New case 1 :

New case 2 :

Experienced case(Learned case) :



연구결과

향후 연구계획• 부분적으로 개발된 학습 알고리듬을 통합• 궤적생성 알고리듬 연구와의 결합 시도

• 학습 알고리듬을 부분적으로 개발

• 간단한 경우에 대해 실험

• 낮은 자유도를 가진 단순한 이족로봇의 Stand-up motion 학습 실험

: 다수의 넘어진 (fall-down) 상태가 존재

: 개별적인 경우 각각에 대해 일어서는 방법을 학습하기 곤란

• 적은 수의 경우에 대해 학습하고 , 학습된 경험을 재사용하여 다양한 경우의 stand-up motion task를 학습


연구 내용 – 연구 내용 – 공동기관공동기관 1 (1 ( 서울대서울대 ) ) 참고자료참고자료

Example of learning good sequences Step 1:

1) Select the best 2) Select the best from neighbor states

2) Generate randomlyan order sequence

* criterion



Example of learning good sequences Step 2:

good goodbad

Past sequence

good

Merge :

Split :

New sequence


• 정확한 수학적 모델이 필요• 기구학이 복잡할수록 수학적 모델이 부정확함• 실시간 궤적생성이 어려움 ( 기억의 부재 )


• 동작궤적의 학습 및 기억방법 연구인공 모델링

• 대부분의 기존 연구에서 궤적은 역기구학에 기반 하여 생성됨 .


• 학습에 의한 동작궤적의 기억 및 생성 모델 제시

• 역기구학을 계산할 필요없음• 적은 수의 궤적을 학습하여 다양한 궤적을 생성함• 실시간 동작 궤적 교정이 가능한 모델

연구목표xtask

xpace

clock

Correctioninformation

ControllerTime ScalingShort-term

MTM

Demonstration Informationxtask

+

Long-termMTM

Demonstration Phase

PermanentStorage Phase

Correction Phase



• 동작궤적메모리 구조 제시• 크기가 다른 글자를 쓰기 위한 궤적의 학습 및 생성 실험

연구결과

향후 연구계획• 시공간적 상황정보 학습 모델과의 연동 연구• 다양한 task에 적용가능하도록 task coding 방법을 연구

Size=0.6 Size=1.2

1) 크기 0.6 과 1.2 에 대해 학습

Size=0.75 Size=0.9 Size=1.05

2) 크기 0.75, 0.9, 1.05 에 대한 결과

3) ST-MTM 에 의한 수정LT-MTM 은 여러 크기의 글자를 쓸 수 있는 궤적을 생성

Size=0.75 Size=0.9 Size=1.05


• COG, ZMP 를 이 용 하 여 안정성 판단

• 보행 , 계단 오르기


구 현 •두발 로봇 제작

• 두발 로봇 제어 시스템의 구축• 연구되고 있는 감각운동 학습 및

제어 모델의 적용• 두발 로봇의 안정적 보행

• 로봇의 하드웨어 구조에 의존적• 로봇의 정확한 수학적 모델 필요• 복잡한 모델로 인한 속도 향상의 한계


연구목표


• 센서정보를 이용하여 로봇의 기구학 모델을 보정하는 방법 연구• 실시간으로 기구학 모델을 보정하며 정적보행


• PICARD 를 이용한 실시간 제어 시스템 구축 (pice 화면 캡처 )

• 로봇의 설계 / 제작 ( 로봇 , 실험하는 곳 전체 사진 )

연구결과

향후 연구계획

• 로봇의 보행 실험 ( 로봇 사진 , 동영상 )



2000 년

• 구성 : 상체가 없는 10 자유도 ( height : 25cm )

• 구동 actuator : 서보 모터 (HS-615M) 를 이용

• 모터 제어 : 196 controller 를 이용• 인터페이스 : PC와 serial interface• 보행 방법 : 정적 보행

2001 년~

• 구성 : 상체가 없는 10 자유도 ( height : 50cm )• 구동 actuator : DC-micro motor(minimotor 2224)

를 이용• 모터 제어 : PC-based control• 인터페이스 : PCI-8136 board(DI,DO,AD,DA,Count

er) PCL727(DA), PCL833(Counter), PCL815(AD)를 이용

• 보행 방법 : 정적 보행


연구 내용 – 연구 내용 – 공동기관공동기관 1 (1 ( 서울대서울대 ) ) 참고자료참고자료 -- 동영상동영상



• 캐처로봇 제작 - 고속 신경망 칩 응용구 현

Camera

궤적 학습 및생성 알고리듬 이용

제어명령 생성

ball

Catcher robot

• 학습 알고리듬 구현에 사용하게 될 hardware 의 성능 시연

위치 계산

- 빠른 처리 필요- 고성능 신경망 칩을 이용하여 구현



연구 배경

• 실시간 공간 위치 인식 시스템을 위한 디지털신경회로망의 설계 - 대규모로 확장 가능하며 ,On-Chip 학습이 가능한 고속 영상처리용 신경회로망 칩의 설계 - 2 차원 위치인식 시스템 모델 설계

연구 목표

Camera

Pre-processi

ng

DataConversi

on

NeuralNetwor

k

Object

Input

CoordinateOutput

• 2D 실시간 공간 위치 인식 시스템 구조

…

m-bit Serial Summation

Block

ActivationFunction

Generator Output

Neuron Cell & Processing Element

2bit Serial

Multiplier Weight In

Data In

2bit Serial

Multiplier

2bit Serial

Multiplier

m

•디지털신경망을 위한 Neuron 기본구조• 적용분야에 구애받지 않는 구조 변경이 가능한 FPGA 기반의 디지털신경망의 유용성• 대용량 칩의 필요 ( 영상 처리등 ) • 실시간의 고속처리



• 신경회로망 하드웨어 설계 ( 확장가능 , Off-chip 학습 ,FPGA 기반 )

• 공간위치인식 시스템 설계(16X16Pixel 규모의 Processing Element 의 설계 => 출력 값을 Neuron 의 학습패턴으로 사용 )

연구결과

향후 연구계획• 공간 위치 인식을 위한 네트워크구조의 재설계• On-Chip 학습의 하드웨어 & 병렬 Block Matching 을 위한 대규모 시스템의 설계• Preprocessing 및 Data Conversion 알고리즘 개발

Input Layer(8)

Hidden Layer(4)

Output Layer(3)

Neuron Part: 1 bit Neuron Data Path: 1 bit Weight Input & Output: 1 bit Hidden Layer Output

• Specification of Block Matching PE - Search Window Size : 31*31 Pixel - Pixel Depth / Structure : 8 Bit / Pipeline Structure - No. of PEs / Detect Range : 16 EA / -8~7 - Maximum Searching Time : 270 Clock(1 window)• Implementation Result - Target Device : Xilinx FPGA Virtex 800 - Number of External GCLKIOBs 2 out of 4 50% - Number of External IOBs 16 out of 166 9% - Number of SLICEs 405 out of 9408 4% - Number of GCLKs 2 out of 4 50%



1 차년도 목표를 위한 실험 환경 2D 좌표상의 움직이는 물체에 대한 Real-time 공간 위치인식

Object

PCI 연결Single Camera

이동경로NN Chip 을 내장한

Computer

Serial Out (RS-232C)

Input



System Diagram

Neural Network 을 이용한 공간위치인식방법 16x16 의 입력을 갖는 Neuron 을 16x16 개 사용하여

256x256 의 영상에 대한 실시간 Visual Tracking 기존의 Block Matching 보다 빠른 출력 제공 예상

16(256 Pixels)

16(256Pixels)

16 Pixels

16 PixelsCamera

Neural Network

Neuron



현재까지 연구 개발 내용 Neural Network Hardware

사용 가능한 Digital Neuron Model 의 조사 확장 가능한 Digital Neuron 설계 (Verilog Coding) 외부 학습 기반의 BP(error Back Propagation) MLP(Multi Layer Perc

eptron) 신경회로망의 설계 FPGA 를 기반으로 하여 구조의 변경이 가능함

공간 위치 인식 시스템 16x16 Pixel 규모의 Block Matching 전용 Processing Element 의 설계 및 구현 (Verilog Coding)

Processing Element 를 이용한 공간위치인식에 대한 FPGA 설계 PE의 출력 값을 Neuron 의 학습 패턴으로 사용



Digital Neuron Model 1 Neuron 구조

Neuron 의 기본구성요소인 Synapse, Sigma Unit, Activation Function 을 그대로 구성

모든 데이터 표현형은 16bit serial Fixed point Serial Data Adder, Multiplier 를 이용하여 구성

…

m-bit Serial Summation

Block

ActivationFunction

Generator Output

Neuron Cell & Processing Element

2bit SerialMultiplier

Weight InData In



m



Digital Neuron Model 2 Synapse Multiplier

Weight 값은 LSB 부터 입력되고 Neuron Data 는 MSB부터 입력

일반적인 Serial Multiplier 의 경우 n-bit 의 Data 의 곱셈에 대해서 데이터 입력 완료후 2n clock(총 3n clock) 이 걸리지만 제안된 구조는 데이터 입력과 동시에 연산이 종료(총 n clock)

Latency 16:clock Throughput :16 Clock

D_inW_in

16bit Shift Register

16bit Shift AccumulatorD_Out



Digital Neuron Model 3

4bit Reg

16 Input 1 bit

Sum_blockRegStart

clk

D[15:0] Output

Carry[3:0]

Out[4:0]

Initializer

2 Input4bit Adder

Summation Unit n-bit Serial Adder 를 m 개의 data 에 대해 확장 최대 31 개의 16bit 의 데이터를 덧셈 31 개 이내에서는 개수에 대해서 연산시간이 영향을 받지 않음 Latency : 16clock Throughput :

1clock(Pipeline)



Digital Neuron Model 4

Activation Function Generator 입력된 Summation Data 에 대한 Sigmoid

Approximation 값 계산 Shifter 와 Adder 를 이용한 구성 전체 계산 소요시간 n+2 clock

sgn

Complement Logic-1 adder

16bit Shift Register

int frac(Barrel Shift)

+1 AdderComplement Logic

sgn D_in

D_out

제 제 2 2 공동과제 공동과제 :: 자율 주행 시스템의 구현자율 주행 시스템의 구현

연구책임자 : 오세영 ( 포항공대 ) 연구원 : 이진수 ( 포항공대 )


서 론서 론

내용 1 : Image Based Visual Servoing

내용 2 : 주행환경 기반 Neural Network Controller 의 Cooperative Coordination 기법

내용 3 : Hierarchical Fuzzy Architecture (FCDM, Fuzzy Cooperative Decision Module) 를 이용한 주행 알고리즘

내용 4 : Multi-Thread 진화 연산 (MEP) 에 기반한 FCDM 의 최적화

연구 내용 – 연구 내용 – 공동기관공동기관 2 (2 ( 포항공대포항공대 ))


Image Based Visual Servoing



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS) Comparison between PBVS and IBVS

(PBVS: Position Based Visual Servoing)

Advantages: Control law is defined in the cartes

ian space Optimal path planningDisadvantages: Needs camera calibration Landmark can exit the camera’s fie

ld of view

PBVS IBVSAdvantages: Control law is defined in the feature

space Eliminates errors in sensor modeling

and camera calibration Reduce computational delayDisadvantages: Contorted path in cartesian space Planned path in image space must b

e realizable in workspace



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS) Trajectory Learning and Planning in Image Space

Problems in Image Plane Based Trajectory Planning Sub-optimal workspace trajectory Non-holonomic mobile robot can’t follow the planned trajectory

Pre-defined Path

Navigation

Image Feature Extractiond = [ad bd d]T

+Neural Networks

d

(ad, bd)

Trajectory Learning using Neural Network



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS) Overall Schematic Diagram of Proposed IBVS Algorithm

(Neural Network + Fuzzy Logic + Evolutionary Programming)

FLC :

Target Image

Current Feature Vector

+-

Mobile Robot

Image Feature Extraction

Neural Networks

Target Feature Vector

+-

Tba ][

Ttttt ba ][

d

),(),( tt baba

),( ba

),( tt ba

d

22 )()( ttv bbaakv

Fuzzy Rule Learning using EP



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS)

Experimental Results (1)

< Kinematics model >

Landmark

BD

X

Y

x1 x2

y1

y2

a

b

Tba ][

< Feature Vector of Landmark >



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS) Experimental Results (2)

Sampling rate = 33Hz Path ① : Landmark move until ( = d )

Path ② : Landmark move until (a b) = (at bt)

(a) Trajectory of Landmark

0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

0.5

X [m]

Y [

m]

①’

②’

(b) Trajectory of Robot

-100 -50 0 50 100 150 20080

100

120

140

160

180

200

x [pixel]

y [

pix

el]

Start

②

Target

①

< Simulation Result when Pt = [0 0 0]T, Ps = [1 0.5 0]T >



Image Based Visual Servoing (IBVS)Image Based Visual Servoing (IBVS) Experimental Results (3)

0 50 100 150-0.2

0

0.2

0.4

0.6

0.8

1

1.2

samples

m o

r ra

dia

n

XY

samples0 20 40 60 80 100 120 140

-10

-5

0

5

10

15

20

25

deg

d

d

0 20 40 60 80 100 120 1400

0.2

0.4

0.6

0.8

1

1.2

1.4

samples

m/s

0 20 40 60 80 100 120 140-5

0

5

10

15

20

samples

deg

/s

(c) X, Y, 의 변화

(d) , d,

d 의 변화

(e) (f)

< Simulation Result when Pt = [0 0 0]T, Ps = [1 0.5 0]T >



주행환경 기반 Neural Network Controller 의

Cooperative Module Coordination 기법



Overall Navigation System using Modular NOverall Navigation System using Modular Neural Networkeural Network

Sensor InformationSR(t)

Sensor InformationSR(t)

Goal Information

g

Goal Information

g

Module Gating Network

Module Gating Network

Module 1

Module 2

Module n

Steering

Preprocessing

EA Based Sensor

Connectivity Selection

Clustering Network for Environment Classification

Optimized NNs as Navigation Environment

Module Coordination :Competitive or Cooperative

Weighted Cooperation(EP-based weight learning)Distance Threshold

ing



Cooperative Module CoordinationCooperative Module Coordination Neural Network Module Learning using Hierarchical Evolution

< Diagram of Hierarchical Evolution >



Cooperative Module CoordinationCooperative Module Coordination

The competitive module coordination may cause noise sensitivity problem and module transition crosstalk. To solve these problem, cooperative module coordination can be used.

Two Key Issues how to select the relevant modules

by threshold a neural network based environment classification results

how to combine the outputs of the selected modules EP based weight learning



Cooperative Module CoordinationCooperative Module Coordination

Simulation Results

GOAL

START

Navigation Results using Competitively Coordinated Modular

Network

GOAL

START

Navigation Results using Cooperatively Coordinated Modular

Network



Hierarchical Fuzzy Architecture (FCDM, Fuzzy Cooperative

Decision Module) 를 이용한 주행 알고리즘



Fuzzy Cooperative Decision Module Fuzzy Cooperative Decision Module 의 구조의 구조

DistanceInputs

FGN

ROBOT

Environment

FIS 3FIS 2FIS 1

MEP

Three Steps for constructing FCDM1. Modularization of fuzzy rules for basic

behaviors2. Coordination of each module3. Optimization of the parameters in fuzzy

coordination rule bases

FISs are categorized by the standard of robot motion

FIS Group Robot Motion

FIS 1 Move Forward

FIS 2 Move Left

FIS 3 Move Right

MEP 는 FGN (Fuzzy Gate Network) 의Parameter 들을 최적화함



Multi-Thread 진화 연산 (MEP) 에 기반한 FCDM 의 최적화



MEPMEP를 이용한 를 이용한 FCDM FCDM 의 의 FGN FGN 최적화최적화

k-2

k-1

kk+1

Global Search k-2

k-1

k

Local Searchk-2

k-1

k

Minimal Search

The MEP(Multi-Thread Evolutionary Programming) method consists of global, local, and minimal search routine, each of which is utilized depending on the particular situation as below and is used to update the individuals.

• Random search based on stochastic operation

• Updated by using the Cauchy mutation operator

• Used in the initial stage of search

• Current directions of the parameters lead them all the way to the optimum solutions

• Mutated by the direction of descent with adapted probability distribution

• Near the minimum point, this is applied to search for the minimal individual

• If this routine is used repeatedly, the algorithm moves with a good chance to the global minimum



자율이동 로봇자율이동 로봇 ,Alive2 ,Alive2 와 센서 구조와 센서 구조

레이저 거리 측정기를 이용한 로봇 주위 레이저 거리 측정기를 이용한 로봇 주위 270 270 영역을 영역을 스캔스캔

Fuzzy Rule Fuzzy Rule 을 위한 거리 입력을 을 위한 거리 입력을 55 개의 영역으로 나눔개의 영역으로 나눔

목표 지점과의 각도와 목표 지점과의 각도와 55 개의 거리 입력을 이용하여 개의 거리 입력을 이용하여 FuzFuzzy Rule zy Rule 이 구현됨이 구현됨



Fuzzy Logic System for Mobile RobotFuzzy Logic System for Mobile Robot

Fuzzy Set Values for input variables and Its Membership FunctionsFuzzy Set Values for input variables and Its Membership Functions

98

268

171 i iFT

ld

73

341

269 i iFL

ld

73

414

342 i iLT

ld

73

170

98 i i

FR

ld

73

97

25 i iRT

ld

Fuzzy IF-THEN Rule Fuzzy IF-THEN Rule 의 예의 예

T : the difference angle between the heading direction of the robot and direction of the target

where

NEAR Near LE Left

FAR Far FL Front Left

FT Front

FR Front Right

RI Right

)(d T )( )(dNEAR FAR

0.7 2.5

)( T

)(d

T

RI FR FT FL LE

2 4 4 2


IF is FAR, is FAR, is NEAR, is FAR, is NEAR,

and is FT, THEN steering command is small

FTd FLd FRd LTd RTd

T


Simulation ResultsSimulation Results: 초기값으로 주행: 학습 후 주행

여러 가지 환경에 대해서 여러 가지 환경에 대해서 학습을 하여 학습을 하여 FGN FGN 의 의 Parameter Parameter 들을 최적화함들을 최적화함



실제 주행 결과 실제 주행 결과 SimulationSimulation 을 통해 최적화된 을 통해 최적화된 Parameter Parameter 로 실제의 실험실 로 실제의 실험실 환경환경 에서 성공적으로 주행 에서 성공적으로 주행



결론결론 내용 1

- A new IBVS method using neural network and fuzzy evolutionary algorithm

was proposed- Verification using computer simulations

내용 2- Cooperative coordination leads to performance enhancement of modular

neural network controller for AMR navigation 내용 3

- Fuzzy Rule 을 동작에 따라 모듈화하고 Hierarchical 구조로 연결시킴 내용 4

- FGN 을 도입하여 학습시킬 변수들을 대폭 줄임- MEP 를 이용하여 효율적이고 빠른 최적화를 실현 - 실제 자율 이동 로봇에 적용하여 성공적으로 주행


뇌정보처리 메커니즘에 기반한 인간행동 시스템 연구

Documents