chuong 1- tong quan ve nhan dang

7/28/2019 Chuong 1- Tong Quan Ve Nhan Dang

http://slidepdf.com/reader/full/chuong-1-tong-quan-ve-nhan-dang 1/117

KHOA CÔNG NGHỆ THÔNG TIN – ĐẠI HỌC KHOA HỌC HUẾ BÀI GiẢNG LÝ THUYẾT NHẬN DẠNG

Lý Thuyết Nhận DạngPattern Recognition

.Khoa Công Nghệ Thông Tin, Đại Học Khoa Học HuếURL: http://nguyendangbinh.org/LyThuyetNhanDang/

.

Professor Horst Cerjak, 19.12.2005

Nguyễn Đăng Bình Chương 1 - Tổng Quan về Nhận Dạng Trang 1




Tài Li u Tham Khảo

• attern ass cat onR.O. Duda, P.E. Hart, and D.G. Stork,

ew or : o n ey,






• Pattern Recognition andMachine LearninChristopher Bishop, Springer, 2006.

Khá hay và đầy đủ về phân lớp(classification)và hồi quy (regression)






•

SergiosTheodoridis,KonstantinosKoutroumbas ,

• PatternRecognition,Elsevier,1982

Professor Horst Cerjak, 19.12.2005Nguyễn Đăng Bình Chương 1 - Tổng Quan về Nhận Dạng Trang 4




–





Tri Thức (Knowledge) được tạo ra như thế nào?Chuồn chuồn bay thấ p thì mư a

Mùa hè đ an nắn c ỏ à tr ắn thì mư a

C ỏ gà mọc lang, c ả làng đượ c nướ c

Ki ến đ en tha tr ứ ng lên cao

Thế nào c ũng có mư a rào r ất to

Chuồn chuồn c ắn r ốn, bốn ngày bi ết bơ i


Deduction: , ( )Induction: , ( )




Những gì chúng tôi muốn có thể làm…(What we would like to be able to do …)

• Nhận dạng tr ực quan và hiểu cảnh

• Có gì trong ảnh và ở đ âu (What is in the image and where)

- Các kiểu cảnh (scene): ngoài nhà - Các vật liệu (material properties)-


- Các lớp đối tượng (object classes)




Các nhi m v khác nhau

• Phân lớp ảnh (Image classification):

“ Ảnh chứa đối tượng - the image containsan airplane”.

• Phát hiện đối tượng (Object detection) /vị trí xuất hiện đối tượng (localization):

“- the object is here, in a bounding box”.

-segmentation):

“Chỉ những điểm ảnh thuộc về đối tượng -‘ ’ ”


.




Có bao nhiêu loại / đối tượng trong ảnh ?





Có bao nhiêu loại đối tượng tất cả(How many object categories are there?)


Biederman 1987




• Con n ười đã hát triển k năn cho cảm nhận môi

tr ường của mình và hành động theo những gì con ngườiquan sát được r ất tinh vi.

ụ:- Tôi nhận ra một khuôn mặt,

- Tôi hiểu lời nói,- Tôi đang đọc chữ viết tay,

- Tôi phân biệt thực phẩm tươi sống từ mùi của nó.

Chúng ta muốn cung cấp cho khả năng tương tự nàycho các máy.





“ ”• What is Pattern ? (Dạng/Mẫu/đối tượng là gì?)

“

defined, that could be given a name.” (Dạng/M ẫ u làng ượ c l ại c ủ a sự hỗn loạn, nó là một thự c thể mơ hồ

ượ c x c n , m c ượ c c o m c n.

Watanabe





“ ”

• Bảo hiểm, thẻ tín dụng các ứng dụng - ứng viên được đặc tr ưngbởi

- Số vụ tai nạn, làm cho xe, năm của mô hình

- Thu nh , số n ười h thu c, tiền ửi n ân hàn , số tiền thế chấp.

• Hẹn hò dịch vụ

- " ", , , .

• Tài liệu Web

- Từ khóa mô tả dựa trên (ví dụ như các tài liệu có chứa "khủng" " " " ", ,

"NFL").

• Thị tr ường nhà đất


- r , c ư c, n m, u r ư ng ọc,…




Identification of a attern as a member of a cate or we

already know, or we are familiar with. (Xác đị nh môt mẫunhư là một thành viên c ủa một thể loại mà chúng ta đ ã bi ết,

.• Phân lớp/loại - Classification (biết loại đối tượng - known categories)

• Phân cụm - Clustering (học loại đối tượng - learning categories)


Phân cụm (học không có giám sát/có m u)

.xxx




• “The real power of human thinking is based on recognizing patterns.The better computers get at pattern recognition, the more human like

they will become.” (S ứ c mạnh thự c sự c ủ a t ư duy c ủ a con ng ườ i đượ c d ự a trên nhận d ạng. Các máy tính t ốt hơ n có đượ c nhận

ạng m u, c ng s r n n g ng ng ư ơ n.

Ray Kurzweil, NY Times, Nov 24, 2003

• “The problem of searching for patterns in data is a fundamental oneand has a lon and successful histor .” Các v ấ n đề c ủ a tìm ki ế m các

mẫ u trong d ữ li ệu là một trong nhữ ng c ơ bản và có một l ị ch sử lâu dài và thành công.)

Bisho





• A scientific discipline whose aim is the classification of the objects

into a lot of categories or classes. Pattern recognition is also a

integral part in most machine intelligence system built for decisionmaking. (M ột môn học khoa học v ớ i mụ c đ ích là phân l ớ p các

ượ ng u c v o c c p c c oạ ượ ng. n ạng

c ũ ng là một phân không thể thi ế u trong xây d ự ng hệ thống

máy thông minh để ra quy ế t đị nh.)

Sergios Theodoridis.

• The act of taking in raw data and making an action based on thecategory of the pattern. (Hành động l ấ y d ữ li ệu thô và thự c

hi n m t hành đ n d a trên lo i mẫ u.


Duda and Hart




Nh n D n• Với một mẫu/đối tượng đầu vào đã cho, ra quyết định

mẫu/đối tượng đầu vào thuộc về một thể loại mẫu hay lớpmẫu đã bi t.

hệ thống tự động.

• Các l ĩ nh vực liên quan với Nhận dạng: khai phá dữ liệu (datam n n g , ọc m y mac ne earn ng , g c m y n(computer vision) mạng nơ ron, lý thuyết ra quyết định thốngkê…

• Môn học này sẽ trình bày các phương pháp, các mô hình vàcác kỹ thuật khác nhau để giải quyết bài toán Nhận dạng cũngnhư trình bày các ưu điểm v à n hược điểm liên quan.





• Nhận dạng là một môn khoa học nhằm trang bị phương

,

tính có khả năng nhận biết.• Đối tượng nhận dạng: là một thực thể tồn tại mà con

người có th cảm nhận được.

Vídụ: - Hình ảnh được cảm nhận bởi mắt

- Tiến nói đư c cảm nh n bởi tai

- Tín hiệu điện t im cảm nhận bởi hình dạng hoặc số số liệu đo

- Tín hiệu động đất cảm nhận bởi số liệu đo

• Nhận dạng đối tượng: là quá trình từ thông tin quan sát,cảm nhận (thu nhận số liệu) cho đến khi nhận biết được





• Khôn ian biểu diễn đối tượn : Tậ hợ tất cả các

biểu diễn, miêu tả đối tượng quan sát.• Khôn ian diễn d ch: T h tất cả tên i của đối

tượng.

• S hân lớ :- Lớp đối tượng (class): Các đối tượng cùng chungthuộc tính

- Sự phân lớp (classification): quá trình tiến hành phânloại các đối tượng về các lớp (nhận dạng)





• Thu th các đối tư n tươn t nhau

(không nhất thiết giống hệt nhau).• M t lớ đư c đ nh n h ĩ a bởi các mẫu của lớ mô hình

các mẫu, nguyên mẫu, các mẫu huấn luyện).

• -variation).

• - .

• Làm thế nào để xác định sự tương tự (similary)?





Chữ “T” với các kiểu khác nhau


tư thế (pose), sự chiếu sáng (illumination ) khác nhau




Biến đổi bên trong một lớp (class)Loại (category)

• Chairs = “something you can sit on”





- • Làm thể nào để nhận dạng xe ôtô (car) B ẤT KỲ

“ ”


Nguyễn Đăng Bình




Một số lớ đối tượn Caltech datasets

Các khó khăn:• Biến đổi về kích thức và

• Che khuất không gian

(Partial occlusion)

• Ánh sáng (Lighting)

• Tươn t với nền ảnh

(Background clutter)

• Biến đổi bên trong một lớp


(Intra-class variation)




Mô hình lớp đối tượng(Pattern class model)

• Mô tả toán học hay thống kê cho mỗi lớp; đó là mô tả lớp mà được học từ các mẫu.

• Cho một đối tượng, chọn mô hình phù hợp tốt nhất đối

phù hợp nhất đó.





Phân lớ có iám sát / có mẫuCat vs. Dog


Các mẫu huấn luyện đã được gán nhãn




Phân lớ khôn có iám sát / khôn có mẫu


c m u u n uy n c ưa ược g n n n




Nhận dạn đối tượn• Having been shown a few positive examples (and

,

system learns to tell whether or not a new object belongsin this class (Cho hiển thị một vài mẫu đối tượng (và cóm v m u ng p ượng c a m p,

thống học cho biết có hay không một đối tượng mới

thuộc về lớp này) Watanabe• Suy diễn/suy luận (inferring) tổng quát từ một vào mẫu

học.

• = orma on o new c asses n ncác lớp mới)

• RECOGNITION = known classes biết các lớ





• Gọi là không gian biểu diễn đối tượng χ

==n

phần, hoặc là tập các ký tự ký hiệu.cấu trúc miêu tả đối tượng.

,, jiii

ii x X ,

=

ji ,

• Gọi là không gian diễn dịch

là tên gọi đối tượng

Ω

{ } ii ww ,=Ω

Quá trình nhận dạng là tìm một ánh xạ từ vào

Sao cho:

ε χ Ω

ii W X →∀Ω→ ,: χ ε

: u u ,

Chưa biết và

• Cần một quá trình học để hình thành , quá trình ra quyết

ε Ω

Ω


định . (hệ th ng tự c u trúc hoá)ε




• Quá trình nhận thức:

–

– Nhận thức (mô hình hoá): Cần một quá trình học – Nhận biết (gán cho một cái tên): Ra quyết định

• Hệ thống nhận dạng nhằm thực hiện “cảm nhận”“ ”, ,

và “nhận biết” (ra quyết định ).





Phân loại về phương pháp nhận dạng khái

niệm đ i tượng r ộng• Hai kiểu đối tượng cơ bản dựa trên vấn đề miêu tả (mô

– Đối tượng định lượng – Đối tư n đ nh tính

Đối tượng định lượng Đối tượng định tính

Đặc tính được đo lường bởi số liệu Đặc tính được miêu tả bằng các tính chất

{ } n

ii R x x X ∈= ,

=

{ } { }uhiêký các ptâ x x X ii .., ∈=

=.

Đối tượng thực tế là ngẫu nhiên

→ Xử l thốn kế.

→ Xử lý dựa trên cấu trúc.





Model: Simplified description or abstraction of a reality (mô t ả đơ n

Simulation (mô phỏng): Theimitation of some real thing, state

gi ản hóa hoặc tr ừ u t ượ ng hóa một

thự c thể ).Modeling: The process of creating

of affairs, or process ( mô phỏng

một số đ i ều thật, tr ạng thái các công vi ệc hoặc các ti ế n trình).

models (các ti ế n trình t ạo ra mô

hình).


Mô hình (Model) DNA đượ c tìm ra vào năm 1953 bởi Watson và Crick




Generative model vs. Discriminative model

Generative model Discriminative model

Mô hình xác suất liên quan tất cảcác biến, cho việc sinh ra ngẫunhiên dữ liệu uan sát, đặc biệt khi

Mô hình chỉ cho các biến mụctiêu phụ thuộc có điều kiện vàocác biến được uan sát được.

có các biến ẩn.

Định ra một phân bố xác suất liên

Chỉ cho phép lấy mẫu

(sampling) các biến mục tiêu, phụk t trên các quan sát và các dãynhãn.

thuộc có đi u kiện vào các đạilượng quan sát được.

ng

• Mô hình dữ liệu tr ực tiếp• Bước trung gian để tạo ra một

c ung ng c o p p ntả các quan hệ phức tạp giữa cácbiến quan sát được và biến mục


. ,trong học không giám sát.




Generative vs. Discriminative Methods• Huấn luyện các bộ phân loại (classifiers) bao gồm ước tính

f: X→ Y, hoặc P(Y|X).

“ ”,

Generative Classifiers Discriminative Classifiers

dạng P(X|Y), P(Y) đã biết (đolường đươc).

dạng P(Y|X) .

Ước tính các tham số P(Y|X),

P(Y) tr ực tiếp từ dữ liệu huấnluyện và dùng luật Bayes đểtính toán P Y X = x

. SVM, logistic regression,traditional neural networks,

HMM, Markov random fields,Gaussian mixture models, NaïveBa es LDA …vv…

, ,

MEMM, conditional random fields,…vv….


(cấ: fish, to bet)




.• Generative classification – Ước tính độ tương tự

robust

• Discriminative classification – Ước tính các đườngbiên giới các lớp (Hữu hiệu, cần nhiều mẫu học)


generative classification discriminative classification

Ô Ô Ế À Ả Ý Ế Ậ




.

Phân lớp tạo sinh Phân lớp phân biệt

(generative classification) (discriminative classification)

Generative model: có thể ước tính từ một số ít mẫu hơn !


KHOA CÔNG NGHỆ THÔNG TIN ĐẠI HỌC KHOA HỌC HUẾ BÀI GiẢNG LÝ THUYẾT NHẬN DẠNG




Sự phát triển của Nhận dạng gắn với học máy


Hăng hái nhiệt tình phát triển chậm thời phục hưng Tr ưởng thành Phát triển nhanh





Nhận dạng trong thực tế

Kinect for Xbox 360 - NY Times, Jan 12, 2010


Vision System Design, Nov 2009





Các ứng dụng nhận dạngBài toán Đầu vào Đầu ra

,người nói.

Phát hiện và chuẩn đoán Các dạng sóng EKG, Các loại bệnh lý tim,

thái não bộ

Xác định tài nguyên thiên

nhiên

Ảnh đa phổ Các dạng địa hình, thảm

th c v t

Trinh sát không gian(bằng máy bay)

Hình ảnh , ảnh hồngngoại, ảnh radar

Xe tăng, sân bay…

Nhận dạngký tự Quét mã độc giả, mã zip,biển số xe.. ,

Ký tự chữ s (mã ASCII)






Các ứng dụng nhận dạngBài toán Đầu vào Đầu ra

,vi phần của các mô

Kiểm tra (bô mạch PC, Quét hình ảnh (tr ực Chấp nhận được/không, ,

Sản xuất Hình ảnh 3D (có cấu trúcánh sáng, laser, âm

Xác định đối tượng, tưthế , lắp ráp

Tìm kiếm Web Từ khóa được quy địnhbởi người dùng

Văn bản liên quan chongười sử dụng

Nhận dạng vân tay Hình ảnh đ u vào từ cáccảm biến lấy dấu vân tay

Chủ sở hữu của vân tay,các lớp vân tay.

Hồi dạng chữ viết tr ực Truy vấn từ được viết bởi Sự xuất hiện các từ


tuy n người dùng trong cơ sở dữ liệu




Ệ Ạ Ọ Ọ Ậ Ạ

• Tự động phát hiện và đọc số từ biển số xe (License plate).

• Các môdul: (1) Thu nhận, (2) tăng cường ảnh,(3) phân vùng các con số, (4) nhận dạng các con số.


• Thực hiện theo thời gian thực (real-time).




Ứn dụn :

• Thu phí điện tử

• - -

• An ninh quốc gia, và kiểm soátbiên giới

• Tìm kiếm xe bị đánh cắp, véchưa thanh toán

thông





Các bước nhận dạn biển số xe

• Phát hiện, xác định vị trí biển số xe: tách biển số xe ra.

• Chuẩn hóa kích thước: điều chỉ nh độ sáng & tương.

• Phân vùng các ký tự số: tìm và tách các vùng ký tự số

• Nhận ký tự quang học.

• Phân tích cú pháp/hình học: kiểm tra các ký tự và vị trícủa chúng theo các qui tắc cụ thể của từng quốc gia.





- • Hình ảnh có độ phân giải thấp: biển số quá xa camera

.

• Ảnh mờ (blur), đặc biệt là các chuyển động mờ.• Ánh sáng thiếu/ độ tương phản thấp: tiếp xúc nhiều, phản

chiếu hoặc bị bóng

• Vị trí quan sát biến đổi v à bị che khuất (thường thì các biển


ảnh xe chuyển động nhòe, ánh sáng và điểm quan sát xe bị che khuât




- • Font chữ khác nhau, phổ biến các biển số xe có trang

.

• Các kỹ thuật gian lận.• Thiếu sự phối hợp giữa các quốc gia hoặc các bang

• Hai xe ô tô từ hai tỉ nh/bang khác nhau hoặc hai nướckhác nhau có thể cùng chung biển số nhưng thiết kế khác

.





Ứn dụn : Hỗ tr ợ lái xePhát hiện người đi bộ và ôtô

m e

t e r s

Ped

Ped

Car

meters

Phát hiện đường phân cách mặt đường(Lane detection)

• t ng c n o vachạm với kiểm soát hànhtrình thích ứng.

• Hệ thống cảnh báo lànđường xuất phát


• ng p ntượng phía sau




• Biểu diễn (Representation)

– Làm th nào đ bi u di n một loại/lớp đ i

tượng.

• Học (Learning)

– Làm thế nào để hình thành bộ phân loại(classifier) từ tập dữ liệu m u đã cho tr ước

• Nhận dạn Reco nition

– Làm thế nào bộ phân loại sử dụng trên cácdữ liệu mới.





• Các thách thức:

Biểu diễn (đối tượng, sự kiện, hành động, hành vi…)

Đối sánh

• t t ng n n ạng ao g m g a oạn p ase :

Giai đoạn thử nghiệm (testing) hoặc lượng hóa(evaluation)





Sự khó khăn tron biểu diễn đối tượn

Chúng ta nên làmthế nào để môhình hóa khuôn

mặt giải thích chosự bi n đ i khácnhau trong cùng


John P. Frisby, Seeing. Illusion, Brian và Mind, Oxford University Press, 1980






ể ố

account



Các khó khăn tron biểu diễn đối tượn

• “Làm thế nào để bạn hướng dẫn một người nào đó

một tạp chí, cho phép một mình tìm ra hình của một conngười trong các miếng biến dạng tách r ời? ”

• “Một chương trình có thể phân biệt giữa các khuôn mặtnam và nữ trong một ảnh chụp ngẫu nhiên có lẽ sẽ mộtn ực c a c g c a n m n s oa ọc m ytính.” (Penzias 1989).

• u n c ao g m m v c ơ c a c c g r số thực, một danh sách có thứ tự các thuộc tính, các bộphận và cá cmối quan hệ của chúng ....





• Nên có một số thuộc tính bất biến ví dụ: hé ua ,

phép biến đổi, phép tỉ lệ, góc quan sát, biến dạng, che

khuất, ….)• c c o c c n c c ượng rong m p.

• Có khả năng phân biệt các lớp đối tượng và độ tương

t iữa các hần tử tron lớ thấ .• Mạnh trong biểu diễn với nhiễu và che khuất.

• Dẫn tới các chiến lược tạo quyết định đơn giản.

• (ví dụ: đường ranh giới quyết định là tuyến tính)• Đo lường với chi phí thấp, và tốc độ theo thời gian thực.



Hệ thố hậ d



Hệ thống nhận dạng1. Tri thức trong l ĩ nh vực cụ thể

Thu nhân dữ liệu, biểu diễn

. u n n u

Camera, siêu âm (untrasound), MRI

Tăng cường ảnh, phân vùng

4. Biểu diễn dữ liệu Các đặc tính: màu, hình dạng, k t c u

5. Ra quyết định

Nhận dạng theo cấu trúc ngữ pháp Mạng nơ ron


6. Hậu x lý; x dụng ngữ c nh




Đối tư n th c

(thực thể) Quan sát và thu thập

thông tin (số liệu, đặctính miêu tả)

Trích lọc đặc

tính

(Khối cảm nhận của máytính, thiết bị cảm biến) Giải Thuật

Quá trình học vàTr ả lời kết quả Đánh giáHiển thịra quy t định

kết quảkết quả



Hệ thống nhận dạng



Hệ thống nhận dạng



Phân lớp cá: Salmon vs. Sea Bass



Phân lớp cá: Salmon vs. Sea Bass

• Tiền xử l : ảnhtăng cường và

phân vùng;(i) tách các con cáchạm vào nhauhoặc chồng lênnhau,

• (ii) trich đường

biên của cá



Biể diễ hiề dài á h là đặ tí h



Biểu diễn: chiều dài con cá như là đặc tínhCác mẫu huấn luyện (Training samples)



Xá ất ật độ P b bilit D iti



Xác suất mật độ Probabilit Densities



Xem trọng lượng của cá như là đặc tính



Xem tr ọng lượng của cá như là đặc tính

(feature)


n c ng p g ao n au g a c c s ogram n y n so v c nchiều dài


Khôn ian đặc tính hai chiều



Khôn ian đặc tính hai chiều Đường ranh giới tuyến tính; giá của sự nhầm lớp?


Kết hợp phân bố của hai đặc tính dẫn đến phân tách tốt hơn.


Độ hức tạ của đườn ranh iới u ết định



Độ hức tạ của đườn ranh iới u ết định


Khả năng của đường ranh giới đã được huấn luyện tổng quát


Ranh iới với khai uát hân biệt tốt



Ranh iới với khai uát hân biệt tốt


Các đường ranh giới quyết định đơn giản được ưa thích


Ranh giới (biên giới) – Hàm phân biệt



a g ớ (b ê g ớ ) à p â b ệ

(Discriminant function)

• n m: m p n m m n ng

thực hiện phân lớp có h iệu quả.

• Định ngh ĩ a: Hàm phân biệt của lớp Ci là một hàm đơntr ị, ký hiệu f i (x) sao cho có thể xây dựng quy tắc (luật)n n ạng c c ượng u c v p i n ư sau:

x ∈ Ci nếu f i (x) > f i (x) ∀ i # j =1..N (số l ớ p)

tương ứng với c á c lớp.


• Vấn đề: Xác định hàm f i (x) đối với lớp Ci ,∀ i




i

• Không gian véc tơ số liệu n-chiều Có th f i (x) = P(x | Ci )

Có thể f i (x) = khoảng cách từ x đến lớp Ci

• Không gian mô tả/miêu tả cấu trúc

Có thể f i (x) là biểu diễn sự tương tác giữa 2 xâu chuỗi

Có thể f i (x) là khoảng cách giữa 2 cấu trúc đồ thị

Có thể f i (x) là biểu diễn ngữ pháp miêu tả câu



Lựa chọn và Trích chọn đặc tính



Lựa chọn và Trích chọn đặc tính

(Feature selection & Extraction)

• Lựa chọn khác với trích chọn.

• Có bao nhiêu và những tập đặc tính nào được sử dụngtrong xây dựng đường ranh giới/biên giới quyết định.

• Một số đặc tính có thể dư thừa (không cần thiết).

• Tỉ lệ lỗi có thể trên thực tế gia tăng với quá nhiều đặctính trong tr ường hợp số lượng nhỏ các mẫu huấn luyện.





• Đối sánh mẫu (template matching)

• Thống kê (hình học)

• Cú pháp (cấu trúc)

• Mạng nơ ron nhân tạo

• Các phương pháp lai







Nhận dạng thống kê



• Biểu diễn các mẫu trong không gian đặc tính

• Mô hình thống kê cho việc sinh ra các mẫu


,là để phân vùng không gian đặc tính.


Các cách tiế cận nhận dạn thốn kê



ậ ậ ạ



Biểu diễn dữ liệu



ệ

• Mỗi mẫu được biểu diễn như là một điểm (point)trong không gian đặc tính d chiều.

• Chon các đặc tính/đặc tr ưng và các tính chất bất biến

mong muốn của nó là miền cụ thể.

• Ngụ ý r ằng biểu diễn tốt (i) biến đổi các đối tượngtrong lớp nhỏ, (ii) phân tách giữa các lớp lớn và


(iii) đường ranh giới/biến giới quyết định đơn gian.


Biểu diễn bất biến invariant re resentation



Bất biến đối với

Phép quay

Nghiên

Màu sắc

Không phải tất cả các tính chất bất biến l à cần


.


Nhận dạng cấu trúc



(structural pattern recognition)• Tha vì mô tả một đối tượn tron các đại lượn của một

véc tơ đặc tính, thì mô tả bởi cấu trúc của nó.

• Mô tả/miêu tả các đối tượng phức tạp với các cấu trúcnguy n y ơn g n v c c quan g a c ng; udiễn dựa trên các thành phần (biểu diễn khuôn mặt baogồm các thành phần đôi mắt, mũi, miệng…)



Nhận dạng cú pháp



(Syntactic pattern recognition)



Mạng nơ ron nhân tạo



(Artificial neural network)• Một xử l son son lớn là điều cần thiết cho các nhiệm

vụ nhận dạng phức tạp (ví dụ, nhận dạng tiếng nói &

hình ảnh). on ngư m c c v r m m g y c o uhết các nhiệm vụ nhận thức; điều này cho thấy tínhtoán song song trong bộ não của con người.

• Mạng sinh học đạt được hiệu suất nhận dạng thông quakết nối dày đặc của cá cyếu tố tính toán đơn giản (các

.

• Tổng số tế bào thần kinh (nơ ron) ≈ 1010 – 1012

• Số các mối liên kết/tế bào thần kinh ≈ 103 – 104


• Tổng số các mối liên kết ≈ 1014




• Các nút trong mạng lưới thần kinh là phi tuyến, thường

• ở đó là ngưỡng nội bộ hoặc phần bù





• Mạng lan truyền thẳng với một hoặc nhiều hơn một. .

• Mạn g 3 tầng có thể tạo ra các vùng quyết định độ phứctạp tùy ý.

• Các mạng nơ ron được huấn luyện bởi thuật toán lantru ền n ư c back- ro a ation





• n p c c n n v o ượng ng

ngh ĩ a các loại đối tượng (đại dương, bãi biển,, , , , , , …



Làm thế nào để chú thích các loại đối



tượng khác nhau trong hình ảnh này?





• Liệu nó có chưa một chiếc phà (ferry)?





• Có chim ở trong hình ảnh này hay không ?



Xác định identification



• Cung điện Topkapi này?







Ứng dụng: Cải tiến tìm kiếm tr ực tuyến



Truy vấn:

STREET

Tổ chức các bộ sưu tập ảnh



Ứng dụng: Nhận dạng chữ viết tay tiếng Anh





Ứng dụng: Nhận dạng chữ viết tay

tiế T



tiếng Trung



Ứng dụng: Nhận dạng vân tay



Mục tiêu: cho một hình ảnh kính hiển vi sốhóa của một tuyến tiền liệt mô, chúng ta cầntìm ung thư tuyến trong ảnh.

ng ư uy n uy n n ư ng

Cấutrúc



Xác định các thành hần của Mô• Áp dụng K mean để phân cụm ảnh thành 4 cụm (cluster)



• Áp dụng K-mean để phân cụm ảnh thành 4 cụm (cluster)tương ứng với 4 thành phần Mô (tissue): hạt nhận (nuclei),c m s roma , o c cy op asm , umen.

• 4 thành phần được xác định bởi phân tích các tâm của cụm.

Phân cụm các điểm ảnh Kết quả phân cụm. Màu xanh (hạt nhân),


nh đ u vào trong không gian màu RGB , ,màu hòng (tế bào chất)


Phân vùn tu ến



• Xử lý phân vùng:. .

2. Tìm hạt nhân kết hợp với mỗi Lumen bởi tìm kiếm trên các

hướng của đường biên bao quanh lumen.


Kết quả của phân vùng tuyến của ảnh


Phân lớ Tu ến



Artifact-Chất nền (màu hồng) xung quanhlumen- Rất í t hạt nhân xung quanh lumen

Ung thư tuyến- Tế bào chất (màu tím) xung quanh lumen- Nhiều Hạt nhân xung quanh lumen hơn

Bình thường tuyến- Tế bào chất (màu tím) xung quanh lumen- Dày đặc hơn, xung quanh hạt nhân tốilumen



Kết uả hân lớ



Kết uả hân lớ . Màu vàn biểu thị tu ến bình thườn , màu xanh lá câ biểu thị tu ến un


thư, màu đỏ biểu thị hiện vật, màu tr ắng biểu thị tuyến không sử dụng.Tuyến phân loại saiđược đánh dấu bởi hộp khung (hộp màu biểu thị nhãn tuyến đúng)

KHOA CÔNG NGHỆ THÔNG TIN – ĐẠI HỌC KHOA HỌC HUẾ BÀI GiẢNG LÝ THUYẾT NHẬN DẠNGỨng dụng: Phát hiện bệnh ung thư tuyền





Ứn d n : Nh n d n các tòa nhà từ ảnh

vệ tinh



vệ tinh



Lịch sử hát triển



Professor Horst Cerjak, 19.12.2005Nguyễn

Đăng Bình Ch

ương 1 - T

ổng Quan v

ềNh

ận D

ạng Trang 100

1980s Hiện nay1990s đến đầu những năm 2000s

Nguyễn Đăng Bình


Ứn dụn : Nhận dạn chữ số viết ta

(hand-written)



(hand-written)

• Các ảnh mẫu có kích thước là 28 x 28 pixels

• Biểu diễn ảnh đầu vào là một véc tơ x R784

•

Professor Horst Cerjak, 19.12.2005Nguyễn Đăng Bình Chương 1 - Tổng Quan về Nhận Dạng

Trang 101

f : x → {0, 1, 2, 3, 4, 5, 6, 7, 8, 9}


Ứn dụn : Phát hiện khuôn mặt



Đây là bài toán phân lớp có giám sát• Cần phân lớp một vùng ảnh (patch) thành một trong

• không có khuôn mặt (non-face)• khuôn mặt thằng (frontal-face)


Trang 102

• u n m ng n pro e- ace


Bộ phân loại (classifier) được học từ dữ

liệu mẫu đã được gán nhãn



liệu mẫu đã được gán nhãnDữ liệu huấn lu ện dành cho

khuôn mặt tr ước (frontal

faces) Tất cả gần như đằng tr ướcmặt

u ge , c ng c race ,giới tính (gender), ánh sáng)(lighting

• ng p u n m

• Các face là được chuẩn hóakích thước (normalized)


Trang 103

tỉ lệ (scale), bi n đ i(translation)


Ứn dụn : Phát hiện Thư rác “S am”



• Là một bài toán phân lớp

• Nhiệm vụ là phân loại “email” thành thư rác “spam”/không phải làthư rác (spam/non-spam).

• Dữ liệu xi là từ đếm ví dụ email về “viagra outperform”, “you may

be surprized to be contacted” …• Đòi hỏi hệ thống phải học và nhận ra là “enemy” tiếp tục đổi mới.


Trang 104


Ứng dụng: Dự báo giá cổ phiếu

(Stock price prediction)



(Stock price prediction)

• Nhiệm vụ là dự báo giá cổ phiếu trong thời diểm tươnglai


Trang 105

• Đây là một nhiệm vụ/bài toán hồi qui, đầu ra là liên tục


(Computational biology)



(Computational biology)

• Nhiệm vụ hồi qui : cho một dãy và

dự báo cấu trúc 3D.



Ứng dụng: Web - Dịch máy

(Machine Translation)



(Machine Translation)







Ứng dụng: Web - Các hệ thống đề nghị

(Recommender systems)



( y )• Nhữn n ười đã mua “Hastie….”



Thách thức 1: Sự biến đổi góc quan sát

(view point variation)



( p )


Michelangelo 1475-1564


Thách thức 2: Sự biến đổi chiếu sáng

um nat on





Thách thức 3: Sự quan sát bị che khuất

v ewpo n occ us on



p


Magritte, 1957






Thách thức 5: Đối tượng biến dạng (deformation)




Xu, Beihong 1943


Thách thức 6: Nền lộn xộn/xáo tr ộn (Background Clutter )




Klimt, 1913


Thách thức 7: Sự biến đổi bên trong lớp(intra-class variation)





Tóm tắt

Nhận dạng là cần thiết cho



•

• Hỗ tr ợ con người ra quyết định

• Mô hình nhận dạng cho mục đích chung là một bài toánkhó.

• Các hệ thống thành công trong các l ĩ nh vực có ràng buộc..

• Không có một cách tiếp cận nhận dạng nào là tối ưu tất cả các bài toán nhận dạng.

• Sử dụng các mô hình đ i tượng, các ràng buộc và ngữ

cảnh là cần thiết cho việc xác định độ phức tạp các mẫu.•


dấn đến các bộ phân loại đơn giản.

chuong 1- tong quan ve nhan dang

Documents