Đồ án Tìm hiểu bài toán nhận dạng kí tự viết tay và phát triển ứng dụng
Đồ án tốt nghiệp:
" Tìm hiểu bài toán nhận dạng kí tự viết
tay và phát triển ứng dụng”
Nhận dạng kí tự viết tay và phát triển ứng dụng
LỜI NÓI ĐẦU
Nhận dạng kí tự, đặc biệt kí tự viết tay là bài tốn có nhiều ứng dụng thực
tiễn. Về mặt lý thuyết, chưa có phương pháp nào hồn chỉnh cho cho bài tốn này do
tính phức tạp, sự biến dạng của dữ liệu đầu vào.
Những năm gần đây, cùng vơí sự phát triển của lý thuyết nhận dạng, công
nghệ xử lý ảnh, đã có nhiều nghiên cứu mang lại một số kết quả cho bài tốn nhận
dạng kí tự viết tay, từ đó mở ra hàng loạt ứng dụng thực tế.
Mục tiêu của đồ án nhằm giới thiệu một cách tiếp cận bài tốn nhận dạng
chữ viết tay với một số ràng buộc, nhằm từng bước đưa vào ứng dụng thực tiễn.
Mặc dù hết sức cố gắng, song do thời gian có hạn và những hạn chế bản
thân nên đồ án có thể còn thiếu sót, mong tiếp tục nhận được sự chỉ bảo của Thầy,
Cô và ý kiến đóng góp của các bạn sinh viên để đồ án được hồn thiện hơn. Em xin
chân thành cảm ơn.
Nha Trang
Ngày 10 tháng 9 năm 2003
SVTH : NguyễnĐình Cường
Trang 1
Nhận dạng kí tự viết tay và phát triển ứng dụng
NHẬN XÉT CỦA GIÁO VIÊN.
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
...............................................................................................................................
Giáo viên nhận xét
PHẦN I
SVTH : NguyễnĐình Cường
Trang 2
Nhận dạng kí tự viết tay và phát triển ứng dụng
TỔNG QUAN VÀ CƠ SỞ LÝ
THUYẾT TIỀN XỬ LÝ ẢNH KÍ TỰ
CHƯƠNG I
TỔNG QUAN
I. Giới thiệu bài tốn:
Nhận dạng kí tự, đặc biệt kí tự viết tay là bài tốn có nhiều ứng dụng thực tế.
Máy tính xử lí, nhận dạng các biểu mẫu, phiếu điều tra tự động, bằng cách này ta
có thể tiết kiệm được nhiều chi phí về thời gian, công sức cũng như các chi phí
khác cho việc nhập dữ liệu.
Ngày nay cùng với sự phát triển về mặt lý thuyết, công nghệ, có rất nhiều
hướng đi cho việc giải quyết bài tốn này như: nhận dạng kí tự dựa trên cấu trúc
hay cách tiếp cận khác như dùng: logic mờ, giải thuật di truyền, mô hình xác suất
thống kê, mô hình mạng nơ ron. Đặc biệt trong những năm gần đây mô hình mạng
nơron được quan tâm nhiều do khả năng tổng hợp của mô hình và sự phát triển về
tốc độ xử lí của máy tính.
Trên thế giới hiện nay có nhiều chương trình nhận dạng chữ viết (chữ in và
viết tay) bằng các thứ tiếng Anh, Nga, v.v... như các hệ OMNIPAGE, READ-
WRITE, WORD-SCAN,... Ở Việt Nam cũng có một số hệ như WORC của công
SVTH : NguyễnĐình Cường
Trang 3
Nhận dạng kí tự viết tay và phát triển ứng dụng
ty 3C, VIET-IN của công ty SEATIC, VNDOCR của Viện Công Nghệ Thông Tin,
Image Scon của Trung Tâm Tự Động Hóa Thiết Kế, hệ WINGIS của công ty
DolfSoft...
Nhìn chung, các sản phẩm phần mềm nhận dạng văn bản Tiếng Việt chữ in
của nước ta đã thu được kết quả khả quan, đặc biệt phần mềm VNDOCR đã được
sử dụng rộng rãi trong các cơ quan nhà nước. Riêng phần nhận dạng kí tự viết tay
vẫn đang được nghiên cứu và phát triển nhằm phục vụ cho các yêu cầu khác nhau
như đọc và xử lý các biểu mẫu: hố đơn, phiếu điều tra ...
Với mục tiêu tìm hiểu bài tốn nhận dạng ảnh kí tự viết tay không trực tuyến
(off-line), đồng thời sử dụng kết quả vào việc xử lí phiếu đăng kí môn học của
Trường Đại Học Thuỷ Sản Nha Trang. Nội dung đồ án là sự thử nghiệm xây dựng
chương trình nhận dạng ảnh kí tự viết tay nêu trên, bằng cách sử dụng mạng nơron
để nhận dạng kí tự, dựa trên tập mẫu kí tự đã được mã hố bởi đặc trưng của đường
biên.
Trong quá trình tìm hiểu lý thuyết và xây dựng chương trình, em đã tham
khảo nhiều nguồn tài liệu, trong đó ý tưởng xác định véc tơ đặc trưng của kí tự
viết tay sử dụng trong đồ án này được tham khảo từ luận án thạc sĩ “ Nhận dạng
chữ viết tay rời Tiếng Việt”, của tác giả Phạm Đại Xuân, Đại học khoa học tự
nhiên Thành Phố Hồ Chí Minh.
II. Cấu trúc, nội dung của đồ án:
Nội dung của đồ án được chia làm 4 phần:
Phần I: Giới thiệu tổng quan và cơ sở lý thuyết tiền xử lí ảnh kí tự, gồm
3 chương:
Chương 1: Giới thiệu tổng quan.
Chương 2: Giới thiệu cơ sở lí thuyết tiền xử lí ảnh kí tự.
Chương 3: Giới thiệu cách xác định đặc trưng của kí tự.
Phần II: Giới thiệu các mô hình nhận dạng, gồm 2 chương.
Chương 1: Giới thiệu một số kĩ thuật phân lớp: đối sánh, sử dụng
hàm thế, phương pháp LDA.
Chương 2: Giới thiệu mô hình mạng nơ ron cho bài tốn nhận dạng.
Phần III: Giới thiệu một số ứng dụng và đánh giá kết luận gồm 4
chương .
Chương 1: Giới thiệu ứng dụng kĩ thuật tách liên thông cho việc
tách liên thông kí tự trong văn bản.
Chương 2: Xây dựng, đánh giá chương trình nhận dạng kí tự viết
tay.
Chương 3: Đưa kết quả vào ứng dụng xây dựng chương trình xử lí
phiếu đăng kí môn học cho sinh viên ở trường Đại học Thuỷ Sản Nha
Trang.
Chương 4: Đánh giá kết luận và nêu hướng phát triển của đề tài.
Phần IV : Phụ lục giới thiệu giao diện chương trình.
SVTH : NguyễnĐình Cường
Trang 4
Nhận dạng kí tự viết tay và phát triển ứng dụng
CHƯƠNG II
CƠ SỞ LÝ THUYẾT TIỀN XỬ LÍ ẢNH KÍ TỰ
I. Lọc mịn ảnh:
Lọc mịn ảnh là một lọc thông thấp, giá trị của một điểm ảnh là trung bình
trọng số của các điểm ảnh lân cận, hay giá trị điểm ảnh là kết quả của quá trình
xoắn (convole) của các điểm ảnh lân cận với một nhân. Nhân có kích thước tuỳ ý
3x3, 5x5, kích thước nhân càng lớn thì càng nhiều điểm lân cận ảnh hưởng vào
điểm ảnh kết quả. Ví dụ một số nhân lọc mịn ảnh như sau:
1 1 1
1 1 1
1 1 1
1/9
1 1 1
1 2 1
1 1 1
1/10
1 1 1
1 4 1
1 1 1
1/12
Lọc mịn ảnh có tác dụng hạn chế ảnh nhiễu muối tiêu.
II. Nhị phân ảnh:
Nhị phân ảnh mức xám là tìm giá trị ngưỡng sao cho các điểm ảnh có giá
trị lớn hơn ngưỡng được gọi là trắng(nền) và các điểm ảnh có giá trị nhỏ hơn
ngưỡng được gọi là đen (đối tượng).
Tiêu chuẩn xác định ngưỡng thường sử dụng nhất là sử dụng sai số bình
phương trung bình giữa giá trị mẫu v và mức tái thiết r(v). (ký hiệu MSE)
Ta có:
v r v p v dv
2
2
E
e2
=
E v r v
0
Trong đó p(v) là hàm mật độ xác suất của biến ngẫu nhiên v, có thể coi xấp
xỉ bằng histogram của ảnh. Với một số cho trước L các mức xám MSE được biểu
diễn bởi:
j1
E
e2
v vj 2 p
v
dv
j
SVTH : NguyễnĐ
Trang 5
Nhận dạng kí tự viết tay và phát triển ứng dụng
Do r(v)=rj là hằng số trong đoạn [vj , vj+1].
Với p(v) cho trước và số mức tái thiết L cố định, các mức quyết định vj ,
j= 1…L-1 và các mức tái thiết rj , j=0..L-1 cực tiểu hố MSE tuân theo quan hệ sau:
rj1 rj
vj
rj
j 1...L 1
j 1..L 1
2
v j 1
vp v dv
v j
v j 1
p
v
dv
Tuy nhiên, không có cách giải quyết dưới dạng khép kín nào tồn tại trừ khi
v j
chấp nhận một số phép xấp xỉ.
Bây giờ ta xem xét trường hợp ngoại lệ nhưng quan trọng với L=2. Đó là
trường hợp nhị phân hố ảnh. Khi đó MSE trở thành:
v1
v2
E
e2
v r0
2 p
v
v r1 2 p
v
dv
dv
v0
v1
Giả sử rằng p(v) có thể ước lượng từ histogram và v0, v2 tương ứng với
vmin, vmax. Còn lại ba tham số cần được tính tốn đó là r0, r1, và v1. Tham số v1 gọi là
ngưỡng nhị phân hố. Hơn nữa r0(v1) và r1(v1) cực tiểu MSE, với một giá trị cho
trước của vj, đơn giản là những giá trị trung bình trong đoạn tương ứng:
v1
vp
v
dv
v0
r0
v1
v1
p
v
dv
v0
v2
vp
v
dv
v1
r1 v1
v2
p
v
dv
v1
Như vậy đợc tính bằng cách thay r0 và
r1 bằng r0(v1) và r1(v1) tương ứng và chọn vlsao cho MSE là cực tiểu.
Otsu đề nghị một cách tương tự nhưng tiêu chuẩn đơn giản hơn về mặt tính
tốn dựa trên phân tích biệt số. Trong công thức này, MSE tương đương với
2
2
phương sai lớp trong W (v1). Nếu W (v1) được bổ sung vào phương sai lớp giữa
SVTH : NguyễnĐình Cường
Trang 6
Nhận dạng kí tự viết tay và phát triển ứng dụng
2
2
B (v1), ta được tồn bộ biến đổi T ( độc lập v1). Như vậy, thay vì cực tiểu MSE,
giải thuật của Otsu cực đại phương sai giữa lớp:
2
2
v1* argmax
p0
v1
0
v1
T
p1
v1
1
v1
T
Trong đó:
p0
p1
v1
v1
v1
1
v1
v1
v1
0
v1
v1
v1
T
1
1
v1
Và
T
v2 vmax
v1
v1
v
dv
p
v0
v1
v vp v dv
1
v0
Biểu thức ành :
2
T .
v1
v1
v* arg max
1
v1
1
v1
Thật ra, còn tồn tại một số tiêu chuẩn lượng hố khác, chẳng hạn entropy,
cũng trên histogram của mức xám. Histogram có thể được tính từ tồn bộ ảnh hoặc
từ lân cận địa phương giới hạn xung quanh ảnh đang xét.
III. Đánh nhãn thành phần liên thông:
Khái niệm liên thông trong kí tự có thể xem như tập hợp các điểm ảnh liền
nhau tạo nên kí tự, mục tiêu của giải thuật này là lọc ra những kí tự có trong ảnh.
1. Tách liên thông bằng kĩ thuật đệ quy :
Để tách liên thông ta nghĩ ngay đến kỹ thuật đệ quy cấp 8 (tại mỗi bước
chúng ta có tối đa 8 lựa chọn tiếp theo).
Quy ước : Điểm (x, y) : cho biết giá trị điểm tại toạ độ (x, y).
=1 màu chữ
=0 màu nền
Height : Chiều cao ảnh
Width : Chiều rộng ảnh
Ta có giải thuật như sau:
// Đưa tất cả các điểm liên thông với Điểm(x,y) vào liên thông t
Procedure Chonvao((x,y) :điểm, t :liênthông)
Begin
If (Điểm(x, y)=1) AND (NOT đã_xét[x,y]) then
Begin
Them_vao_lien_thong(t,(x, y));
SVTH : NguyễnĐình Cường
Trang 7
Nhận dạng kí tự viết tay và phát triển ứng dụng
Đã_xét[x, y] :=True ;
For i :=x-1 to x+1 do
For j:= y-1 to y+1 do
If ( i <>x) or (j<>y) then Chonvao((i, j),t);
End;
End ;
// Ta có thủ tục tách liên thông đệ quy như sau :
Procedure TáchLiênThôngĐQ(VAR LT: Danh_Sách_Liên_Thông)
Begin
T:=<danh sách rỗng>
t:=<liên thông rỗng>
For j:=1 to Height do
For i:=1 to Width do đã_xét[i, j]:=False;
For j:=1 to Height do
For i:=1 to Width do
If (Điểm(x, y)=1) AND( NOT Đã_xét[i, j]) then
Begin
Chonvao( (i, j ),t);
Thêm _liên_thông_vào_Danh_Sách(T, t) ;
t :=<liên thông rỗng> ;
End ;
End;
Nhận xét:
Thuật tốn này chỉ có ý nghĩa minh hoạ bản chất của tách liên thông. Ta
không chọn thuật tốn này cài đặt vì chi phí đệ quy quá cao, chưa kể tốc độ thực
hiện.
2. Giải thuật cải tiến:
Để gán nhãn cho thành phần liên thông ta có thể duyệt theo từng đường
chạy. Kỹ thuật này gán cho mỗi thành phần liên thông của ảnh nhị phân một nhãn
riêng biệt. Nhãn thường là các số tự nhiên bắt đầu từ một đến tổng số các thành
phần liên thông trong ảnh input.
Giải thuật phát biểu như sau:
Quét ảnh từ trái sang phải và từ trên xuống dưới. Trong dòng thứ nhất chứa
pixel đen, một nhãn duy nhất được gán cho mỗi đường chạy liên tục của pixel đen.
Với mỗi pixel đen của dòng tiếp theo, các pixel lân cận dòng trước và pixel bên
trái được xem xét (hình vẽ a ). Nếu bất kì pixel lân cận nào được gán nhãn, nhãn
tương tự được gán cho pixel đen hiện thời; ngược lại, nhãn tiếp theo chưa được sử
dụng được chọn. Thủ tục này được sử dụng cho đến dòng cuối của ảnh.
Lúc kết thúc tiến trình này, một thành phần liên thông có thể chứa các pixel
có các nhãn khác nhau vì khi chúng ta xem xét lân cận của pixel đen, chẳng hạn
pixel “?” (trong hình c), pixel đối với lân cận trái và những lân cận trong dòng
trước có thể gán nhãn một cách riêng biệt. (Trong ví dụ này, chúng ta sử dụng
nhãn của lân cận trái). Một tình huống như vậy phải được xác định và ghi lại. Sau
SVTH : NguyễnĐình Cường
Trang 8
Nhận dạng kí tự viết tay và phát triển ứng dụng
tiến trình quét ảnh, việc gán nhãn được hồn tất bằng cách “thống nhất mâu thuẫn
các nhãn” và gán lại các nhãn chưa sử dụng.
Để minh hoạ ta có các hình biểu diễn sau:
. . . . .
. P P P .
. L ? . .
. . . . .
Hình a. lân cận của “?” P= dòng trước; L=lân cận trái
. . . . . . . . . . . . . .
. . . . . . . . . . . . . .
.
. .
. .
.
. . . .
.
. .
. .
. . . .
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
1
1
1
1
1
1
2
2
2
*
2
2
2
2
. .
.
. . .
. . .
*
. . .
. .
.
. . .
.
. . .
*
*
*
1
1
2
2
. . .
.
. . .
*
*
*
*
*
1
1
1
2
2
2
. . . . . .
?
. . . . . .
*
*
*
*
1
1
*
.
. . .
. .
.
. . .
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
*
. . . . . . . .
. . . . . . .
. . . . . . . . . . .
. .
. . . . . . . .
. .
*
*
*
*
*
*
*
*
*
.
.
. .
.
.
. . . . . . .
. . . . . . . . . . .
. .
*
*
*
*
*
*
Hình b . Aûnh ban đầu
Hình c . Tiến trình gán nhãn
. . . . . . . . . . . . . .
. . . . . . . . . . . . . .
.
. .
. .
.
. . . .
.
. .
. .
. . . .
1
1
1
1
1
1
1
1
1
1
2
2
2
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
. .
.
. . .
. . .
. . .
. .
.
. . .
.
. . .
2
2
2
2
1
1
1
1
. . .
.
. . .
1
2
2
2
2
2
1
1
1
1
1
1
. . . . . .
. . . . . .
1
1
1
1
1
1
1
1
1
.
. . .
. .
.
. . .
1
1
1
1
1
1
3
3
3
1
1
1
1
1
2
2
2
. . . . . . . .
. . . . . . .
. . . . . . . . . . .
. .
. . . . . . . .
. .
4
4
4
4
3
3
3
3
3
2
.
.
. .
.
.
. . . . . . .
. . . . . . . . . . .
. .
4
3
3
2
4
3
Hình d . Sau khi quét đầy đủ
IV
Hình e .Kết quả sau cùng
Chnh.
Trước hết ta phải xác định góc nghiêng tổng thể của đối tượng, và ta dịch chuyển
điểm ảnh đối tượng theo phương ngang tuỳ theo giá trị góc nghiêng tổng thể này
và giá trị y của điểm này.
0
+
-
Chuyển gớc toạ độ về trọng tâm ảnh như hình b
Góc nghiêng của kí tự được qui ước tính là góc từ trục tung, hướng về bên
trái có giá trị dương, hướng về bên phải có giá trị âm.
SVTH : NguyễnĐình Cường
Trang 9
Nhận dạng kí tự viết tay và phát triển ứng dụng
Góc nghiêng tổng thể kí tự là hướng trung bình của các điểm ảnh đối tượng
có giá trị góc khoảng –450 đến 450 theo quy ước tính góc trên . Các điểm ảnh đối
tượng có hướng ngồi khoảng –450 đến 450 không tính.
Giả sử gọi là góc nghiêng tổng thể của kí tự , điểm ảnh đối tượng p(x,y)
(trong hệ toạ độ mới ) sẽ có toạ độ mới là p(x’ ,y’) (trong hệ toạ độ mới ) với :
x' x tg
y' y
y
Để tính góc nghiêng tổng thể ta phải tính được hướng của các điểm ảnh đối
tượng. Hướng tại một điểm ảnh đối tượng được tính nhờ vào vectơ gradient điểm
ảnh đó. Vectơ gradient tại một điểm ảnh (x, y)là:
f
x
f
G
x
f
Gy
y
Độ lớ(x,y) được tính bởi:
f Gx2 Gy2
Hướng của vectơ gradient tại(x,y) được tính bởi:
G
y
1
x, y tan
Gx
Gx và Gy là kết quả xoắn (convolve) với nhân Sobel Sx và Sy:
-1 -2 -1
-1 0
-2 0
-1 0
Sx
1
2
1
0 0
1 2
Sy
0
1
Hình . Các nhân của bộ lọc Sobel
Chú ý: góc tính theo gradient tại mỗi điểm ảnh đối tượng là góc so với trục
x và chỉ xét những điểm có hướng của vectơ gradient thoả trong khoảng [450,1350]
hay [-1350,-450].
V. Chuẩn kích thước:
Chuẩn kích thước ảnh kí tự về một kích thước cố định và phóng sát bốn
biên của ảnh.
Phóng ảnh là thực hiện phép biến đổi sau:
fs
x, y f x sx , y sy
Với (x, y) là toạ độ điểm ảnh sau khi phóng và sx ,sy là tỷ lệ phóng theo trục
x và y tương ứng, fx(x,y) là giá trị điểm ảnh kết quả ứng với giá trị toạ độ (x, y).
Chú ý:
SVTH : NguyễnĐình Cường
Trang 10
Nhận dạng kí tự viết tay và phát triển ứng dụng
Sau khi phóng ảnh, ảnh có thể bị rời rạc, răng cưa biên. Để khắc phục tình
trạng này, ta thực hiện một số xử lý bằng phép đóng morphology:
VI. Lấp khoảng trống ảnh bằng phép đóng morphology:
1. Một số định nghĩa:
Giả sử A và B là hai tập trong không gian Z2, aЄ A thì a=(a1, a2)
Phép dịch chuyển của tập A đối với x=(x1, x2) ký hiệu(A)x , được định
nghĩa.
A
x
c c a x, vôùi aA
Phép phản chiếu của tập B, ký hiệu B*, được định nghĩa:
B*
x x b, vôùi b B
Phép bù của một tập A, ký hiệu Ac, được định nghĩa:
AC
x x A
Hiệu của hai ký hiệu A-B, được định nghĩa:
A B
x x A, x B
2. Phép giãn:
Giả sử A, B là hai tập thuộc Z2, là tập hợp rỗng, phép giãn của A đối với
B, ký hiệu AB, được định nghĩa:
*
A B x B A
x
Tập B thường được gọi là thành phần cấu trúc.
3. Phép co:
Giả sử A, B là hai tập thuộc Z2, phép co của A đối với B, ký hiệu AB
được định nghĩa:
AB
x
B
x A
4. Phép đóng:
Giả sử A, B là hai tập thuộc Z2, phép đóng của A đối với B, ký hiệu AB
được định nghĩa:
A B
Tức phép đóng là phép do thực hiện phép mở rồi thực hiện phép đóng lên
kết quả vừa có.
A B
B
Phép đóng có tác dụng làm đầy những khoảng nhỏ (tuỳ thuộc vào thành
phần cấu trúc B) thường xảy ra trên đường biên.
Thành phần cấu trúc thường được sử dụng là thành phần cấu trúc đối xứng
có gốc (0, 0) là ở tâm như hình:
0
1
0
1
1
1
0
1
0
SVTH : NguyễnĐình Cường
Trang 11
Nhận dạng kí tự viết tay và phát triển ứng dụng
Nhưng do ảnh được quét với độ phân giải 300 dpi, và đối với những chữ có
bụng được viết khá nghiêng thì khi thực hiện phóng với thành phần cấu trúc trên,
tức thực hiện phép giãn rồi thực hiện phép co, thì phép giãn làm cho phần bụng bị
dính lại với nhau do với mỗi hướng ngang và đứng đều được giãn 2 điểm ảnh. Để
hạn chế điều này ta sử dụng 2 thành phần cấu trúc không đối xứng và thực hiện
phép đóng 2 lần trên 2 thành phần cấu trúc này, vì khi thực hiện phép giãn thì chỉ
cần giãn về 1 phía:
0
1
0
1
1
0
0
0
0
0
0
0
0
1
1
0
1
0
Các thành phần cấu trúc không đối xứng.
VII. Lấy đường biên và làm trơn đường biên:
1. Phát hiện biên:
Biên của ảnh được thiết lập bằng cách nhân chập ảnh với phần tử có cấu
trúc:
0
1
0
1
1
1
0
1
0
2. Dò biên và mã hố đường biên:
Ta có giải thuật dò tìm biên như sau:
Bước 1: Quét ảnh đến khi gặp điểm ảnh đen. Gọi nó là pixel 1
Bước 2: Lặp
Nếu ” điểm ảnh hiện thời là đen “ thì “dò ngược”
Ngược lại “sang phải” đến khi “gặp pixel 1”
Minh hoạ dò biên
1 2
12
3
5
11
4
8
6
10 9
7
SVTH : NguyễnĐình Cường
Trang 12
Nhận dạng kí tự viết tay và phát triển ứng dụng
3. Xác định hướng của điểm biên (Freeman code):
Các hướng được quy ước như sau:
1
3
4
0
7
5
6
Với hướng quy ước trên, đường biên được mã hố như sau:
4. Làm trơn đường biên:
Làm trơn đường biên là duyệt theo đường biên, nếu hai điểm liên tiếp trên
đường biên có hiệu số hướng lớn hơn 1 thì có thể hiệu chỉnh để có đường biên mà
hai điểm liên tiếp có hiệu số hướng bằng 1.
Theo mã hướng Freeman, hiệu số hướng của 2 điểm liên tiếp nhau trên
đường biên được định nghĩa :
Goi ci là mã hướng tại điểm biên đang xét pi , ci+1 là mã hướng của điểm kế
tiếp trên đường biên pi+1
Đặt d=ci+1-ci và
Dabs=|d| nếu |d|4
Và dabs=8-|d| nếu |d|>4
Ta có các trường hợp sau:
a. dabs1 : Điểm biên trơn.
b. dabs=2 và ci chẵn, ci+1 chẵn : bỏ pi+1 và thay hướng pi như sau:
SVTH : NguyễnĐình Cường
Trang 13
Nhận dạng kí tự viết tay và phát triển ứng dụng
Dabs=2 và ci chẵn , ci+1 chẵn
c. dabs=2 và ci lẻ , ci+1 lẻ : Bỏ pi+1 và thay hướng pi như hình
Dabs=2 và ci lẻ, ci+1 lẻ
d. dabs=3 , ci chẵn, ci+1 lẻ
e. dabs=3, ci lẻ, ci+1 chẵn
SVTH : NguyễnĐình Cường
Trang 14
Nhận dạng kí tự viết tay và phát triển ứng dụng
Minh hoạ ảnh kí tự sau quá trình tiền xử lý.
Aûnh ban đầu
nqa ền xử lý
CHƯƠNG III
RÚT ĐẶC TRƯNG
I. Giới thiệu đặc trưng hướng:
Hướng các điểm trên đường biên của kí tự mô tả khá đầy đủ về kí tự. Đặc
trưng của ảnh được xác định là hướng của các điểm ảnh trên biên. Việc chọn đặc
trưng để nâng cao độ chính xác của bài tốn nhận dạng là hết sức khó khăn, đòi hỏi
rất nhiều thời gian và quyết định rất nhiều đến độ chính xác. Hơn nữa, do biến
dạng khá lớn trong chữ viết tay nên để hạn chế người ta thường chia ô trên ảnh và
SVTH : NguyễnĐình Cường
Trang 15
Nhận dạng kí tự viết tay và phát triển ứng dụng
đặc trưng được rút trong các ô đó, việc chọn các ô phủ lấp lên nhau cũng không
ngồi mục đích trên.
II.Chia ô:
Aûnh kí tự sau khi tiền xử lý kích thước được chuẩn về mn điểm ảnh, ảnh
được chia nhỏ thành các ô vuông nhỏ kích thước 88 điểm ảnh như hình:
n
m
Htự.
Gom 4 ô kích thước 8x8 thành ô kích thước 16x16, và các ô kích thước
16x16 này được phủ lên nhau một nữa theo hai hướng ngang và dọc. Trên mỗi ô
kích thước 16x16 sẽ rút đặc trưng theo 4 hướng (00, 450, 900,1350) . Mỗi ô này
được chia làm 4 phần theo điểm tâm của ô, phần trung tâm A có kích thước 4x4
điểm ảnh, phần B có kích thước 8x8 điểm ảnh trừ đi phần A, phần C có kích thước
12x12 điểm ảnh trừ đi phần B và A, và phần D là phần còn lại của ô có kích thước
16x16 trừ đi phần C, B và A.
Ta có hình minh hoạ các phần A, B, C, D trong mỗi ô vuông 16x16
D
C
B
A
SVTH : NguyễnĐình Cường
Trang 16
Nhận dạng kí tự viết tay và phát triển ứng dụng
Đặc trọng số vùng A, B, C và D tương ứng là 4, 3, 2, và 1 . Gọi xj là một
loại đặc trưng, xj được tính cho một ô kích thước 16x16 như sau:
xj=4xj(A) +3xj(B) +2xj(C) + xj(D)
III. Đặc trưng hướng của đường biên:
Aûnh để rút đặc trưng này là ảnh chỉ chứa đường biên. Với mỗi ô kích
thước 16x16 điểm ảnh, ta rút ra 4 đặc trưng xj (j=1, 2, 3, 4), xj được tính như công
thức trên, x1 là số điểm biên có hướng 00 hay(1800), x2 là số điểm biên có hướng
450(hay -1350), x3 là số điểm có hướng 900 (hay –900) và x4 là số điểm có hướng
1350 (hay -450).
Như vậy ảnh kí tự sẽ được mô tả dưới dạng :
X=(x1, x2, x3, x4…….xn)
Trong đó n=k*4 , với k là tổng số ô vuông 16x16 xếp chồng lên nhau.
PHẦN II
CÁC MÔ HÌNH NHẬN DẠNG
SVTH : NguyễnĐình Cường
Trang 17
Nhận dạng kí tự viết tay và phát triển ứng dụng
CHƯƠNG I
GIỚI THIỆU CÁC MÔ HÌNH PHÂN LỚP, NHẬN DẠNG
I. Khái quát tình hình nghiên cứu, ứng dụng lý thuyết nhận dạng:
Lý thuyết nhận dạng là một lĩnh vực khoa học mới phát triển nhưng đã đạt
được nhiều thành tựu đáng kể về lý luận và ứng dụng trong thực tiễn, chứng tỏ khả
năng của máy tính điện tử, có thể mô hình hố được một số chức năng tương đối
phức tạp của trí tuệ con người.
Cho đến nay cơ sở tốn học của lý thuyết nhận dạng được xây dựng và phát
triển đồng thời theo các hướng chính sau đây:
- Lý thuyết thống kê nhận dạng.
- Lý thuyết cấu trúc về nhận dạng.
- Lý thuyết đại số về nhận dạng.
Mỗi lý thuyết nói trên đều có mục đích, đối tượng nghiên cứu và phương
pháp giải quyết vấn đề khác nhau.
Lý thuyết thống kê về nhận dạng là một nhánh phát triển từ thống kê tốn
học, sử dụng các phương pháp cơ bản của thống kê tốn để nghiên cứu vấn đề nhận
dạng có yếu tố ngẫu nhiên và lượng thông tin đủ lớn. Công trình đầu tiên ở
phương Tây theo hướng này là của Sebestyen, mới đây hai nhà tốn học Liên Xô
là Vapnhic và Trecvonenkix đã cho ra một tài liệu khá đầy đủ về vấn đề này.
Lý thuyết cấu trúc về nhận dạng cho tới nay vẫn chưa được xây dựng hồn
chỉnh. Các nghiên cứu theo hướng này tập trung vào nghiên cứu các đối tượng mà
có thể coi như tập hợp các đối tượng sơ cấp liên hệ với nhau bởi một số liên kết
chuẩn.
SVTH : NguyễnĐình Cường
Trang 18
Nhận dạng kí tự viết tay và phát triển ứng dụng
Gần đây, một số nhà tốn học có cố gắng xây dựng cấu trúc đại số cho đối
tượng và thuật tốn nhận dạng, những công trình này cho thấy triển vọng của một
lý thuyết đại số về nhận dạng đang hình thành ngày càng rõ nét .
Do nhu cầu cấp bách phải giải quyết các vấn đề thực tiễn hoạt động sản
xuất, nghiên cứu khoa học kỹ thuật hiện đại đặt ra, cùng với các kỹ thuật tin học
mới phát triển (đặc biệt là máy tính điện tử ), nhiều chuyên gia thuộc các lĩnh vực
hoạt động khác nhau cũng đã đề xuất và sử dụng các mô hình, thuật tốn nhận dạng
trên cơ sở thực nghiệm, theo cách tiếp cận heuristic.
Song song với việc xây dựng cơ sở lý thuyết nhận dạng, các hoạt động
nghiên cứu ứng dụng lý thuyết nhận dạng cũng tiến hành mạnh mẽ và rộng khắp
trên nhiều lĩnh vực khác nhau ở nhiều nước trên thế giới.
II. Một số khái niệm về nhận dạng:
1.Nhận dạng:
Một biểu diễn là giá đỡ (cái mang) thông tin, thường biểu diễn dưới dạng
sau:
X
x1, x2 , x3 xn
Mỗi xi biểu diễn kết quả của một phép đo. Tập hợp các biểu diễn xác định
X được gọi là không gian biểu diễn. Ví dụ không gian vectơ.
Giải thích một biểu diễn nghĩa là cho một kết quả chẳng hạn một cái tên.
Giả sử: ta có tập hợp các tên là:
1 ,2 , p
Không gian giải thích là một tập thoả các luật, thao tác nào đấy.
Một định danh là một ánh xạ của không gian biểu diễn vào không gian giải
thích.
: X
:
x1 , x ,xn
Mục đ2hiện ánh xạ này và tìm thuật tốn để thực hiện
trên tồn X. Một thuật tốn như vậy gọi là tốn tử nhận dạng.
2. Tập mẫu nhận dạng:
Dữ liệu cho bài tốn nhận dạng thường được biểu diễn qua tập mẫu học T
với
T=(xq, ) là tập các cặp (dữ liệu - tên).
3. Độ đồng dạng và dị dạng:
Là hai chỉ số thường dùng để xây dựng trên quan hệ gần thứ tự trên các cặp
đặc biệt khoảng cách giữa hai đối tượng là một chỉ số dị dạng thoả mãn 3 tiên đề:
- (x, y) 0 , (x, x)=0
- (x, y)= (y, x)
- (x, z) (x, y)+ (y, z)
4. Khoảng cách đối tượng:
SVTH : NguyễnĐình Cường
Trang 19
Nhận dạng kí tự viết tay và phát triển ứng dụng
Các hàm đặc trưng quan sát có thể dẫn đến một quan hệ gần thứ tự giữa 1
đối tượng X và các khái niệm Ai, nghĩa là với mọi i, j có thể thiết lập một quan
hệ :
(X, Ai) (X, Aj)
Quan hệ này thường được thiết lập nhờ một khoảng cách đối tượng, ký
hiệu: D(X, A).
Nếu muốn phân lớp hoặc định danh X có thể dùng thông tin này. Giả sử Ci
là lớp phân hoạch tương ứng với khái niệm đại diện Ai ; X được gán vào Ci nếu
D(X, Ai) là nhỏ nhất.
III. Một số thuật tốn phân lớp:
Có nhiều giải pháp phân lớp, trong thời gian qua em đã tìm hiểu và thử
nghiệm một số giải pháp sau:
1. Xếp lớp khoảng cách cực tiểu:
Giả thiết là mỗi lớp mẫu được biểu diễn bằng một vectơ đơn (hoặc trung
bình).
1
mj
x
j 1,2,M
N j
x j
Trong đó Nj là số vectơ mẫu từ lớp j, M là số lớp cần phân biệt và tổng
được xác định từ các vectơ này, cách xác định lớp của một vectơ mẫu x chưa biết
là chỉ định nó cho lớp đơn điệu gần nhất. Dùng khoảng cách Euclid để xác định
độ gần sẽ giảm được tính tốn.
Dj x x mj ; j 1, 2,M
Trong đó a =(aTa )1/2 là dạng Euclid. Sau đó ta chỉ định x cho lớp j nếu
Dj(x) là khoảng cách ngắn nhất. Đó là khoảng cách ngắn nhất dùng trong biểu
diễn. Ta dễ dàng nhìn thấy nó tương đương với việc đánh giá bằng hàm số
1
d j
x
xT mj mTj mj j 1, 2,M
2
Và chỉ jjị số lớn nhất.
2. Thuật tốn hàm thế:
Phương pháp nhận dạng theo hàm thế được ứng dụng nhiều trong thực tiễn.
Việc sử dụng hàm thế được được xuất phát từ nghĩa thế điện trong trường điện từ:
Trong không gian có điện tích q tại A thì xung quanh nó có điện trường
theo mọi phía. Tại điểm M của không gian ta có thế gây ra bởi q là:
q
r 2
M
a.
a : hằng số
q: độ lớn điện tích q
r: khoảng cách từ M tới q
Các dạng hàm thế thường dùng trong thuật tốn nhận dạng:
SVTH : NguyễnĐình Cường
Trang 20
Nhận dạng kí tự viết tay và phát triển ứng dụng
s, s'
S, S'
S, S'
e
1
C1 C2 .
S,S '
Ở đây , C1, C2 là các hằng số cho trước. (S, S’) là khoảng cách S và S’
(=0, 1, 2..)
Cách tính thế đối với mỗi lớp:
1
S, K j
S, St
mj
S K
t
j
mj: số mẫu của Kj
St: mẫu thuộc Kj
Ta có luật quyết định:
S K j neáu S, K j arg max
S, K
Chú ý :
Việc tính thế đối với mỗi lớp, có thể bổ sung trọng số mẫu (St) :
1
S, K j
S,St .
St
mj
StK j
Nhận xét:
Nếu chọn là hàm khoảng cách Euclid thì giải thuật hàm thế này gần giống
với cách xếp lớp theo khoảng cách cực tiểu.
3. Phương pháp LDA (Linear Discriminant Analysis):
Phương pháp LDA cho trường hợp phân biệt 2 lớp, LDA sẽ tìm một
phương chiếu mà phân biệt tốt nhất các mẫu thuộc hai lớp khác nhau trong tập
mẫu. Giả sử ta có một tập gồm n mẫu học X bao gồm các vectơ cột d chiều:
T
xi
x1i , xi2 , xid
i 1n
Trong đó n1 mẫu thuộc về lớp C1 và nằm trong tập con X1, n2 mẫu thuộc về
lớp C2 và nằm trong tập con X2.
Giả sử ta có một vectơ d chiều w, tích vô hướng y=wTx biểu diễn hình
chiếu của vectơ x lên phương w. Ta sẽ tìm một phương chiếu w nhằm tối ưu hố độ
phân biệt giữa các mẫu thuộc 2 lớp C1 và C2. Điều này tương đương với việc giảm
số chiều của vectơ đặc trưng xuống còn 1 chiều.
Ta gọi mi, i=1, 2 là trị trung bình của các mẫu tương ứng với 2 lớp C1 và
C2.
1
mi
x
ni
xXi
SVTH : NguyễnĐình Cường
Trang 21
Nhận dạng kí tự viết tay và phát triển ứng dụng
~
Và
tương ứng là trung bình của các mẫu được chiếu lên phương w:
mi
~
1
1
mi
y
wT x wT m
i
ni
ni
yY
xXi
i
Trong đó y là hình chiếu của x lên w. Yi là tập các hình chiếu của các x
Xi lên w.
Ta có thể xem
~
~
là một độ đo cho tính phân biệt giữa hai tập Y1
| m1 m2 |
và Y2 . Tuy nhiên để có được sự phân biệt tốt giữa hai tập khi chiếu lên phương w,
ta cần có độ sai khác giữa hai trị trung bình này khá lớn hơn so với độ lệch chuẩn
nội tại của mỗi tập ( có thể xem như độ rộng của đám mây các mẫu).
Thay vì sử dụng phương sai của mỗi tập ta sẽ sử dụng một độ đo khác, gọi
là độ rải (scatter) cho các hình chiếu của các mẫu thuộc lớp Ci như sau:
2
~
~
yY
si
y m
i
i
Phương pháp LDA sẽ tìm giá trị w để cực đại hố hàm tiêu chuẩn sau đây:
~
~
| m1 m2 |2
J(w)
~2
~2
s1 s2
Để thấy J(w) là một hàm theo w ta định nghĩa các ma trận SB và Sw như
sau:
2
S
(x m )(x m )T
W
i
i
i1 xXi
SB (m1 m2 )(m1 m2 )T
SW được gọi là ma trận rải nội lớp (within-class scatter matrix)
SB được gọi là ma trận rải liên hợp (between-class scatter matrix)
Ta có:
2
si =
(wT x wT m )2
i
xXi
=
wT (x m )(x m )T w
i
i
xXi
Nên
T
2 2
s1 s2 = w SWw
Tương tự ta cũng có:
SVTH : NguyễnĐình Cường
Trang 22
Nhận dạng kí tự viết tay và phát triển ứng dụng
T
2
(m1 m2 ) = w SBw.
Do đó:
wT SBw
wT SW w
J(w) =
.
Để xác định w sao cho J(w) cực đại ta cho đạo hàm riêng J(w) theo w bằng
0 kết quả ta sẽ được:
SB w = SW w
Với là trị riêng, giải bài tốn tìm trị riêng ta sẽ có:
w SW1 (m1 m2 )
Đây là kết quả tìm được của phương pháp LDA đối với trường hợp chỉ có 2
lớp.
Sau khi đã tìm được w, mỗi vectơ x cần nhận dạng sẽ được xử lý như sau:
lấy x trừ đi trung bình của mẫu học rồi chiếu lên phương w ta được một giá trị vô
~
hướng, tính khoảng cách từ giá trị vô hướng này trên mi của mỗi lớp này chia cho
2
~
độ lệch chuẩn
lớp.
ta được một độ đo khoảng cách từ x đến các cụm ứng với mỗi
i
(x m)w mi
i=1..2
d1
i
x sẽ được gán vào lớp ứng với cụm gần nhất.
Để phân biệt được n lớp ta xây dựng n bộ phân loại 2 lớp theo phương pháp
nêu trên. Mỗi bộ phân loại sẽ phân biệt một lớp với n-1 lớp còn lại. Nếu một
vectơ đầu vào được xếp vào cả hai lớp thì ta sẽ sử dụng khoảng cách di nêu trên
để quyết định nó thuộc vào lớp nào. Nếu một vectơ không được xếp vào lớp nào
thì coi như không nhận dạng được.
Phần tiếp theo xin trình bày cách phân lớp dựa trên mô hình mạng nơron
lan truyền ngược, em dành một chương riêng để giới thiệu về mô hình này.
SVTH : NguyễnĐình Cường
Trang 23
Nhận dạng kí tự viết tay và phát triển ứng dụng
CHƯƠNG II
PHÂN LỚP DỰA TRÊN MẠNG NƠRON LAN TRUYỀN NGƯỢC
Sơ lược về mạng nơron MLP (Multi-Layer Perception ) với thuật tốn lan
truyền ngược:
I. Giới thiệu:
Xét về mặt cấu trúc, MLP có cấu trúc phân lớp. Các cung được nối từ một
nút ở lớp này đến các nút ở lớp kế tiếp. Hai nút trong cùng một lớp thì không kết
nối với nhau. Mỗi nút trong một lớp nhận giá trị từ các nút ở lớp liền trước, tổng
hợp lại theo trọng số của cung kết nối và chuyển giá trị kết xuất của nó cho các
nút ở lớp liền sau. Lớp đầu tiên nhận giá trị từ bên ngồi vào và được gọi là lớp
nhập (input). Các nút trong lớp nhập được gọi là nút nhập. Lớp cuối cùng sẽ xuất
ra kết quả của mạng và được gọi là lớp xuất (output). Các nút trong lớp xuất được
gọi là nút xuất. Các lớp còn lại được gọi là lớp ẩn và các nút tương ứng được gọi
là nút ẩn.
SVTH : Ng
rang 24
Nhận dạng kí tự viết tay và phát triển ứng dụng
Hình minh hoạ mô hình mạng nơron 4 lớp:1 lớp nhập, 2lớp ẩn và một lớp
xuất .
Quá trình nhận dạng là quá trình ánh xạ một mẫu x từ không gian các đặc
trưng vào không gian các lớp. Cũng như vậy, MLP thực chất là một hàm ánh xạ
một vectơ đầu vào x thành một vectơ đầu ra z. Hàm này có đặc tính sau:
1. Nó là hàm phi tuyến (nonlinear) .
2. Nó có tính ổn định (stable). Nghĩa là nếu một giá trị x0 được ánh xạ
thành một giá trị z0 thì một giá trị x1 “gần” với x0 sẽ được ánh xạ thành một giá trị
y1 gần với y0. Hay ta có thể nói, sai số nhỏ ánh xạ thành sai số nhỏ. Mạng nơron
cũng có thể ánh xạ một giá trị x2 xa x0 thành một giá trị y2 gần với y0 (ánh xạ
nhiều một).
Thực tế mạng nơron là một bộ máy nội suy và ngoại suy phi tuyến. Một
mạng chỉ với một lớp ẩn là đã có thể xấp xỉ bất cứ một hàm phi tuyến nào thông
qua một số mẫu trong tập mẫu.
Để đạt được điều này, ta cần luyện mạng bằng cách thay đổi các trọng số để
ánh xạ từ các giá trị trong tập mẫu đến các giá trị đích mong muốn. Quá trình
luyện mạng này cần có tập các vectơ mẫu đầu vào và đầu ra mong muốn tương
ứng. Do đó, quá trình học này là quá trình học có giám sát.
II. Hoạt động:
Mạng nơron MLP chỉ có thể ở một trong hai trạng thái: trạng thái ánh xạ
và trạng thái học.
Ở trạng thái ánh xạ, thông tin sẽ được lan truyền tiến từ các nút nhập đến
các nút xuất và một mẫu x sẽ được ánh xạ thành một kết quả z.
Ở trạng thái học, các trọng số của kết nối sẽ được điều chỉnh theo một thuật
tốn học để mạng có thể xấp xỉ được một hàm mong muốn nào đó. Thuật tốn lan
truyền ngược là một thuật tốn hiệu quả cho quá trình học của MLP.
Tiếp theo đây em xin trình bày chi tiết hơn về hai trạng thái này của mạng.
1. Trạng thái ánh xạ:
Như đã nói, ở trạng thái ánh xạ, mỗi vectơ đầu vào x sẽ được ánh xạ thành
một vectơ kết quả z. Quá trình này được thực hiện như sau:
Đầu tiên vectơ mẫu x sẽ được đưa vào lớp nhập. Mỗi nơron trong lớp nhập
sẽ mang giá trị của một thành phần của x. Các nút nhập sẽ không tính tốn gì cả mà
gửi trực tiếp giá trị của nó đến các nơron ở lớp tiếp theo. Tại mỗi nơron của các
lớp tiếp theo, một thao tác giống nhau sẽ được thực hiện. Đầu tiên nó sẽ tính tổng
trọng hố của tất cả các giá trị được gửi tới. Sau đó một hàm truyền sẽ được áp
dụng trên tổng trọng hố này để cho giá trị xuất của nút này. Hàm truyền có tác
dụng nén giá trị của tổng trọng hố vào một miền giới hạn nào đó. Giá trị này được
SVTH : NguyễnĐình Cường
Trang 25
Nhận dạng kí tự viết tay và phát triển ứng dụng
truyền cho các nơron ở lớp kế tiếp. Cứ thế thông tin được lan truyền cho đến lớp
xuất của mạng.
Để đơn giản ta khảo sát mạng gồm 3 lớp: 1 lớp vào, 1 lớp ẩn và 1 lớp xuất.
Thực tế cũng chỉ cần mạng 3 lớp là đủ để xấp xỉ các loại hàm.
Đối với nút ẩn ta có:
Tổng trọng gửi tới nút j là:
I
u j a
a x
Kết xuất của m0j iji
i1
y j g(u j ) j 1,...J
Trong đó I là số nút nhập xi, aij là các trọng từ input i đến nút ẩn j và a0j là
trọng ngưỡng của nút ẩn j, g(x) là hàm truyền.
Đối với mạng K nút xuất ta có:
Tổng trọng gửi tới nút xuất k là:
J
v b b y
k
0k
jk
j
j1
Kết xuất của mạng:
zk g(vk ) k 1,..K
Trong đó J là số nút ẩn với các kết xuất yj, bjk là các trọng trên các cung liên
kết từ nút ẩn j đến nút xuất thứ k, còn b0k là trọng ngưỡng của nút xuất thứ k,
g(vk) là hàm truyền theo k.
Ta có sơ đồ thể hiện các thao tác được thực hiện tại mỗi nơron.
Mộ
- Hàm sigmoid (hay hàm logistic) được xác định bởi:
1
f (x)
1 eax
SVTH : NguyễnĐình Cường
Trang 26
Nhận dạng kí tự viết tay và phát triển ứng dụng
1
0.8
0.6
0.4
0.2
-6
-4
-2
2
4
6
Hình vẽ đồ thị hàm logistic (a=1). Miền giá trị của hàm là(0, 1).
- Hàm tanh (tan- hyperbol)
ex ex
f (x)
ex ex
1
0.5
-4
-2
2
4
-0.5
Đồ thị h-1
Hàm này có miền giá trị tương ứng là (0, 1) và (-1, 1). Việc sử dụng hàm
logistic (a=1) hay hàm tanh thực ra là tương đương với nhau vì chúng liên hệ
tuyến tính với nhau. Việc sử dụng các hàm truyền khác nhau có liên hệ với các
khoảng giá trị khác nhau của trọng số. (Thực tế cho thấy, hàm tanh thường cho
tốc độ hội tụ nhanh hơn trong quá trình học ).
Các hàm truyền có thể được áp dụng vào các nút xuất hoặc không tuỳ vào
mục đích ánh xạ của mạng. Nếu ta cần có một số giới hạn nhất định đối với đầu
ra, ta sẽ áp dụng một hàm truyền thích hợp cho các nút xuất.
Khi mạng nơron được ứng dụng cho nhận dạng thì quá trình nhận dạng
chính là quá trình ánh xạ của mạng nơron.
2. Trạng thái học:
Xét mạng MLP có một lớp ẩn với thuật tốn lan truyền ngược.
SVTH : NguyễnĐình Cường
Trang 27
Nhận dạng kí tự viết tay và phát triển ứng dụng
Thuật tốn lan truyền ngược là thuật tốn hữu hiệu cho quá trình học của
MLP. Thuật tốn này sẽ cập nhật trọng số dựa trên một hàm lỗi E giữa kết xuất của
mạng với giá trị đích.
Mục đích của việc học có giám sát bằng MLP là cực tiểu hố hàm lỗi này.
Kỹ thuật cơ bản để cực tiểu hố hàm lỗi là phương pháp giảm gradient. Mặc dù
phương pháp này có thể dẫn đến một cực tiểu cục bộ, nhưng nó được áp dụng
rộng rãi vì tính đơn giản của nó. Thực tế cũng cho thấy trong hầu hết trường hợp
phương pháp giảm gradient đều cho kết quả chấp nhận được.
Quá trình học của mạng MLP theo thuật tốn lan truyền ngược sẽ lặp đi lặp
lại các thao tác sau:
- Lan truyền tiến : tính kết xuất y của mạng với một mẫu x.
- Lan truyền ngược : tính sai số giữa kết xuất y và giá trị đích t và lan
truyền ngược sai số này lại để cập nhật trọng số cho mạng.
Quá trình học sẽ dừng khi mạng đã đạt được một độ lỗi nhỏ nhất định.
a. Phương pháp giảm gradient:
Phương pháp giảm gradient gồm các bước chính sau:
- Chọn ngẫu nhiên một điểm x0 trong không gian trọng số.
- Tính độ dốc của hàm lỗi tại x0.
- Di chuyển điểm x0 theo hướng dốc nhất của hàm lỗi.
Quá trình tính độ dốc và di chuyển điểm x0 được lặp đi lặp lại cho đến khi
x0 tiến đến giá trị làm cho hàm lỗi cực tiểu (có thể là hàm lỗi cực tiểu địa phương).
b. Cập nhật trọng số theo phương pháp giảm gradient:
Phương pháp cập nhật trong số theo hướng giảm gradient sẽ dựa trên đạo
hàm riêng phần của hàm lỗi E đối với trọng số đang xét theo công thức sau:
E
wij
wij (t 1) wij (t)
(t)
trong đó:
t là chỉ số của lần cập nhật trọng số hiện tại.
được gọi là hệ số học (learning rate).
w là một trọng số bất kì trong mạng: aij hoặc bij
Công thức trên có thể diễn dịch như sau: cập nhật lại trọng số theo hướng
ngược hướng của gradient với độ dài vectơ dịch chuyển phụ thuộc vào và độ lớn
của vectơ đạo hàm.
Nếu trọng số được cập nhật theo hướng ngược với gradient một độ dịch
chuyển vừa phải, thì giá trị của hàm lỗi sẽ giảm đi so với trước khi cập nhật.
Giá trị của có ảnh hưởng lớn đến tốc độ hội tụ của thuật tốn. Nếu lớn thì
độ dịch chuyển lớn, kết xuất của mạng có thể dao động rất thất thường (vì có thể
nhảy qua điểm cực tiểu) và thuật tốn khó hội tụ. Nếu nhỏ, ta phải cần rất nhiều
bước lặp để đi đến được vị trí cực tiểu của hàm lỗi.
c. Quy tắc tính đạo hàm lỗi:
SVTH : NguyễnĐình Cường
Trang 28
Nhận dạng kí tự viết tay và phát triển ứng dụng
Sai số trung bình bình phương thường được sử dụng để đo lường sự trùng
khớp giữa ánh xạ ( ký hiệu NN) cần xây dựng với hàm đích cho trước (qua tập
mẫu).
Cho tập mẫu:
=(Xk, Zk) =(xk1, …,xkM;zk1,…,zkN ); xki, zkj R ; i= 1,…,M; j=1,…,N;
k=1,…,K, gọi Tk= NN(Xk)=(tk1,…,tkN) thì sai số trung bình bình phương sẽ là:
N
K
1
(z t )2
2
kn
kn
n1 k1
E
Đạo hàm hàm lỗi có thể được tính dựa vào quy tắc chuỗi như sau:
N.K
wn
w
w
E E
1
w w1 w2
Ta xét từng trường hợp cụ thể:
Trọng số nút xuất:
Ta có chuỗi tính đạo hàm hàm lỗi theo trọng số giữa lớp ẩn và lớp xuất:
E E z v
b z v b
Một nút xuất không ảnh hưởng gì đến sai số của các nút xuất khác trong lớp
xuất. Để đơn giản trong công thức ta bỏ qua chỉ số của các nút xuất, nếu nút xuất
đang xét có giá trị thực là z và giá trị đúng của nút đó là t, thì sai số bình phương
là:
1
E (z t)2
2
E
z
Từ đó ta có:
z t
Mặt khác độ dốc hàm logistic được tính như sau:
z
g(v)'
z(1 z)
v
Tính số hạng thứ 3, v/b trong công thức E/b
Ta có:
J
v b b y
0
j
j
j1
Xét với b0 ta có: v/b0 =1
Với trọng số bj, ta có: v/bj =yj
Đặt:
E z
p
z v
SVTH : NguyễnĐình Cường
Trang 29
Tải về để xem bản đầy đủ
64 trang
30/12/2024
200
Bạn đang xem 30 trang mẫu của tài liệu "Đồ án Tìm hiểu bài toán nhận dạng kí tự viết tay và phát triển ứng dụng", để tải tài liệu gốc về máy hãy click vào nút Download ở trên.
File đính kèm:
- do_an_tim_hieu_bai_toan_nhan_dang_ki_tu_viet_tay_va_phat_tri.pdf
