Khóa luận Trích chọn thông tin y tế tiếng Việt cho bài toán tìm kiếm ngữ nghĩa
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
Trần Thị Ngân
TRÍCH CHỌN THÔNG TIN Y TẾ TIẾNG VIỆT CHO
BÀI TOÁN TÌM KIẾM NGỮ NGHĨA
KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY
Ngành: Công nghệ thông tin
HÀ NỘI - 2009
ĐẠI HỌC QUỐC GIA HÀ NỘI
TRƯỜNG ĐẠI HỌC CÔNG NGHỆ
Trần Thị Ngân
TRÍCH CHỌN THÔNG TIN Y TẾ TIẾNG VIỆT CHO
BÀI TOÁN TÌM KIẾM NGỮ NGHĨA
KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY
Ngành: Công nghệ thông tin
Cán bộ hướng dẫn: PGS. TS. Hà Quang Thụy
Cán bộ đồng hướng dẫn: Th.S Nguyễn Cẩm Tú
HÀ NỘI - 2009
LỜI CẢM ƠN
Đầu tiên cho em gửi lời cảm ơn sâu sắc nhất đến PGS. TS. Hà Quang Thụy,
Th.S Nguyễn Cẩm Tú đã tận tình chỉ bảo cho em trong suốt thời gian thực hiện
khóa luận. Trong quá trình nghiên cứu em đã gặp phải nhiều khó khăn nhưng nhờ
sự hướng dẫn tận tình của thầy và chị em đã dần vượt qua và hoàn thành được khóa
luận.
Em xin bày tỏ lòng biết ơn đến các thầy cô trong trường Đại Học Công
Nghệ đã giảng dạy và cho em những kiến thức quý báu, làm nền tảng để hoàn thành
khóa luận cũng như thành công trong nghiên cứu, làm việc trong tương lai.
Em xin gởi lời cảm ơn tới các anh chị trong phòng Lab đã cho em những lời
khuyên quý báu, bổ ích trong quá trình thực hiện quá luận.
Và em cũng xin lời cảm ơn tới những người bạn thân yêu, đặc biệt là các bạn
trong phòng ký túc xá đã bên cạnh động viên trong để giúp em hoàn thành khóa
luận cũng như vượt qua nhiều khó khăn trong cuộc sống.
Cuối cùng, cho con gửi lời cảm ơn sâu sắc tới gia đình, bố, mẹ, chị và em đã
cho con nhiều tình thương cũng như sự động viên kịp thời để con vượt qua những
khó khăn trong cuộc sống và hoàn thành được khóa luận.
i
TÓM TẮT
Trích chọn thông tin y tế nhằm xây dựng được một tập dữ liệu tốt, đầy đủ để
hỗ trợ việc tìm kiếm ngữ nghĩa đang là nhu cầu thiết yếu, nhận được sự quan tâm
đặc biệt trong thời gian gần đây. Ontology là cách biểu diễn khái niệm, thuộc tính,
quan hệ trong miền ứng dụng đảm bảo tính nhất quán và đủ phong phú. Xây dựng
hệ thống trích chọn thông tin dựa trên một Ontology y tế Tiếng Việt cho phép tìm
kiếm và khai phá loại dữ liệu thuộc miền ứng dụng hiệu quả hơn là một nhu cầu
thiết yếu.
Khóa luận này đề cập tới việc xây dựng một hê thống trích chọn thông tin
dựa trên một ontology trong lĩnh vực y tế tiếng Việt. Khóa luận đã phân tích một số
phương pháp, công cụ xây dựng Ontology để lựa chọn một mô hình và xây dựng
được một Ontology y tế tiếng Việt với 21 lớp thực thể,13 mối quan hệ và trên 500
thể hiện của các lớp thực thể. Khóa luận đã tiến hành chú thích cho 96 file dữ liệu
với trên 1500 thể hiện. Hệ thống nhận diện thực thể thực nghiệm của khóa luận đã
hoạt động có tính khả thi với độ đo F1 trung bình qua 10 lần thực nghiệm đạt
khoảng 64%.
ii
MỤC LỤC
Lời mở đầu ...........................................................................................................................1
Chương 1..............................................................................................................................3
TỔNG QUAN VỀ TÌM KIẾM NGỮ NGHĨA.....................................................................3
1.1. Nhu cầu về tìm kiếm ngữ nghĩa..........................................................................3
1.2. Nền tảng tìm kiếm ngữ nghĩa..................................................................................4
1.2.1.Web ngữ nghĩa.....................................................................................................4
1.2.2. Ontology .............................................................................................................5
1.3. Kiến trúc của một máy tìm kiếm ngữ nghĩa............................................................5
1.4.Trích chọn thông tin .................................................................................................6
Chương 2..............................................................................................................................9
XÂY DỰNG ONTOLOGY Y TẾ TIẾNG VIỆT ................................................................9
2.1. Giới thiệu Ontology.................................................................................................9
2.1.1. Khái niệm Ontology ...........................................................................................9
2.1.2. Các thành phần của Ontology...........................................................................10
2.1.3 Một số công trình liên quan tới xây dựng Ontology..........................................11
2.2. Lý thuyết xây dựng Ontology ...............................................................................12
2.1.1. Phương pháp xây dựng Ontology.....................................................................12
2.1.2. Công cụ xây dựng Ontology.............................................................................13
2.1.3. Ngôn ngữ xây dựng Ontology ..........................................................................15
2.3. Xây dựng Ontology y tế tiếng Việt .......................................................................16
Chương 3............................................................................................................................17
NHẬN DẠNG THỰC THỂ...............................................................................................17
3.1. Giới thiệu bài toán nhận dạng thực thể .................................................................17
3.1.1. Giới thiệu chung về nhận dạng thực thể...........................................................17
3.1.2. Một số kết quả nghiên cứu về nhận dạng thực thể ...........................................18
3.2. Đặc điểm dữ liệu tiếng Việt ..................................................................................19
3.2.1. Đặc điểm ngữ âm..............................................................................................19
3.2.2. Đặc điểm từ vựng .............................................................................................20
3.2.3. Đặc điểm ngữ pháp...........................................................................................20
3.3. Một số phương pháp nhận dạng thực thể ..............................................................21
3.3.1. Phương pháp dựa trên luật, bán giám sát.........................................................23
3.3.2. Các phương pháp máy trạng thái hữu hạn........................................................23
iii
3.3.3. Phương pháp sử dụng Gazetteer.......................................................................24
3.4. Nhận dạng thực thể y tế tiếng Việt........................................................................25
3.4.1. Nhận dạng thực thể tiếng Việt..........................................................................25
3.4.2. Nhận dạng thực thể y tế tiếng Việt ...................................................................26
Chương 4............................................................................................................................30
XÁC ĐỊNH QUAN HỆ NGỮ NGHĨA..............................................................................30
4.1. Tổng quan về xác định quan hệ ngữ nghĩa............................................................30
4.1.1. Khái quát về quan hệ ngữ nghĩa .......................................................................30
4.1.2. Trích chọn quan hệ ngữ nghĩa ..........................................................................31
4.1.3. Một số nghiên cứu liên quan đến xác định quan hệ ngữ nghĩa ........................35
4.2. Gán nhãn ngữ nghĩa cho câu.................................................................................37
4.3.1. Phân lớp với xác định quan hệ, nhận dạng thực thể .........................................39
4.3.2. Thuật toán SVM (Support Vector Machine) ....................................................41
4.3.3 Phân lớp đa lớp với SVM ..................................................................................41
4.3.4. Áp dụng SVM vào phân loại quan hệ ngữ nghĩa trong lĩnh vực
y tế tiếng Việt..............................................................................................................42
Chương 5............................................................................................................................43
THỰC NGHIỆM................................................................................................................43
5.1. Môi trường thực nghiệm .......................................................................................43
5.1.1. Phần cứng .........................................................................................................43
5.1.2 Phần mềm ..........................................................................................................43
5.1.3 Dữ liệu thử nghiệm............................................................................................44
5.2 Xây dựng Ontology................................................................................................44
5.2.1. Phân cấp lớp thực thể........................................................................................44
5.2.2. Các mối quan hệ giữa các lớp thực thể.............................................................47
5.3. Chú thích dữ liệu..................................................................................................48
5.4. Nhận dạng thực thể................................................................................................50
5.4.1. Xây dựng tập gazetteer .....................................................................................50
5.4.2.Đánh giá hệ thống nhận dạng thực thể ..............................................................51
5.4.3. Kết quả đạt được...............................................................................................52
5.4.4. Nhận xét và đánh giá ........................................................................................52
5.5. Gán nhãn ngữ nghĩa cho câu.................................................................................53
PHỤ LỤC - MỘT SỐ THUẬT NGỮ ANH VIỆT ............................................................54
KẾT LUẬN ........................................................................................................................55
iv
DANH MỤC BẢNG BIỂU
Bảng 1: Giải thích các mối quan hệ ngữ nghĩa...................................................................35
Bảng 2: Số lượng các thể hiện của các lớp thực thể trong tập dữ liệu gazetteer. ................50
Bảng 3: Các giá trị đánh gía một hệ thống nhận diện loại thực thể.....................................51
Bảng 4: Kết quả sau 10 lần thực nghiệm nhận dạng thực thể..............................................52
Bảng 5: Ví dụ một số câu được gán nhãn quan hệ. .............................................................53
v
DANH MỤC HÌNH VẼ
Hình 1: Ví dụ về Web ngữ nghĩa ................................................................................ 4
Hình 2: Kiến trúc một máy tìm kiếm ngữ nghĩa......................................................... 6
Hình 3: Minh họa một hệ thống trích chọn thông tin.................................................. 7
Hình 4: Mô tả ý nghĩa của Ontology........................................................................... 9
Hình 5: Minh họa cấu trúc phân cấp của Ontology BioCaster ................................. 10
Hình 6: Một số file Gazetteer được xây dựng phục vụ bài toán nhận dạng thực thể25
Hình 7: Minh họa một quan hệ ngữ nghĩa cho thực thể car...................................... 30
Hình 8: Minh họa về trích chọn quan hệ ngữ nghĩa.................................................. 31
Hình 9: Vị trí của khai phá quan hệ ngữ nghĩa trong xử lý ngôn ngữ tự nhiên........ 32
Hình 10: Minh họa các quan hệ ngữ nghĩa được chỉ ra trong WordNet................... 33
Hình 11: Một số quan hệ ngữ nghĩa đã xây dựng được............................................ 34
Hình 12: Nhiệm vụ chung của bài toán xác định quan hệ ........................................ 36
Hình 13: Mô tả các bộ phận trong bộ phân tích ngữ nghĩa SR [24]......................... 37
Hình 14: Minh họa Framework giải quyết bài toán xác định tên riêng giữa các tài
liệu............................................................................................................................. 38
Hình 15: Một số nhãn ngữ nghĩa được gán cho câu [30].......................................... 39
Hình 16: Gán nhãn ngữ nghĩa cho các câu mô tả tổng thống Bill Clinton [30]. ...... 39
Hình 17: Mô tả các giai đoạn trong quá trình phân lớp ............................................ 40
Hình 18: Mô tả sự phân chia tài liệu theo dấu của hàm f(d)..................................... 41
Hình 19: Mô tả quá trình học của phân lớp câu chứa quan hệ [2]............................ 42
Hình 20: Minh họa các lớp trong Ontology đã xây dựng. ........................................ 46
Hình 21: Minh họa cấu trúc phân tầng của Ontology xây dựng được...................... 46
Hình 22: Minh họa các thể hiện của lớp thực thể và mối quan hệ giữa các thể hiện48
Hình 23: Minh họa một dữ liệu được chú thích bằng Ontology............................... 49
Hình 24: Minh họa các file chứa thực thể trong tập Gazetteer xây dựng được........ 51
Hình 25: Kết quả 10 lần thực nghiệm nhận dạng thực thể ....................................... 52
vi
Lời mở đầu
Chăm sóc sức khỏe luôn là một nhu cầu thiết yếu của con người, vì thế tìm
kiếm các thông tin về lĩnh vực y tế trên Internet luôn là một nhu cầu thiết yếu. Vấn
đề này càng cần phải được quan tâm thích đáng khi con người đang phải đối mặt
với nhiều dịch bệnh truyền nhiễm, ví dụ điển hình có thể kể tới dịch bệnh cúm A
H1N1 đang phát triển và có chiều hướng gia tăng trong thời gian gần đây. Cùng với
sự ra đời và phát triển không ngừng của các tài nguyên trực truyến, việc khai thác
hiệu quả nguồn tài nguyên này để đưa tới nguồn tri thức hữu ích cho người dùng sẽ
góp phần vào việc tuyên truyền và nâng cao sức khỏe cộng đồng.
Sự bùng nổ các tài nguyên y tế, đặc biệt là các thông tin trực tuyến liên quan
đến lĩnh vực sức khỏe; nhiều trang web và thông tin thừa cũng như việc tổ chức
thông tin một cách tự do (không hoặc bán cấu trúc) … làm cho người dùng khó có
thể theo dõi cũng như nắm bắt những thông tin cập nhật nhất. Bên cạnh đó, công
nghệ tìm kiếm thông tin truyền thống hoặc trả về kết quả ít do sự phong phú, phức
tạp của việc diễn đạt ngôn ngữ tự nhiên; hoặc quá nhiều theo nghĩa người tìm tin
chỉ muốn tìm kiếm những tri thức ẩn chứ không chỉ là các văn bản chứa từ khóa
tìm kiếm. Do đó việc khai thác tối ưu nguồn tài nguyên phong phú này trở thành
một đề tài quan trọng, thu hút nhiều nhà khoa học tham gia nghiên cứu trong hai
thập niên gần đây, có nhiều công trình nhằm trích rút các thông tin có cấu trúc từ
những tài nguyên này nhằm xây dựng các cơ sở tri thức cho việc tổ chức thông tin,
tìm kiếm, truy vấn, quản lý và phân tích thông tin.
Nhiều bài toán đã được đặt ra trong lĩnh vực trích chọn thông tin y tế như
BioCreative-I (nhận diện các tên genes và protein trong văn bản) [32], LLL05 (trích
chọn thông tin về gene) [33], BioCreative-II (trích chọn quan hệ tương tác giữa các
protein) [49], …Những bài toán được đưa ra nhằm đánh giá các chiến lược khai
phá dữ liệu y tế và đặc biệt tập trung vào hai bài toán con: nhận diện thực thể và
trích chọn quan hệ. Nhận diện thực thể đòi hỏi nhận biết các thành phần cơ bản như
tên thuốc, tên bệnh, triệu chứng, gene, protein, … trong văn bản. Xác định quan hệ
với một mẫu cho trước là nhận biết một trường hợp của quan hệ này trong văn bản.
Ví dụ, xác định quan hệ <gây_ra> giữa một bệnh xác định và một virus xác định.
Ontology là một trong những cách biểu diễn mẫu cho các khái niệm, quan hệ đó
một cách nhất quán và phong phú nhất. Việc xây dựng một Ontology cho y tế trong
1
tiếng Việt sẽ là cơ sở cho phép tìm kiếm, khai phá loại thông tin này một cách hiệu
quả.
Theo khảo sát dữ liệu cho thấy ở Việt Nam hiện nay các Ontology cho y tế
tiếng Việt thì hầu như chưa có; tuy nhiên cũng có đã có một số nhóm nghiên cứu
tập trung xây dựng Ontology với các miền cụ thể khác để phục vụ cho nhiều mục
đích khác nhau. Đơn cử có thể kế tới Ontology VN–KIM [34] đựợc phát triển tại
Đại học Bách khoa, Đại Học Quốc gia TP.Hồ Chí Minh. Ontology này bao gồm
347 lớp thực thể và 114 quan hệ và thuộc tính. VN-KIM Ontology bao gồm các lớp
thực thề có tên phổ biến như Con _người, Tổ_chức, tỉnh, Thành_phố,…, các quan
hệ giữa các lớp thực thể và các thuộc tính của mỗi lớp thực thể .
Tồn tại nhiều phương pháp được đưa ra để xây dựng một hệ thống trích chọn
thông tin cũnug như xây dựng mạng ngữ nghĩa và từ đó áp dụng cho bài toán tìm
kiếm ngữ nghĩa. Khóa luận trình bày cách biểu diễn dựa trên Ontology - một
trong số những phương pháp đang được sử dụng khá rộng rãi hiện nay. Khóa luận
trình bày một số phương pháp xây dựng Ontology, mở rộng ontology một cách tự
động, giới thiệu bài toán nhận dạng thực thể cũng như phân loại quan hệ dựa trên
một số phương pháp khác nhau. Khóa luận cũng đã xây dựng được một dữ liệu
cho y tế phục vụ cho việc nhận dạng thực thể và quan hệ được hiệu quả hơn.
2
Chương 1
TỔNG QUAN VỀ TÌM KIẾM NGỮ NGHĨA
1.1. Nhu cầu về tìm kiếm ngữ nghĩa
Sự bùng nổ các thông tin trực tuyến trên Internet và World Wide Web tạo ra
một lượng thông tin khổng lồ đưa ra thách thức là làm thế nào để có thể khai phá
hết được lượng thông tin này một cách hiệu quả nhằm phục vụ đời sống con người.
Các máy tìm kiếm như Google, Yahoo… ra đời nhằm hỗ trợ người dùng trong quá
trình tìm kiếm và sử dụng thông tin. Tuy kết quả trả về của các máy tìm kiếm này
ngày càng được cải thiện về chất và lượng nhưng vẫn đơn thuần là danh sách các
tài liệu chứa những từ xuất hiện trong câu truy vấn. Những thông tin từ các kết quả
trả về này chỉ được hiểu bởi con người, máy tính không thể “hiểu” được, điều này
gây những khó khăn cho quá trình tiếp theo xử lý thông tin tìm kiếm được. Thế hệ
các máy tìm kiếm thực thể ra đời (hệ thống Cazoodle tại trang web
hệ
thống
Arnetminer
tại
trang
web
kiếm. Thêm vào đó, với sự ra đời của máy tìm kiếm ngữ nghĩa Wolfram, được xây
dựng và phát triển bởi dự án Wolfram Research, Inc. Marketed do Stephen
Wolfram đề xuất [35], thì vấn đề tìm kiếm tri thức càng được quan tâm hơn nữa.
Sự ra đời của Web ngữ nghĩa (hay Semantic Web) do W3C (The World
Wide Web Consortium) khởi xướng đã mở ra một bước tiến của công nghệ Web,
những thông tin trong Web ngữ nghĩa có cấu trúc hoàn chỉnh và mang ngữ nghĩa
mà máy tính có thể “hiểu” được. Những thông tin này, có thể được sử dụng lại mà
không cần qua các bước tiền xử lý. Khi sử dụng các máy tìm kiếm thông thường
(Google, Yahoo…), tìm kiếm thông tin trên Web ngữ nghĩa sẽ không tận dụng
được những ưu điểm vượt trội của Web ngữ nghĩa, kết quả trả về không có sự cải
tiến. Nói theo một cách khác thì với các máy tìm kiếm hiện tại thì Web ngữ nghĩa
hay Web thông thường chỉ là một. Do vậy, cần thiết có một hệ thống tìm kiếm ngữ
nghĩa (Semantic Search) tìm kiếm trên Web ngữ nghĩa hay trên một mạng tri thức
mang ngữ nghĩa, kết quả trả về là các thông tin có cấu trúc hoàn chỉnh mà máy tính
có thể “hiểu” được, nhờ đó việc sử dụng hay xử lý thông tin trở nên dễ dàng hơn
[6][26][2]. Ngoài ra, việc xây dựng được một hệ thống tìm kiếm ngữ nghĩa cụ thể
sẽ tạo tiền đề cho việc mở rộng xây dựng các hệ thống hỏi đáp tự động trên từng
lĩnh vực cụ thể như : y tế, văn hóa … điều này mang một ý nghĩa thiết thực trong
đời sống.
3
1.2. Nền tảng tìm kiếm ngữ nghĩa
1.2.1.Web ngữ nghĩa
Web ngữ nghĩa hay còn gọi là Semantic Web theo Tim Berners-Lee là bước
phát triển mở rộng của công nghệ Word Wide Web hiện tại, chứa các thông tin
được định nghĩa rõ ràng để con người và máy tính làm việc với nhau hiệu quả hơn.
Mục tiêu của Web ngữ nghĩa là phát triển dựa trên những chuẩn và công nghệ
chung, cho phép máy tính có thể hiểu thông tin chứa trong các trang Web nhiều
hơn nhằm hỗ trợ tốt con người trong khai phá dữ liệu, tổng hợp thông tin, hay
trong việc xây dựng các hệ thống tự động khác… Không giống như công nghệ
Web thông thường, nội dung chỉ bao hàm các tài nguyên văn bản, liên kết, hình
ảnh, video mà Web ngữ nghĩa có thể bao gồm những tài nguyên thông tin trừu
tượng hơn như: địa điểm, con người, tổ chức… thậm chí là một sự kiện trong cuộc
sống. Ngoài ra, liên kết trong Web ngữ nghĩa không chỉ đơn thuần là các siêu liên
kết (hyperlink) giữa các tài nguyên mà còn chứa nhiều loại liên kết, quan hệ khác.
Những đặc điểm này khiến nội dung của Web ngữ nghĩa đa dạng hơn, chi tiết và
đầy đủ hơn. Đồng thời, những thông tin chứa trong Web ngữ nghĩa có một mối
liên hệ chặt chẽ với nhau. Với sự chặt chẽ này, người dùng dễ dàng hơn trong việc
sử dụng, và tìm kiếm thông tin. Đây cũng là ưu điểm lớn nhất của Web ngữ nghĩa
so với công nghệ Web thông thường [2].
Hình 1. Ví dụ về Web ngữ nghĩa [6]
Hình 1 là một ví dụ mô tả về một trang Web ngữ nghĩa chứa thông tin của
một người tên là Yo-Yo Ma. Trang Web có cấu trúc như một đồ thị có hướng mang
trọng số, trong đó mỗi đỉnh của đồ thị mô tả một kiểu tài nguyên chứa trong trang
Web. Các cạnh của đồ thị thể hiện một kiểu liên kết (hay còn gọi là thuộc tính của tài
nguyên) giữa các tài nguyên, trọng số của các liên kết đó thể hiện tên của liên kết
[tên của thuộc tính] đó. Cụ thể ta thấy Yo-Yo Ma có thuộc tính ngày sinh là
“10/07/55” có nơi sinh ở “Paris, France”, “Paris, France” có nhiệt độ là “62 F” …
4
Như vậy, mỗi tài nguyên được mô tả trong Web ngữ nghĩa là một đối tượng.
Đối tượng này có tên gọi, thuộc tính, giá trị của thuộc tính (giá trị có thể là một đối
tượng khác) và liên kết với các tài nguyên (đối tượng) khác (nếu có). Để xây dựng
được một trang Web ngữ nghĩa cần phải có tập dữ liệu đầy đủ, hay nói một cách
khác là cần phải xây dựng một tập các đối tượng mô tả tài nguyên cho Web ngữ
nghĩa. Các đối có quan hệ với nhau hình thành một mạng liên kết rộng, được gọi là
mạng ngữ nghĩa.
Mạng ngữ nghĩa được chia sẻ rộng khắp do vậy các đối tượng trong một
mạng ngữ nghĩa cần phải mô tả theo một chuẩn chung nhất. Ontology được sử
dụng để mô tả về đối tượng, tài nguyên cho Web ngữ nghĩa [2].
1.2.2. Ontology
Có thể hiểu một cách đơn giản ontology là một mô hình dữ liệu trình bày
một tập các khái niệm trong một miền và mối quan hệ giữa các khái niệm đó. Nó
được sử dụng để lập luận (suy luận) về các đối tượng trong miền đó [12].
Ontology là một trong những cách biểu diễn mẫu cho các khái niệm, quan hệ
đó một cách nhất quán và phong phú nhất, chính vì thế nó được sử dụng để xây
dựng mạng ngữ nghĩa từ tập dữ liệu thô (không hoặc bán cấu trúc) tạo nền tảng xây
dựng một máy tìm kiếm ngữ nghĩa một cách hiệu quả. Ontology sẽ được giới thiệu
một cách cụ thể, kỹ lưỡng hơn trong chương 2 của khóa luận.
1.3. Kiến trúc của một máy tìm kiếm ngữ nghĩa
Xét về cơ bản, một máy tìm kiếm ngữ nghĩa có cấu trúc tương tự với một
máy tìm kiếm thông thường cũng bao gồm hai thành phần chính [2]:
Phần giao diện người dùng (front end) có hai chức năng chính:
• Giao diện truy vấn: cho phép người dùng nhập câu hỏi, truy vấn.
• Hiển thị câu trả lời, kết quả.
Phần kiến trúc bên trong (back end) là phần hạt nhân của máy tìm kiếm bao
gồm ba thành phần chính đó là:
• Phân tích câu hỏi
• Tìm kiếm kết quả cho truy vấn hay câu hỏi
• Tập tài liệu, dữ liệu tìm kiếm, mạng ngữ nghĩa.
Mô hình kiến trúc một máy tìm kiếm ngữ nghĩa được mô tả như Hình 2.
5
Search Services
2.Phân lớp
câu hỏi
1.
6.
Nhập
Kết
truy
quả trả
về
vấn
3.Biển đổi
dạng câu hỏi
Semantic
Web/Ontology
5.Tìm kiếm
Mạng ngữ
nghĩa
4. Trích chọn
thông tin
Hình 2. Kiến trúc một máy tìm kiếm ngữ nghĩa [2]
Có thể thấy rằng sự khác biệt trong cấu trúc của máy tìm kiếm ngữ nghĩa so
với máy tìm kiếm thông thường nằm ở phần kiến trúc bên trong, cụ thể ở hai thành
phần: phân tích câu hỏi và tập dữ liệu tìm kiếm.
Phân tích câu hỏi đã được đề cập chi tiết trong [2]. Tập dữ liệu tìm kiếm
chính là web ngữ nghĩa và mạng ngữ nghĩa được xây dựng dựa trên ontology và hệ
thống trích chọn thông tin. Khóa luận này tập trung nghiên cứu kỹ về xây dựng
ontology, mở rộng tự động ontology nhờ trích chọn thông tin mà cụ thể là nhận
dạng thực thể. Khóa luận cũng đề cập tới nhận dạng quan hệ ngữ nghĩa, phân loại
câu chứa quan hệ nhằm mục đích như đã trình bày ở trên, đó là xây dựng được một
tập dữ liệu tìm kiếm đầy đủ cho máy tím kiếm ngữ nghĩa trong tương lai.
1.4.Trích chọn thông tin
Trích chọn thông tin là một lĩnh vực quan trọng trong khai phá dữ liệu văn
bản, thực hiện việc trích rút các thông tin có cấu trúc từ các văn bản không có cấu
trúc. Nói cách khác, một hệ thống trích chọn thông tin rút ra những thông tin đã
được định nghĩa trước về các thực thể và mối quan hệ giữa các thực thể từ một văn
bản dưới dạng ngôn ngữ tự nhiên và điền những thông tin này vào một văn bản ghi
dữ liệu có cấu trúc hoặc một dạng mẫu được định nghĩa trước đó. Có nhiều mức độ
trích chọn thông tin từ văn bản như xác định các thực thể (Element Extraction), xác
định quan hệ giữa các thực thể (Relation Extraction), xác định và theo dõi các sự
6
kiện và các kịch bản (Event and Scenario Extraction and Tracking), xác định đồng
tham chiếu (Co-reference Resolution)... Các kĩ thuật được sử dụng trong trích chọn
thông tin gồm có: phân đoạn, phân lớp, kết hợp và phân cụm [1].
Bệnh phổi cấp tính là một
trong những nguyên nhân tử
vong chính của người già,
nguy hiểm hơn cả bệnh phổi
do cúm. Triệu chứng thường
Bệnh
Triệu chứng
Thuốc
gặp là người mệt mỏi, đôi khi
có lú lẫn, sốt thất thường, ho
khan nhiều và nặng nhọc, có
khi khó thở. Các thuốc an
thần, chống ho phải được sử
dụng một cách thận trọng, nếu
có biểu hiện thở rít cần phải
phân biệt do hen phế quản thì
phải dùng corticoid và thuốc
giãn phế quản.
Phổi cấp
tính
Mệt mỏi
Lú lẫn
Sốt thất
thường
Ho khan
Khó thở
An thần
IE
Chống ho
Corticoid
Thuốc giãn
phế quản
Hình 3. Minh họa một hệ thống trích chọn thông tin
Để có một hệ thống trích chọn thông tin đầu tiên chúng ta phải có một hệ
thống nhận dạng thực thể và tiếp sau mới tính đến phân loại quan hệ. Bài toán nhận
biết các loại thực thể là bài toán đơn giản nhất trong số các bài toán trích chọn
thông tin, tuy vậy nó lại là bước cơ bản nhất trước khi tính đến việc giải quyết các
bài toán phức tạp hơn trong lĩnh vực này. Ngoài ứng dụng trong hệ thống trích chọn
thông tin, nó còn có thể được áp dụng trong tìm kiếm thông tin (Information
Retrieval), dịch máy (machine translation) và hệ thống hỏi đáp (question
answering).
Đã có rất nhiều bài toán được đặt ra trong lĩnh vực trích chọn thông tin y tế
như BioCreative-I (nhận diện các tên genes và protein trong văn bản) [32], LLL05
(trích chọn thông tin về gene) [33], BioCreative-II (trích chọn quan hệ tương tác
giữa các protein) [49], …Những bài toán được đưa ra nhằm đánh giá các chiến lược
khai phá dữ liệu y tế và đặc biệt tập trung vào hai bài toán con: nhận diện thực thể
và trích chọn quan hệ. Nhận diện thực thể đòi hỏi nhận biết các thành phần cơ bản
như tên thuốc, tên bệnh, triệu chứng, gene, protein, … trong văn bản. Xác định
quan hệ với một mẫu cho trước là nhận biết một trường hợp của quan hệ này trong
văn bản. Ví dụ: xác định quan hệ <gây_ra> giữa một bệnh xác định và một virus
7
xác định. Ontology là một trong những cách biểu diễn mẫu cho các khái niệm, quan
hệ đó một cách nhất quán và phong phú nhất. Việc xây dựng một ontology cho y tế
trong tiếng Việt sẽ là cơ sở cho phép tìm kiếm, khai phá loại thông tin này một cách
hiệu quả. Sau khi xây dựng ontology, công việc tiếp theo cũng rất quan trọng đó là
mở rộng ontology một cách tự động. Việc có một hệ thống trích chọn thông tin
(bao gồm nhận dạng thực thể và trích chọn quan hệ, …) là bước tiền để có thể mở
rộng ontology một cách tự động.
8
Chương 2
XÂY DỰNG ONTOLOGY Y TẾ TIẾNG VIỆT
2.1. Giới thiệu Ontology
2.1.1. Khái niệm Ontology
Trong những năm gần đây, thuật ngữ “Ontology” không chỉ được sử dụng ở
trong các phòng thì nghiệm trên lĩnh vực trí tuệ nhân tạo mà đã trở nên phổ biến đối
với nhiều miền lĩnh vực trong đời sống . Đứng trên quan điểm của ngành trí tuệ
nhân tạo, một Ontology là sự môt tả về những khái niệm và những quan hệ của các
khái niệm đó nhằm mục đích thể hiện một góc nhìn về thế giới. Trên miền ứng
dụng khác của khoa học, một Ontology bao gồm tập các từ vựng cơ bản hay một tài
nguyên trên một miền lĩnh vực cụ thể, nhờ đó những nhà nghiên cứu có thể lưu trữ,
quản lý và trao đổi tri thức cho nhau theo một cách tiện lợi nhất [2].
Hiện nay tồn tại nhiều khái niệm về Ontology, trong đó có nhiều khái niệm
mâu thuẫn với các khác niệm khác, khóa luận này chỉ giới thiệu một định nghĩa
mang tính khái quát và được sử dụng khá phổ biến được Kincho H. Law đưa ra:
“Ontology là biểu hiện một tập các khái niệm (đối tượng), trong một miền cụ thể
và những mối quan hệ giữa các khái niệm này”. Ontology chính là sự tổng hợp của
một tập từ vựng chia sẻ và các miêu tả ý nghĩa của từ đó theo cách mà máy tính
hiểu được.
a formal characterization
of its meaning
a shared
vocabulary
Ontology
Hình 4. Mô tả ý nghĩa của Ontology
Hình 4 mô tả ý nghĩa của Ontology, trong đó tập từ vựng dùng chung
(Vocabulary) chính là thể hiện của các lớp, quan hệ. Ví dụ, có thể có Vocabulary
(...), Categories (Cat, White, Leg, Fish, Animal,…), Relations (Is-a, Part-of,
9
hasMother,…), Characterization (...) và các thể hiện quan hệ "A cat is an animal",
"A cat has four legs"...
Hình 5. Minh họa cấu trúc phân cấp của Ontology BioCaster [11]
2.1.2. Các thành phần của Ontology
Các thành phần chính của Ontology là: Lớp (Class), thuộc tính (Property),
thực thể (Individual).
Lớp (class) là một bộ những thực thể, các thực thể được mô tả logic đề định
nghĩa các đối tượng của lớp; lớp được xây dựng theo cấu trúc phân cấp cha con như
là một sự phân loại các đối tượng. Thực thể được xem là thể hiện của một lớp, làm
rõ hơn về lớp đó và có thể được hiểu là một đối tương nào đó trong tự nhiên
(England, Manchester United, bệnh sởi, thủy đậu…).
Thuộc tính (Property) thể hiện quan hệ nhị phân của các thực thể (quan hệ
giữa hai thực thể) như liên kết hai thực thể với nhau. Ví dụ thuộc tính ‘do_virus’
liên kết hai thực thể ‘bệnh’ và ‘virus’ với nhau.
Thuộc tính (property) có 4 loại (1) Functional: Một thực thể chỉ liên quan
nhiều nhất đến một thực thể khác, ví dụ thuộc tính “có hương vị” đối với các thực
thể lớp “thức_ăn”; (2) Inverse Functional: Thuộc tính đảo ngược của Functional,
10
thuộc tính “là hương vị của”; (3) Transitive: Thực thể a quan hệ với thực thể b, thực
thể b quan hệ với thực thể c Æ thực thể a quan hệ với thực thể c; (4) Symmetric:
Thực thể a quan hệ với thực thể b Æ thực thể b quan hệ với thực thể a.
Thuộc tính có 3 kiểu thể hiện (1) Object Property: Liên kết thực thể này với
thực thể khác; (2) DataType Property: Liên kết thực thể với kiểu dữ liệu XML
Schema, RDF literal; (3) Annotation Property: Thêm các thông tin metadata về lớp,
thuộc tính hay thực thể khác thuộc 2 kiểu trên.
Để làm việc với ontology Web cần sử dụng ngôn ngữ ontology Web (The
Web Ontology Language: OWL). OWL có thể có một kiểu thứ tư là Annotation
propertie. Kiểu thuộc tính được sử dụng để thêm các thông tin (metadata – dữ liệu
của dữ liệu) đối với các lớp, các thực thể hay các thuộc tính Object/ Datatype.
2.1.3 Một số công trình liên quan tới xây dựng Ontology
Ngày nay, Ontology được sử dụng rất nhiều trong các lĩnh vực liên quan đến
ngữ nghĩa như trí tuệ nhân tạo (AI), semantic web, kĩ nghệ phần mềm, v.v… Vì
những ứng dụng của Ontology nên không chỉ riêng Việt Nam, trên thế giới đã có
nhiều dự án tập trung xây dựng Ontology đối với từng miền dữ liệu khác nhau và
phục vụ cho nhiều mục đích đa dạng khác nhau. Đối với miền dữ liệu y tế có thể kể
tới rất nhiều Ontology trong lĩnh vực y tế, sinh học đã được đưa ra bởi tổ chức The
National Center for Biomedical Ontology [52]. Dự án này đã đưa ra được rất nhiều
Ontology trong y tế cũng như trong sinh học, ví dụ như Ontology về cell type,
Gene, FMA, Human disease…danh sách các Ontology đưa ra được hiển thị trong
[41].
Ngoài ra có thể kể tới Disease Ontology [42] là một tập từ về y khoa được
phát triển tại Bioinformatics Core Facility cùng với sự cộng tác của dự án NuGene
Project tại trung tâm Center for Genetic Medicine. Ontology này được thiết kế với
mục đích sắp xếp các bệnh và các điều kiện tương ứng đối với những code về y tế
cụ thể như là ICD9CM, SNOMED và những cái khác….Disease Ontology cũng
được sử dụng để liên kết những kiểu hình sinh vật mẫu đối với các bệnh của con
người cũng như trong việc khai phá dữ liệu y học. Disease Ontology được thực
hiện như là một đồ thị xoắn có hướng và sử dụng UMLS (Unified Medical
Language System) là tập từ vựng để truy cập các Ontology về y tế khác như
ICD9CM.
Một ontology tiếng Anh được đề cập rất nhiều trong lĩnh vực y tế trong thời
gian gần đây đó là GENIA [43]. Mục đích chính mà ontology này hướng tới đó là
11
sự phản ứng lại của tế bào trong não người. Ontology này chủ yếu tập trung trong
các lĩnh vực y tế và cũng được sử dụng trong các bài toán xử lý ngôn ngữ tự nhiên:
truy hồi thông tin (Information Retrieval – IR), trích chọn thông tin, phân lớp và
tóm tắt văn bản …Hình vẽ sau mô tả cấu trúc phân cấp của ontology GENIA.
Tồn tại nhiều Ontology về y tế hiện nay đã được xây dựng trên thế giới. Tuy
nhiên ở Việt Nam hiện nay mặc dầu việc tìm kiếm ngữ nghĩa đang được tập trung
nghiên cứu, nhưng các Ontology về y tế thì hầu như chưa có, cho nên việc tìm kiếm
các trang web về thuốc, bệnh … của người dùng chưa trả về các kết quả đầy đủ và
đạt được hiệu quả. Tồn tại một Ontology đề cập đến các thuật ngữ y tế trong tiếng
Việt, đó là Ontology Biocaster [44]. Đây là Ontology được nghiên cứu theo dự án
Biocaster được phát triển tại Viện Tin học Quốc gia Nhật Bản với sự cộng tác của
trường các trường đại học tại Nhật Bản, Thái Lan, Việt Nam... Đây là ontology viết
cho nhiều ngôn ngữ như Nhật, Anh, Thái, Việt…
Ontology BioCaster [11] có các thuật ngữ của nhiều thứ tiếng trong đó có
371 thuật ngữ tiếng Việt, các thuật ngữ liên quan đến bệnh, virus, các triệu chứng
của Việt Nam. Mặc dù Ontology này có xử lý trích chọn trong tiếng Việt, nhưng từ
đó lại đưa ra các bài báo về y tế Việt Nam bằng tiếng Anh. Vì vậy, các thuật ngữ,
thực thể, các bệnh hay virus được viết bằng tiếng Việt còn các quan hệ được mô tả
bằng tiếng Anh. Ví dụ, thuật ngữ Vietnamese_103, gán nhãn: vi rút gây bệnh thủy
đậu, có hasLanguage: vi (Vietnamese), hasRootTerm : VIRUS_124…
2.2. Lý thuyết xây dựng Ontology
2.1.1. Phương pháp xây dựng Ontology
Ngày nay, việc nghiên cứu quá trình xây dựng ontology ngày càng được
quan tâm nhiều hơn. Có rất nhiều nhóm sau quá trình nghiên cứu đã đưa ra các
phương pháp khác nhau nhằm xây dựng Ontology.
Phương pháp Ushold & King được xây dựng dựa trên việc phát triển
Enterprise Ontology. Phương pháp này chủ yếu tập trung vào việc giúp người phát
triển từ mục đích của ontology có thể có những hướng phát triển như thế nào, sau
đó đánh giá và viết tài liệu cho ontology. Trong quá trình xây dựng, người dùng có
thể tích hợp các ontology có sẵn vào ontology đang xây dựng. Ba cách tiếp cận sau
được đưa ra nhằm định nghĩa các khái niệm chính trong ontology: cách tiếp cận
top-down, bottom-up và middle-out. Phương pháp luận này được xây dựng không
phụ thuộc vào ứng dụng, nghĩa là mục đích xây dựng ontology độc lập với quá
12
trình xây dựng chúng, không phụ thuộc vào nhau. Với bất kì ứng dụng nào, chúng
ta đều có thể sử dụng chung phương pháp này [17].
Phương pháp luận tiếp theo được phát triển bởi Gruninger và Fox [16], được
phát triển thông qua dự án ontology Toronto Virtual Enterprise (TOVE). Hệ thống
này được xây dựng bắt nguồn từ tư tưởng về sự phát triển hệ thống dựa trên tri
thức, sử dụng first order logic. Trong phương pháp này, các khái niệm nổi bật nhất
được định nghĩa trước tiên, sau đó làm chi tiết và tổng quát hóa các khái niệm đó
theo các hướng thích hợp. Như vậy, phương pháp này bắt đầu từ một số các khái
niệm ở mức cao, đi rồi đến các khái niệm ở mức thấp và tổng quát ở các mức cao
hơn. Phương pháp này sử dụng cách tiếp cận middle-out để định nghĩa các khái
niệm và một phần phụ thuộc vào ứng dụng sau này của ontology, nghĩa là trước khi
xây dựng ontology, người dùng cần quyết định mục đích sử dụng và tích hợp
ontology vào ứng dụng gì.
METHONTOLOGY là một phương pháp xây dựng Ontology được phát
triển từ phòng nghiên cứu trí tuệ nhân tạo của trường ĐH Polytechnic Madrid.
Phương pháp này cho phép người sử dụng có thể xây dựng một ontology mới dựa
trên bản mẫu thiết kế mới hoặc có thể sử dụng những ontology có sẵn. Bộ
framework của METHONTOLOGY có thể giúp người dùng xây dựng cấu trúc
ontology ở mức độ tri thức và bao gồm: định nghĩa quy trình phát triển ontology,
một số kỹ thuật trong quá trình xây dựng quy trình trên (ví dụ quản lý và lập lịch,
quản lý chất lượng, thu thập dữ liệu và tri thức, quản lý cấu hình, v.v.). Phương
pháp luận này sử dụng chiến lược middle-out và không phụ thuộc vào ứng dụng.
2.1.2. Công cụ xây dựng Ontology
Bộ công cụ xây dựng và phát triển Ontology bao gồm các tool hỗ trợ và môi
trường giúp người dùng có thể xây dựng một Ontology mới từ bản thiết kế mới
hoặc sử dụng lại những Ontology mới có sẵn. Một số môi trường phát triển được
xây dựng từ trước như Ontosaurus, Ontolingua và WebOnto. Những bộ công cụ
mới được sử dụng nhiều gần đây bao gồm OntoEdit, OilED,WebODE, Chimera
DAG-Edit và Protégé.
Ontoligua server [45] là bộ công cụ xây dựng ontology được phát triển từ
những năm 1990 tại Phòng Thí nghiệm Hệ thống tri thức (Knowledge Systems
Laboratory -KSL) của Trường ĐH Stanford (Mỹ). Các module chính của bộ công
cụ bao gồm bộ biên tập ontology (ontology editor) và các module khác như
Webster, OKBC (Open knowledge Based Connectivity) server.
13
Ontosaurus [46] được phát triển cùng trong khoảng thời gian đó bởi Viện
Khoa học Thông tin ISI của Trường ĐH South Calfornia (Mỹ). OntoSaurus bao
gồm 2 module chính: ontology server (sử dụng Loom) và một web browser cho
Loom ontology. Ngoài ra, bộ công cụ còn hỗ trợ KIF, KRSS và C++, đồng thời
OntoSaurus ontology cũng có thể được truy cập dựa trên protocol OKBC của
Ontoligua server.
WebOnto là một ontology editor cho các Ontology OCML (Operational
Conceptual Modelling Language), được phát triển bởi Viện Truyền thông Tri thức
(KMI) tại Trường ĐH mở (Open University). Bộ công cụ này là sử dụng Java với
webserver, cho phép người dùng có thể duyệt và thay đổi các mô hình tri thức
thông qua Internet. Điểm mạnh chính của bộ công cụ này là có thể cho phép cộng
tác giữa nhiều người nhằm thay đổi và hoàn thiện ontology [26].
Các bộ công cụ trên (Ontolingua server, Ontosaurus và WebOnto) được xây
dựng đơn thuần nhằm hỗ trợ duyệt và biên tập các Ontology được viết bằng những
ngôn ngữ riêng (Ontolingua, LOOM và OCML). Những bộ công cụ biên tập này
hiện nay không còn đáp ứng đủ nhu cầu của người sử dụng. Thế hệ mới các bộ
công cụ xây dựng Ontology có nhiều ưu việt cũng như tính năng hơn hẳn các bộ
công cụ này, ví dụ như khả năng mở rộng, hệ thống kiến trúc các thành phần – giúp
người dùng có thể cung cấp thêm các tính năng cho môi trường phát triển một cách
dễ dàng.
WebODE [47] là một bộ công cụ có khả năng mở rộng được phát triển bởi
nhóm Ontology của trường ĐH Technical Madrid (UPM), được xem như một thành
công của ODE (Ontology Design Environment). WebODE được sử dụng như một
Web server với giao diện web. Phần lõi chính của môi trường này là một dịch vụ
(service) ontology, trong đó tất cả các dịch vụ và ứng dụng khác đều có thể sử dụng
dịch vụ này. Phần soạn thảo Ontology cũng đồng thời cung cấp công cụ kiểm tra
ràng buộc, tạo các luật tiên đề (axiom rule creation) và phân tích với WebODE
Axiom Builder (WAB), tài liệu trong HTML, kết hợp ontology với các định dạng
khác nhau [XML\RDF[s], OIL, DAML+OIL, CARIN, Flogic, Java và Jess].
OilED [48] là một bộ công cụ soạn thảo ontology cho phép người dùng có
thể xây dựng Ontology bằng OIL và DAML+OIL, được xây dựng bởi Trường ĐH
Manchester, Đại học Amsterdam và Interprice GmbH.
Protégé 2000 [51] là một trong những bộ công cụ được sử dụng rộng rãi nhất
hiện nay, được phát triển bởi Trường ĐH Stanford. Bộ công cụ này được phát triển
14
dựa trên hai mục tiêu: có thể tương thích với các hệ thống khác, dễ dàng sử dụng và
hỗ trợ các công cụ trích chọn thông tin. Phần chính của môi trường này là một biên
tập ontology. Bên cạnh đó, Protégé còn bao gồm rất nhiều các plugin nhằm hỗ trợ
chức năng như quản lý nhiều ontology, dịch vụ suy luận (inference service), hỗ trợ
về vấn đề ngôn ngữ ontology (language importation/exportation).
2.1.3. Ngôn ngữ xây dựng Ontology
Hiện tại, các ngôn ngữ xây dựng ontology (ngôn ngữ ontology) điển hình
bao gồm LOOM, LISP, Ontolingua, XML, SHOE, OIL, DAML+OIL và OWL.
Ngôn ngữ ontology được chia làm ba loại: định ngữ tập từ vựng sử dụng
ngôn ngữ tự nhiên (object based-knowledge representation languages) như UML,
và ngôn ngữ dựa trên lôgic vị từ bậc một (first order predicate logic) như logic mô
tả (Description Logics). Ngôn ngữ ontology cần phải tương thích với những công
cụ khác, tự nhiên và dễ học, tương thích với các chuẩn hiện tại của web như XML,
XML Schema, RDF và UML. Dưới đây là một số các ngôn ngữ web-based.
EXtensible Markup Language [XML] là một chuẩn mở dùng để biểu diễn dữ
liệu từ W3C, có tính mềm dẻo và mạnh hơn so với HTML. RDF (Resource
Description Framework) được phát triển như một khung giúp mô tả và trao đổi các
metadata [12].
SHOE (Simple HTML Ontology Extensions) được xây dựng vào năm 1996
tại Trường ĐH Maryland, như một mở rộng của HTML để có thể hợp nhất các tri
thức ngữ nghĩa trên các văn bản web hiện tại thông qua việc chú thích các trang
HTML [27].
OIL (Ontology Inference Layer) là mở rộng của RDF, được phát triển bởi dự
án ON-To_Knowledge, là ngôn ngữ mô tả và trao đổi cho ontology. Ngôn ngữ này
được kết hợp bởi ngôn ngữ dạng dựa trên frame (frame-based) với ngữ nghĩa hình
thức (formal sematics) và dịch vụ suy luận từ logic mô tả (description logics). Ngôn
ngữ được chia làm ba mức đối tượng lớp (các thực thể cụ thể), mức đầu tiên (first-
meta, định nghĩa theo ontology) và mức thứ hai (second-meta, các mối quan hệ)
[8].
DAML+OIL được phát triển dựa trên dự án DARPA năm 2000. Cả OIL và
DAML+OIL đều cho phép mô tả các khái niệm, các phân cấp (taxonomy), các
quan hệ nhị phân, chức năng và thực thể [9].
15
OWL là một ngôn ngữ ontology được sử dụng phổ biến hiện nay, được tối
ưu hoá cho việc trao đổi dữ liệu và chia sẻ tri thức. Ngôn ngữ này được sử dụng khi
thông tin chứa trong văn bản cần được xử lý bởi các ứng dụng. OWL l có thể được
sử dụng để biểu diễn ngữ nghĩa các thuật ngữ trong tập từ vựng và mối quan hệ
giữa những thuật ngữ này. OWL bao gồm OWL Lite, OWL DL [RDF] và OWL
FULL.
2.3. Xây dựng Ontology y tế tiếng Việt
Việc thiết kế và xây dựng một ontology bao gồm các bước sau:
•
•
•
Định nghĩa các lớp trong ontology.
Sắp xếp các lớp trong một kiến trúc phân cấp (taxonomic hierarchy).
Định nghĩa các thuộc tính (slot) và mô tả các giá trị cho phép cho
những thuộc tính này.
•
•
Điền giá trị của các thể hiện [instance] vào các slot.
Sau đó, cơ sở tri thức được tạo ra bằng cách định nghĩa các thể hiện
(instance) của những lớp này cùng với những giá trị của chúng.
Không có một phương pháp nào được gọi là phương pháp chuẩn xác cho
việc xây dựng tất cả các Ontology [18]. Việc lựa chọn phương pháp xây dựng phù
hợp nào được dựa trên mục đích và tính chất của từng Ontology. Qua quá trình
khảo sát các dữ liệu về y tế và một số các phương pháp phát triển Ontology, chúng
tôi lựa chọn môi trường Protégé OWL xây dựng một Ontology y tế bằng Tiếng Việt
thử nghiệm.
Sau khi thu thập và khảo sát dữ liệu, chúng tôi liệt kê các thuật ngữ quan
trọng nhằm có thể nêu định nghĩa cho người dùng với hướng nghiên cứu tiếp theo
là tự động liên kết đến các định nghĩa có sẵn trên trang wikipedia. Từ các thuật ngữ
trên, tiếp theo sẽ định nghĩa các thuộc tính của chúng. Việc xây dựng Ontology là
một quá trình lặp lại được bắt đầu bằng việc định nghĩa các khái niệm trong hệ
thống lớp và mô tả thuộc tính của các khái niệm đó.
16
Chương 3
NHẬN DẠNG THỰC THỂ
3.1. Giới thiệu bài toán nhận dạng thực thể
3.1.1. Giới thiệu chung về nhận dạng thực thể
Nhận dạng thực thể có thể hiểu một cách đơn giản là phân loai các từ trong
một văn bản thành các lớp thực thể đã được định nghĩa trước như người (PER), tổ
chức (ORG), vị trí (LOC), bệnh (BENH), triệu chứng (TCHUNG), thuốc
(THUOC). Nhận dạng thực thể cho chúng ta được một phân tích bề mặt, các thực
thể sẽ trả lời các câu hỏi quan trọng (có thể ứng dụng trong hệ thống hỏi đáp…).
Có rất nhiều phương pháp đã được dùng để giải quyết bài toán nhận dạng
thực thể, từ các phương pháp thủ công đến các phương pháp học máy (như các mô
hình markov ẩn (Hidden Markov Models – HMM), các mô hình Markov cực đại
hóa Entropy (Maximum Entropy Markov Models- MEMM), các mô hình miền phụ
thuộc điều kiện (Conditional Random Field (CRF), phương pháp máy vector hỗ trợ
(Support Vector Machine).
Tiêu biểu cho hướng tiếp cận thủ công là hệ thống nhận biết loại thực thể
Proteus của đại học New York tham gia MUC-6. Hệ thống được viết bằng Lisp và
được hỗ trợ bởi một số lượng lớn các luật, tuy nhiên hầu hết các luật đều còn tồn tại
một số lượng lớn các trường hợp ngoại lệ, trong đó có những ngoại lệ chỉ xuất hiện
khi hệ thống đưa vào sử dụng, mà ta khó có thể giải quyết hết. Dưới đây là một số
ví dụ về các luật được sử dụng bởi Proteus cùng với các trường hợp ngoại lệ của
chúng [1]:
Luật: Title Capitalized_Word => Title Person Name
ÆTrường hợp đúng : Mr. Johns, Gen. Schwarzkopf
ÆTrường hợp ngoại lệ: Mrs. Field’s Cookies (một công ty).
Luật: Month_name number_less_than_32 => Date
ÆTrường hợp đúng: February 28, July 15
ÆTrường hợp ngoại lệ: Long March 3 ( tên một tên lửa của Trung Quốc).
So với các phương pháp thủ công vừa tốn thời gian, công sức, mà kết quả
đạt được lại không được như mong muốn, các phương pháp học máy hiện đang
17
được tập trung nghiên cứu nhiều hơn. Hầu hết các phương pháp đều có những ưu
thế riêng đồng thời vẫn còn tồn tại một số hạn chế do đặc thù của mỗi mô hình.
Tiêu biểu có thể kể đến các mô hình Markov ẩn HMM và các mô hình cải tiến của
nó như MEMM, CRF; với các mô hình này ta có thể xem tương ứng mỗi trạng thái
với một trong nhãn các nhãn thực thể và dữ liệu quan sát là các từ trong câu đang
xét. Máy vector hỗ trợ (SVM) cũng là một trong những phương pháp học máy cho
kết quả rất khả quan.
3.1.2. Một số kết quả nghiên cứu về nhận dạng thực thể
Trên thế giới bài toán nhận biết thực thể đã được quan tâm nghiên cứu từ lâu
và đạt được những kết quả khá ấn tượng. Có rất nhiều phương pháp (từ các phương
pháp thủ công đến các phương pháp học máy) đã được dùng để giải quyết bài toán
này. Trong công trình nghiên cứu vào năm 2007 [5], David Nadeau đã đánh giá
một số nghiên cứu tiêu biểu trước đó có liên quan đến bài toán nhận dạng thực thể.
Nội dung các đánh giá của David Nadeau được trình bày như dưới đây.
Tiêu biểu cho hướng tiếp cận thủ công là hệ thống nhận biết loại thực thể
Proteus của đại học New York tham gia MUC-6. Hệ thống được viết bằng Lisp và
được hỗ trợ bởi một số lượng lớn các luật. Năm 1998, Radev công nghiên cứu nhận
dạng những đoạn mô tả về thực thể được đưa ra, chẳng hạn như Bill Clinton sẽ
được mô tả là “the President of the U.S.”, “the democratic presidential candidate”
hay “an Arkansas native”… Hệ thống của Fung 1995 (và Huang 2005) giải quyết
bài toán dịch các thực thể từ ngôn ngữ này sang ngôn ngữ khác (ví dụ như bản dịch
tiếng Việt của thực thể “College of Technology” sẽ là “Trường Đại học Công
nghệ”). Hệ thống này được đánh giá là gặp phải ít hơn 10% lỗi dịch. Tiếp theo đó,
năm 2001, Charniak và cộng sự công bố kết quả nghiên cứu nhận dạng cấu trúc các
phần trong tên người, ví dụ như cụm “Doctor Paul R. Smith” sẽ được chia thành cá
thành phần chức danh, họ, đệm và tên). Nghiên cứu này là một bước tiền xử lý
quan trọng trong bộ nhận dạng thực thể, để có thể xác định những trường hợp như
“John F. Kennedy” và “President Kennedy” là cùng một người. Cũng trong năm
2001, hệ thống “Record linkage” của Cohen và Richman được xây dựng với mục
đích tìm ra tất cả các dạng của cùng một thực thể trên toàn bộ cơ sở dữ liệu. Vào
năm 2002, Dimitrov và cộng sự đã giải quyết vấn đề sử dụng các đại từ thay thế, ví
dụ trong câu “Rabi finished reading the book and he replaced it in the library” đại
từ “he” là đại từ thay thế cho “Rabi”. Nghiên cứu này có rất nhiều ứng dụng thực
tế, ví dụ như trong hệ thống hỏi đáp tự động. Năm 2003, Mann và Yarowski xây
dựng một hệ thống xóa bỏ các nhập nhằng về tên người, kỹ thuật này được sử dụng
18
để xây dựng tiểu sử - nền tảng của một số máy tìm kiếm như Zoominfo.com hay
Spock.com. Năm 2005, Nadeau và Turney công bố kết quả nghiên cứu nhận dạng
từ đầy đủ của các từ viết tắt trong một văn bản đang xét nào đó, ví dụ như “IBM”
viết tắt của “International Business Machines” trong nhiều văn bản. Một nghiên
cứu vào năm 2006 của Agbago nhằm xây dựng một hệ thống có khả năng phục hồi
lại định dạng đúng của từ bao gồm việc bảo đảm cho ký tự đầu câu và đầu thực thể
luôn được viết hoa là rất có ích trong dịch máy.
Cũng trong công trình nghiên cứu của mình [5], David Nadeau đã sử dụng
tập nhãn thực thể ENAMEX theo mẫu của hội nghị MUC – 7 (Message
Understanding Conference 7) và tiến hành huấn luyện - kiểm thử trên tập ngữ liệu
Medstract Gold Standard Evaluation Corpus (Tập ngữ liệu này được xây dựng bởi
Pustejovsky vào năm 2001). Tác giả sử dụng bộ công cụ Weka Machine Learning
để kiểm thử nhiều thuật toán học có giám sát và đưa ra kết luận độ “tốt” của hệ
thống phụ thuộc rất nhiều vào thuật toán được sử dụng và phương pháp học bán
giám sát của mình cho kết quả khả quan nhất.
Tính đến nay, có khá nhiều hội nghị khoa học quốc tế lớn trao đổi về bài
toán nhận dạng thực thể cũng như đánh giá đánh giá các hệ thống nhận dạng thực
thể đã được xây dựng. Tiêu biểu có thể kể đến MUC (Message Understanding
Conference, 1987-1997), MET (Multilingual Entity Task Conference, 1998), ACE
(Automatic Content Extraction Program, 2000), HAREM (Evaluation contest for
named entity recognizers in Portuguese, 2004-2006), IREX (Information Retrieval
and Extraction Exercise, 1998-1999) …
3.2. Đặc điểm dữ liệu tiếng Việt
Tiếng Việt thuộc ngôn ngữ đơn lập, tức là mỗi một tiếng (âm tiết) được phát
âm tách rời nhau và được thể hiện bằng một chữ viết. Đặc điểm này thể hiện rõ rệt ở
tất cả các mặt ngữ âm, từ vựng, ngữ pháp. Dưới đây trình bày một số đặc điểm của
tiếng Việt theo các tác giả ở Trung tâm ngôn ngữ học Việt Nam đã trình bày. Việc
nghiên cứu các đặc điểm dữ liệu tiếng Việt sẽ giúp em có cái nhìn tổng quan về các
đặc trưng dữ liệu tiếng Việt. Hiểu rõ ràng hơn về dữ liệu sẽ giúp việc xây dựng
Ontology và trích chọn thông tin được hiệu quả hơn.
3.2.1. Đặc điểm ngữ âm
Tiếng Việt có một loại đơn vị đặc biệt gọi là "tiếng" mà về mặt ngữ âm thì
mỗi tiếng là một âm tiết. Hệ thống âm vị tiếng Việt phong phú và có tính cân đối,
19
tạo ra tiềm năng của ngữ âm tiếng Việt trong việc thể hiện các đơn vị có nghĩa.
Nhiều từ tượng hình, tượng thanh có giá trị gợi tả đặc sắc. Khi tạo câu, tạo lời,
người Việt rất chú ý đến sự hài hoà về ngữ âm, đến nhạc điệu của câu văn.
3.2.2. Đặc điểm từ vựng
Nói chung, mỗi tiếng là một yếu tố có nghĩa. Tiếng là đơn vị cơ sở của hệ
thống các đơn vị có nghĩa của tiếng Việt. Từ tiếng, người ta tạo ra các đơn vị từ
vựng khác để định danh sự vật, hiện tượng..., chủ yếu nhờ phương thức ghép và
phương thức láy.
Việc tạo ra các đơn vị từ vựng ở phương thức ghép luôn chịu sự chi phối của
quy luật kết hợp ngữ nghĩa, ví dụ: đất nước, máy bay, nhà lầu xe hơi, nhà tan cửa
nát... Hiện nay, đây là phương thức chủ yếu để sản sinh ra các đơn vị từ vựng. Theo
phương thức này, tiếng Việt triệt để sử dụng các yếu tố cấu tạo từ thuần Việt hay
vay mượn từ các ngôn ngữ khác để tạo ra các từ, ngữ mới, ví dụ như tiếp thị,
karaoke, thư điện tử (e-mail), thư thoại (voice mail), phiên bản (version), xa lộ
thông tin, siêu liên kết văn bản, truy cập ngẫu nhiên, v.v.
Việc tạo ra các đơn vị từ vựng ở phương thức láy thì quy luật phối hợp ngữ
âm chi phối chủ yếu việc tạo ra các đơn vị từ vựng, chẳng hạn như chôm chỉa,
chỏng chơ, đỏng đa đỏng đảnh, thơ thẩn, lúng lá lúng liếng, v.v.
Vốn từ vựng tối thiểu của tiếng Việt phần lớn là các từ đơn tiết [một âm tiết,
một tiếng]. Sự linh hoạt trong sử dụng, việc tạo ra các từ ngữ mới một cách dễ dàng
đã tạo điều kiện thuận lợi cho sự phát triển vốn từ, vừa phong phú về số lượng, vừa
đa dạng trong hoạt động. Cùng một sự vật, hiện tượng, một hoạt động hay một đặc
trưng, có thể có nhiều từ ngữ khác nhau biểu thị. Tiềm năng của vốn từ ngữ tiếng
Việt được phát huy cao độ trong các phong cách chức năng ngôn ngữ, đặc biệt là
trong phong cách ngôn ngữ nghệ thuật. Hiện nay, do sự phát triển vượt bậc của
khoa học-kĩ thuật, đặc biệt là công nghệ thông tin, thì tiềm năng đó còn được phát
huy mạnh mẽ hơn.
3.2.3. Đặc điểm ngữ pháp
Từ tiếng Việt không biến đổi hình thái. Đặc điểm này sẽ chi phối các đặc
điểm ngữ pháp khác. Khi từ kết hợp từ thành các kết cấu như ngữ, câu, tiếng Việt
rất coi trọng phương thức trật tự từ và hư từ.
Việc sắp xếp các từ theo một trật tự nhất định là cách chủ yếu để biểu thị các
quan hệ cú pháp. Trong tiếng Việt khi nói “Anh ta lại đến” là khác với “Lại đến anh
20
ta”. Khi các từ cùng loại kết hợp với nhau theo quan hệ chính phụ thì từ đứng trước
giữ vai trò chính, từ đứng sau giữ vai trò phụ. Nhờ trật tự kết hợp của từ mà "củ
cải" khác với "cải củ", "tình cảm" khác với "cảm tình". Trật tự chủ ngữ đứng trước,
vị ngữ đứng sau là trật tự phổ biến của kết cấu câu tiếng Việt.
Phương thức hư từ cũng là phương thức ngữ pháp chủ yếu của tiếng Việt.
Nhờ hư từ mà tổ hợp “anh của em” khác với tổ hợp “anh và em”, “anh vì em”. Hư
từ cùng với trật tự từ cho phép tiếng Việt tạo ra nhiều câu cùng có nội dung thông
báo cơ bản như nhau nhưng khác nhau về sắc thái biểu cảm. Ví dụ, so sánh các câu
sau đây:
- Ông ấy không hút thuốc.
- Thuốc, ông ấy không hút.
- Thuốc, ông ấy cũng không hút.
Ngoài trật tự từ và hư từ, tiếng Việt còn sử dụng phương thức ngữ điệu. Ngữ
điệu giữ vai trò trong việc biểu hiện quan hệ cú pháp của các yếu tố trong câu, nhờ
đó nhằm đưa ra nội dung muốn thông báo. Trên văn bản, ngữ điệu thường được
biểu hiện bằng dấu câu. Sự khác nhau trong nội dung thông báo được nhận biệt khi
so sánh hai câu sau:
- Đêm hôm qua, cầu gãy.
- Đêm hôm, qua cầu gãy.
Qua một số đặc điểm nổi bật vừa nêu trên đây, chúng ta có thể hình dung
được phần nào bản sắc và tiềm năng của tiếng Việt cũng như khó khăn gặp phải
trong việc nhận dạng thực thể cũng như trích chọn thông tin trong tiếng Việt.
3.3. Một số phương pháp nhận dạng thực thể
Tồn tại nhiều phương pháp được đề cập tới trong bài toán nhận dạng thực thể.
Tuy nhiên có thể tổng kết lại một số giai đoạn chính trong bài toán này như sau:
•
•
Tiền xử lý: Loại bỏ HTML, tách câu, tách từ.
Lựa chọn thuộc tính: Lựa chọn các nhãn thẻ (tag), mẫu ngữ cảnh
(feature: viết hoa, viết thường, …).
•
•
Giai đoạn huấn luyện, tự học: Sử dụng HMM, CRF, MEMM,
SVM…
Gán nhãn, khôi phục.
21
Tùy thuộc vào từng miền của bài toán nhận dạng thực thể thì sự lựa chọn các
nhãn thẻ là khác nhau. Có thể đề cập tới bảy nhãn dạng cơ bản tổng quát nhất được
lựa chọn đầu tiên: 7 dạng nhãn đầu tiên (theo Ralph & Beth, [5]): ORG (tổ chức),
LOC (vị trí), PER (người), DATE,TIME,CUR (Biểu diễn tiền tệ), PCT (Phần
trăm). Tập nhãn có thể được thay đổi, mở rộng tùy thuộc vào từng dự án. Dự án
Biocaster [11] xây dựng 22 nhãn cho lĩnh vực y tế.
Mỗi một nhãn được gán bao gồm ba phần:
•
Phần biên (boundary category): Xác định vị trí của từ hiện tại trong
một thực thể.
•
•
Phần thực thể (Entity category): Xác định kiểu thực thể.
Tập đặc trưng (Feature set) : Xác định thông tin ngữ cảnh (mẫu ngữ
cảnh).
Có nhiều cách để biểu diễn phần biên của các từ, trong đó cách biểu diễn
thường được đề cập và dùng nhiều nhất có thể kể tới đó là: biẻu diễn mỗi một nhãn
gồm một tiếp đầu chữ B_ (bắt đầu một thực thể ), I_ (bên trong một thực thể), nhãn
O (không phải thực thể). Lấy ví dụ: bệnh “viêm não nhật bản” có thể được gán
nhãn như sau “B_DIS I_DIS I_DIS I_DIS”.
Lựa chọn mẫu ngữ cảnh là bài toán quan trọng quyết định độ chính xác của
nhận dạng thực thể. Mẫu ngữ cảnh tại vị trí quan sát bất kỳ cho ta thông tin ngữ
cảnh. Bất kỳ một hệ thống nhận dạng thực thể hoàn thiện nào đều phải xây dựng
được một tập các mẫu ngữ cảnh một cách chính xác và mô tả được từng lĩnh vực
của bài toán nhận dạng. Bài toán nhận dạng thực thể chung: viết hoa, viết thường,
ký tự % , chữ sỗ, dấu chấm, phẩy…Bài toán tương tự trong y tế, đó là lựa chọn mẫu
ngữ cảnh trong nhận dạng protein, gene, thuốc, tế bào .
Các loại mẫu ngữ cảnh [6]:
•
Mẫu tiền định cơ bản (viết hoa, thường, chấm, phẩy): comma, dot,
oneDigit, AllDigits
•
•
•
Mẫu hình thái học: tiền tố, hậu tố (~virus, ~lipid, ~vitamin,…),
Mẫu ngữ pháp: cụm động từ, cụm danh từ …
Mẫu trigger ngữ nghĩa:
22
Tải về để xem bản đầy đủ
67 trang
24/06/2025
280
Bạn đang xem 30 trang mẫu của tài liệu "Khóa luận Trích chọn thông tin y tế tiếng Việt cho bài toán tìm kiếm ngữ nghĩa", để tải tài liệu gốc về máy hãy click vào nút Download ở trên.
File đính kèm:
- khoa_luan_trich_chon_thong_tin_y_te_tieng_viet_cho_bai_toan.pdf
