Đề tài Xây dựng và làm giàu dữ liệu chỉ mục với Web Crawler

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

MỤC LỤC

CHƢƠNG 1: TỔNG QUAN .....................................................................................1

1.1 Đặ t v ấn đề ..........................................................................................................1

1.2 M ụ c tiêu và ph ạ m vi khóa lu ậ n.........................................................................2

1.2.1 M ụ c tiêu khóa lu ậ n. .....................................................................................2

1.2.2 Ph ạ m vi khóa lu ậ n. ......................................................................................3

1.3 K ế t qu ả d ự ki ế n ..................................................................................................3

1.4 C ấ u trúc khóa lu ậ n .............................................................................................3

CHƢƠNG 2: CÁC NGHIÊN CỨU VÀ HỆ THỐNG LIÊN QUAN ....................4

2.1 M ở đầ u ...............................................................................................................4

2.2 M ộ t s ố khái ni ệ m cơ bả n....................................................................................4

2.2.1 Trích xu ấ t thông tin (IE) và truy v ấ n thông tin (IR)....................................4

2.2.2 Web Crawler................................................................................................6

2.2.3 Metadata. .....................................................................................................8

2.2.4 Bibtex. .......................................................................................................10

2.3 Các nghiên c ứ u và ứ ng d ụ ng liên quan. ..........................................................13

2.3.1 Các nghiên c ứ u liên quan. .........................................................................13

2.3.2 Các ứ ng d ụ ng liên quan.............................................................................16

2.3.2.1 Digital Bibliography & Library Project (DBLP)................................16

2.3.2.2 Lightweight Federated Digital Library (LFDL) .................................22

2.3.2.3 Autonomous Citation Indexing (ACI). ...............................................25

2.3.2.4 Thư việ n s ố ACM, CiteSeer, IEEEXplore..........................................27

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

CHƢƠNG 3: XÂY DỰNG VÀ LÀM GIÀU DỮ LIỆU CHỈ MỤC VỚI WEB

CRAWLER ..............................................................................................................30

3.1 Mở đầu .............................................................................................................30

3.2 Phương pháp thu thập trên thư việ n s ố ............................................................30

3.2.1 Cách th ứ c thu th ậ p các bài báo t ừ thư việ n s ố ACM ................................30

3.2.2 Cách th ứ c thu th ậ p các bài báo t ừ thư việ n s ố IEEEXplore ......................34

3.2.3 Cách th ứ c thu th ậ p các bài báo t ừ thư việ n s ố CiteSeer............................38

3.3 B ộ phân tích Bibtex (Bibtex Parser)................................................................40

3.4 Ki ể m tra d ữ li ệ u trùng l ặ p................................................................................41

3.5 Các lu ồ ng x ử lý d ữ li ệ u trong h ệ th ố ng ...........................................................43

3.5.1 Lu ồ ng x ử lý chung c ủ a h ệ th ố ng ...............................................................43

3.5.2 Quá trình thu th ậ p thông tin Metadata t ừ thư việ n s ố ...............................44

3.5.3 Rút trích thông tin Metadata......................................................................46

3.5.4 X ử lý k ế t qu ả thu th ậ p. ..............................................................................47

3.5.4 Qu ản lý cơ sở d ữ li ệ u ................................................................................48

CHƢƠNG 4: HIỆN THỰC HỆ THỐNG. ............................................................49

4.1 M ở đầ u.............................................................................................................49

4.2 Ki ế n trúc h ệ th ố ng. ..........................................................................................49

4.3 Thi ế t k ế cơ sở d ữ li ệ u. .....................................................................................50

4.3.1 Mô t ả c ấ u trúc d ữ li ệ u c ủ a DBLP..............................................................50

4.3 .2 Cơ sở d ữ li ệ u h ệ th ố ng. .............................................................................54

4.4 Ki ế n trúc phân l ớ p c ủ a h ệ th ố n g ......................................................................56

4.5 H ệ th ố ng xây d ự ng và làm giàu d ữ li ệ u ch ỉ m ụ c .............................................59

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

CHƢƠNG 5: THỰC NGHIỆM ĐÁNH GIÁ ........................................................61

5.1 K ế t qu ả th ự c nghi ệ m........................................................................................61

5.2 Đánh gi á ...........................................................................................................63

CHƢƠNG 6: KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN. ....................................64

6.1 K ế t lu ậ n ............................................................................................................64

6.2 Hướ ng phát tri ể n. .............................................................................................64

TÀI LIỆU THAM KHẢO. .....................................................................................65

1. Tài li ệ u ti ế ng Anh ..............................................................................................65

2. Tài li ệ u ti ế ng Vi ệ t ..............................................................................................67

3. Tài li ệ u Internet..................................................................................................67

PHỤ LỤC A : HƢỚNG DẪN CÀI ĐẶT HỆ THỐNG .........................................68

PHỤ LỤC B : HƢỚNG DẪN SỬ DỤNG CHƢƠNG TRÌNH .............................73

PHỤC LỤC C : CÁC CHỦ ĐỀ TRONG KHOA HỌC MÁY TÍNH ..................80

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

DANH MỤC HÌNH ẢNH

Hình 2.1- Kiến trúc Web Crawler (Wikipedia) .............................................7

Hình 2.2 – Luồng xử lý quá trình Crawling (trích tài liệu [6]).....................7

Hình 2.3- Ví dụ cấu trúc của file BibteX (nguồn Wikipedia) ......................11

Hình 2.4- Hệ thống xây dựng cơ sở dữ liệu DBLP .....................................17

Hình 2.5 - Hệ thống Complete Search.........................................................18

Hình 2.6 - Hệ thống FacetedDBLP .............................................................19

Hình 2.7 - Duyệt bài báo trong FacetedDBLP............................................19

Hình 2.8 - Chương trình DBL Brower.........................................................20

Hình 2.9 – Kiến trúc LFDL .........................................................................22

Hình 2.10 – Đặc tả cho thư viện số ACM portal (Trích tài liệu [16])........24

Hình 2.11 – Đặc tả cho thư viện số Cogprints (Trích tài liệu [16]) ...........24

Hình 2.12 – Ví dụ nội dung Citations của cùng 1 tài liệu...........................26

Hình 2.13 – Thư viện số ACM .....................................................................27

Hình 2.14 – Thư viện số CiteSeer................................................................28

Hình 2.15 – Thư viện số IEEEXplore..........................................................29

Hình 3.1 – Các bước thu thập trên ACM ....................................................30

Hình 3.2 – Các bước thu thập trên IEEEXplore .........................................34

Hình 3.3 – Kết quả tìm kiếm từ thư viện số IEEEXplore.............................36

Hình 3.4 – Các bước thu thập trên thư viện số CiteSeer.............................38

Hình 3.5 - Cấu trúc file XML của dữ liệu trả về từ CiteSeer ......................39

Hình 3.6 – Ví dụ cấu trúc của BibTex dạng Article ....................................41

Hình 3.7 - Xử lý dữ liệu trùng lặp ...............................................................42

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Hình 3.8- Các luồng xử lý chính của chương trình.....................................44

Hình 3.9 – Luồng xử lý thu thập thông tin Metadata..................................45

Hình 3.10- Luồng xử lý rút trích thông tin Metadata..................................46

Hình 3.11 – Luồng xử lý kết quả thu thập được ..........................................47

Hình 3.12 – Luồng xử lý quản lý cơ sở dữ liệu hệ thống ............................48

Hình 4.1 – Kiến trúc hệ thống .....................................................................49

Hình 4.2 – Mô hình dữ liệu của DBLP........................................................51

Hình 4.3 – Mô hình dữ liệu hệ thống...........................................................56

Hình 4.4 - Kiến trúc phân tầng của hệ thống..............................................56

Hình 4.5 – Giao diện chính của hệ thống....................................................59

Hình 4.6– Kết quả thu thập từ hệ thống ......................................................60

Hình 4.7 – Cài đặt tự động cập nhật bài báo mới.......................................60

Hình 4.8 – Chức năng cập nhật dữ liệu DBLP ...........................................60

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

DANH MỤC BẢNG

B ả ng 2.1 - Các y ế u t ố cơ bả n c ủ a chu ẩ n Dublin Core Metadata .............10

B ả ng 2.2 - Nh ữ ng ki ểu file Bibtex đượ c tham kh ả o t ừ Wikipedia ..........13

B ả ng 2.3 - Kh ả o sát tính c ậ p nh ậ t d ữ li ệ u c ủ a DBLP ..............................21

B ả ng 3.1 - Các pattern s ử d ụng để thu th ậ p các bài báo khoa h ọ c ..........32

t ừ thư việ n s ố ACM..................................................................................32

B ả ng 3.2 - Các pattern s ử d ụng để thu th ậ p các bài báo khoa h ọ c ..........35

t ừ thư việ n s ố IEEEXplore .......................................................................35

B ả ng 4.1 - Thông tin c ấ u trúc b ả ng dblp_pub_ne w .................................53

B ả ng 4.2 - Thông tin c ấ u trúc b ả ng dblp_author_ref_new ......................53

B ả ng 4.3 - Thông tin c ấ u trúc b ả ng dblp_ref ...........................................54

B ả ng 4.4 – Thông tin c ấ u trúc b ả ng dbsa_sb j ..........................................54

B ả ng 4.5 – Thông tin c ấ u trúc b ả ng dbsa_pub_in_dblp ..........................55

B ả ng 4.6 - Thông tin c ấ u trúc b ả ng dbsa_pub .........................................55

B ả ng 5.1 - K ế t qu ả c ủ a h ệ th ố ng v ớ i t ừ khóa là Databas e .......................61

B ả ng 5.2 - K ế t qu ả c ủ a h ệ th ố ng v ớ i t ừ khóa là Data mining ..................61

B ả ng 5.3 - K ế t qu ả b ổ sung d ữ li ệ u m ớ i c ủ a h ệ th ố n g .............................62

Th.s Huỳnh Ngọc Tín

Đỗ Văn Tiến – Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

CHƢƠNG 1: TỔNG QUAN

1.1 Đặt vấn đề.

Cùng với sự phát triển của Internet, số lượng các bài báo khoa học được công bố

trên các Web ngày càng tăng, điều này gây ra một số khó khăn khi người dùng

muốn tìm kiếm các bài báo về vấn đề mà mình nghiên cứu, cũng như gây ra một

thách thức lớn đối với các hệ thống đánh dấu, lưu trữ dữ liệu chỉ mục hỗ trợ tìm

kiếm trong việc đảm bảo thông tin các bài báo được cập nhật đẩy đủ, nhanh chóng

và chính xác.

Hiện nay khi người nghiên cứu cần tìm kiếm một bài báo khoa học, thì họ có thể

tìm kiếm trên các Search Engine như Google Scholar¹, và một số thư viện số phổ

biến như: ACM²(thư viện số của tổ chức “Association for Computing Machinery”),

IEEEXplore³(thư viện số của tổ chức “Institute of Electrical and Electronics

Engineers”), thư viện mở CiteSeer⁴… hoặc từ cơ sở dữ liệu chỉ mục có sẵn như

DBLP⁵. Vấn đề đặt ra ở đây là: đối với mỗi thư viện số thì việc cập nhật bài báo

mới được thực hiện ngay khi có các cuộc hội thảo hay tạp chí mà tổ chức xuất bản,

nhưng thư viện số không cập nhật ngay được những bài báo mới từ tổ chức khác -

hay việc trao đổi dữ liệu giữa các thư viện số của các tổ chức khác nhau hiện nay

còn rất hạn chế. Bên cạnh đó, những hệ thống đi đánh dấu, lưu trữ dữ liệu chỉ mục

hiện nay như DBLP, hay hệ thống đi thu thập dữ liệu chỉ mục như ACI [3] của thư

viện số CiteSeer chưa đảm bảo được tính cập nhật các bài báo mới, vì các nguồn lấy

dữ liệu của các hệ thống phụ thuộc vào các thư viện số. Nhưng hiện nay, việc

download tài liệu từ thư viện số bị giới hạn, cũng như các thuật toán sử dụng để rút

¹http://scholar.google.com.vn/

²http://portal.acm.org

³http://ieeexplore.ieee.org

⁴http://citeseerx.ist.psu.edu/

⁵http://dblp.uni-trier.de/

Th.s Huỳnh Ngọc Tín

1

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

trích thông tin chỉ mục từ các tài liệu download được chưa đạt được độ chính xác

cao.

Xuất phát từ vấn đề trên cùng với sự định hướng của giáo viên hướng dẫn,

chúng tôi phát triển một hệ thống dùng để xây dựng tích hợp làm giàu dữ liệu chỉ

mục các bài báo khoa học, bằng cách rút trích thông tin bài báo trực tiếp từ các thư

viện số, kết hợp với việc sử dụng dữ liệu chỉ mục có sẵn, để xây dựng lên dữ liệu

chỉ mục các bài báo khoa học đảm bảo tính chính xác đầy đủ và cập nhật.

Hệ thống sử dụng Web Crawler để tìm kiếm và thu thập các bài báo khoa

học được công bố trên các thư viện số (ACM, IEEEXplore, CiteSeer) sau đó sử

dụng các luật cũng như các trình phân tích để rút trích thông tin chỉ mục - điều này

đảm bảo dữ liệu thu thập có tính chính xác và cập nhật. Từ những thông tin chỉ mục

thu thập được, hệ thống sẽ kết hợp với dữ liệu chỉ mục có sẵn trong DBLP để xây

dựng lên một cơ sở dữ liệu chỉ mục các bài báo khoa học đảm bảo tính đầy đủ,

chính xác và cập nhật.

Việc xây dựng dữ liệu chỉ mục các bài báo khoa học là rất cần thiết, thông

qua dữ liệu chỉ mục xây dựng được, ta có thể phát triển các công cụ tìm kiếm bài

báo khoa học đảm bảo nhu cầu tìm kiếm của người dùng.

1.2 Mục tiêu và phạm vi khóa luận.

1.2.1 Mục tiêu khóa luận.

- Mục tiêu của khóa luận là hướng tới xây dựng một hệ thống thu thập dữ

liệu chỉ mục các bài báo khoa học đảm bảo được tính chất đầy đủ, chính xác và cập

nhật của dữ liệu.

- Xây dựng một hệ thống có khả năng tự động cập nhật thông tin những bài

báo mới nhất từ các thư viện số.

- Thông qua việc xây dựng hệ thống, các thành viên trong nhóm sẽ vận dụng

những kiến thức của mình đã được học, cùng với đó trau dồi thêm các kỹ năng như:

kỹ năng lập trình, kỹ năng làm việc nhóm …

Th.s Huỳnh Ngọc Tín

2

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

1.2.2 Phạm vi khóa luận.

- Hệ thống sử dụng Web Crawler để thu thập thông tin chỉ mục các bài báo

khoa học trên ba thư viện số ACM, CiteSeer, IEEEXplore.

- Hệ thống kết hợp dữ liệu thu thập được với dữ liệu có sẵn của DBLP, giúp

thông tin thu thập được đảm bảo tính đầy đủ và cập nhật.

1.3 Kết quả dự kiến.

Có được cái nhìn tổng quan về các phương pháp xây dựng dữ liệu chỉ mục

các bài báo khoa học hiện nay và kiến thức cụ thể về một số ứng dụng đã được xây

dựng, để hỗ trợ cho việc xây dựng hệ thống cho riêng mình.

Xây dựng thành công hệ thống lưu trữ dữ liệu chỉ mục các bài báo khoa học

bằng cách sử dụng Web Crawler trên các thư viện số, đồng thời kết hợp với việc sử

dụng cơ sở dữ liệu chỉ mục có sẵn, để dữ liệu chỉ mục xây dựng được đảm bảo tính

đầy đủ, chính xác và cập nhật.

1.4 Cấu trúc khóa luận

Chương 1 trình bày khái quát động cơ, mục tiêu và phạm vi của đề tài.

Chương 2 trình bày những nghiên cứu và hệ thống liên quan đến việc xây

dựng dữ liệu chỉ mục các bài báo khoa học. Mục 2.2 trình bày sơ lược về các khái

niệm liên quan, Mục 2.3 trình bày các nghiên cứu và các ứng dụng liên quan cùng

với phần khảo sát các thư viện số mà hệ thống xây dựng trong khóa luận có sử

dụng.

Chương 3 trình bày cách tiếp cận vấn đề xây dựng và làm giàu dữ liệu chỉ

mục các bài báo khoa học sử dụng Web Crawler. Mục 3.2 trình bày phương pháp

thu thập thông tin trên các thư viện số, Mục 3.3 trình bày cách thức phân tích dữ

liệu để lấy thông tin bài báo khoa học. Cách kiểm tra trùng lặp dữ liệu được trình

bày tại Mục 3.4. Trong mục 3.5 sẽ giới thiệu các luồng xử lý chính của hệ thống

Chương 4 Trình bày việc hiện thực hệ thống. Mục 4.2 trình bày kiến trúc hệ

thống, Mục 4.3 trình bày thiết kế database, Mục 4.4 trình bày sơ đồ lớp của chương

trình. Trong Mục 4.5 giới thiệu hệ thống mà khóa luận xây dựng được.

Chương 5 trình bày các thử nghiệm và đánh giá khi chạy hệ thống.

Chương 6 đưa ra kết luận và hướng phát triển hệ thống trong tương lai.

Phần phụ lục giới thiệu cách cài đặt hệ thống và hướng dẫn sử dụng chương

trình và các chủ đề trong lĩnh vực khoa học máy tính được tham khảo từ Wikipedia.

Th.s Huỳnh Ngọc Tín

3

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

CHƢƠNG 2: CÁC NGHIÊN CỨU VÀ HỆ THỐNG LIÊN QUAN

2.1 Mở đầu.

Trong chương 2, chúng tôi sẽ trình bày một số nghiên cứu và ứng dụng liên

quan đến vấn đề thu thập, rút trích và xây dựng dữ liệu chỉ mục các bài báo khoa

học. Phần đầu chúng tôi sẽ giới thiệu tổng quát về một số khái niệm trong vấn đề

thu thập, rút trích dữ liệu, phần sau chúng tôi sẽ giới thiệu chi tiết về một số nghiên

cứu, ứng dụng liên quan và những thư viện số có sử dụng trong hệ thống.

2.2 Một số khái niệm cơ bản.

2.2.1 Trích xuất thông tin (IE) và truy vấn thông tin (IR)

 Trích xuất thông tin (Information Extraction⁶)

Theo tài liệu [19], trích xuất thông tin có nhiều định nghĩa được dùng phổ biến

trên Internet:



Theo (Jim Cowie and Yorick Wilks) [11]: IE là tên được đặt cho quá trình

cấu trúc và kết hợp một cách có chọn lọc dữ liệu được tìm thấy, được phát

biểu rõ ràng trong một hay nhiều tài liệu văn bản.



Theo Line Eikvil [13]: IE là lĩnh vực nghiên cứu hẹp của xử lý ngôn ngữ tự

nhiên và xuất phát từ việc xác định những thông tin cụ thể từ một tài liệu

ngôn ngữ tự nhiên. Mục đích của trích xuất thông tin là chuyển văn bản về

dạng có cấu trúc. Thông tin được trích xuất từ những nguồn tài liệu khác

nhau và được biểu diễn dưới một hình thức thống nhất. Những hệ thống trích

xuất thông tin văn bản không nhằm mục tiêu hiểu văn bản đưa vào, mà

nhiệm vụ chính của nó là tìm kiếm các thông tin cần thiết liên quan, mà

chúng ta mong muốn được tìm thấy.



Cũng theo Line Eikvil [13], thành phần cốt lõi của các hệ thống trích xuất

thông tin là một tập hợp các luật và mẫu dùng để xác định những thông tin

liên quan cần trích xuất.

⁶http://en.wikipedia.org/wiki/Information_extraction

Th.s Huỳnh Ngọc Tín

4

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm



Theo Tiến sĩ Alexander Yates ở trường đại học Washington [1] thì trích xuất

thông tin là quá trình truy vấn những thông tin cấu trúc từ những văn bản

không cấu trúc.

Theo những chuyên gia về trích xuất thông tin của GATE⁷thì những hệ

thống trích xuất thông tin sẽ tiến hành phân tích văn bản nhằm trích ra những

thông tin cần thiết theo các dạng được định nghĩa trước, chẳng hạn như

những sự kiện, các thực thể và các mối quan hệ.

Tóm lại, chúng ta có thể hiểu trích xuất thông tin (Information Extraction) là

một kỹ thuật, lĩnh vực nghiên cứu có liên quan đến truy vấn thông tin (Information

Retrieval), khai thác dữ liệu (Data mining), cũng như xử lý ngôn ngữ tự nhiên

(Natural Language Processing). Mục tiêu chính của trích xuất thông tin là tìm ra

những thông tin cấu trúc từ văn bản không cấu trúc hoăc bán cấu trúc. Trích xuất

thông tin sẽ tìm cách chuyển thông tin trong văn bản không hay bán cấu trúc về

dạng có cấu trúc và có thể biểu diễn hay thể hiện chúng một cách hình thức dưới

dạng một tập tin cấu trúc XML hay một bảng cấu trúc (như bảng trong cơ sở dữ liệu

chẳng hạn).

Một khi dữ liệu, thông tin từ các nguồn khác nhau, từ Internet có thể biểu diễn

một cách hình thức, có cấu trúc. Từ đó chúng ta có thể sử dụng các kỹ thuật phân

tích, khai thác dữ liệu (data mining) để khám phá ra các mẫu thông tin hữu ích.

Chẳng hạn, việc cấu trúc lại các mẫu tin quảng cáo, mẫu tin bán hàng trên internet

có thể giúp hỗ trợ tư vấn, định hướng người dùng khi mua sắm. Việc trích xuất và

cấu trúc lại các mẫu tin tìm người, tìm việc sẽ giúp cho quá trình phân tích thông tin

nghề nghiệp, xu hướng công việc, … hỗ trợ cho các người tìm việc, cũng như nhà

tuyển dụng.

Rút trích thông tin không đòi hỏi hệ thống phải đọc hiểu nội dung của tài liệu

văn bản, nhưng hệ thống phải có khả năng phân tích tài liệu và tìm kiếm các thông

tin liên quan mà hệ thống mong muốn được tìm thấy. Các kỹ thuật rút trích thông

⁷http://gate.ac.uk/ie/

Th.s Huỳnh Ngọc Tín

5

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

tin có thể áp dụng cho bất kỳ tập tài liệu nào mà chúng ta cần rút ra những thông tin

chính yếu, cần thiết cũng như các sự kiện liên quan. Các kho dữ liệu văn bản về một

lĩnh vực trên Internet là ví dụ điển hình, thông tin trên đó có thể tồn tại ở nhiều nơi

khác nhau, dưới nhiều định dạng khác nhau. Sẽ rất hữu ích cho các khảo sát, ứng

dụng liên quan đến một lĩnh vực nếu như những thông tin lĩnh vực liên quan được

rút trích và tích hợp lại thành một hình thức thống nhất và biểu diễn một cách có

cấu trúc. Khi đó thông tin trên Internet sẽ được chuyển vào một cơ sở dữ liệu có cấu

trúc phục vụ cho các ứng phân tích và khai thác khác nhau.

 Truy vấn thông tin (Information Retrieval⁸)

Theo [19], trích xuất thông tin là tìm ra các thông tin cấu trúc, thông tin cần thiết

từ một tài liệu, trong khi truy vấn thông tin là tìm ra các tài liệu liên quan, hoặc một

phần tài liệu liên quan từ kho dữ liệu cục bộ như thư viện số hoặc từ Internet để

phản hồi cho người dùng tùy vào một truy vấn cụ thể.

Truy vấn văn bản thông minh hướng tới tối ưu hay tìm kiếm các phương pháp

nhằm cho kết quả phản hồi tốt hơn, gần đúng hoặc đúng với nhu cầu người dùng.

Chẳng hạn tùy vào một truy vấn của người dùng, hệ thống có thể tìm ra những

thành phần nào đó trong tài liệu phù hợp với câu truy vấn (chẳng hạn một đoạn, một

câu trong tài liệu), thông minh hơn hệ thống có thể trả lời chính xác thông tin từ câu

truy vấn hay câu hỏi của người dùng.

2.2.2 Web Crawler.

9

Theo định nghĩa trên Wikipedia , thì Web Crawler - Web Spider hay Web

robot là một chương trình hoặc các đoạn mã có khả năng tự động duyệt các trang

Web khác theo một phương thức tự động. Web Crawler thường được sử dụng để

thu thập tài nguyên (như tin tức, hình ảnh, video …) trên Internet.

Quá trình thực hiện của Web Crawler là Web Crawling hay Web Spidering.

Hầu hết các công cụ tìm kiếm online hiện nay đều sử dụng quá trình này để thu thập

và cập nhập kho dữ liệu phục vụ nhu cầu tìm kiếm của người dùng.

⁸http://en.wikipedia.org/wiki/Information_retrieval

⁹http://en.wikipedia.org/wiki/Webcrawler

Th.s Huỳnh Ngọc Tín

6

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Hình 2.1- Kiến trúc Web Crawler (Wikipedia)

Web Crawler bắt đầu từ danh sách các địa chỉ URL được gọi là hạt giống

(seeds), seeds được người dùng nhập vào - đây là những địa chỉ Web mà người

dùng muốn thu thập thông tin. Hệ thống sẽ vào địa chỉ này, lọc thông tin rồi tìm ra

các địa chỉ URL khác (dựa vào những liên kết có bên trong các seeds). Sau đó thêm

chúng vào danh sách các địa chỉ đã được duyệt qua gọi là Crawl frontier. Hệ thống

sẽ lặp lại quá trình trước đó để duyệt qua những URL mới. Quá trình Crawling sẽ

qua rất nhiều địa chỉ Website và thu thập rất nhiều nội dung khác nhau từ địa chỉ

thu thập đươc.

Hình 2.2 – Luồng xử lý quá trình Crawling (trích tài liệu [6])

Th.s Huỳnh Ngọc Tín

7

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Trong hệ thống của chúng tôi, Web Crawler được sử dụng để thu thập các

đường dẫn chứa các bài báo phù hợp với nội dung đang thu thập từ các thư viện số.

Từ những địa chỉ thu thập được hệ thống sẽ rút trích thông tin chỉ mục của bài báo

bằng cách sử dụng các trình phân tích kết hợp với luật đã được định nghĩa trước.

2.2.3 Metadata.

 Khái niệm Metadata

Theo [19], Metadata (siêu dữ liệu) dùng để mô tả tài nguyên thông tin. Thuật

ngữ “meta” xuất xứ là một từ Hy Lạp đùng để chỉ một cái gì đó có bản chất cơ bản

hơn hoặc cao hơn. Một định nghĩa chung nhất và được dùng phổ biến trong cộng

đồng những người làm công nghệ thông tin: “Metadata là dữ liệu về dữ liệu khác”

(Metadata is data about other data) hay có thể nói ngắn gọn là dữ liệu về dữ liệu.

Trong các phạm vi cụ thể, những chuyên gia đưa ra các quan điểm khác nhau

về Metadata:

- Theo Chris.Taylor giám đốc dịch vụ truy cập thông tin thư viện thuộc trường

đại học Queensland¹⁰thì Metadata là dữ liệu có cấu trúc được dùng để mô tả

những đặc điểm của tài nguyên. Một mẫu tin Metadata bao gồm một số

lượng những phần tử được định nghĩa trước gọi là elements dùng mô tả đặc

tính, thông tin tài nguyên. Mỗi elements có thể có 1 hay nhiều giá trị.

- Theo tiến sĩ Warwick Cathro thuộc thư viện quốc gia Australia¹¹thì một

phần tử Metadata hay còn gọi là Metadata elements mô tả tài nguyên thông

tin, hay hỗ trợ truy cập đến một tài nguyên thông tin.

Tóm lại, ta có thể hiểu Metadata là thông tin dùng để mô tả tài nguyên thông

tin.

 Chuẩn Dublin Core Metadata

Dublin Core Metadata¹²là một chuẩn Metadata được nhiều người biết đến và

được dùng rộng rãi trong cộng đồng các nhà nghiên cứu, chuyên gia về thư viện số.

¹⁰http://www.library.uq.edu.au/iad/ctmeta4.html

¹¹http://www.nla.gov.au/nla/staffpaper/cathro3.html

¹²http://dublincore.org/

Th.s Huỳnh Ngọc Tín

8

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Dublin Core Metadata lần đầu tiên được đề xuất năm 1995 bởi Dublin Core

Metadata Element Initiative. Dublin là tên một địa danh Dublin, Ohio ở Mỹ nơi đã

tổ chức hội thảo OCLC/NCSA Metadata Workshop năm 1995. Core có nghĩa là

một danh sách các thành phần cốt lõi dùng mô tả tài nguyên (Element metadata),

những thành phần này có thể mở rộng thêm.

Theo [20], tháng 9/2001 bộ yếu tố siêu dữ liệu Dublin Core Metadata được

ban hành thành tiêu chuẩn Mỹ, gọi là tiêu chuẩn “The Dublin Core Metadata

Element Set” ANSI/NISO Z39.85-2001.

Dublin Core Metadata bao gồm 15 yếu tố cơ bản (theo tài liệu [20]), được

mô tả chi tiết trong bảng 2.1.

STT

Yếu tố

Title

Mô tả

1

2

Nhan đề hay tiêu đề của tài liệu

Creator

Tác giả của tài liệu, bao gồm cả tác giả cá nhân và tác giả

tập thể

3

Subject

Chủ đề tài liệu đề cập dùng để phân loại tài liệu. Có thể thể

hiện bằng từ, cụm từ/(Khung chủ đề), hoặc chỉ số phân

loại/ (Khung phân loại).

4

5

6

Description

Publisher

Tóm tắt, mô tả nội dung tài liệu. Có thể bao gồm tóm tắt,

chú thích, mục lục, đoạn văn bản để làm rõ nội dung

Nhà xuất bản, nơi ban hành tài liệu có thể là tên cá nhân,

tên cơ quan, tổ chức, dịch vụ...

Contributor

Tên những người cùng tham gia cộng tác đóng góp vào nội

dung tài liệu, có thể là cá nhân, tổ chức..

7

8

Date

Type

Ngày, tháng ban hành tài liệu.

Mô tả bản chất của tài liệu. Dùng các thuật ngữ mô tả phạm

trù kiểu: trang chủ, bài báo, báo cáo, từ điển...

Mô tả sự trình bày vật lý của tài liệu, có thể bao gồm; vật

mang tin, kích cỡ độ dài, kiểu dữ liệu (.doc, .html, .jpg, xls,

phần mềm....)

9

Format

Th.s Huỳnh Ngọc Tín

9

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

10

Identifier

Các thông tin về định danh tài liệu, các nguồn tham chiếu

đến, hoặc chuỗi ký tự để định vị tài nguyên: URL (Uniform

Resource Locators) (bắt đầu bằng http://), URN (Uniform

Resource Name), ISBN (International Standard Book

Number), ISSN (International Standard Serial Number),

SICI (Serial Item & Contribution Identifier), ...

Các thông tin về xuất xứ của tài liệu, tham chiếu đến nguồn

mà tài liệu hiện mô tả được trích ra/tạo ra, nguồn cũng có

thể là: đường dẫn (URL), URN, ISBN, ISSN...

11

Source

12

13

14

Language

Relation

Coverage

Các thông tin về ngôn ngữ, mô tả ngôn ngữ chính của tài

liệu

Mô tả các thông tin liên quan đến tài liệu khác. Có thể dùng

đường dẫn (URL), URN, ISBN, ISSN...

Các thông tin liên quan đến phạm vi, quy mô hoặc mức độ

bao quát của tài liệu. Phạm vi đó có thể là địa điểm, không

gian hoặc thời gian, tọa độ...

15

Rights

Các thông tin liên quan đến bản quyền của tài liệu

Bảng 2.1 - Các yếu tố cơ bản của chuẩn Dublin Core Metadata

Trong hệ thống của chúng tôi, những thông tin Metadata sau được rút ra từ

tài liệu (hay được gọi là những thông tin chỉ mục của bài báo):

- Creator (Author): thông tin tên của các tác giả tài liệu.

- Title: tựa đề tài liệu.

- Description (Abstract): tóm tắt nội dung của tài liệu.

- Publisher: nơi công bố, xuất bản tài liệu.

- Source (DOI): nơi download tài liệu hoặc địa chỉ chứa thông tin bài báo.

- Date (Year): năm công bố, xuất bản tài liệu.

2.2.4 Bibtex.

BibTeX¹³là một định dạng văn bản thô (text) cho các danh sách tài liệu tham

khảo là sách, bài tạp chí khoa học, luận án, … do Oren Patashnik và Leslie Lamport

¹³http://en.wikipedia.org/wiki/BibTeX

Th.s Huỳnh Ngọc Tín

10

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

đề xuất ra năm 1985. BibTeX cho phép tổ chức các thông tin về nguồn tài liệu (biểu

ghi tài liệu) tham khảo một cách đồng bộ và ổn định (trích tài liệu [21]).

@INPROCEEDINGS {author:06,

title

= {Some publication title},

author = {First Author and Second Author},

crossref = {conference:06},

pages

= {330—331},

}

@PROCEEDINGS {conference:06,

editor

title

= {First Editor and Second Editor},

= {Proceedings of the Xth Conference

on XYZ},

booktitle = {Proceedings of the Xth Conference

on XYZ},

year

moth

= {2006},

=oct,

}

Hình 2.3- Ví dụ cấu trúc của file BibteX (nguồn Wikipedia)

Các tập tin BibTeX thường có đuôi .bib, cấu trúc của một file bibtex như sau:

- Từ khóa xác định loại tài liệu bao gồm: @article, @book, @thesis, …

- Nội dung của một trường trong file Bibtex được ghi trong hai dấu {…}.

- Các nội dung mô tả biểu ghi là những cặp [từ khóa mô tả = “nội dung mô

tả”], được tách nhau bởi dấu “,”.

Vì file Bibtex chứa thông tin của tài liệu (như bài báo, luận văn, …) do đó đối

với mỗi tài liệu thì BibTex có kiểu lưu cấu trúc khác nhau nhận biết file BibTex này

đang chứa nội dung của tài liệu nào.

Sau đây là các dạng file Bibtex của các loại tài liệu khác nhau (bảng 2.2), trong

đó bao gồm các trường thông tin (field) yêu cầu mà file Bibtex đó bắt buộc phải lưu

trữ, ngoài ra có thể có thêm những trường bổ sung:

Kiểu tài liệu

Giải thích

Các trường yêu cầu có Các trường có thể

(Entry Types)

(Required fields)

thêm (Optional

fields)

article

book

Một bài báo từ một author, title, journal,

volume, number,

pages, month, note,

key

volume, series,

address, edition,

month, note, key

tạp chí.

year

Cuốn sách từ một

nhà xuất bản.

author/editor, title,

publisher, year

Th.s Huỳnh Ngọc Tín

11

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

booklet

Một ấn phẩm đã

title

author,

được in ấn nhưng

không có nhà xuất

bản hay cơ quan tài

trợ.

owpublished,

address, month,

year, note, key

inbook

Một phần của cuốn author/editor, title,

sách nhưng không chapter/pages,

có tựa đề, có thể là publisher, year

một chương.

volume, series,

address, edition,

month, note, key

incollection

Một phần của cuốn author, title, booktitle, editor, pages,

sách có tiêu đề

year

organization,

riêng của mình.

publisher, address,

month, note, key

inproceedings Bài báo trong kỷ

yếu của hội nghị.

author, title, booktitle, editor, series, pages,

year

organization,

publisher, address,

month, note, key

conference

manual

Giống như

author, title, booktitle, editor, pages,

inproceedings, bao year

gồm thông tin

organization,

publisher, address,

month, note, key

author,

Scribe¹⁴

Tài liệu kỹ thuật.

title

organization,

address, edition,

month, year, note,

key

mastersthesis

misc

Luận văn thạc sĩ

author, title, school,

year

address, month,

note, key

Sử dụng khi tài liệu none

không xác định

được loại.

author, title,

howpublished,

month, year, note,

key

phdthesis

Luận văn tiến sĩ

author, title, school,

year

address, month,

note, key

proceedings

Kỷ yếu của hội

nghị

title, year

editor, ublisher,

organization,

address, month,

note, key

¹⁴http://en.wikipedia.org/wiki/Scribe

Th.s Huỳnh Ngọc Tín

12

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

techreport

Một báo cáo được

author, title,

institution, year

type, number,

ddress, month, note,

key

xuất bản bởi một

trường học, hay cơ

quan khác, thông

thường được xuất

bản theo số.

unpublished

Một tài liệu chứa

tựa đề và tên tác

giả, nhưng chưa

xuất bản.

author, title, note

month, year, key

Bảng 2.2 - Những kiểu file Bibtex (được tham khảo từ Wikipedia)

Trên các thư viện số ACM và IEEEXplore và CiteSeer, thông tin bài báo khoa

học được xuất ra các file Bibtex, hệ thống sẽ phân tích nội dung trong đường dẫn trả

về sau khi Crawl trên thư viện số để lấy file Bibtex, sau đó dùng trình phân tích file

Bibtex để rút trích thông tin Metadata của bài báo. Trong phần 3.3 chương 3, chúng

tôi sẽ trình bày chi tiết về cách thức sử dụng trình phân tích file Bibtex để lấy thông

tin chỉ mục các bài báo.

2.3 Các nghiên cứu và ứng dụng liên quan.

2.3.1 Các nghiên cứu liên quan.

Xây dựng dữ liệu chỉ mục các bài báo khoa học hay việc rút trích thông tin

Metadata của bài báo khoa học là một phần nghiên cứu trong lĩnh vực trích xuất

thông tin (Information Extraction). Theo khảo sát được giới thiệu trong các bài báo

[4][10] cũng như tìm hiểu của nhóm, hiện nay trong lĩnh vực trích xuất thông tin từ

bài báo khoa học để xây dựng dữ liệu chỉ mục thì có một số nguồn dữ liệu thu thập

và phương pháp tiếp cận mà từ đó có thể xây dựng dữ liệu như sau:

 Nguồn dữ liệu thu thập.

- Xây dựng dữ liệu chỉ mục các bài báo từ các file đề mục (tables of contents

– TOCs) của các kỷ yếu hội thảo, tạp chí như hệ thống DBLP đã làm [14]. File

TOCs chứa danh sách các bài báo được trình bày trong các hội nghị, cũng như danh

Th.s Huỳnh Ngọc Tín

13

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

sách các bài viết được đăng trong các lần xuất bản của các tạp chí. Các hệ thống sử

dụng các trình phân tích để thu thập thông tin chỉ mục các bài báo có trong file

TOCs từ đó xây dựng lên cơ sở dữ liệu chỉ mục.

 Như vậy: đối với các cơ sở chỉ mục có nguồn dữ liệu thu thập từ các file

TOCs thì chúng ta thấy: nguồn dữ liệu này phụ thuộc vào khả năng thu thập những

file TOCs từ các hội nghị, tạp chí. Hiện nay, với số lượng các cuộc hội nghị cũng

như các tạp chí về khoa học máy tính ngày càng tăng, cùng với đó là vấn đề về bản

quyền thì việc thu thập đầy đủ các file TOCs của tất cả các hội nghị, tạp chí là rất

khó khăn. Từ đó dữ liệu thu thập được cũng khó đảm bảo được tính đầy đủ.

- Rút trích từ thông tin bài báo từ tài liệu dưới dạng file điện tử (sử dụng các

file postscript hoặc file PDF), như các hệ thống được giới thiệu trong các bài báo

[3][15]. Bằng việc phân tích nội dung các bài báo dưới dạng file điện tử thông qua

việc sử dụng các luật, các thuật toán, kết hợp sử dụng máy học, các hệ thống sẽ thu

được các thông tin chỉ mục từ nội dung của các bài báo.

 Như vậy: với nguồn dữ liệu từ các bài báo dưới dạng file điện tử thì các

hệ thống này đã tận dụng được nguồn dữ liệu có sẵn trong nội dung các bài báo.

Nhưng việc sử dụng các luật, các thuật toán cũng như máy học trong việc trích xuất

thông tin chỉ mục chưa đạt được độ chính xác cao và vẫn là một lĩnh vực đang

nghiên cứu trong data mining, cùng với đó là những khó khăn trong việc thu thập

tài liệu điện tử dưới dạng file điện tử hiện nay bị giới hạn trong việc download, do

đó tính đúng đắn, đầy đủ của dữ liệu thu thập chưa được đảm bảo.

- Xây dựng dữ liệu chỉ mục bằng cách rút trích thông tin bài báo khoa học

được công bố trên Internet. Những thông tin chỉ mục của bài báo có thể tồn tại trên

các trang Website chia sẻ tài liệu, trên trang Website cá nhân của tác giả, hay thông

tin chỉ mục có sẵn trên các thư viện số. Các hệ thống sử dụng các Search Engine

hoặc Web Crawler tìm kiếm các bài báo trên Website sau đó sử dụng các luật, các

thuật toán để rút ra thông tin bài báo như các hệ thống được giới thiệu trong các bài

báo [5][17][20].

Th.s Huỳnh Ngọc Tín

14

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

 Với nguồn dữ liệu từ các bài báo được công bố trên Internet, thì các hệ

thống đã tận dụng được nguồn dữ liệu khổng lồ. Nhưng các ứng dụng đã được xây

dựng chưa tận dụng được những dữ liệu chỉ mục có sẵn.

 Phƣơng pháp tiếp cận rút trích thông tin chỉ mục.

Theo [19], thì rút trích thông tin chỉ mục bài báo (hay rút trích thông tin

Metadata) là lĩnh vực nghiên cứu thu hẹp thuộc lĩnh vực rút trích thông tin. Hầu hết

các phương pháp rút trích Metadata hiện nay có thể chia làm 2 cách tiếp cận chính

đó là: các phương pháp dựa trên học máy và phương pháp dựa trên luật kết hợp với

sử dụng các từ điển, Ontologies.

Phương pháp rút trích thông tin dựa trên học máy (Machine Learning).

Bằng cách học từ tập huấn luyện (quan sát các đặc trưng của tập dữ liệu đã

được xác định bởi chuyên gia), hệ thống sẽ phân tích nội dung dữ liệu mà người

dùng đưa vào (thường là dạng text), để rút ra thông tin Metadata của tài liệu.

Theo [8], những phương pháp học máy để rút trích Metadata điển hình có thể kể

đến như: lập trình logic, mô hình Markov ẩn (Hidden Markov Models), Support

Vector Machince, và các phương pháp học thống kê khác. Trong [8], nhóm tác giả

đã dùng SVM để rút trích metadata từ các bài báo khoa học. Quá trình rút trích của

họ gồm hai bước: bước thứ nhất họ dùng SVM để phân lớp các dòng (lines) thuộc

phần heading của các tài liệu (từ phần giới thiệu trở lên); bước thứ hai họ rút trích

Metadata từ các dòng đã phân lớp trong bước thứ nhất dùng các luật dấu câu, ký tự

viết hoa kết hợp với các từ điển.

Phương pháp rút trích thông tin dựa vào luật.

Các luật được các chuyên gia có kinh nghiệm đặt ra trước (ví dụ dựa vào từ

khóa, font chữ để xác định vùng đặc biệt chứa dữ liệu). Dựa vào các luật, hệ thống

sẽ rút ra thông tin Metadata ở vùng tương ứng.

Trong tài liệu [12], nhóm tác giả đã đề xuất một phương pháp rút trích cấu

trúc logic (tiêu đề, các tác giả, các đề mục, các định nghĩa, định lý, …) từ các bài

báo trong lĩnh vực toán học. Từ đó họ xây dựng đã xây dựng một trình duyệt giúp

người dùng có thể dễ dàng đọc các bài báo toán học. Thuật toán học đề xuất gồm 2

Th.s Huỳnh Ngọc Tín

15

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

bước: thứ nhất xác định những vùng đặc biệt trong tài liệu (số trang, đề mục, phần

footnote cuối trang, tiêu đề của các bảng biểu và hình ảnh) dùng các từ khóa, kiểu

dáng font chữ, khoảng cách không gian trình bày trong tài liệu; sau đó thông tin chi

tiết sẽ được xác định từ các vùng này dựa vào kiểu dáng, vị trí và trình bày của từng

vùng.

 Như vậy: Mỗi cách tiếp cận đều có những ưu, nhược điểm riêng. Đối với các

phương pháp máy học thì chúng ta cần phải tốn nhiều thời gian cho việc chọn mẫu,

gán nhãn và để có kết quả tốt cần rất nhiều dữ liệu học. Bên cạnh đó các phương

pháp dựa trên luật hay mẫu thì đơn giản và dễ dàng thực hiện hơn, nhưng để có kết

quả tốt cũng tốn rất nhiều công sức cho việc khảo sát, định nghĩa luật của chuyên

gia. Các luật cũng cần phải thay đổi khi xuất hiện các loại dữ liệu mới mà những

luật hiện có không thể giải quyết được. Thông thường đối với từng bài toán cụ thể

người ta sẽ đưa ra một cách tiếp cận và phương pháp giải quyết vấn đề tương ứng

phù hợp với bài toán đặt ra.

2.3.2 Các ứng dụng liên quan

Trong phần này, chúng tôi sẽ trình bày một số hệ thống dữ liệu chỉ mục đã

tồn tại, các hệ thống sử dụng một trong các nguồn dữ liệu và phương pháp rút trích

được giới thiệu ở phần 2.3.1. Cùng với đó chúng tôi sẽ trình bày khảo sát về các thư

viện số mà hệ thống xây dựng trong khóa luận sẽ dựa trên đó để lấy thông tin chỉ

mục các bài báo.

2.3.2.1 Digital Bibliography & Library Project (DBLP).

DBLP là một cơ sở dữ liệu cung cấp thông tin về chỉ mục các bài báo trong

lĩnh vực khoa học máy tính, hệ thống được phát triển bởi trường đại học Universität

Trier của Đức. Theo công bố trên trang Website chính của DBLP, thì tính đến tháng

1/2011 DBLP chứa thông tin chỉ mục của 1,5 triệu bài báo trong lĩnh vực khoa học

máy tính được thu thập từ các thư viện số, các hội nghị và các tạp chí. Dữ liệu của

DBLP được xuất ra các dạng CDF, XML và SQL, người phát triển có thể download

các file này từ trên Website của hệ thống.

Th.s Huỳnh Ngọc Tín

16

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

DBLP được xây dựng lên dựa vào việc phân tích và rút trích thông tin từ các

file đề mục – mục lục (TOCs). Các file TOCs được tác giả sưu tầm từ các hội nghị,

tạp chí.

List Name of

Authors

Author

Page

In DBLP

xmosaic

Parser

xhHTML

Parser

TOCs

TOC - OUT

Author Page

Hình 2.4- Hệ thống xây dựng cơ sở dữ liệu DBLP

Các file TOCs được nhập vào bởi tác giả, hệ thống sẽ sử dụng các đoạn

script và các parser để phân tích và rút trích thông tin các bài báo. Đồng thời với

việc sử dụng các dữ liệu có sẵn của hệ thống như danh sách tên của tác giả, thông

tin các bài báo đã có, hệ thống sẽ xây dựng lên trang thông tin của tác giả (Author

Page). Author Page chứa thông tin về tác giả cũng như thông tin về các bài báo mà

tác giả viết hoặc đồng tác giả, hình 2.4 là kiến trúc hệ thống của DBLP.

Hiện nay, có một số ứng dụng được xây dựng trên nguồn dữ liệu của DBLP,

các ứng dụng này cung cấp chức năng cho phép người dùng tìm kiếm bài báo, như

các hệ thống: Complete Search DBLP, Faceted search và DBL – Browser.

Th.s Huỳnh Ngọc Tín

17

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

 CompleteSearch DBLP¹⁵.

Đây là hệ thống cho phép người dùng tìm kiếm thông tin bài báo trên dữ liệu

của DBLP, cách thực thi hệ thống được giới thiệu trong [7]. Bài báo trong hệ thống

có thể được tìm kiếm theo các trường thông tin sau:

+Tìm kiếm theo từ khóa xuất hiện trong bài báo.

+Tìm kiếm theo tên tác giả.

+Tìm kiếm theo tên tổ chức công bố bài báo.

+Tìm kiếm theo năm xuất bản của bài báo.

Hình 2.5 - Hệ thống Complete Search

¹⁵http://dblp.mpi-inf.mpg.de/dblp-mirror/index.php

Th.s Huỳnh Ngọc Tín

18

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

 Faceted Search¹⁶.

Đây là hệ thống tìm kiếm bài báo trên dữ liệu của DBLP được giới thiệu

trong [9], hệ thống cho phép người dùng tìm kiếm thông tin bài báo dựa trên các

trường sau:

+Tìm kiếm dựa vào thông tin Metadata bài báo.

+Tìm kiếm theo tên tác giả.

+Tìm kiếm theo nơi công bố bài báo.

Hình 2.6 - Hệ thống FacetedDBLP

Ngoài ra hệ thống FaceTedDBLP còn cho phép người dùng duyệt tài liệu,

bài báo trong DBLP theo danh sách dựa trên tên tác giả, tên hội nghị, tên tạp chí

hay từ khóa mà người dùng tìm kiếm nhiều nhất trong hệ thống.

Hình 2.7 - Duyệt bài báo trong FacetedDBLP

¹⁶http://dblp.l3s.de/?q=&newQuery=yes&resTableName=query_resultmQ9GIx

Th.s Huỳnh Ngọc Tín

19

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

 DBL – Browser

DBL – Browser, là chương trình sử dụng để tìm kiếm bài báo trên dữ liệu

DBLP mà không cần kết nối Internet (dữ liệu của DBLP được tải về máy cục bộ).

Chương trình cho phép hiển thị thông tin của bài báo một cách trực quan.

Hình 2.8 - Chương trình DBL Brower

 Như vậy: dữ liệu chỉ mục DBLP được thu thập bằng cách rút trích thông

tin chỉ mục từ những file TOCs của kỷ yếu hội nghị, tạp chí được các tổ chức gửi về

hoặc tác giả DBLP sưu tầm được. Vấn đề đặt ra ở đây là việc lấy được các file

TOCs từ các hội nghị sẽ khó đảm bảo thông tin thu thập được sẽ đầy đủ và cập nhật

nhất đối với các bài báo, để chứng minh cho điều này chúng tôi tiến hành khảo sát

bằng cách tìm kiếm các bài báo trên các thư viện số với từ khóa là chủ đề trong lĩnh

vực khoa học máy tính, sau đó kiểm tra tính tồn tại của thông tin bài báo trong

DBLP.

Th.s Huỳnh Ngọc Tín

20

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Trong bảng 2.3 là kết quả được tính trung bình của 100 bài báo đầu tiên trên

ba thư viện số ACM, Citeseer, IEEEXplore sau khi tìm kiếm với 2 từ khóa

“Database” và “Data mining”.

Từ khóa tìm

kiếm

Phần trăm dữ

liệu không tồn

Phần trăm Dữ

liệu trước năm

Phần trăm dữ liệu trong

năm 2010 không tồn tại

trong DBLP

tại trong DBLP 2010 không tồn

(%)

tại trong DBLP

(%)

Database

28,33

43,67

86,26

10,71

14,51

Data mining

77,45

Bảng 2.3 - Khảo sát tính cập nhật dữ liệu của DBLP

Trong đó kết quả được tính theo công thức sau:

+ Phần trăm dữ liệu không tồn tại trong DBLP: được tính bằng số các bài

báo trong 100 bài báo tồn tại trên thư viện số (ACM, IEEEXplore, CiteSeer) nhưng

không có trong DBLP.

+ Phần trăm dữ liệu trước năm 2010 không tồn tại trong DBLP: được tính

bằng số bài báo trong 100 bài báo thu thập trên thư viện số có năm xuất bản trước

năm 2010 tồn tại trong thư viện số (ACM, IEEEXplore, CiteSeer) nhưng không có

trong DBLP.

+ Phần trăm dữ liệu trong năm 2010 không tồn tại trong DBLP: được tính

bằng số bài báo trong 100 bài báo thu thập trên thư viện số có năm xuất bản trong

năm 2010 không có trong DBLP.

Dựa vào bảng 2.3 ta thấy dữ liệu của DBLP chưa đảm bảo được tính đầy đủ

và cập nhật dữ liệu mới một cách nhanh chóng.

Mặt khác như khảo sát ở trên, phần lớn các hệ thống phát triển trên nguồn dữ

liệu của DBLP là sử dụng dữ liệu chỉ mục của DBLP chứ chưa có hệ thống nào đưa

ra phương pháp bổ sung dữ liệu còn thiếu cho DBLP ngoài cách cập nhật dữ liệu

của tác giả DBLP.

Th.s Huỳnh Ngọc Tín

21

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

2.3.2.2 Lightweight Federated Digital Library (LFDL)

Đây là một hệ thống tìm kiếm và thu thập dữ liệu chỉ mục các bài báo khoa

học từ thư viện số. Hệ thống được giới thiệu trong bài báo [16], tác giả bài báo chỉ

ra rằng hiện nay thông tin các bài báo trong các thư viện số đều không tuân theo

một chuẩn lưu trữ thông tin Metadata nhất định, mà mỗi thư viện số có cách lưu

khác nhau, từ đó tác giả đề xuất cách xây dựng một hệ thống có khà năng tổng hợp

thông tin từ các thư viện số thành một khối dữ liệu có cấu trúc đồng nhất. Trong

hình 2.9 giới thiệu kiến trúc của hệ thống LFDL (Lightweight Federated Digital

Library), ứng với mỗi thư viện số hệ thống sẽ có các đặc tả và đưa ra các luật để rút

thông tin Metadata khác nhau (các luật này có cấu trúc XML), những thông tin rút

được từ các thư viện số sẽ được lưu xuống Database.

Hình 2.9 – Kiến trúc LFDL

Các luồng dữ liệu và tương tác giữa các thành phần của hệ thống LFDL như

sau:

- Đầu tiên khi khởi tạo, hệ thống sẽ đọc tất cả các đặc tả (như ở hình 2.10,

2.11) của thư viện số (DL 1, DL 2, DL 3) bao gồm: luật liên kết truy vấn và

Th.s Huỳnh Ngọc Tín

22

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

luật rút trích Metadata (phần rules Engine ở trên hình 2.9). Các đặc tả ở đây

được hệ thống rút ra trên thư viện số thông qua quá trình phân tích cấu trúc

hiển thị thông tin bài báo cho người dùng (phân tích nội dung HTML hiển thị

kết quả tìm kiếm cho người dùng).

- Khi người dùng tương tác với hệ thống và yêu cầu tìm kiếm thông tin bài báo

(yêu cầu được gửi thông qua Seach Interface), hệ thống sử dụng bộ xử lý

trung tâm để tối ưu câu tìm kiếm sau đó chuyển sang công cụ tìm kiếm.

- Công cụ tìm kiếm sẽ dựa vào các đặc tả đầu vào (phần phân tích ở trên) đồng

thời sử dụng các luật liên kết tạo câu truy vấn. Sau đó gửi câu truy vấn lên

thư viện số để lấy kết quả phù hợp về.

- Sau khi nhận kết quả trả về từ thư viện số hệ thống sẽ xử lý để rút ra thông

tin Metadata của bài báo dựa vào các luật trong phần đặc tả tương ứng mỗi

thư viện số (phần data Processing Layer trong kiến trúc hình 2.9). Thông tin

Metadata đã rút ra sẽ được lưu vào cơ sở dữ liệu (Local Repositiry) ở máy

cục bộ.

- Để hiển thị thông tin bài báo thu thập được cho người dùng, hệ thống còn lưu

thông tin bài báo dưới dạng XML (file results.xml). Khi cần hiển thị, hệ

thống sẽ sử dụng bộ xử lý XSLT¹⁷để chuyển nội dung XML sang HTML

hoặc XHTML.

 Đây là một hệ thống thu thập dữ liệu chỉ mục các bài báo từ các thư viện số

bằng cách phân tích nội dung trong thư viện số kết hợp với việc sử dụng các luật để

rút trích thông tin. Theo thông tin của tác giả được công bố trong [16], hiện hệ

thống mới thu thập được tựa đề (title) và đường dẫn (hyperlink) của bài báo trong

các thư viện số ACM, NEEDS, NACA, COGPRINTS, CSTC, LTRS, và WCR. Hệ

thống LFDL mới chỉ được giới thiệu trong nội dung bài báo, chưa có ứng dụng chạy

trực tuyến (online) cùng với đó hệ thống chưa tận dụng được những cơ sở dữ liệu

chỉ mục có sẵn, cũng như thông tin chỉ mục của các bài báo có sẵn trên thư viện số,

để dữ liệu chỉ mục thu thập được đảm bảo tính đầy đủ và chính xác.

¹⁷http://en.wikipedia.org/wiki/XSLT

Th.s Huỳnh Ngọc Tín

23

Đỗ Văn Tiến - Nguyễn Phước Cường

Đại Học Công Nghệ Thông Tin

Khoa Công Nghệ Phần Mềm

Hình 2.10 – Đặc tả cho thư viện số ACM portal (Trích tài liệu [16])

Hình 2.11 – Đặc tả cho thư viện số Cogprints (Trích tài liệu [16])

Th.s Huỳnh Ngọc Tín

24

Đỗ Văn Tiến - Nguyễn Phước Cường