Sistem Pencarian Dan Capaian Dokumen - .: Ftsm

Sistem Pencarian Dan Capaian Dokumen - .: Ftsm

SISTEM PENCARIAN DAN CAPAIAN DOKUMEN Apa itu maklumat ? Teori Maklumat Kitar Hayat Maklumat 1 Information Hierarchy Wisdom Knowledge Information Data Data

The raw material of information Information Data organized and presented by someone Knowledge Information read, heard or seen and understood Wisdom Distilled and integrated knowledge and understanding 2 Maklumat (Information) Where is the Life we have lost in living? Where is the wisdom we have lost in knowledge? Where is the knowledge we have lost in information? -- T.S. Eliot, The Rock Where is the information we have lost in data? 3

Apa itu maklumat (Information) Tidak ada definisi yang tepat Berbeza mengikut bidang : philosophy, psychology, signal processing, physics Oxford English Dictionary information: informing, telling; thing told, knowledge, items of knowledge, news knowledge: knowing familiarity gained by experience; persons range of information; a theoretical or practical understanding of; the sum of what is known Kamus Dewan Knowledge in the form of facts 4 Teori Maklumat

Disebut Communication Theory Communication may be over time and space Message Source Message Encoding Decoding Destination Channel Noise Message Source Message Encoding (writing/indexing)

Storage Decoding (Retrieval/Reading) Destination 5 Information Life Cycle Creation Active Authoring Modifying Using Creating Retention/ Mining Organizing

Indexing Accessing Filtering Storing Retrieval Semi-Active Discard Utilization Disposition Distribution Networking Searching Inactive 6 Authoring/Modifying

Converting Data+Information+Knowledge to New Information. Creating information from observation, thought. Editing and Publication. Organizing/Indexing Collecting and Integrating information. Affects Data, Information and Metadata. Indexing 7 Storing/Retrieving Information Storage

How and Where is Information stored? Retrieving Information. How is information recovered from storage How to find needed information Linked with Accessing/Filtering stage Distribution/Networking Transmission of information How is information transmitted? Networks vs Broadcast. 8 Accessing/Filtering Using the organization created in the O/I stage to: Select desired (or relevant) information Locate that information Retrieve the information from its storage location (often via a network)

Using/Creating Using Information. Transformation of Information to Knowledge. Knowledge to New Data and New Information. 9 Sistem Pencarian Dan Capaian Dokumen Creation Active Authoring Modifying Using Creating Retention/

Mining Organizing Indexing Accessing Filtering Storing Retrieval Semi-Active Discard Utilization Disposition Distribution Networking Searching Inactive 10

Pengenalan Micheal Lesk membahagikan era teknologi maklumat kepada tujuh era iaitu : Childhood (1945-1955) The SchoolBoy (1960s) AdultHood(1970s) Maturity (1980s) MidLife Crisis (1990s) Fulfillment (2000s) Retirement (2010) Maklumat lanjut rujuk kertas kerja yang bertajuk : The Seven Ages Of Information Retrieval 11 SISTEM PENCARIAN DAN CAPAIAN DOKUMEN (MAKLUMAT) Definisi CM Komponen Asas CM Teknik Carian Maklumat Berasas Katakunci Teknik Carian dan Capaian Maklumat

12 Definisi Menurut Tengku(1989), capaian maklumat adalah satu pengajian cara korpus suatu simpanan maklumat ditentukan dan dicapai berdasarkan kehendak tertentu. berkenaan perwakilan , penstoran , perorganisasian dan perolehan maklumat mengikut pertanyaan atau kueri dan keperluan pengguna 13 Definisi Untuk sistem capaian maklumat, 3 elemen asas yang diperlukan (Brown, 1996). Perwakilan Dokumen (representasi): dokumen yang menyediakan penerangan maklumat secara formal yang terdapat dalam sesuatu dokumen. Perwakilan pertanyaan (query): menyediakan penerangan mengenai maklumat yang diperlukan Pengukuran yang berkaitan di antara pertanyaan dan dokumen: menyediakan suatu tatacara atau prosedur untuk memadankan

antara keperluan maklumat dengan dokumen bagi memenuhi keperluan tersebut. 14 Definisi D : set perwakilan dokumen Q : set perwakilan kehendak pengguna (kueri) R : D x Q real numbers fungsi yang akan menentukan bagi setiap dokumen dan kueri suatu nombor tertentu (real number) bagi diwakili oleh suatu pangkatan (berkaitan) dokumen berdasarkan kueri yang dimasukkan. 15 Komponen Asas CM Sistem capaian maklumat diillustrasi seperti rajah (van Rijsbergen, 1979) feedback Pertanyaan Input Pemproses Dokumen

Output -operasi sebutan -Stemming -Truncation Asas Sistem Capaian Dokumen 16 Teknik Carian Maklumat Berasaskan Katakunci Teknik pencarian maklumat berasaskan web boleh dijalankan menggunakan beberapa teknik bergantung kepada operator yang digunakan selain penggunaan bahasa tabii. Operator yang boleh digunakan Boolean operator Positional operator Relational operator 17 Teknik Carian Maklumat : Boolean

Operator Operator yang boleh digunakan (AND, OR, NOT, \ dan XOR) : Q1 AND Q2 Documents that are in BOTH sets: Q1 and Q2 Q1 OR Q2 Documents that are in at least in one set: Q1 or Q2 NOT Q1 All documents except the one in set Q1 Q1 \ Q2 Logical minus all documents from Q1 except those that belong to Q2. Used also as binary NOT (Q1 NOT Q2) Q1 XOR Q2 Exclusive OR - documents that belong to exactly one set: Q1 or Q2, but not both. In other words (Q1 OR Q2) \ (Q1 AND Q2) 18 Boolean Queries AND and OR Usually expressed as INFIX operators in IR ((a AND b) OR (c AND b))

NOT is UNARY PREFIX operator ((a AND b) OR (c AND (NOT b))) AND and OR can be n-ary operators (a AND b AND c AND d) Some rules - (De Morgan revisited) NOT(a) AND NOT(b) = NOT(a OR b) NOT(a) OR NOT(b)= NOT(a AND b) NOT(NOT(a)) = a 19 Teknik Carian Maklumat : Positional Operator Positional operator digunakan untuk mendapatkan rekod dalam rekod bibliografik yang sama.

SAME Example: Sains SAME Maklumat Only records containing both Sains and Maklumat within the same bibliographic field will be retrieved. WITH Example: Sains WITH Maklumat Only records containing both Sains and Maklumat in the same sentence in a bibliographic field will be retrieved from this search. NEAR Example: Sains NEAR Maklumat Only records with the terms Sains and Maklumat next to each other within the same bibliographic field would be retrieved from this search. Sains or Maklumat could display first in the field. 20 Teknik Carian Maklumat : Positional Operator ADJ

Example: Sains ADJ Maklumat Only records with the terms Sains and Maklumat adjacent to each other within the same bibliographic field and with Sains listed first in this field would be retrieved from this search Tambahan : penggabungan operator boleh dilakukan bagi mengecil atau meluaskan jarak antara perkataan Example: FROM ADJ1 HERE ADJ2 ETERNITY This example shows how to search for the title, "From Here to Eternity. ADJ2 means that the words may be within two searchable words of each other, but they must be in the order they were entered. 21 Teknik Carian Maklumat : Relational Operator Relational Operators Relational operators (<, >, =, <>, <=, >=) allow you to search numeral expressions. Use relational operators by enclosing a field name or entry tag number in braces {}, then typing a relational operator and number.

Operator Definition < Less than > Greater than = Equal to <> Not equal to <= Less than or equal to >= Greater than or equal to Example: {DATE} <991022 If you type {DATE} < 991022, the system will searches for records whose Date field contains values less than 991022. 22 Teknik Carian Maklumat : Keutamaan Operator Jika beberapa kombinasi operator digunakan maka ianya adalah berdasarkan keutamaan berikut :

() = <> < <= > >= NEAR, ADJ WITH SAME AND, NOT XOR, OR 23 Teknik Carian Maklumat : Kaedah Lain Pengguna boleh memberikan pemberat. Sesetengah enjin carian web membenarkan pengguna menggunakan simbol (+) atau (-) untuk memberi pemberat kepada perkataan. Contoh : cost AND +paper

Jika ujud di dalam sesuatu dokumen yang mengandungi cost dan paper maka term paper akan dipangkat lebih tinggi (pemberat lebih besar) berbanding term cost 24 Tugasan Dapatkan maklumat untuk carian menggunakan Within Before After Wildcard symbol Markah tambahan akan diberikan kepada yang dapat memberi dan menghantar jawapan pada minggu hadapan 25

Teknik Carian dan Capaian Maklumat Belkin dan Croft (1987) membahagikan teknik capaian kepada padanan tepat dan padanan separa. Teknik Capaian Padanan Tepat CorakTeks Pencarian Boolean Padanan Separa Kebarangkalian Ruang Clustering Vektor .. 26 Teknik Sistem Carian Dan Capaian Terdapat beberapa teknik yang boleh dilakukan dalam proses carian dan capaian dalam sistem capaian dokumen bagi enjin

gelintar Teknik Capaian padanan tepat Boolean Dokumen dinyatakan sebagai satu set dj = {ti,..tn} dimana setiap ti adalah perkataan yang terdapat pada dokumen dj. query yang digunakan adalah dalam bentuk operasi boolean yang piawai iaitu AND, OR, NOT dan XOR. carian seperti yang diterangkan sebelum ini 27 Teknik Sistem Carian Dan Capaian : Boolean Lanjutan Boolean Lanjutan Capaian Lanjutan Boolean merupakan peningkatan daripada capaian Boolean. Ianya memberi pemberat bagi perkataan. tf (term frequency) atau frekuensi perkataan menunjukkan berapa kali perkataan tersebut wujud dalam dokumen. Ia direkabentuk untuk mengemaskini capaian boolean dimana beberapa pengoperasian dan teknik ditambah seperti keupayaan capaian dalam bentuk pemangkatan atau susunan (rank)

mengikut jujukan menaik atau menurun serta nilai pemberat bagi meningkatkan lagi keupayaan capaian sesuatu query. 28 Teknik Sistem Carian Dan Capaian : Boolean Lanjutan Contoh pemangkatan melalui frekuensi perkataan (Enjin Carian Sony) x AND y : tfx x tfy x OR y : tfx + tfy NOT x : 0 if tfx > 0, 1 if tfx = 0 Memberikan pemberat kepada perkataan melalui frekuensi, membenarkan dokumen yang mengandungi banyak perkataan kueri dipangkat lebih tinggi. Skor adalah 0 jika dokumen tidak menepati Syarat Boolean. 29

Teknik Sistem Carian Dan Capaian : Capaian Berkebarangkalian Cara capaian dokumen yang menyusun dokumen mengikut pangkatan dengan menggunakan teori kebarangkalian. Mencapai suatu kualiti capaian yang optimum berdasarkan suatu andaian. Ianya dijana berdasarkan pengiraan menggunakan similarity coefficient diantara kueri dan dokumen. Ia dijana dlm bentuk kebarangkalian bagi menyatakan kerelevanan diantara keduanya. Dua asas pendekatan digunakan Bergantung kepada penggunaan patern bagi meramal kerelevanan (Maron and Kuhns, 1960) Penggunaan setiap term pada kueri sebagai klu bagi kerelevanan dengan suatu dokumen (Robertson and Spark Jones 1976) Asas Penggunaan teorem Bayes

30 Teknik Sistem Carian Dan Capaian : Capaian Berkebarangkalian Kueri q (q1,q2) Jana q dan capai n dokumen (katakan n = 5) dan di mewakili dokumen berikut d1 q1 d2 d3 d4 q2 q1 q1 q2

d5 q2 Katakan d2 dan d4 adalah relevan P(q1 | di adalah relevan) = P(q2 | di adalah relevan) = 1 P(q1 | di adalah tidak relevan) = 2/3 P(q2 | di adalah tidak relevan) = 1/3 31 Robertson-Sparck Jones Weights Predictive formulation w(1) r 0.5 R 1 log n 1

N 2 w ( 3) r 0.5 R r 0.5 log n 1 N n 1 w( 2 ) r 0.5 R 1

log n r 0.5 N R 1 w( 4 ) r 0.5 R r 0.5 log n r 0.5 N n R r 0.5 Contoh dan pemahaman lanjut rujuk slide 37 32

Teknik Sistem Carian Dan Capaian : Capaian Ruang Vektor Model capaian ruang vektor menyatakan kedua-dua pertanyaan dan dokumen sebagai set perkataan mengira persamaan antara perkataan pertanyaan dan dokumen. Model ini menganggap bahawa set ini boleh digunakan untuk mengenalpasti kedua-dua rekod dan maklumat yang ditanya. Semua perkataan pada model ini mempunyai kepentingan yang sama. teknik pemberat digunakan untuk menentukan paras atau tahap kepentingan bagi setiap perkataan. Fungsi kesamaan digunakan untuk mengira persamaan vektor antara perkataan pertanyaan dan dokumen. Dua perkara yang selalu digunakan iaitu ukuran kosine dan songsangan fungsi kekerapan dokumen. 33 Teknik Sistem Carian Dan Capaian : Capaian Ruang Vektor Kueri dan setiap dokumen dipetakan kepada vektor dengan setiap dimensi mewakili nilai tf-idf bagi setiap perkataan. Dimana dokumen : dokumen dengan set term indeks dengan pemberat. Pemberat dijanakan bagi menentukan kepentingan (keberkaitan)

sesuatu term kepada dokumen dj = (W1,j , W2,j, , Wi,j) dan Kueri : kueri adalah term indeks dengan pemberat. Pemberat dijanakan bagi menentukan kepentingan (keberkaitan) sesuatu term kepada kehendak pengguna q = (W1,j , W2,j, , Wi,j) 34 Teknik Sistem Carian Dan Capaian : Capaian Ruang Vektor Dokumen dj dan kueri q merupakan vector dalam ruang t dimensi. Kepentingan sesuatu term bergantung kepada kekerapan keujudan sesuatu term tersebut pada satu-satu dokumen. Jika term A dinyatakan lebih dari term B maka dokumen tersebut lebih menerangkan tentang A dari B. Jika freqi,j adalah kekerapan term ki dalam dokumen dj. Maka wi,j = freqi,j. Komponen adalah 0 jika tidak wujud, nilai positif diberi (bergantung kepada frekuensi perkataan dan frekuensi

dokumen songsang) jika ianya wujud. Dokumen dipangkat melalui jarak dengan kueri, dengan itu dokumen akan dipangkat paling tinggi sekiranya sudut antaranya dan kueri adalah paling kecil. Jarak ditentukan berdasarkan pengiraan skor kesamaan (similarity score calculation). Jarak boleh merupakan magnitud perbezaan vektor yang dinormalkan atau mungkin kosin (cosine) bagi sudut antara vektor-vektor. 35 Perwakilan Grafik Example: D1 = 2T1 + 3T2 + 5T3 T3 D2 = 3T1 + 7T2 + T3 5 Q = 0T1 + 0T2 + 2T3 D1 = 2T1+ 3T2 + 5T3 Q = 0T1 + 0T2 + 2T3 2

3 T1 D2 = 3T1 + 7T2 + T3 T2 7 Adakah D1 atau D2 lebih sama dgn Q? Bagaimana untuk mengukur darjah kesamaan? Jarak ? Sudut? 36 Contoh Q : gold silver truck D1: Shipment of gold damaged in a fire D2: Delivery of silver arrived in a silver truck D3: Shipment of gold arrived in a truck Variable gold

silver truck N 3 3 3 n 2 1 2 R 2

2 2 r 1 1 2 37 Contoh N : bilangan dokumen dalam koleksi n : bilangan indeks dokumen yang mengandungi term t R : bilangan dokumen yang relevan bagi kueri yang diberikan r : bilangan indeks dokumen relevan yang mengandungi term t Variable gold silver

truck N 3 3 3 n 2 1 2 R 2 2

2 r 1 1 2 Penyelesaian rujuk handout yang diberikan 38 Robertson-Sparck Jones Weights Predictive formulation w(1) r 0.5 R 1

log n 1 N 2 w ( 3) r 0.5 R r 0.5 log n 1 N n 1 w( 2 ) r 0.5

R 1 log n r 0.5 N R 1 w( 4 ) r 0.5 R r 0.5 log n r 0.5 N n R r 0.5 Penyelesaian rujuk handout yang diberikan

39 TESAURUS Tesaurus adalah set item (frasa atau perkataan ) dan set hubungan di antara item-item tersebut. 3 perkara asas yang berkaitan dengan tesaurus di dalam capaian maklumat ialah: 1. pembinaan: ada 2 jenis tesaurus iaitu secara manual dan secara automatik. 2. capaian: diberi satu pertanyaan yang khusus, maka tesaurus akan mencapai dan menggunakan perkataan tersebut untuk meningkat dan mengembangkan pertanyaan. 3. penilaian: selepas tesaurus dibina, adalah penting menilai kebaikan yang mampu dilakukannya. Tesaurus manual dinilai melalui perkembangan pertanyaan yang dicapai untuk memastikan peningkatan keupayaan capaian. 40 TESAURUS

Tesaurus menyediakan maklumat sinonim dan semantik berkaitan perkataan dan frasa. Example: physician syn: ||croaker, doc, doctor, MD, medical, mediciner, medico, ||sawbones rel: medic, general practitioner, surgeon, Bagi setiap term, t, pada kueri, ia akan memperkembangkan kueri dengan sinonim dan perkataan yang berkaitan dengan t dari tesaurus. Pemberat yang digunakan adalah kurang dari term kueri yang asal 41 WordNet

A more detailed database of semantic relationships between English words. Developed by famous cognitive psychologist George Miller and a team at Princeton University. About 144,000 English words. Nouns, adjectives, verbs, and adverbs grouped into about 109,000 synonym sets called synsets. Penggunaan WordNet dalam perkembangan kueri Add synonyms in the same synset. Add hyponyms to add specialized terms. Add hypernyms to generalize a query. Add other related terms to expand query. 42 WordNet Synset Relationships

Antonym: front back Attribute: benevolence good (noun to adjective) Pertainym: alphabetical alphabet (adjective to noun) Similar: unquestioning absolute Cause: kill die Entailment: breathe inhale Holonym: chapter text (part-of) Meronym: computer cpu (whole-of) Hyponym: tree plant (specialization) Hypernym: fruit apple (generalization) 43

Recently Viewed Presentations

  • Applications Leading to Understanding

    Applications Leading to Understanding

    Using the Toulmin Model (cont.) Motivational - Since we value "x", we must believe or adopt "y" Parallel Case - Since these cases or situations are so similar, we must conclude x, y, or z. Applications Leading to Understanding Reasoning...
  • Small-group communication

    Small-group communication

    Prostřední kategorie popisují interakci při vykonávání úkolů Snímek 9 Adekvátnost určité kategorie chování ve skupině 2.2 Základní typy rolí ve skupině - Benne a Sheats (1948) 2.2.1 Role zaměřené na cíl 2.2.2 Role zaměřené na udržování skupiny 2.2.3 Sebestředné role...
  • Welcome ! We are so glad you are

    Welcome ! We are so glad you are

    This We Believe (in unison) The Apostles' Creed. I believe in God the Father Almighty, creator of heaven and earth, And in Jesus Christ his only Son our Lord; who was conceived by the Holy Spirit, born of the Virgin...
  • Introduction to the Careers and Employability Service

    Introduction to the Careers and Employability Service

    Moodle Careers Employability Award . Assessed by a range of quizzes and assignments "The most time-effective way to . increase your chances of getting a graduate level job" Takes about 12 hours to complete. On completion you will get a...
  • Linear Least Squares QR Factorization

    Linear Least Squares QR Factorization

    Linear Least Squares QR Factorization Systems of linear equations Problem to solve: M x = b Given M x = b : Is there a solution? Is the solution unique? Systems of linear equations Find a set of weights x...
  • Title of Presentation

    Title of Presentation

    PRRS/SECD Rule Change. New Rule Requirements for Porcine Reproductive Respiratory Syndrome (PRRS) and Swine Enteric Corona Virus Disease (SECD) Dr. Paul McGraw, State Veterinarian and Division Administrator. Wisconsin Department of Agriculture, Trade and. Consumer Protection (DATCP), Division of Animal Health
  • ST-DCONTOUR—A Serial, Density-contour Based Spatio-temporal ...

    ST-DCONTOUR—A Serial, Density-contour Based Spatio-temporal ...

    The density-contour based approach extends an approach called ST-COPOT [0], which is capable of processing very large data streams in approximately linear time. ... Latent DirichletAllocation is a generative model that allows sets of observations to be explained by unobserved...
  • RL6.5 Notes - campbell.k12.ky.us

    RL6.5 Notes - campbell.k12.ky.us

    RL.6.5 - Analyze how a particular sentence, chapter, scene, or stanza fits into the overall structure of a text and contributes to the development of the theme, setting, or plot. We have already learned to identify the theme, setting, and...