Document (#30966)
- Author
- Mandl, T.
- Title
- Tolerantes Information Retrieval : Neuronale Netze zur Erhöhung der Adaptivität und Flexibilität bei der Informationssuche
- Imprint
- Konstanz : Universitätsverlag
- Year
- 2001
- Pages
- IX, 283 S
- Isbn
- 3-89669-795-1
- Series
- Schriften zur Informationswissenschaft; Bd.39
- Abstract
- Ein wesentliches Bedürfnis im Rahmen der Mensch-Maschine-Interaktion ist die Suche nach Information. Um Information Retrieval (IR) Systeme kognitiv adäquat zu gestalten und sie an den Menschen anzupassen bieten sich Modelle des Soft Computing an. Ein umfassender state-of-the-art Bericht zu neuronalen Netzen im IR zeigt dass die meisten bestehenden Modelle das Potential neuronaler Netze nicht ausschöpfen. Das vorgestellte COSIMIR-Modell (Cognitive Similarity learning in Information Retrieval) basiert auf neuronalen Netzen und lernt, die Ähnlichkeit zwischen Anfrage und Dokument zu berechnen. Es trägt somit die kognitive Modellierung in den Kern eines IR Systems. Das Transformations-Netzwerk ist ein weiteres neuronales Netzwerk, das die Behandlung von Heterogenität anhand von Expertenurteilen lernt. Das COSIMIR-Modell und das Transformations-Netzwerk werden ausführlich diskutiert und anhand realer Datenmengen evaluiert
- Content
- Kapitel: 1 Einleitung - 2 Grundlagen des Information Retrieval - 3 Grundlagen neuronaler Netze - 4 Neuronale Netze im Information Retrieval - 5 Heterogenität und ihre Behandlung im Information Retrieval - 6 Das COSIMIR-Modell - 7 Experimente mit dem COSIMIR-Modell und dem Transformations-Netzwerk - 8 Fazit
- Footnote
- Zugleich Dissertation des Verfassers an der Universität Hildesheim
Rez. in: nfd - Information 54(2003) H.6, S.379-380 (U. Thiel): "Kannte G. Salton bei der Entwicklung des Vektorraummodells die kybernetisch orientierten Versuche mit assoziativen Speicherstrukturen? An diese und ähnliche Vermutungen, die ich vor einigen Jahren mit Reginald Ferber und anderen Kollegen diskutierte, erinnerte mich die Thematik des vorliegenden Buches. Immerhin lässt sich feststellen, dass die Vektorrepräsentation eine genial einfache Darstellung sowohl der im Information Retrieval (IR) als grundlegende Datenstruktur benutzten "inverted files" als auch der assoziativen Speichermatrizen darstellt, die sich im Laufe der Zeit Über Perzeptrons zu Neuronalen Netzen (NN) weiterentwickelten. Dieser formale Zusammenhang stimulierte in der Folge eine Reihe von Ansätzen, die Netzwerke im Retrieval zu verwenden, wobei sich, wie auch im vorliegenden Band, hybride Ansätze, die Methoden aus beiden Disziplinen kombinieren, als sehr geeignet erweisen. Aber der Reihe nach... Das Buch wurde vom Autor als Dissertation beim Fachbereich IV "Sprachen und Technik" der Universität Hildesheim eingereicht und resultiert aus einer Folge von Forschungsbeiträgen zu mehreren Projekten, an denen der Autor in der Zeit von 1995 bis 2000 an verschiedenen Standorten beteiligt war. Dies erklärt die ungewohnte Breite der Anwendungen, Szenarien und Domänen, in denen die Ergebnisse gewonnen wurden. So wird das in der Arbeit entwickelte COSIMIR Modell (COgnitive SIMilarity learning in Information Retrieval) nicht nur anhand der klassischen Cranfield-Kollektion evaluiert, sondern auch im WING-Projekt der Universität Regensburg im Faktenretrieval aus einer Werkstoffdatenbank eingesetzt. Weitere Versuche mit der als "Transformations-Netzwerk" bezeichneten Komponente, deren Aufgabe die Abbildung von Gewichtungsfunktionen zwischen zwei Termräumen ist, runden das Spektrum der Experimente ab. Aber nicht nur die vorgestellten Resultate sind vielfältig, auch der dem Leser angebotene "State-of-the-Art"-Überblick fasst in hoch informativer Breite Wesentliches aus den Gebieten IR und NN zusammen und beleuchtet die Schnittpunkte der beiden Bereiche. So werden neben den Grundlagen des Text- und Faktenretrieval die Ansätze zur Verbesserung der Adaptivität und zur Beherrschung von Heterogenität vorgestellt, während als Grundlagen Neuronaler Netze neben einer allgemeinen Einführung in die Grundbegriffe u.a. das Backpropagation-Modell, KohonenNetze und die Adaptive Resonance Theory (ART) geschildert werden. Einweiteres Kapitel stellt die bisherigen NN-orientierten Ansätze im IR vor und rundet den Abriss der relevanten Forschungslandschaft ab. Als Vorbereitung der Präsentation des COSIMIR-Modells schiebt der Autor an dieser Stelle ein diskursives Kapitel zum Thema Heterogenität im IR ein, wodurch die Ziele und Grundannahmen der Arbeit noch einmal reflektiert werden. Als Dimensionen der Heterogenität werden der Objekttyp, die Qualität der Objekte und ihrer Erschließung und die Mehrsprachigkeit genannt. Wenn auch diese Systematik im Wesentlichen die Akzente auf Probleme aus den hier tangierten Projekten legt, und weniger eine umfassende Aufbereitung z.B. der Literatur zum Problem der Relevanz anstrebt, ist sie dennoch hilfreich zum Verständnis der in den nachfolgenden Kapitel oft nur implizit angesprochenen Designentscheidungen bei der Konzeption der entwickelten Prototypen. Der Ansatz, Heterogenität durch Transformationen zu behandeln, wird im speziellen Kontext der NN konkretisiert, wobei andere Möglichkeiten, die z.B. Instrumente der Logik und Probabilistik einzusetzen, nur kurz diskutiert werden. Eine weitergehende Analyse hätte wohl auch den Rahmen der Arbeit zu weit gespannt,
da nun nach fast 200 Seiten der Hauptteil der Dissertation folgt - die Vorstellung und Bewertung des bereits erwähnten COSIMIR Modells. Das COSIMIR Modell "berechnet die Ähnlichkeit zwischen den zwei anliegenden Input-Vektoren" (P.194). Der Output des Netzwerks wird an einem einzigen Knoten abgegriffen, an dem sich ein sogenannten Relevanzwert einstellt, wenn die Berechnungen der Gewichtungen interner Knoten zum Abschluss kommen. Diese Gewichtungen hängen von den angelegten Inputvektoren, aus denen die Gewichte der ersten Knotenschicht ermittelt werden, und den im Netzwerk vorgegebenen Kantengewichten ab. Die Gewichtung von Kanten ist der Kernpunkt des neuronalen Ansatzes: In Analogie zum biologischen Urbild (Dendrit mit Synapsen) wächst das Gewicht der Kante mit jeder Aktivierung während einer Trainingsphase. Legt man in dieser Phase zwei Inputvektoren, z.B. Dokumentvektor und Ouery gleichzeitig mit dem Relevanzurteil als Wert des Outputknoten an, verteilen sich durch den BackpropagationProzess die Gewichte entlang der Pfade, die zwischen den beteiligten Knoten bestehen. Da alle Knoten miteinander verbunden sind, entstehen nach mehreren Trainingsbeispielen bereits deutlich unterschiedliche Kantengewichte, weil die aktiv beteiligten Kanten die Änderungen akkumulativ speichern. Eine Variation des Verfahrens benutzt das NN als "Transformationsnetzwerk", wobei die beiden Inputvektoren mit einer Dokumentrepräsentation und einem dazugehörigen Indexat (von einem Experten bereitgestellt) belegt werden. Neben der schon aufgezeigten Trainingsnotwendigkeit weisen die Neuronalen Netze eine weitere intrinsische Problematik auf: Je mehr äußere Knoten benötigt werden, desto mehr interne Kanten (und bei der Verwendung von Zwischenschichten auch Knoten) sind zu verwalten, deren Anzahl nicht linear wächst. Dieser algorithmische Befund setzt naiven Einsätzen der NN-Modelle in der Praxis schnell Grenzen, deshalb ist es umso verdienstvoller, dass der Autor einen innovativen Weg zur Lösung des Problems mit den Mitteln des IR vorschlagen kann. Er verwendet das Latent Semantic Indexing, welches Dokumentrepräsentationen aus einem hochdimensionalen Vektorraum in einen niederdimensionalen abbildet, um die Anzahl der Knoten deutlich zu reduzieren. Damit ist eine sehr schöne Synthese gelungen, welche die eingangs angedeuteten formalen Übereinstimmungen zwischen Vektorraummodellen im IR und den NN aufzeigt und ausnutzt.
Im abschließenden Kapitel des Buchs berichtet der Autor über eine Reihe von Experimenten, die im Kontext unterschiedlicher Anwendungen durchgeführt wurden. Die Evaluationen wurden sehr sorgfältig durchgeführt und werden kompetent kommentiert, so dass der Leser sich ein Bild von der Komplexität der Untersuchungen machen kann. Inhaltlich sind die Ergebnisse unterschiedlich, die Verwendung des NN-Ansatzes ist sehr abhängig von der Menge und Qualität des Trainingsmaterials (so sind die Ergebnisse auf der Cranfield-Kollektion wegen der geringen Anzahl von zur Verfügung stehenden Relevanzurteilen schlechter als die der traditionellen Verfahren). Das Experiment mit Werkstoffinformationen im Projekt WING ist eine eher traditionelle NN-Applikation: Aus Merkmalsvektoren soll auf die "Anwendungsähnlichkeit" von Werkstoffen geschlossen werden, was offenbar gut gelingt. Hier sind die konkurrierenden Verfahren aber weniger im IR zu vermuten, sondern eher im Gebiet des Data Mining. Die Versuche mit Textdaten sind Anregung, hier weitere, systematischere Untersuchungen vorzunehmen. So sollte z.B. nicht nur ein Vergleich mit klassischen One-shot IR-Verfahren durchgeführt werden, viel interessanter und aussagekräftiger ist die Gegenüberstellung von NN-Systemen und lernfähigen IR-Systemen, die z.B. über Relevance Feedback Wissen akkumulieren (vergleichbar den NN in der Trainingsphase). Am Ende könnte dann nicht nur ein einheitliches Modell stehen, sondern auch Erkenntnisse darüber, welches Lernverfahren wann vorzuziehen ist. Fazit: Das Buch ist ein hervorragendes Beispiel der "Schriften zur Informationswissenschaft", mit denen der HI (Hochschulverband für Informationswissenschaft) die Ergebnisse der informationswissenschaftlichen Forschung seit etlichen Jahren einem größerem Publikum vorstellt. Es bietet einen umfassenden Überblick zum dynamisch sich entwickelnden Gebiet der Neuronalen Netze im IR, die sich anschicken, ein "tolerantes Information Retrieval" zu ermöglichen." - Theme
- Retrievalalgorithmen
- RSWK
- Information Retrieval / Neuronales Netz
Similar documents (author)
-
Mandl, T.: Einsatz neuronaler Netze als Transferkomponenten beim Retrieval in heterogenen Dokumentbeständen (2000)
5.14
5.1444697 = sum of: 5.1444697 = weight(author_txt:mandl in 6563) [ClassicSimilarity], result of: 5.1444697 = fieldWeight in 6563, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.625 = fieldNorm(doc=6563)
-
Mandl, T.: Web- und Multimedia-Dokumente : Neuere Entwicklungen bei der Evaluierung von Information Retrieval Systemen (2003)
5.14
5.1444697 = sum of: 5.1444697 = weight(author_txt:mandl in 1734) [ClassicSimilarity], result of: 5.1444697 = fieldWeight in 1734, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.625 = fieldNorm(doc=1734)
-
Mandl, T.: Qualität als neue Dimension im Information Retrieval : Das AQUAINT Projekt (2005)
5.14
5.1444697 = sum of: 5.1444697 = weight(author_txt:mandl in 3184) [ClassicSimilarity], result of: 5.1444697 = fieldWeight in 3184, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.625 = fieldNorm(doc=3184)
-
Mandl, T.: Neue Entwicklungen bei den Evaluierungsinitiativen im Information Retrieval (2006)
5.14
5.1444697 = sum of: 5.1444697 = weight(author_txt:mandl in 5975) [ClassicSimilarity], result of: 5.1444697 = fieldWeight in 5975, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.625 = fieldNorm(doc=5975)
-
Mandl, T.: Evaluierung im Information Retrieval : die Hildesheimer Antwort auf aktuelle Herausforderungen der globalisierten Informationsgesellschaft (2010)
5.14
5.1444697 = sum of: 5.1444697 = weight(author_txt:mandl in 4011) [ClassicSimilarity], result of: 5.1444697 = fieldWeight in 4011, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.625 = fieldNorm(doc=4011)
Similar documents (content)
-
Rojas, R.: Theorie der neuronalen Netze : eine systematische Einführung (1993)
0.49
0.4901506 = sum of: 0.4901506 = product of: 2.450753 = sum of: 0.18059851 = weight(abstract_txt:modelle in 1590) [ClassicSimilarity], result of: 0.18059851 = score(doc=1590,freq=2.0), product of: 0.19519684 = queryWeight, product of: 1.6685362 = boost 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.01676417 = queryNorm 0.92521226 = fieldWeight in 1590, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.09375 = fieldNorm(doc=1590) 0.14633138 = weight(abstract_txt:netze in 1590) [ClassicSimilarity], result of: 0.14633138 = score(doc=1590,freq=1.0), product of: 0.21374616 = queryWeight, product of: 1.7460167 = boost 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.01676417 = queryNorm 0.6846036 = fieldWeight in 1590, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.09375 = fieldNorm(doc=1590) 0.204967 = weight(abstract_txt:netzen in 1590) [ClassicSimilarity], result of: 0.204967 = score(doc=1590,freq=1.0), product of: 0.26758555 = queryWeight, product of: 1.953577 = boost 8.1705265 = idf(docFreq=33, maxDocs=44218) 0.01676417 = queryNorm 0.76598686 = fieldWeight in 1590, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.1705265 = idf(docFreq=33, maxDocs=44218) 0.09375 = fieldNorm(doc=1590) 0.2095635 = weight(abstract_txt:neuronalen in 1590) [ClassicSimilarity], result of: 0.2095635 = score(doc=1590,freq=1.0), product of: 0.27157122 = queryWeight, product of: 1.9680725 = boost 8.231152 = idf(docFreq=31, maxDocs=44218) 0.01676417 = queryNorm 0.77167046 = fieldWeight in 1590, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.09375 = fieldNorm(doc=1590) 1.7092925 = weight(subject_txt:neuronales in 1590) [ClassicSimilarity], result of: 1.7092925 = score(doc=1590,freq=2.0), product of: 0.34660456 = queryWeight, product of: 2.2233937 = boost 9.298992 = idf(docFreq=10, maxDocs=44218) 0.01676417 = queryNorm 4.9315352 = fieldWeight in 1590, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 9.298992 = idf(docFreq=10, maxDocs=44218) 0.375 = fieldNorm(doc=1590) 0.2 = coord(5/25)
-
Braun, H.: Neuronale Netze : Optimierung durch Lernen und Evolution (1997)
0.43
0.43242094 = sum of: 0.43242094 = product of: 2.702631 = sum of: 0.23607741 = weight(abstract_txt:neuronaler in 730) [ClassicSimilarity], result of: 0.23607741 = score(doc=730,freq=2.0), product of: 0.16713154 = queryWeight, product of: 1.0917255 = boost 9.131938 = idf(docFreq=12, maxDocs=44218) 0.01676417 = queryNorm 1.4125246 = fieldWeight in 730, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 9.131938 = idf(docFreq=12, maxDocs=44218) 0.109375 = fieldNorm(doc=730) 0.21069828 = weight(abstract_txt:modelle in 730) [ClassicSimilarity], result of: 0.21069828 = score(doc=730,freq=2.0), product of: 0.19519684 = queryWeight, product of: 1.6685362 = boost 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.01676417 = queryNorm 1.0794144 = fieldWeight in 730, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.109375 = fieldNorm(doc=730) 0.24143445 = weight(abstract_txt:netze in 730) [ClassicSimilarity], result of: 0.24143445 = score(doc=730,freq=2.0), product of: 0.21374616 = queryWeight, product of: 1.7460167 = boost 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.01676417 = queryNorm 1.1295382 = fieldWeight in 730, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.109375 = fieldNorm(doc=730) 2.0144207 = weight(subject_txt:neuronales in 730) [ClassicSimilarity], result of: 2.0144207 = score(doc=730,freq=1.0), product of: 0.34660456 = queryWeight, product of: 2.2233937 = boost 9.298992 = idf(docFreq=10, maxDocs=44218) 0.01676417 = queryNorm 5.81187 = fieldWeight in 730, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 9.298992 = idf(docFreq=10, maxDocs=44218) 0.625 = fieldNorm(doc=730) 0.16 = coord(4/25)
-
Brause, R.: Neuronale Netze : eine Einführung in die Neuroinformatik (1991)
0.28
0.28314748 = sum of: 0.28314748 = product of: 2.3595624 = sum of: 0.30099753 = weight(abstract_txt:modelle in 2824) [ClassicSimilarity], result of: 0.30099753 = score(doc=2824,freq=2.0), product of: 0.19519684 = queryWeight, product of: 1.6685362 = boost 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.01676417 = queryNorm 1.5420204 = fieldWeight in 2824, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 6.9783883 = idf(docFreq=111, maxDocs=44218) 0.15625 = fieldNorm(doc=2824) 0.3492725 = weight(abstract_txt:neuronalen in 2824) [ClassicSimilarity], result of: 0.3492725 = score(doc=2824,freq=1.0), product of: 0.27157122 = queryWeight, product of: 1.9680725 = boost 8.231152 = idf(docFreq=31, maxDocs=44218) 0.01676417 = queryNorm 1.2861174 = fieldWeight in 2824, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.15625 = fieldNorm(doc=2824) 1.7092925 = weight(subject_txt:neuronales in 2824) [ClassicSimilarity], result of: 1.7092925 = score(doc=2824,freq=2.0), product of: 0.34660456 = queryWeight, product of: 2.2233937 = boost 9.298992 = idf(docFreq=10, maxDocs=44218) 0.01676417 = queryNorm 4.9315352 = fieldWeight in 2824, product of: 1.4142135 = tf(freq=2.0), with freq of: 2.0 = termFreq=2.0 9.298992 = idf(docFreq=10, maxDocs=44218) 0.375 = fieldNorm(doc=2824) 0.12 = coord(3/25)
-
Churchland, P.M.: ¬Die Seelenmaschine : eine philosophische Reise ins Gehirn (1997)
0.14
0.13721043 = sum of: 0.13721043 = product of: 1.1434202 = sum of: 0.16693194 = weight(abstract_txt:neuronaler in 743) [ClassicSimilarity], result of: 0.16693194 = score(doc=743,freq=1.0), product of: 0.16713154 = queryWeight, product of: 1.0917255 = boost 9.131938 = idf(docFreq=12, maxDocs=44218) 0.01676417 = queryNorm 0.9988057 = fieldWeight in 743, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 9.131938 = idf(docFreq=12, maxDocs=44218) 0.109375 = fieldNorm(doc=743) 0.17071995 = weight(abstract_txt:netze in 743) [ClassicSimilarity], result of: 0.17071995 = score(doc=743,freq=1.0), product of: 0.21374616 = queryWeight, product of: 1.7460167 = boost 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.01676417 = queryNorm 0.7987042 = fieldWeight in 743, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 7.3024383 = idf(docFreq=80, maxDocs=44218) 0.109375 = fieldNorm(doc=743) 0.80576825 = weight(subject_txt:neuronales in 743) [ClassicSimilarity], result of: 0.80576825 = score(doc=743,freq=1.0), product of: 0.34660456 = queryWeight, product of: 2.2233937 = boost 9.298992 = idf(docFreq=10, maxDocs=44218) 0.01676417 = queryNorm 2.324748 = fieldWeight in 743, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 9.298992 = idf(docFreq=10, maxDocs=44218) 0.25 = fieldNorm(doc=743) 0.12 = coord(3/25)
-
Walker, R.: Neuronale Netze : elektronische Weiterbildung unter WINDOWS (1992)
0.11
0.11054146 = sum of: 0.11054146 = product of: 1.3817683 = sum of: 0.68322337 = weight(abstract_txt:netzen in 8081) [ClassicSimilarity], result of: 0.68322337 = score(doc=8081,freq=1.0), product of: 0.26758555 = queryWeight, product of: 1.953577 = boost 8.1705265 = idf(docFreq=33, maxDocs=44218) 0.01676417 = queryNorm 2.5532894 = fieldWeight in 8081, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.1705265 = idf(docFreq=33, maxDocs=44218) 0.3125 = fieldNorm(doc=8081) 0.698545 = weight(abstract_txt:neuronalen in 8081) [ClassicSimilarity], result of: 0.698545 = score(doc=8081,freq=1.0), product of: 0.27157122 = queryWeight, product of: 1.9680725 = boost 8.231152 = idf(docFreq=31, maxDocs=44218) 0.01676417 = queryNorm 2.5722349 = fieldWeight in 8081, product of: 1.0 = tf(freq=1.0), with freq of: 1.0 = termFreq=1.0 8.231152 = idf(docFreq=31, maxDocs=44218) 0.3125 = fieldNorm(doc=8081) 0.08 = coord(2/25)