Complimenti discussione molto interessante.

Spero di aver capito correttamente, la tecnica di GiorgioTave (~key1 -key1) ci permette di capire quali altre key sono strettamente attinenti e quindi da includere nei contenuti, Giusto?

Confermo però come è stato detto che la tecnica è valida per key davvero ompetitive. Le altre non danno risultati. Perchè?

@Giorgiotave said:

Quindi in pura teoria lui potrebbe andare a visionare tutti i documenti presenti nel suo database e confrontarli con il LSI.
Oltre a questa tecnica quale altre potrebbe usare? Un sistema per l'espansione della query che secondo me ha buone probabilità di essere usato è quello a cui ha già accennato Low e che Bharat ha usato per esempio nel suo algoritmo di Topic Distillation.

Si esegue la query dell'utente e si ordinano i risultati normalmente, dopodichè si assume che i risultati top-ranked siano rilevanti, vuoi per questioni di contenuto che di PR o di Trust.

Si preleva il contenuto dei documenti top-ranked e filtrando i termini non utili (per es. i termini usati troppo spesso nell'intero indice e i termini usati troppo poco) si ottengono i termini con i quali verrà formata la query espansa.

La si esegue ed infine si ordinano i risultati eseguendo il confronto fra i logaritmi dei vettori di termini dei documenti e della query.

@Mamilu said:

chiavi diverse.

una domandina: per individuare le keyword delle query espanse si può far riferimento a questo strumento:

https://adwords.google.com/select/keywordsandbox

??

Grazie

@Giorgiotave said:

Quindi in pura teoria lui potrebbe andare a visionare tutti i documenti presenti nel suo database e confrontarli con il LSI.

Il LSI è un modello vettoriale che può essere usato in modo complementare oppure anche sostitutivo del term vector model.

Facendo test, penso sia possibile individuare nei risultati effetti simili a quelle che produrrebbe l'applicazione del LSI.

Ma sconsiglio di prestarvi attenzione fino a quando non si possieda una ottima comprensione del term vector model e delle sue implicazioni pratiche nell'ottimizzazione delle pagine. Anche perché il LSI è anche più difficile da comprendere.

Oltre a questa tecnica quale altre potrebbe usare?

Clustering, pseudo relevance feedback e dizionario di sinonimi sono le più diffuse.

Voglio capire bene tutti i meccanismi in modo da studiarli e vedere cosa hanno in comune e qual'è quello che potrebbe risultare il migliore.

In questo caso lo studio non basta, perché i risultati migliori si ottengono provando tutte le tecniche e individuando quella che appare la migliore. L'IR è una disciplina più empirica di quello che sipensa: si inizia con un'intuizione o deduzione matematica, ma poi bisogna vedere se i risultati pratici corrispondono a quanto veniva predetto dalla teoria.

Ecco, come detto sopra, dobbiamo anche studiare qualche tecnica il motore potrebbe usare e, una volta conosciute le più popolari, possiamo decidere di fare qualche test.

Vedi sopra: clustering e pseudo relevance feedback.

Vedo bene anche qualche tecnica basata su informazioni antropiche, ma è difficile da testare e comunque gli effetti di un'espanzione attraverso clustering mi sembrano molto più evidenti.

So bene che è molto probabile che queste tecniche vengano messe in opera per chiavi diverse

Anche se l'effetto apparente è quello, è improbabile che esistano algoritmi diversi per query diverse. In un sistema progettato decentemente, l'algoritmo dovrebbe essere unico, con alcune parti/pesi/fattori che si "affievoliscono" automaticamente (fino eventualmente ad avere valenza nulla) a seconda della query.

Si preleva il contenuto dei documenti top-ranked e filtrando i termini non utili (per es. i termini usati troppo spesso nell'intero indice e i termini usati troppo poco) si ottengono i termini con i quali verrà formata la query espansa.

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.

Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.
Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.Grazie della precisazione

Io mi riferivo, in effetti a quanto letto in "Improved Algorithms for Topic Distillation in a Hyperlinked Environment", quindi ad un'applicazione leggermente diversa ma che comunque utilizza un sistema di espansione della query:

...matching the query against the document is
usually not sufficient. Instead we use the documents in
the start set to define a broader query and match every
document in the graph against this query. Specifically,
we consider the concatenation of the first 1000 words
from each document to be the query, Q and compute
similarity(Q;D).
In our implementation, since queries are long and the
document vocabulary tends to be varied we use term
frequency weighting. We use cosine normalization in
weighting both the query and the documents since the
deviation in term vector lengths is large. See Salton...

Ed in effetti concatenando prima i termini delle query e calcolando poi il vettore della query risultante dovrei ottenere lo stesso tipo di risultato.

O no?

@beke said:

Ed in effetti concatenando prima i termini delle query e calcolando poi il vettore della query risultante dovrei ottenere lo stesso tipo di risultato.

Un risultato analogo, ma non identico. Le principali differenze sono che

1. dei documenti vengono presi solo i primi X caratteri mentre un indexer full text generalmente ingoia tutto il testo (tranne le stop word);

2. ad essere sommati alla query sono i termini, non i vettori dei documenti (anche se poi vengono trasformati in vettori);

3. il tipo di somma pesata prevede che ai termini della query originaria venga applicato un peso triplo rispetto ai termini estrapolati dai documenti.

Questo approccio è anche computazionalmente più oneroso rispetto alle semplici somme tra vettori compiute da un normale pseudo relevance feedback ed i risultati sono sicuramente diversi, anche se bisognerebbe implementare i due sistemi per misurarne la diversità (che comunque varia anche in funzione del corpus e sicuramente di altri fattori).

La lista dei termini complementari è sicuramente un valido punto di partenza !!

Credo che i passaggi importanti di questo concetto siano:

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.

Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.

Tutto dipende da quale tecnica viene usata dal motore per espandere le query.

Non si conosce quindi *quale *espansione o come il MDR la applichi.

...qui non mi ci ritrovo...a me pare che i termini li SOTTRAGGA dalla ricerca invece di aggiungerli...sbaglio?
e perchè lo fa? se io utente cerco HOTEL ROMA perchè il mdr dovrebbe togliere la key hotel?
Tentando di sviluppare l'esempio dell'espansione della query di mamilu su Hotel Roma;
-" il MDR prende la richiesta hotel Roma e la espande, aggiungendovi con parametri tutti suoi altri termini correlati, come Giorgio ci ha mostrato su con vendita computer.

Cioè il MDR. con tecniche conosciute solo a lui, parte dalla query *hotel * e la espande aggiungendovi termini a sua discrezione.

Facendo il percorso inverso possiamo scoprire questi termini:
Digitiamo **hotel ** e vediamo la risposta di 505 milioni; i termini hotel in neretto... ma anche altri.

E allora togliamo hotel dalla query [-hotel] e scopriamo che anche senza nessun temine hotel il MDR ci restituisce 106 milioni di pagine mostrandoci in neretto INN -accommodation -lodging

E' evidente che quei termini il motore, in quel caso, quel giorno [e chissà cos'altro] considera espansioni della query Hotel

Rifacendo la ricerca togliendo una ad una quelle key, vediamo l'importanza che il MDR ha attribuito ad ogni word che ha inserito nell'espansione della query Hotel

Rileggiamo:

~hotel 505.000.000
~hotel -hotel 142.000.000
~hotel -hotel -INN 106.000.000
~hotel -hotel -INN -accommodation 38.400.000
~hotel -hotel -INN -accommodation -lodging non ha prodotto risultati in nessun documento.,

Ne deriva alla fine una serp "abbastanza limitata" che sarebbe opportuno analizzare per scoprire in maniera "relativamente semplice" la ragione per cui i siti restati in serp dopo la scrematura sono restati li !

Essi teoricamente dovrebbero avere [condizionale d'obbligo] i termini che fanno la differenza...

Ne deriva alla fine una serp "abbastanza limitata" che sarebbe opportuno analizzare per scoprire in maniera "relativamente semplice" la ragione per cui i siti restati in serp dopo la scrematura sono restati li !

~hotel -hotel -INN -accommodation -lodging non ha prodotto risultati in nessun documento.,

Query hotel, il MDR mostra un risultato che include altri termini e togliendoli uno ad uno il risultato è zero, non ne restano lì.

Finchè la serp mostra risultati significa che un ulteriore termine, frutto dell'espansione è presente.

Nella fase intermedia, cioè dopo aver tolto il primo o il secondo dei termini frutto dell'espansione, quella serp limitata non si presta ad analisi di sorta [relativamente all'espansione] in quanto non conosciamo il MDR che tecnica usi per quell'espansione della query.

Ci è però possibile estrapolare quei termini

@mr yak said:

qui non mi ci ritrovo...a me pare che i termini li SOTTRAGGA dalla ricerca invece di aggiungerli...sbaglio?
e perchè lo fa? se io utente cerco HOTEL ROMA perchè il mdr dovrebbe togliere la key hotel?

Mr Yak,

siamo noi che li sottraiamo alla query per vederli tutti

Ne deriva alla fine una serp "abbastanza limitata" che sarebbe opportuno analizzare per scoprire in maniera "relativamente semplice" la ragione per cui i siti restati in serp dopo la scrematura sono restati li !

Non è limitata, quella è solo l'espansione lato-utente

secondo me stiamo parlando di qualcosa di primordiale

come si nota dalla query http://www.google.it/search?q=vendita+computer
rimangono saldamente in alto i siti che almeno hanno le key nel titolo

attualmente i fattori che google valuta sono altri, secondo me, e riguardano il peso che l'algoritmo assegna al sito in generale (per questo è nata la sandbox o filtri simili)

questo dipende dal grosso problema dello spam che google ha dovuto combattere...

ho letto cmq di cambiamenti nel senso di una ricerca semantica... credo che tutti i motori stiano cercando soluzioni per adottare algoritmi su base neurale... in questo caso vedo bene il discorso di giorgio è solo pero' una linea che i mdr stanno seguendo per migliorare le serp

credo anche che sia vero che non è importante la kdensity della pagina in generale quanto quella del sito in generale... nel senso che mi pare che google valuti non più la singola pagina ma tutte le pagine indicizzate di un dominio (in questo senso forse l'espansione potrebbe essere utile)

@j0sh said:

come si nota dalla query http://www.google.it/search?q=vendita+computer
rimangono saldamente in alto i siti che almeno hanno le key nel titolo

Non mi sembra che tutti e dieci i domini hanno le key nel titolo.

Solo un 60%

vendita computer è diversa da vendita e anche da computer

@Giorgiotave said:

Non mi sembra che tutti e dieci i domini hanno le key nel titolo.

Solo un 60%

vendita computer è diversa da vendita e anche da computer

allora non si spiega... secondo la logica dell'espansione... perchè io sia in prima pagina con http://www.google.it/search?q=carnevale+di+venezia (dgmag.it)

@j0sh said:

allora non si spiega... secondo la logica dell'espansione... perchè io sia in prima pagina con http://www.google.it/search?q=carnevale+di+venezia (dgmag.it)

Hai presentato un articolo che se fosse stato fatto in un sito a tema sarebbe apparso nelle prime tre posizioni.

Io non ci vedo niente di strano

L'espansione della query è uno dei modi di avvicinarci ai motori, ma sono così complicati che ci sono altri mille fattori.

Basare lo studio su uno di essi è folle. L'espansione è molto importante

@ mr yak

Devi mischiare quel sistema ed il sandbox di Google e poi il buon senso.

Devi conosce l'argomento e sapere dove si trova il Colosseo, altrimenti che senso ha?

@Giorgiotave said:

L'espansione della query è uno dei modi di avvicinarci ai motori, ma sono così complicati che ci sono altri mille fattori.

Basare lo studio su uno di essi è folle. L'espansione è molto importante

secondo me è uno dei tanti fattori, appunto, ma attualmente non cosi' importante... a pesare di più sono altri, almeno per ora

@j0sh said:

secondo me è uno dei tanti fattori, appunto, ma attualmente non cosi' importante... a pesare di più sono altri, almeno per ora

Questo non è vero del tutto.

In alcuni casi questa può aiutare molto. Per esempio nei siti nuovi, usando l'espansione si ottengono buoni risultati.

Con i siti navigati è facile posizionare e non sai perchè ti ritrovi primo, o meglio lo sai che sei popolare.

Inoltre l'epansionde della query è molto utile per creare sezioni nuove nei siti ed ampliare i temi, rafforzando il valore del dominio.

La si sta sottovalutando troppo, IMHO

@Giorgiotave said:

La si sta sottovalutando troppo, IMHO

IMHO sarà più importante in futuro... pero', anche se da punti di vista diversi, diciamo la stessa cosa... cominciamo a ragionare in questo senso

Vorrei chiarire quello che volevo trasmettervi che probabilmente strampalatamente ha creato anziche fare chiarezza molta confusione.

Io mi regolo nel seguente modo...

Poniamo il caso che voglia cercare i termini utilizzati da gg per fare l'espansione della query sulla keyword Paperopoli

Prima escludo tutti i termini che sicuramente, vuoi per conoscenza, vuoi per altri fattori sono certo che gg considera

Paperone
Paperino
Paperina
Banda Bassotti
Qui quo qua
Nonna papera
Archimede

A questo punto [dando per scontato quanto scritto sopra] , nei siti restanti dovrò cercare quelli che non ho utilizzato ma che GG invece considera ! Se come risultato finale avrò invece 0, teoricamente dovrebbero essere quelli che ho indicato!
Lo so è un ragionimento contorto, però lo ritengo attendibile, non credete ?

visto che questa cosa dell'espansione mi incuriosiva e volevo capirci di + (come yak) ho fatto qualche prova..

devo dire che per es con hotel a firenze il discorso riportato da andrea funziona.. si trovano molti termini: inn, accommodation, tourism, lodging, .. prima di arrivare a non ha prodotto risultati in nessun documento

pero' se provo con altre keyword non mi capacito molto di come ragioni...
ad es ho provato con

~viaggi -viaggi -voli non ha prodotto risultati in nessun documento

possibile che non aggiunga altri termini rilevanti? che dia per scontato che la parola più legata e significativa per i viaggi siano i voli?
quindi forse un viaggio in nave, treno, pullmann è davvero poco rilevante?

e in inglese?
ho provato prima in italiano:
~toscana -toscana -firenze -livorno -lucca -tuscany non ha prodotto risultati in nessun documento (interessante scoprire che lucca e livorno contino più di siena e arezzo!)

ma nell'inglese..
~tuscany -tuscany - non ha prodotto risultati in nessun documento.

che senso ha?

scusami giorgio se le mie domande ti possono sembrare fuori luogo. ho capito a livello teorico il ragionamento semantico.. ma nel pratico ho ancora difficoltà