@Mamilu said:

chiavi diverse.

una domandina: per individuare le keyword delle query espanse si può far riferimento a questo strumento:

https://adwords.google.com/select/keywordsandbox

??

Grazie

@Giorgiotave said:

Quindi in pura teoria lui potrebbe andare a visionare tutti i documenti presenti nel suo database e confrontarli con il LSI.

Il LSI è un modello vettoriale che può essere usato in modo complementare oppure anche sostitutivo del term vector model.

Facendo test, penso sia possibile individuare nei risultati effetti simili a quelle che produrrebbe l'applicazione del LSI.

Ma sconsiglio di prestarvi attenzione fino a quando non si possieda una ottima comprensione del term vector model e delle sue implicazioni pratiche nell'ottimizzazione delle pagine. Anche perché il LSI è anche più difficile da comprendere.

Oltre a questa tecnica quale altre potrebbe usare?

Clustering, pseudo relevance feedback e dizionario di sinonimi sono le più diffuse.

Voglio capire bene tutti i meccanismi in modo da studiarli e vedere cosa hanno in comune e qual'è quello che potrebbe risultare il migliore.

In questo caso lo studio non basta, perché i risultati migliori si ottengono provando tutte le tecniche e individuando quella che appare la migliore. L'IR è una disciplina più empirica di quello che sipensa: si inizia con un'intuizione o deduzione matematica, ma poi bisogna vedere se i risultati pratici corrispondono a quanto veniva predetto dalla teoria.

Ecco, come detto sopra, dobbiamo anche studiare qualche tecnica il motore potrebbe usare e, una volta conosciute le più popolari, possiamo decidere di fare qualche test.

Vedi sopra: clustering e pseudo relevance feedback.

Vedo bene anche qualche tecnica basata su informazioni antropiche, ma è difficile da testare e comunque gli effetti di un'espanzione attraverso clustering mi sembrano molto più evidenti.

So bene che è molto probabile che queste tecniche vengano messe in opera per chiavi diverse

Anche se l'effetto apparente è quello, è improbabile che esistano algoritmi diversi per query diverse. In un sistema progettato decentemente, l'algoritmo dovrebbe essere unico, con alcune parti/pesi/fattori che si "affievoliscono" automaticamente (fino eventualmente ad avere valenza nulla) a seconda della query.

Si preleva il contenuto dei documenti top-ranked e filtrando i termini non utili (per es. i termini usati troppo spesso nell'intero indice e i termini usati troppo poco) si ottengono i termini con i quali verrà formata la query espansa.

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.

Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.
Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.Grazie della precisazione

Io mi riferivo, in effetti a quanto letto in "Improved Algorithms for Topic Distillation in a Hyperlinked Environment", quindi ad un'applicazione leggermente diversa ma che comunque utilizza un sistema di espansione della query:

...matching the query against the document is
usually not sufficient. Instead we use the documents in
the start set to define a broader query and match every
document in the graph against this query. Specifically,
we consider the concatenation of the first 1000 words
from each document to be the query, Q and compute
similarity(Q;D).
In our implementation, since queries are long and the
document vocabulary tends to be varied we use term
frequency weighting. We use cosine normalization in
weighting both the query and the documents since the
deviation in term vector lengths is large. See Salton...

Ed in effetti concatenando prima i termini delle query e calcolando poi il vettore della query risultante dovrei ottenere lo stesso tipo di risultato.

O no?

@beke said:

Ed in effetti concatenando prima i termini delle query e calcolando poi il vettore della query risultante dovrei ottenere lo stesso tipo di risultato.

Un risultato analogo, ma non identico. Le principali differenze sono che

1. dei documenti vengono presi solo i primi X caratteri mentre un indexer full text generalmente ingoia tutto il testo (tranne le stop word);

2. ad essere sommati alla query sono i termini, non i vettori dei documenti (anche se poi vengono trasformati in vettori);

3. il tipo di somma pesata prevede che ai termini della query originaria venga applicato un peso triplo rispetto ai termini estrapolati dai documenti.

Questo approccio è anche computazionalmente più oneroso rispetto alle semplici somme tra vettori compiute da un normale pseudo relevance feedback ed i risultati sono sicuramente diversi, anche se bisognerebbe implementare i due sistemi per misurarne la diversità (che comunque varia anche in funzione del corpus e sicuramente di altri fattori).

La lista dei termini complementari è sicuramente un valido punto di partenza !!

Credo che i passaggi importanti di questo concetto siano:

In un modello vettoriale, l'espanzione avviene sommando (algebricamente) al vettore della query iniziale i vettori dei documenti estrapolati con la prima ricerca.

Esistono vari modiper effettuare la somma. A volte è una somma, altre volte una media, ecc.

Tutto dipende da quale tecnica viene usata dal motore per espandere le query.

Non si conosce quindi *quale *espansione o come il MDR la applichi.

...qui non mi ci ritrovo...a me pare che i termini li SOTTRAGGA dalla ricerca invece di aggiungerli...sbaglio?
e perchè lo fa? se io utente cerco HOTEL ROMA perchè il mdr dovrebbe togliere la key hotel?
Tentando di sviluppare l'esempio dell'espansione della query di mamilu su Hotel Roma;
-" il MDR prende la richiesta hotel Roma e la espande, aggiungendovi con parametri tutti suoi altri termini correlati, come Giorgio ci ha mostrato su con vendita computer.

Cioè il MDR. con tecniche conosciute solo a lui, parte dalla query *hotel * e la espande aggiungendovi termini a sua discrezione.

Facendo il percorso inverso possiamo scoprire questi termini:
Digitiamo **hotel ** e vediamo la risposta di 505 milioni; i termini hotel in neretto... ma anche altri.

E allora togliamo hotel dalla query [-hotel] e scopriamo che anche senza nessun temine hotel il MDR ci restituisce 106 milioni di pagine mostrandoci in neretto INN -accommodation -lodging

E' evidente che quei termini il motore, in quel caso, quel giorno [e chissà cos'altro] considera espansioni della query Hotel

Rifacendo la ricerca togliendo una ad una quelle key, vediamo l'importanza che il MDR ha attribuito ad ogni word che ha inserito nell'espansione della query Hotel

Rileggiamo:

~hotel 505.000.000
~hotel -hotel 142.000.000
~hotel -hotel -INN 106.000.000
~hotel -hotel -INN -accommodation 38.400.000
~hotel -hotel -INN -accommodation -lodging non ha prodotto risultati in nessun documento.,

Ne deriva alla fine una serp "abbastanza limitata" che sarebbe opportuno analizzare per scoprire in maniera "relativamente semplice" la ragione per cui i siti restati in serp dopo la scrematura sono restati li !

Essi teoricamente dovrebbero avere [condizionale d'obbligo] i termini che fanno la differenza...

Ne deriva alla fine una serp "abbastanza limitata" che sarebbe opportuno analizzare per scoprire in maniera "relativamente semplice" la ragione per cui i siti restati in serp dopo la scrematura sono restati li !

~hotel -hotel -INN -accommodation -lodging non ha prodotto risultati in nessun documento.,

Query hotel, il MDR mostra un risultato che include altri termini e togliendoli uno ad uno il risultato è zero, non ne restano lì.

Finchè la serp mostra risultati significa che un ulteriore termine, frutto dell'espansione è presente.

Nella fase intermedia, cioè dopo aver tolto il primo o il secondo dei termini frutto dell'espansione, quella serp limitata non si presta ad analisi di sorta [relativamente all'espansione] in quanto non conosciamo il MDR che tecnica usi per quell'espansione della query.

Ci è però possibile estrapolare quei termini

Vorrei chiarire quello che volevo trasmettervi che probabilmente strampalatamente ha creato anziche fare chiarezza molta confusione.

Io mi regolo nel seguente modo...

Poniamo il caso che voglia cercare i termini utilizzati da gg per fare l'espansione della query sulla keyword Paperopoli

Prima escludo tutti i termini che sicuramente, vuoi per conoscenza, vuoi per altri fattori sono certo che gg considera

Paperone
Paperino
Paperina
Banda Bassotti
Qui quo qua
Nonna papera
Archimede

A questo punto [dando per scontato quanto scritto sopra] , nei siti restanti dovrò cercare quelli che non ho utilizzato ma che GG invece considera ! Se come risultato finale avrò invece 0, teoricamente dovrebbero essere quelli che ho indicato!
Lo so è un ragionimento contorto, però lo ritengo attendibile, non credete ?

visto che questa cosa dell'espansione mi incuriosiva e volevo capirci di + (come yak) ho fatto qualche prova..

devo dire che per es con hotel a firenze il discorso riportato da andrea funziona.. si trovano molti termini: inn, accommodation, tourism, lodging, .. prima di arrivare a non ha prodotto risultati in nessun documento

pero' se provo con altre keyword non mi capacito molto di come ragioni...
ad es ho provato con

~viaggi -viaggi -voli non ha prodotto risultati in nessun documento

possibile che non aggiunga altri termini rilevanti? che dia per scontato che la parola più legata e significativa per i viaggi siano i voli?
quindi forse un viaggio in nave, treno, pullmann è davvero poco rilevante?

e in inglese?
ho provato prima in italiano:
~toscana -toscana -firenze -livorno -lucca -tuscany non ha prodotto risultati in nessun documento (interessante scoprire che lucca e livorno contino più di siena e arezzo!)

ma nell'inglese..
~tuscany -tuscany - non ha prodotto risultati in nessun documento.

che senso ha?

scusami giorgio se le mie domande ti possono sembrare fuori luogo. ho capito a livello teorico il ragionamento semantico.. ma nel pratico ho ancora difficoltà

Vorrei poter scrivere molto di più sull'argomento, ma il tempo è tiranno.

Risposta lampo: non confondete l'espansione esplicita (quella che l'utente chiede con l'operatore "~") con l'espansione implicita, operata da Google per conto suo, a monte.

L'operatore "~" non può fornire indicazioni precise su quali termini Google utilizza per espandere implicitamente una query.

Google espande le query per conto suo, con termini che sa solo lui.

L'operatore "~" è tutta un'altra storia. E' comunque sfruttabile per capire qualcosa in più, ma non sufficiente per sapere quali termini Google realmente usa per espandere le query.

@nelli said:

ho provato prima in italiano:
~toscana -toscana -firenze -livorno -lucca -tuscany non ha prodotto risultati in nessun documento (interessante scoprire che lucca e livorno contino più di siena e arezzo!)

ma nell'inglese..
~tuscany -tuscany - non ha prodotto risultati in nessun documento.

che senso ha?
Difficile dirlo.
Certo è, come ha detto Low, che questo è un'altro dei casi in cui si rischia di fare confusione fra quello che il motore di ricerca evidenzia nei risultati e quello che usa per ordinarli.

Il fatto di evidenziare alcune parole nelle pagine dei risultati della query con la tilde (quello che Low chiama "espansione esplicita") può essere semplicemente frutto di studi di usabilità o chissà che altro ed usare criteri anche molto diversi da una espansione della query effettuata a monte (e a noi non visibile, "implicita" quindi) ed usata per la selezione e/o l'ordinamento dei documenti.

Quest'ultima può essere effettuata in più di un modo, per esempio (e molto a grandi linee, perchè meglio non so fare :D):

Pseudo feedback - aggiungendo alla query originale parte del contenuto dei documenti "top ranked" (ritenuti attinenti e quindi contenenti termini correlati) e poi ordinando nuovamente i risultati.

Co-occorrenza delle keywords - Valutando quali siano nell'intero indice del motore i termini significativi che più frequentemente coesistono con la query.

Oppure utilizzando sistemi complessi che valutano relazioni semantiche, non dimentichiamoci che Adsense usa un sistema del genere, sviluppato da Applied Semantics, acquistata all'uopo da Google.

Esistono anche sistemi probabilistici e probabilmente molto altro, ma sono sicuro che appena avrà un pò di tempo Low scriverà uno dei suoi post imperdibili a riguardo

Scusate, sono un po' confuso:

[url=http://www.google.it/search?q=vendita]vendita: 35.100.000 risultati
[url=http://www.google.it/search?q=%7Evendita]~vendita: 16.800.000 risultati
[url=http://www.google.it/search?q=%7Evendita+-vendita]~vendita -vendita: 3.760.000 risultati

Quello che non capisco è come mai la seconda query (quella con la tilde) restituisce un insieme di risultati più limitato della prima.

Non è per caso che stiamo dando per scontato qualcosa che in realtà non lo è (l'attendibilità di questi risultati, per esempio)?

Aggiungo un'altra considerazione: l'operatore tilde è utile in effetti per vedere quali sono i termini che Google considera sinonimi di una determinata keyword, e ottimizzare il proprio sito di conseguenza. Però non dobbiamo dimenticarci che sono le prime tre pagine di risultati quelle che contano (ossia quelle che vengono effettivamente consultate e cliccate dagli utenti), perciò se la keyword strategica nel nostro mercato è "pippo", difficilmente potremo salire nella top-10 (o nella top-30) ottimizzando per "pippe".

Battute a parte, il mio ragionamento fila, spero?

Quello che non capisco è come mai la seconda query...

...perchè non hai letto il thread del tutto

Tenta, e vedrai che capirai immediatamente.

@Mamilu said:

...perchè non hai letto il thread del tutto

Tenta, e vedrai che capirai immediatamente.

OK, credo di aver afferrato il concetto fondamentale: l'insieme di risultati per la query espansa da Google ([url=http://www.google.it/search?q=vendita]vendita) è più esteso di quello per la query espansa dall'utente ([url=http://www.google.it/search?q=%7Evendita]~vendita) perché l'espansione implicita e quella esplicita in realtà fanno riferimento a due algoritmi distinti e scorrelati.

Ero stato indotto a conclusioni erronee dall'esempio contenuto nel post iniziale di GT, quello con la query [url=http://www.google.it/search?q=computer]computer, per la quale l'operatore tilde produce un'espansione del set di risultati, e non un restringimento come in questo caso.

Perciò, a questo punto, credo di concordare al 100% con quanto scrive LowLevel:

@LowLevel said:

L'operatore "~" non può fornire indicazioni precise su quali termini Google utilizza per espandere implicitamente una query.

Google espande le query per conto suo, con termini che sa solo lui.

L'operatore "~" è tutta un'altra storia. E' comunque sfruttabile per capire qualcosa in più, ma non sufficiente per sapere quali termini Google realmente usa per espandere le query.

Sono però anche d'accordo con GT sul fatto che l'espansione esplicita della query sia utile per ampliare il "tema" del sito con sinonimi e parole correlate (come quelle restituite da un thesaurus).

Questo può --sottolineo può-- produrre due effetti positivi, secondo me:

• migliorare leggermente il posizionamento del sito nel caso il motore di ricerca utilizzi algoritmi di tipo semantico (che prendano cioè in considerazione il tema del sito) in fase di ranking, soprattutto per query molto generiche;
• aiutarci a posizionare il sito per la "coda lunga" di keyphrase meno competitive (ma potenzialmente altrettanto importanti per numero complessivo di ricerche) costituita da sinonimi e parole correlate.

Quello che non può aiutarci a fare, sempre secondo me, è migliorare drammaticamente il posizionamento per parole chiave molto competitive (prontissimo ad essere smentito su questo punto). Insomma, ribadisco il concetto del mio post precedente: l'obiettivo è quello di figurare nei primi 10/20/30 risultati, non nei primi 30.000.000 (e l'operatore tilde temo lo utilizzino solo i SEO e pochi altri).

Siete d'accordo con questa interpretazione?

Mi sembra di non aver compreso bene, dalla tua descrizione, l'uso dell'operatore tilde che intendi fare

@Mamilu said:

Mi sembra di non aver compreso bene, dalla tua descrizione, l'uso dell'operatore tilde che intendi fare

Compilare una lista di keyword correlate per rafforzare e/o espandere il "tema" del sito (scusa, pensavo si capisse dal post, ma forse sono andato un po' di fretta).

<added>Non mi avete detto cosa pensate della mia analisi. Se ho scritto delle ca%%ate ditemelo pure, non mi offendo mica. Anzi. ;)</added>

Non mi avete detto cosa pensate della mia analisi.

Senza dubbio interessante.

Credo che l'operatore tilde abbia diverse funzioni e la tua analisi spazia dal concetto iniziale di Giorgio, anche se restando in tema.

Col giochetto di togliere con la ~ le key cercate da una serp importante e vedere a quali termini in sequenza il MDR continua a dare rilievo, si intendeva cercare di portare il livello medio dei forumisti a valutare relativamente al posizionamento aspetti diversi dalla key density, dal PR, dai bold ecc.

Anche il tono del titolo, oltre a qualche battuta, è scherzoso, quasi provocatorio.

Tuttavia lo sviluppo che è stato dato al thread mi sembra in tema ed adeguato, quindi bene così.

@alex2k said:

una domandina: per individuare le keyword delle query espanse si può far riferimento a questo strumento:

https://adwords.google.com/select/keywordsandbox

??

Grazie

Alex2k ha fatto una domanda-considerazione molto interessante a cui non è stata data risposta. Il tool di google dovrebbe costituire, a logica, la risposta lato motore all'espansione della query, sempre che i dati forniti siano completi e rilevanti. L'operatore ~ può fornire spunti relativi alla documentazione esistente, e non a quella potenzialmente sviluppabile che il motore cerca di prevedere con i suoi mezzi che non ci sono noti (e qui si spiegano quei casi in cui l'operatoere ~ fornisce dati numericamente inferiori alla ricerca pura).
IMHO penso che quel tool sia molto molto significativo e che intersecato con i tool di overture, wordtracker miva, e naturalmente con tutto il discorso sull' espansione della query lato utente, possa fare la differenza a livello di ottimizzazione. Miglioramenti ancora più accentuati si avrebbero sviluppando questo concetto in maniera ricorsiva: prendo come termine radice tutti i termini che sto considerando
Non sono d'accordo che questo sistema possa dare solo scampoli di miglioramento, visto che i tre macrofattori su cui i motori si concentrano sono contenuti, link popularity ed anzianità del sito(penso del resto ques'ultimo in misura minore).
Da tutto questo discorso si può trarre, e la sto traendo in questo momento :), una considerazione altrettanto interessante.
L'operatore ~, in definitiva, è un eccellente strumento con cui il motore, implicitamente, suggerisce quei campi in cui c'è ancora "molto da scrivere" (almeno secondo il motore stesso) vale a dire quei casi in cui l'operatore ~ restituisce meno risultati rispetto alla ricerca pura, e quindi, a parità di altri fattori, quei campi che sono più facilmente attaccabili per "l'operazione posizionamento sui motori di ricerca".

Ho letto da cima a fondo questo thread e mi diverte pensare una cosa.

Se tentassi di riassumere tutto in una riga, il risultato sarebbe: content is king. Volendo dare una spiegazione leggermente più lunga, direi: se vuoi posizionare per una parola, scrivi quello che sai sulla stessa e sulle altre che sono collegate.

Prossimo step. Quali sono quelle collegate? Semplice. Quelle che la gente usa.

Prossimo step ancora. Quali sono quelle più collegate e quelle meno? Semplicissimo. Quelle che la gente usa di più vs. quelle che la gente usa di meno.

Perché mi viene da ridere? Perché qualcuno lo diceva 5 anni fa...

Bella questa discussione. Mi registro per seguirla Chissà che non arrivi la risposta scientifica a qualcosa che alcuni credono da molto.