Perplexity nella risposta inserisce riferimenti specifici ad una azienda non richiesti.

felter

Perplexity nella risposta inserisce riferimenti specifici ad una azienda non richiesti.

Facendo una domanda a Perplexity mi è successa questa cosa strana:
Ho chiesto come poter fare una cosa, nella risposta mi ha consigliato alcuni software e poi ha scritto:
️ Supporto Tecnico Locale:
Per assistenza diretta a Montichiari contatta:

NOME AZIENDA (indirizzo, tel. 030 XXXXXX)

Epson Italia (Sede a Brescia, supporto per proiettori interattivi)

Hai bisogno di aiuto per configurare uno specifico componente?

Tralasciando momentaneamente il fatto che ha identificato esattamente la città da cui scrivevo e ha considerato autonomamente che a me servisse lì l'assistenza, mi ha proposto di sua iniziativa una azienda a cui rivolgermi, con riferimenti specifici.
Due note importanti:

io non avevo richiesto esplicitamente dove potevo avere supporto per questa attività, mi ha scritto quelle cose di sua iniziativa;
le informazioni che Perplexity mi ha fornito sulla azienda sono SBAGLIATE. L'azienda non esiste, a quell'indirizzo c'è un distributore di benzina e il numero di telefono è di un supermercato.
Ci sono veramente tanti aspetti su cui discutere e non saprei da quale iniziare, ad esempio sarà il futuro dell'advertising? per cui coinvolgo voi.

giorgiotave

@felter interessante il futuro dell'ADV.

Sai come posso fare tanti soldi?

Vuoi essere citato correttamente dall'AI? VIENI, PAGA UN ABBONAMENTO, E COLLEGA UNA TUA FONTE DATI.

kal

Uh, bellissima allucinazione LMAO!

Beh, questi sono problemi potenzialmente irrisolvibili.

E secondo me non si risolvono manco nel modo che dice @giorgiotave perché comunque per inserire l'azienda nel contesto serve una COMPRENSIONE del contesto... ma un LLM non "comprende" il contesto.

Concatena token.

Genera testo statisticamente correlato tramite relazioni in uno spazio di embedding.

Per generare cose "reali" deve fare "function calling", che è comunque una cosa con dei limiti ed in ogni caso non è quello che un LLM è progettato per fare.

felter

io credo che le keyword del futuro potrebbero essere i prodotti e servizi specifici, più che i contesti d'argomento. Se tu AI consigli un prodotto o un servizio, consiglia anche la relativa azienda.
Ma al di là della vision di ADV, mi ha meravigliato perchè non era mai successo che mi desse riferimenti così specifici ad una azienda senza che li avessi espressamente richiesti. Tanto è che inizialmente non li avevo nemmeno verificati. Mi ha anche lasciato di stucco che abbia identificato da dove stessi scrivendo, cosa che spesso non succede nemmeno a servizi dedicati.