L'IA Bing si appropria dei contenuti o è creatività?

[infermieri.attivi]

L'IA Bing si appropria dei contenuti o è creatività?

Ho utilizzato l'IA di Bing con la sua chat, molto carino, quindi ho scritto "infermieri".
La risposta è pertinente e c'è la fonte, ovvero il link ai siti di riferimento e non alla pagina.
L'IA non ha in sè il sapere della materia ma lo copia/apprende con la domanda e genera un contenuto nuovo.
Per capire, nel mio piccolo, se è un copia incolla o se quella definizione di infermieri è nuova, verifico con google che non mi ritrova delle pagine di origine.
Ora mentre google prendeva uno spezzone di testo e lo proponeva come risposta alla domanda, linkando la pagina di origine.
L'I-A di Bing genera un testo nuovo e sotto altre informazioni. Il lettore tipo trova una bibliografia con un sito di riferimento oppure la pagina di origine dipende dalla domanda.
Ovviamente non manca tanta pubblicità, bing deve pagare in qualche modo chi ci lavora.

Nel vedere tanto entusiasmo per le IA in arrivo mi sorgono alcune domande

1. L'IA è creativa o fa solo dei copia incolla elaborati?
   Non è un problema da poco perché non credo che la creatività nasca solo dal fare qualcosa di nuovo, se io prendo una biro e faccio uno scarabocchio su un foglio non sono creativo, resta uno scarabocchio, se lo fa un automa con l'IA la chiamiamo creatività?

2. L'IA può essere consapevole?
   Creatività e consapevolezza dovrebbero andare di pari passo. Un creativo è consapevole di esplorare qualcosa di nuovo. Non credo che l'IA possa essere consapevole che le risposte che offre non sono solo parole ma possono portare ad azioni. Nella mente di chi le ha realizzate ci sarà l'obiettivo e l'IA avrà degli obiettivi, di ottenere una vendita, un click su di una pubblicità. Ma l'IA non può essere consapevole dell'effetto nel mondo reale delle nostre domande? Sicuramente traccerà i nostri spostamenti, saprà che chiediamo il prezzo delle scarpe sarà per confrontarle con quelle del negozio che abbiamo davanti. Ma se uno cerca di sostenere i propri convincimenti su una setta, su una terapia medica o non terapia, l'IA gli andrà dietro per dirigere il lettore o lo informerà.
   Provando a porre l'IA domande come se fossi un novax o se posso copiargli i testi ha molte risposte standardizzate e la creatività si può spegnere.

3. quindi l'ultima domanda, l'IA sarà neutrale o farà il profilo psicologico dell'utilizzatore per manipolarne le scelte?

[kal]

Super sintetico:

1. Né l'una né l'altra. Potremmo dire che fa un "copia-incolla probabilistico". Riscrive le cose "con parole sue".

2. No, ad oggi. Checché ne dicano gli entusiasti del momento, reagisce solo agli stimoli. Completa quello che gli viene dato. È una macchina e basta.

Ci si può facilmente illudere che sia autocosciente semplicemente perché è una macchina DEL LINGUAGGIO e noi esseri umani usiamo il linguaggio per esprimere la nostra autocoscienza.

Siamo quindi portati per istinto a considerarla tale, ma non lo è manco lontanamente.

3. Non sono neutrali. Hanno due bias importanti, ovvero:

a) quello dipendente dal corpus di addestramento (es. se nel corpus ci sono molti testi che dipingono una certa popolazione come inferiore, sarà portato a scrivere di quella popolazione come inferiore)

b) nel caso degli LLM "mediati" da un'azienda (Bing, Bard, ChatGPT, Copilot, etc.) c'è anche il bias delle "istruzioni di sistema" che sono per ciascuno differenti a seconda dello "stile" che gli vogliono dare.

[infermieri.attivi]

@kal sto giocando con la chat bing, si autodefinisce creativa, con possibilità e limiti imposti.
Nega di mantenere l'informazione sul mio nome e sul mio sesso, ma dice di conservare il testo, quindi se lo scrivo e gli chiedo se domani sa di che sesso sono lo nega, eppure dice di non mentire, se gli chiedo quanto tempo conserva il testo, dice temporaneamente, ma non mi da un limite, insisto e gira come un disco con le stesse risposte.
Quando si stanca mi saluta con un "Forse è ora di passare a un nuovo argomento. Ricominciamo da capo."

[overclokk]

@infermieri-attivi concordo su quanto detto da @kal vorrei solo fare una precisazione sul punto 1 di @kal solo perché non vorrei passasse il messaggio che una AI tipo ChatGPT faccia un copia-incolla, in soldoni è per far capire i profani ma è più un generare (predirre) le parole che seguono più che un copia-incolla.

Bamalmente prova con:

Il celo è...

Oggi ...

Il testo sarà appunto generato in modo da avere un risultato il più vicino a qualcosa che per noi ha senso, non è ragionato e non c'è consapevolezza.

@homeworker ha detto in L'IA Bing si appropria dei contenuti o è creatività?:

Filosoficamente parlando, il linguaggio è la cosa che ci distingue dagli animali. E l'unico animale che ha un vero e proprio linguaggio è l'uomo perchè ha capacità di astrazione, generazione di nuove idee, espressione di concetti, etc.

Gli animali (anche noi siamo animali) hanno linguaggi più o meno complessi e capacità di astrazione più o meno complessa e tante altre cose, noi umani ne facciamo meglio alcune.

[kal]

Gli umani sono una delle poche specie ad usare il linguaggio come "Atti linguistici" (Searle). Probabilmente solo i delfini hanno una cosa simile (e largamente ancora non compresa).

Ed è probabilmente proprio questa la ragione per cui molti ricercatori rilevano i cosiddetti "comportamenti emergenti" dei LLM: nel linguaggio umano è presente la struttura necessaria per "far fare" delle cose ad altri umani.

È normale che in un MODELLO di linguaggio anche questo tipo di strutture vengano sintetizzate nei pesi tra i token.

Quello che fra parentesi altri chiamano "neuromarketing" (termine che non mi piace, ma vabbè) o peggio "PNL".