Nasce Velvet, il primo passo dell'Italia nell'AI Generativa?

[giorgiotave]

Nasce Velvet, il primo passo dell'Italia nell'AI Generativa?

"Queste sono le news AI che mi piacciono " commenta Michele di Pasquale su Facebook

Qui il modello su Hugging Face.

Dice Michele:

Nasce Velvet, dal centro #Leonardo a #bologna e frutto di collaborazione tra vari Atenei italiani e centri ricerca (tra cui #Cineca).
Rispetta tutti i canoni di trasparenza e conformità con l'ai act ed esplicita in modo chiaro e trasparente i casi e contesti d'uso e chiaramente il progetto è open.
Non ho ancora sperimentato il modello, ma spero sia una bella sorpresa, perchè potrebbe essere un primo piccolo passo sia per l'itala che per l'europa nel processo di trasformazione industriale in corso (...dico piccolo perchè al momento il modello è un 14b...deepseek è un 671b Multimodale e con esperti...ma l'importante è reagire🦾).

[giulio.marchesi]

@giorgiotave meglio di nulla certo, comunque un tentativo anche per l'Italia di investire in questo settore (se aspettiamo ancora un po'... ahah). Questo me lo segno Già nei mesi scorsi avevo testato l'italiano "Dante AI", anche se praticamente richiama altri modelli (GPT-4o Mini, ecc) e per ogni risposta spendi tot crediti (eventuale abbonamento Premium, ecc). Da com'è ottimizzato, fa decisamente pena, almeno a giugno 2024 mi aveva fallito un semplice compito di traduzione (non ha saputo riconoscere in una frase i tre alfabeti della lingua giapponese).
Per il resto mi auguro comunque che questi progetti (anche il nuovo Velvet) abbiano poi un'ambizione di cooperazione, creare dei mini modelli generalisti non serve proprio a nulla. Ad oggi direi che il più evoluto (e unico degno di nota su larga scala) a livello europeo è Mistral AI, a differenza di USA e Cina purtroppo noi Europei siamo molto meno legati, personalmente comunque credo sia qui che occorra agire e implicitamente ho quindi anche risposto a L'Europa rischia un Medioevo Digitale?
A parte la difficile cooperazione, raccolta seria di invetimenti, la nostra "unicità" non può essere solo il "rispetto nel trattamento dei dati, IA etica e sicura..." che va bene, ma fino ad oggi l'eccesso di regolamentazione, arma a doppio taglio, ostacola solo noi stessi (a parte qualche ban temporaneo ai noti prodotti extra-UE, poi aggirabile tramite VPN). Se le cose cambieranno per l'Europa, ben venga, chiaro che occorre spingere di più sia negli investimenti sia per davvero lato cooperativo.

[kal]

Hmm... lo scarico e gli faccio un giro. Anche se è un 14B, quantizzato dovrebbe girarmi in locale, vediamo come.

[kal]

Girare gira AL PELO quantizzato a 4bit nei miei 12 GB di VRAM... quindi la velocità è discreta:

La qualità dell'output è buona in italiano, ma a naso non ha un buon fine-tuning per task di Chat o Chat-Instruct, ho visto che spesso esce di personaggio.

Probabilmente è un buon foundational model su cui costruire.

Comunque interessante e migliore di quello che ho visto uscire fin qua da team italiani.