Facoltà: Ingegneria dell'informazione, informatica e statistica
Prof. Fabrizio Silvestri: Natural Language Processing And Text Mining
5,4difficoltà
Sapienza · Facoltà: Ingegneria dell'informazione, informatica e statistica · Data Science (LM-Data)
Di cosa si tratta: Ranking di documenti e similarity search: link analysis con PageRank indipendente dalla query, Topic sensitive e Personalized PageRank, algoritmo HITS con hub e autorità. Si affronta poi la ricerca per similarità in collezioni di dati ad alta dimensionalità, con ricerca dei top-k e dei vicini più prossimi approssimati, per problemi di interesse nel trattamento di testi.
Quali fasi si seguono nella preparazione di un corpus testuale per l'analisi?
Che cosa si intende per tokenizzazione e quali difficoltà presenta nella lingua italiana?
Quali operazioni di normalizzazione si applicano ai testi prima dell'analisi?
Come si costruisce una matrice termini-documenti e quali pesi si possono usare?
Che cosa misura la tecnica tf-idf e come si interpreta?
Come funziona il modello a sacchi di parole e quali limiti presenta?
Quali metodi si usano per l'analisi del sentimento in un testo?
Come si rappresentano le parole in uno spazio vettoriale tramite gli embedding?
Quali differenze esistono tra modelli di topic come LDA e il clustering dei documenti?
Come si valuta la qualità di un modello di classificazione di testi?
Che cosa si intende per riconoscimento di entità nominate e come si applica?
Come si effettua la lemmatizzazione e in che cosa differisce dallo stemming?
Quali strumenti si usano per analizzare la frequenza delle parole in un corpus?
Come si gestisce la presenza di parole molto frequenti nei modelli di testo?
Quali problemi pongono le ambiguità semantiche nell'elaborazione del linguaggio naturale?
Come si applica la similarità coseno tra documenti?
Quali sono le fasi di un'analisi di parsing sintattico?
Come si valuta la coerenza di un modello di topic con metriche di coerenza?
Che cosa si intende per modelli sequenza-a-sequenza e quali usi hanno?
Come si affrontano i problemi di privacy e di qualità nei dati testuali raccolti dal web?
Domande di esercitazione costruite sul programma ufficiale, non fornite dal docente.
Facoltà: Lettere e Filosofia
Prof. Fabrizio Silvestri: Generative Artificial Intelligence
5,4difficoltà
Sapienza · Facoltà: Lettere e Filosofia · Filosofia e Intelligenza Artificiale (LM-78)
Di cosa si tratta: Teoria della probabilità e algebra lineare per i modelli generativi, ottimizzazione e teoria dell'informazione costituiscono i fondamenti. Seguono architetture di deep learning e meccanismo di attenzione, con reti convoluzionali e transformer, apprendimento contrastivo, CLIP e autoencoder (VAE, ELBO), fino ai modelli per la generazione di immagini come VQ-VAE e reti generative avversarie.
Frequenza consigliata · Letture e articoli scientifici di riferimento (VAE, GAN, modelli di diffusione, transformer, LLM, RAG, JEPA, modelli multimodali) sono elencati, insieme alle dispense e ai materiali del corso, sul sito ufficiale dell'insegnamento:
Quali sono i principi matematici su cui si fondano i modelli generativi basati su reti neurali profonde?
In che modo un modello linguistico di grandi dimensioni stima la probabilità della sequenza successiva di token?
Che cosa si intende per architettura a trasformatore e quale ruolo svolge il meccanismo di attenzione?
Come avviene l'addestramento di un modello generativo a partire da grandi insiemi di dati?
Quali differenze esistono tra modelli generativi per il testo, per le immagini e per l'audio?
Che cosa si intende per fine tuning e in che modo modifica il comportamento di un modello pre addestrato?
Quali tecniche permettono di ridurre le allucinazioni nelle risposte generate da un modello?
In che modo si valuta la qualità dell'output di un modello generativo?
Quali rischi etici e sociali sono associati alla diffusione dei modelli generativi?
Che cosa si intende per bias nei dati di addestramento e quali effetti può produrre?
Come si regolano i diritti d'autore sui contenuti prodotti da modelli generativi?
Quali strategie di prompt engineering migliorano la pertinenza delle risposte generate?
In che modo la generazione autoregressiva differisce dai modelli di diffusione?
Quali limiti tecnici incontrano i modelli generativi nel ragionamento su problemi complessi?
Come si misura la diversità dei contenuti prodotti da un modello generativo?
Quali sono le implicazioni dei modelli generativi per la verifica dell'autenticità dei contenuti?
Che cosa si intende per apprendimento per rinforzo con feedback umano nel raffinamento dei modelli?
In che modo le risorse computazionali influenzano lo sviluppo dei modelli generativi di grandi dimensioni?
Quali considerazioni di trasparenza e spiegabilità riguardano i sistemi generativi?
Quali applicazioni professionali dei modelli generativi sono oggi più diffuse e con quali criteri di validazione?
Domande di esercitazione costruite sul programma ufficiale, non fornite dal docente.
Domande frequenti Libri, programma ed esami del prof. Fabrizio Silvestri a Sapienza
Che libro usa il prof. Fabrizio Silvestri per Natural Language Processing And Text Mining a Sapienza?
Per Natural Language Processing And Text Mining (Canale unico) indica come obbligatorio: Christopher – Prabhakar Raghavan, Leskovec – Mining of Massive Datasets, Dan Jurafsky – Speech and Language Processing.
Quanto è impegnativo Natural Language Processing And Text Mining?
6 CFU, difficoltà stimata 5.4 su 10 rispetto agli esami della stessa area.
Che libro usa il prof. Fabrizio Silvestri per Generative Artificial Intelligence a Sapienza?
Per Generative Artificial Intelligence (Canale unico) indica come obbligatorio: Goodfellow – Deep Learning, Bishop – Deep Learning, Jurafsky – Speech and Language Processing, Murphy – Probabilistic Machine Learning.
Quanto è impegnativo Generative Artificial Intelligence?
6 CFU, difficoltà stimata 5.4 su 10 rispetto agli esami della stessa area.
Dove trovo la scheda ufficiale di un esame?
Ogni insegnamento qui sopra ha il link alla scheda ufficiale dell’ateneo: controllala sempre prima di acquistare.
Sei uno studente tra i 18 e i 22 anni?Con Prime Student hai 90 giorni gratis, poi Amazon Prime a soli 2,49 € al mese: consegne veloci e gratuite anche sui libri.Scopri Prime Student ›
Controlla sempre la scheda dell'esame. Le informazioni vengono dalle schede ufficiali degli atenei e possono cambiare o contenere errori: prima di acquistare verifica i testi sulla scheda ufficiale dell'esame (la trovi linkata in ogni esame) e, nel dubbio, chiedi al docente.
Aiutaci a tenerci aggiornati
Il prof ha indicato altri libri, pagine o modifiche? Scrivicelo.
Questo sito usa solo strumenti tecnici (nessun cookie di profilazione). I link ai negozi sono link di affiliazione. Cookie policy · Privacy