Segmentazione dei nuclei cellulari in tessuti istologici tumorali tramite modelli di deep learning

La presente tesi si inserisce nel contesto della digital pathology e ha come obiettivo lo sviluppo e la valutazione di metodologie basate su deep learning per l’analisi di immagini istologiche. Il lavoro si focalizza principalmente sul problema della segmentazione dei nuclei cellulari, considerata un passaggio fondamentale per l’estrazione di informazioni morfologiche rilevanti e per l’analisi quantitativa del tessuto. Dopo una revisione dei principali concetti di machine learning, deep learning e reti neurali convoluzionali, vengono analizzati i metodi di segmentazione di immagini, con particolare attenzione agli approcci basati su architetture deep learning. Viene quindi condotto un confronto tra modelli di stato dell’arte, tra cui StarDist e Cellpose, valutati su diversi dataset istologici, al fine di individuare la soluzione più adatta al contesto applicativo. Nell’ambito di un tirocinio svolto presso l’AUSL di Reggio Emilia, il lavoro è stato esteso allo sviluppo di un modello di classificazione di vetrini istologici. A partire dalle segmentazioni ottenute dalle patch in cui è stato suddiviso ogni vetrino, sono state estratte feature morfologiche a livello cellulare, successivamente aggregate a livello di patch per rappresentare la variabilità strutturale del tessuto. Per la classificazione è stato adottato un approccio di Multiple Instance Learning basato sul metodo Positive Instance Sampling (PINS), opportunamente adattato al problema in esame. Il modello integra informazioni visive e morfologiche e sfrutta strategie di campionamento adattivo delle istanze al fine di classificare i vetrini a partire dalle regioni più informative. Le prestazioni del modello sono state valutate mediante validazione incrociata, considerando diverse metriche di classificazione e analizzando la variabilità dei risultati in relazione alle caratteristiche del dataset.