Machine Learning on Datafx

Analisi dei Cluster con DBScan

Fri, 23 Jan 2026 10:00:00 +0100

Il progetto Python, che comprende gli script mostrati in questo post, e quelli relativi alla creazione dei grafici Matplotlib e Plotly, è disponibile assieme al corso Introduzione al Machine Learning.

Dimmi di Più

Introduzione

Density-Based Spatial Clustering of Applications with Noise (DBSCAN), è un algoritmo di clustering non supervisionato, più efficiente di K-Means o Hierarchical Clustering nella gestione di cluster di forma arbitraria, o nell’individuazione di punti di rumore che non appartengono a nessun cluster. DBSCAN identifica i cluster in base alla densità delle osservazioni, il che lo rende particolarmente adatto per individuare gruppi di data-point di forma arbitraria, e gestire il rumore del dataset. In dettaglio, DBSCAN definisce i cluster come regioni dense di osservazioni, separate da aree di densità inferiore. La nozione di densità è definita come il numero di osservazioni all’interno di un raggio specificato. L’algoritmo usa due parametri principali:

La Regressione Logistica, Implementazione del Modello

Tue, 16 Dec 2025 08:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

Implementazione del Modello

La Classe LogisticRegressionGD

Per implementare il modello di Regressione Logistica, possiamo prendere l’implementazione di Adaline e cambiare, oltre al nome della classe, l’implementazione dei seguenti metodi:

La Regressione Logistica, Spiegazione del Modello

Mon, 15 Dec 2025 10:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

La Regressione Logistica è un metodo statistico utilizzato per la classificazione binaria, ovvero per prevedere la probabilità che un’osservazione appartenga a una particolare classe, solitamente la classe positiva “$1$” o “True”. A differenza di Adaline (e della Regressione Lineare), che predice valori continui, la Regressione Logistica predice la probabilità che un dato input appartenga a una particolare classe. A tale scopo, come funzione di attivazione, essa utilizza la funzione Sigmoide, che mappa qualsiasi numero reale nell’intervallo $[0, 1]$. Il diagramma delle componenti modello di Regressione Logistica che andremo a sviluppare è mostrato nell’immagine seguente:

La Regressione Logistica, Concetti di Base

Sat, 13 Dec 2025 10:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

Prima di analizzare nel dettaglio il modello di Regressione Logistica, è utile ripassare alcuni concetti fondamentali di probabilità e statistica. In particolare, rivedremo le nozioni di Probabilità e di Odds, le funzioni Logit e Sigmoide, la Distribuzione di Probabilità e la funzione di costo Cross-Entropy. Questi strumenti teorici sono essenziali per comprendere a fondo il funzionamento della Regressione Logistica, e il modo in cui questo modello effettua previsioni nel contesto della classificazione.

Neural Network, Implementazione del Modello e Classificazione

Thu, 30 Oct 2025 10:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

Introduzione

Nei post precedenti, abbiamo visto come calcolare il gradiente della funzione di costo rispetto ai parametri dei pesi e dei bias, nell’output layer e nell’hidden layer. Avendo derivato le equazioni usate nella fase di backpropagation, possiamo implementare il modello di rete neurale con un singolo hidden layer, che avevamo parzialmente definito nella sezione relativa alla forward-propagation. Iniziamo con una prima implementazione che, per semplicità, utilizza la funzione di attivazione sigmoide, assieme alla funzione di costo MSE. Abbiamo già detto che questa combinazione non genera una superficie di costo convessa, come invece accade nel modello di Regressione Logistica. Dobbiamo però considerare che, a differenza della Regressione Logistica, le reti neurali non sono modelli convessi, in quanto hanno layer multipli, e composizioni di funzioni di attivazione non lineari. Anche se usassimo la funzione di costo Cross Entropy al posto di MSE, non riusciremo comunque ad avere un punto di minima globale. Quindi, per reti piccole e poco profonde, o per dataset semplici, la combinazione MSE più Sigmoide può bastare. Non è l’architettura più efficiente, ma è stabile, e facile da implementare. Successivamente, creeremo una seconda implementazione, “più corretta” dal punto di vista teorico, ma anche più complessa nel suo funzionamento.

Neural Network, Backpropagation

Wed, 29 Oct 2025 10:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

Backpropagation

La “Backpropagation” è l’acronimo di “backward propagation of errors” (propagazione all’indietro degli errori), ed è un modo per regolare i parametri di una rete neurale, per minimizzare l’errore del modello, inteso come la differenza tra l’output previsto, e quello effettivo. Nella fase di Forward Propagation, i dati di input passano attraverso la rete, da un layer all’altro. In ogni layer successivo a quello di input, ogni nodo calcola la somma pesata dei suoi input e dei suoi pesi, e applica al valore risultante una funzione di attivazione, come il sigmoide. Considerando l’architettura di una rete con un singolo hidden layer, vista precedentemente, ogni suo nodo $a^h_j$ ritona una funzione base $\phi_j$, che corrisponde ad un asse base di un nuovo spazio delle feature multidimensionale, non-lineare, che “piega e deforma” lo spazio delle feature originale. Nel nuovo spazio risultante, le osservazioni del dataset diventano linearmente separabili. Le diverse funzioni base definite dall’hidden layer vengono linearmente combinate tra loro dall’output node $a^o_1$, che ritorna, tramite l’applicazione della funzione sigmoide, la probabilità che l’osservazione di input appartenga alla classe positiva, “1”. L’output finale della rete viene confrontato con l’output previsto, utilizzando una funzione di costo come la logistic loss, che indica quanto è sbagliata la previsione effettuata dal modello.

Neural Network, Introduzione e Forward Propagation

Tue, 28 Oct 2025 10:00:00 +0100

Potrebbe interessarti:

Dimmi di Più

Cos’è una Rete Neurale?

Una Rete Neurale è un modello computazionale progettato per risolvere problemi complessi di riconoscimento di pattern, presenti nel dataset di input. Essa è costituita da unità interconnesse, chiamate nodi o neuroni, dove ogni nodo agisce come un’unità computazionale, il cui comportamento è simile a quello di un modello di Regressione Logistica. I nodi sono organizzati in layer: un layer di input, uno o più hidden layer, e un layer di output. In sostanza, ogni nodo è una funzione che elabora i dati in ingresso eseguendo operazioni matematiche, in genere moltiplicando gli input per i pesi associati, aggiungendo bias, e applicando funzioni di attivazione. Questi calcoli permettono alle reti neurali di identificare le strutture sottostanti in grandi insiemi di dati, consentendo di svolgere compiti quali il riconoscimento delle immagini, l’elaborazione del linguaggio naturale, e la modellazione predittiva.

La Regolarizzazione del Modello

Mon, 27 Oct 2025 08:00:00 +0100

Dimmi di Più

Nella fase di training di un modello, l’uso di valori “estremi” dei parametri può portare a problemi di overfitting. Come abbiamo già visto, l’overfitting si verifica quando un modello apprende non solo i pattern sottostanti ai dati di addestramento, ma anche il rumore di fondo e dettagli specifici che non generalizzano su dati sconosciuti (sia che essi provengano dal test set, che dal “mondo reale”). Supponiamo di avere un regressore lineare, con una funzione di ipotesi di questo tipo:

Decision Tree, Classificazione

Fri, 24 Oct 2025 10:00:00 +0200

Potrebbe interessarti:

Dimmi di Più

Nel post precedente abbiamo “toccato con mano” l’implementazione della classe DecisionTreeClassifier. Ora proviamo ad usarla con alcuni semplici dataset, per mostrare su schermo le regioni decisionali del modello. Questo ci sarà utile per confrontare l’algoritmo di classificazione con i risultati visuali proposti.

Decision Tree, Il Modello

Fri, 24 Oct 2025 10:00:00 +0200

Potrebbe interessarti:

Dimmi di Più

Implementazione del Decision Tree

Dopo aver intuito l’algoritmo che sta alla base di un Decision Tree, e dopo aver visto come calcolare l’impurità del modello tramite la funzione di costo Entropy o Gini Impurity, vediamo ora come implementare tale classificatore “da zero”. Di seguito, alcune considerazioni sulle convenzioni dei nomi applicate ai metodi delle classi che andremo a sviluppare:

Decision Tree, Introduzione

Fri, 24 Oct 2025 08:00:00 +0200

Potrebbe interessarti:

Dimmi di Più

Cos’è un Decision Tree

Un Decision Tree (albero decisionale) è un algoritmo di apprendimento supervisionato, utilizzato per compiti di classificazione e regressione, che fornisce una stima su una data osservazione, imparando semplici regole decisionali dedotte dalle feature del dataset. Tramite queste regole, il modello è in grado di restringere i possibili valori di output, e di fare una previsione. L’ordine e il contenuto delle domande sono decisi dal modello stesso.

Il Neurone Artificiale Adaline, Esempi di Classificazione

Thu, 23 Oct 2025 10:00:00 +0200

Potrebbe interessarti:

Il Neurone Artificiale Adaline - (1/2)

Dimmi di Più

Classificazione con il Dataset Iris

Proviamo ora ad usare il nostro classificatore binario Adaline con il famoso dataset Iris, e verifichiamo che il modello sia in grado di distinguere due classi specifiche per mezzo delle loro caratteristiche.

Il Neurone Artificiale Adaline, Introduzione

Wed, 22 Oct 2025 10:00:00 +0200

Potrebbe interessarti:

Il Neurone Artificiale Adaline - (2/2)

Dimmi di Più

Cos’è un Neurone Artificiale

Adaline (Adaptive Linear Neuron) è un neurone artificiale, un tipo di rete neurale artificiale a singolo layer, sviluppato da Bernard Widrow e Ted Hoff nel 1960. Adaline è un miglioramento rispetto al Percettrone, introdotto nel 1943 da Warren McCulloch e Walter Pitts, e viene considerato come il precursore dei modelli di rete neurale modeni.

Viaggio nell'Iperspazio

Mon, 20 Oct 2025 12:00:00 +0200

Dimmi di Più

Un Esempio con la Regressione Lineare Multipla

Nel post precedente, abbiamo visto come usare la regressione lineare semplice per modellare una relazione tra la variabile dipendente $y^{(i)}$ e una sola variabile indipendente $x^{(i)}$. La relativa funzione di ipotesi è la funzione predittiva che approssima la funzione target che ha generato le osservazioni del dataset di training, definita come:

Il Nostro Primo Modello di Machine Learning, Training e Predizione

Thu, 16 Oct 2025 10:30:00 +0200

Potrebbe interessarti:

Il Nostro Primo Modello di Machine Learning - (1/2)

Dimmi di Più

In questo post riprendiamo l’implementazione del modello di regressione lineare semplice, che abbiamo iniziato a discutere qui. Dopo aver compreso come opera la funzione di costo MSE, vediamo ora il processo di addestramento del modello, necessario per individuare i valori ottimali dei parametri del predittore.

Il Nostro Primo Modello di Machine Learning, Introduzione

Tue, 14 Oct 2025 14:00:00 +0200

Potrebbe interessarti:

Il Nostro Primo Modello di Machine Learning - (2/2)

Dimmi di Più

In questo post svilupperemo un programma Python che implementa un modello di machine learning (ML) chiamato regressione lineare semplice, che useremo come “banco di lavoro” per comprendere quali siano le parti più importanti che permettono al modello di funzionare correttamente.