Régression Linéaire
Moindres carrés — from scratch
Enonce
Implémenter la régression linéaire simple ($y = ax + b$) et la version matricielle. Calculer $R^2$.
Signature attendue
def regression_lineaire(X, y) -> tuple:📖 Rappel de cours
La régression linéaire modélise $y = X\beta + \varepsilon$ en minimisant la somme des carrés des résidus.
Solution des moindres carrés :
$\hat{\beta} = (X^T X)^{-1} X^T y$
Cas simple ($y = ax + b$) :
$a = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2}, \quad b = \bar{y} - a\bar{x}$
$R^2 = 1 - \frac{\sum(y_i-\hat{y}_i)^2}{\sum(y_i-\bar{y})^2}$ mesure la qualité de l'ajustement.
← Exercices d'IA et d'apprentissage automatique en Python — CPGE
Exercices du meme theme
- K Plus Proches Voisins
- K-Means Clustering
- Perceptron Simple
- Descente de Gradient
- Matrice de Confusion et Métriques
La correction commentee, les indices progressifs, l'execution du code dans le navigateur et la verification par l'IA sont reserves aux abonnes.