Question bien posée, mauvaises réponses.

Bonjour,
Réf. : http://www.les-mathematiques.net/phorum/read.php?8,2111178
Pour une fois, il y a une question qui semble parfaitement bien posée.
Certaines réponses de certains spécialistes me semblent complètement à côté de la plaque. Peut-être croient-ils faire de l'humour.
En tout cas, il y a une réponse simple : la régression linéaire. Pourtant, comme il y a souvent des exercices sur le sujet, cela devrait être bien connu des matheux. Eh bien apparemment ce n'est pas le cas.
Il s'agit là d'une application simple et facile des probabilités. Naturellement, je parle des probabilités, pas des calculs sur des proportions d'ensembles.

Oui, le demandeur a bien suivi la discussion, mais malheureusement il n'a pas eu de réponse utilisable.
C'est assez classique. Une question qui ne correspond pas à un exercice type n'obtient pas de réponse.
Vive les maths.
C'est tout de même pas très compliqué de calculer une régression linéaire de la forme
V=K.X^a.Y^b.Z^c

1) ceci n'est pas une regression linéaire
2) si tu cherches a, b et c comme des coefficients quelconque ta formule n'est pas homogène
...

Merci pour ta réaction, mais je t'assure que ce problème peut se résoudre par un régression linéaire.
Par contre, sans avoir fait le calcul on ne peut pas savoir la précision du résultat.
Contrairement à ce que tu croies, c'est un cas très classique.

Merci pour ta réaction, mais je t'assure que ce problème peut se résoudre par un régression linéaire.

Oui tu peux prendre le log et faire la regression linéaire des log.

Il n'empêche que fitter V=K.X^a.Y^b.Z^c ce n'est pas faire une regression linéaire.

Par contre, sans avoir fait le calcul on ne peut pas savoir la précision du résultat.
Contrairement à ce que tu croies, c'est un cas très classique.

Je ne parle pas de la précision du résultat mais du fait qu'il n'a pas de sens physique (contrairement aux propositions faites sur math.net).

Bonsoir,
J'ai bien lu le cours https://perso.univ-rennes1.fr/bernard.delyon/regression.pdf
Sauf des considérations très théoriques, je n'ai pas lu de choses vraiment intéressantes, en ce sens que je défie un lecteur de ce cours de faire une régression, quelle que soit son qualificatif.
Je n'ai pas vu d'allusion a des régression non linéaires, c'est à dire, par exemple coniques.
D'ailleurs la plupart de ses exemples sont des régressions logarithmiques. Sont-ce d'après toi des régression linéaires ou pas ?
L'étude des régressions a pour but de savoir en faire. C'est très courant.
Petit détail technique, très nettement la formule générale utilisée est : Y=f(x) + epsilon.
Dans la logique du cours, c'est ce "epsilon" qui me gène. Voyons les choses simplement. D'une part on a un ensemble de groupes yi, xi, les xi peuvent être des xi1, xi2, xi3 etc, c'est sans importance, et on cherche une fonction Y=f(X). Que vient faire l'epsilon, sauf un artifice de calcul.
Moi, je peux expliquer le principe et la méthode de régression linéaire, sans avoir recours à cet epsilon.
J'insiste sur ce qualificatif de "linéaire". S'il n'est pas là, alors disons que c'est une régression d'un type spécial, par exemple conique. Cela dépasse mes compétences mais les différents papiers de Jean Jacquelin me permettent de résoudre les problèmes, si cela se présente.
Demain, je te proposerai des régressions à calculer.

Sauf des considérations très théoriques, je n'ai pas lu de choses vraiment intéressantes, en ce sens que je défie un lecteur de ce cours de faire une régression, quelle que soit son qualificatif.

En clair : tu n'as pas compris donc ce n'est pas intéressant.

Le reste de ton message est du blable montrant que tu n'as rien compris au cours (exemple le epsilon...)

Oh si, j'ai très bien compris, là je continue de lire tes messages, puis je te donne des exemples à calculer, puis je reviens sur le sujet des régressions et des epsilon.

Petit exemple 1 :

Code:

2 26.573
4 33.484
10 42.532
20 48.646

Assez amusant :

Code:

0.30103 -0.00001
1.55630 0.90309
1.63347 0.84510
2.06446 1.34242
2.22789 1.79934
2.33445 1.92942
2.85309 1.71600


Probablement un cas réel.

Code:

0.312   0.427   0.183   1.884
0.298   0.391   0.152   2.117
0.312   0.427   0.183   1.884
0.339   0.453   0.185   1.723
0.329   0.451   0.202   1.615
0.332   0.434   0.176   1.769
0.305   0.392   0.146   2.116
0.300   0.380   0.138   2.105
0.318   0.405   0.155   1.869
0.302   0.401   0.160   2.030
0.313   0.413   0.171   1.835
0.329   0.425   0.170   1.744
0.325   0.439   0.187   1.731
0.314   0.408   0.154   2.071
0.318   0.404   0.164   1.775
0.324   0.417   0.161   1.888
0.303   0.357   0.119   2.212
0.312   0.389   0.154   1.896
0.335   0.419   0.164   1.818
0.314   0.393   0.158   1.876
0.323   0.424   0.172   1.854
0.321   0.409   0.160   1.804
0.333   0.410   0.152   1.909
0.317   0.407   0.154   1.996
0.328   0.401   0.148   2.017
0.310   0.397   0.162   1.950
0.333   0.442   0.191   1.734
0.300   0.368   0.129   2.196
0.297   0.380   0.145   2.089
0.322   0.435   0.179   1.818
0.312   0.412   0.172   1.905
0.312   0.435   0.175   1.977
0.317   0.422   0.178   1.931
0.329   0.407   0.149   1.861
0.339   0.447   0.185   1.705
0.339   0.449   0.186   1.771
0.311   0.420   0.160   2.046
0.324   0.424   0.166   1.952
0.334   0.434   0.174   1.772
0.314   0.417   0.161   2.000
0.315   0.397   0.155   1.851
0.346   0.478   0.196   1.765
0.319   0.436   0.190   1.819
0.325   0.424   0.165   1.915
0.320   0.430   0.186   1.660
0.326   0.412   0.150   2.004
0.331   0.431   0.163   1.924
0.320   0.434   0.184   1.876
0.332   0.449   0.183   1.803
0.315   0.409   0.159   2.003
0.322   0.429   0.180   1.862
0.334   0.426   0.170   1.842
0.338   0.437   0.182   1.706
0.318   0.386   0.142   1.993
0.329   0.433   0.179   1.846
0.329   0.445   0.190   1.730
0.334   0.437   0.188   1.749
0.309   0.380   0.132   2.163
0.299   0.393   0.160   2.071
0.338   0.444   0.171   1.833
0.330   0.426   0.178   1.789
0.317   0.443   0.188   1.899
0.307   0.426   0.182   1.984
0.348   0.461   0.179   1.820
0.314   0.405   0.153   2.025
0.329   0.430   0.168   1.847
0.312   0.400   0.139   2.148
0.331   0.438   0.171   1.968
0.316   0.421   0.171   1.952
0.317   0.410   0.153   2.082
0.322   0.405   0.145   1.967
0.319   0.417   0.170   1.888
0.304   0.395   0.149   2.070
0.326   0.430   0.171   1.883
0.322   0.433   0.172   1.890
0.321   0.384   0.130   2.163
0.322   0.394   0.131   2.229
0.316   0.417   0.171   2.000
0.325   0.426   0.170   1.839
0.301   0.385   0.144   2.141
0.322   0.407   0.163   1.936
0.325   0.443   0.187   1.818
0.343   0.429   0.173   1.744
0.332   0.402   0.144   1.956
0.316   0.408   0.152   1.959
0.320   0.432   0.171   1.967
0.319   0.409   0.160   1.897
0.329   0.398   0.140   2.010
0.299   0.390   0.155   1.859
0.336   0.457   0.182   1.8


Bien sûr, j'en ai des tas d'autres, si tu veux.

Je vais reprendre la lecture du cours de Bernard Delyon et noter mes réflexions au fur et à mesure.
Je trouve que c'est une drôle d'idée de donner dans l'introduction un exemple historique qui utilise une quantité connue pour être "non mesurable", une fonction connue pour être ni linéaire ni affine et une relation physique pas simple. "qui si ui est supposé gaussien centré" : on rentre, sans le dire, dans le point important de la justification de la méthode de calcul, en effet, pourquoi ui serait supposé gaussien centré ? Est-ce toujours le cas ? D'où vient cette certitude ? Et si ui n'était pas gaussien ou pas centré, que se passerait-il ?
Habituellement quand je lis ce genre dans un cours, j'arrête. La raison est simple, ce cours s'appuie sur une vérité qui est contestée par un grand nombre de matheux. Mais là je vais continuer un peu.

Je crois que le seul exemple numérique est celui de la relation entre Production, Capital, Travail.

Code:

Cas traité  1 (Axe Y nbp=24)  A=0.036 B=1.429 C=-50.943 emq=13.107 (vérifier le N° 12)
Cas traité  2 (Axe X nbp=24)  A=100.525 B=0.014 C=-374.601 emq=15.839 (vérifier le N° 21)
Cas traité  3 (Axe Y nbp=24)  A=0.041 B=206.687 C=-869.313 emq=11.827 (vérifier le N° 12)
Cas traité  4 (Axe Z nbp=24)  A=0.001 B=0.006 C=4.013 emq=13.466 (vérifier le N° 12)
Cas traité  5 (Axe Y nbp=24)  A=-9.183 B=247.759 C=-1014.452 emq=14.254 (vérifier le N° 12)
Cas traité  6 (Axe Y nbp=24)  A=0.000 B=1.315 C=-1.484 emq=14.696 (vérifier le N° 12)
Cas traité  7 (Axe Z nbp=24)  A=0.292 B=0.005 C=2.847 emq=11.621 (vérifier le N° 15)
Cas traité  8 (Axe Y nbp=24)  A=0.015 B=1.355 C=-1.726 emq=15.158 (vérifier le N° 12)

Le meilleur  7  A=0.292 B=0.00456 C=2.85  (emq=11.62)
formule :  X = Y ^ A * exp(B * Z) * exp(C)   (exp(...) = puissance de e


@ Sylviel
Question : La régression que j'ai calculée est une régression linéaire ou pas ?
Si les détails sur les 8 cas traités t'intéressent, je te donnerai l'info.

Oh si, j'ai très bien compris, là je continue de lire tes messages, puis je te donne des exemples à calculer, puis je reviens sur le sujet des régressions et des epsilon.

Vu ton incompréhension de tous les documents mathématique que tu regardes (cf le TCL dont tu n'as toujours pas compris l'énoncé, ou le fait qu'il t'a fallut 2 jours pour comprendre que Var(2X) ne vaut pas 2Var(X))
laisse moi doucement rire... Et en l'occurrence ta remarque montre que tu ne comprends pas ce que signifie le epsilon dans le cours en question.

pourquoi ui serait supposé gaussien centré ? Est-ce toujours le cas ? D'où vient cette certitude ? Et si ui n'était pas gaussien ou pas centré, que se passerait-il ?

Ben c'est le sujet du cours... Si on fait des hypothèse (normalité, hétérodescadicité...) on a un certain nombre de résultat.
Si on ne les fait pas on en a d'autres. Tout est expliqué dans le cours.

En pratique on n'a pas besoin des hypothèses pour appliquer la méthode, mais la qualité du résultat n'est garantie qu'avec ces hypothèses.

Habituellement quand je lis ce genre dans un cours, j'arrête. La raison est simple, ce cours s'appuie sur une vérité qui est contestée par un grand nombre de matheux.

Tu confonds "vérité" et "hypothèse".

Question : La régression que j'ai calculée est une régression linéaire ou pas ?

Non ce n'est pas une regression linéaire. Tu as probablement fait une regression linéaire sur les log des quantités en question.
C'est une approche pratique légitime, mais les résultats théorique associés à la regression linéaire par les moindre carré s'appliqueront sur les log, pas sur valeurs elle même.

Cette subtilité semble définitivement hors de portée.

Tes exemples numériques ne m'intéressent pas. J'essaie seulement de te faire prendre conscience que tu ne connais pas tout et que les quelques recettes que tu manipules ne sont pas l'ensemble de ce qui existe...

Bon, toi, je sais pas, mais moi quand je calcule une régression je cherche la meilleure valeur, c'est à dire la plus probable, on dit aussi celle qui al le maximum de vraisemblance.
Ce que tu appelles "régression non linéaire" ce n'est qu'un changement de variable. Un régression non linéaire, c'est par exemple une régression conique : pour une même valeur de x on peut avoir plusieurs valeurs de y différentes.

Bon, toi, je sais pas, mais moi quand je calcule une régression je cherche la meilleure valeur, c'est à dire la plus probable, on dit aussi celle qui al le maximum de vraisemblance.

L'estimateur des moindres carrés et l'estimateur du maximum de vraisemblance ne sont pas toujours les même.

Ce que tu appelles "régression non linéaire" ce n'est qu'un changement de variable. Un régression non linéaire, c'est par exemple une régression conique : pour une même valeur de x on peut avoir plusieurs valeurs de y différentes.

Ben non... Cf les divers cours fournit.

Sylviel a écrit:L'estimateur des moindres carrés et l'estimateur du maximum de vraisemblance ne sont pas toujours les même.

Ca c'est la nouveauté du jours.
Il est indispensable d'expliquer.

Ca c'est la nouveauté du jours.
Il est indispensable d'expliquer.

Fait déjà un effort pour comprendre le TCL avant d'essayer de comprendre des choses plus avancées. Mais si tu ne me crois pas sur parole :
https://hal.archives-ouvertes.fr/cel-02189969/document (voir p3) il explique bien les deux approches et que, sous certaines hypothèses, elles coincident.

https://support.minitab.com/fr-fr/minitab/18/help-and-how-to/modeling-statistics/reliability/supporting-topics/estimation-methods/least-squares-and-maximum-likelihood-estimation-methods/
De la même manière ils parlent des deux approches et disent préférer le maximum de vraisemblance comme méthode par défaut

Pourquoi l'EMaxV est-elle la méthode par défaut dans Minitab ?
Pour les fichiers de données complets et volumineux, l'estimation par les moindres carrés et la méthode EMaxV fournissent des résultats cohérents. Dans les applications de fiabilité, les fichiers de données sont généralement de petite taille ou de taille modérée. Des études de simulation approfondies montrent que, dans les petits plans d'échantillons comptant uniquement quelques défaillances, la méthode EMaxV est plus efficace que l'estimation par les moindres carrés.1 Par conséquent, la méthode d'estimation par défaut dans Minitab est l'EMaxV.

En donnant une référence pour justifier ce choix.

Lisiane a cité un cours d'une université.
https://mistis.inrialpes.fr/software/SMEL/cours/mp/node20.html
Il est vrai que l'expression "suite de variables aléatoires" n'est pas très rigoureuses, mais étant donné ce qui est dit dans la page, il ne fait aucun doute que ce sont des valeurs, donc des nombres.
Ma définition du TCL est exactement ce qui est expliqué.

Il est vrai que l'expression "suite de variables aléatoires" n'est pas très rigoureuses, mais étant donné ce qui est dit dans la page, il ne fait aucun doute que ce sont des valeurs, donc des nombres.

Tu sais, si TOUS les cours disent "suite de variables aléatoires", que TOUS les mathématiciens qui échangent avec toi t'explique qu'il s'agit d'une "suite de variables aléatoires", c'est peut être qu'on ne se trompe pas et que c'est toi qui ne comprends pas bien.

Ma définition du TCL est exactement ce qui est expliqué.

Ben NON. Dans le lien donné on parle bien de MOYENNE de variables aléatoires.
Ce n'est pas les Xi qui sont distribués selon une loi normale,
mais les Zn. Donc les différence entre \bar{X}_n et m où \bar{X}_n est ce que j'appelle Mn dans mes posts.

Donc non, ce que tu racontes et ce qui est raconté dans le lien en question n'est pas la même chose.

D'ailleurs on dirait bien qu'il dis exactement ce que je raconte, je cite :
" Si on réalise suffisamment de simulations de $ Z_n$ et si on trace un histogramme des valeurs obtenues, celui-ci ne sera pas très loin de la courbe $ \frac{ 1}{\sqrt{2\pi}}e^{-x^2/2}$"
--> c'est bien Zn qui a un histogramme Gaussien, pas les Xi
"On peut aussi dire que pour n assez grand une somme de n variables aléatoires indépendantes indépendantes suit approximativement une loi normale"
--> ils parlent bien de somme de va indépendantes (comme moi)

Donc le TCL ne dis pas que toute suite de nombre aléatoire à ses écarts à la moyenne qui suivent une loi normale, mais que la moyenne (ou la somme) d'un grand nombre de va indépendantes à ses écart à la moyenne qui suivent une loi normale.

Ne serait-ce pas ce que je t'ai écrit 200 fois au moins ?

D'ailleurs on dirait bien qu'il dis exactement ce que je raconte, je cite :
" Si on réalise suffisamment de simulations de $ Z_n$ et si on trace un histogramme des valeurs obtenues, celui-ci ne sera pas très loin de la courbe $ \frac{ 1}{\sqrt{2\pi}}e^{-x^2/2}$"
--> c'est bien Zn qui a un histogramme Gaussien, pas les Xi

Oui, c'est vrai, c'est pour englober le cas des lois telles que la exponentielle.
Voila un autre exemple. En géodésie on mesure les angles de triangles. Une fois faite la correction due à la rotondité de la terre, la somme des 3 angles des triangles doit faire 180°. On note les écarts. Ces écarts ne résultent pas d'une mesure directe, mais de mesures faites dans les mêmes conditions, c'est à dire suivant les hypothèses du TCL. La répartition de ces écarts est celle de la loi normale.
Il faut lire aussi les 40 lignes qui suivent :

Interprétation. Dans le théorème central limite, $ \mu$ est la valeur à estimer. Les $ n$ valeurs $ X_1,\ldots,X_n$ constituent un échantillon de mesures aléatoires indépendantes d'espérance $ \mu$. La quantité $ (X_1+\cdots +X_n)/n$ est la moyenne empirique de l'échantillon, qui d'après la loi des grands nombres doit converger vers l'espérance $ \mu$. Le théorème central limite donne la précision de cette approximation. On peut le lire intuitivement comme suit. Si $ n$ est assez grand alors $ Z_n$ est très probablement compris entre $ -3$ et $ 3$ (la probabilité est $ 0.9973$).

Oui, c'est vrai, c'est pour englober le cas des lois telles que la exponentielle.

Non c'est pour que le théorème soit vrai.
Le théorème dis, en gros, "pour n'importe quelle loi" (intégrable)  la somme (ou la moyenne) d'un certain nombre de représentant indépendant de cette loi ressemble à une loi normale.
Le TCL ne dis RIEN sur l'histogramme des valeurs d'un tirage selon cette loi.

Voila un autre exemple. En géodésie on mesure les angles de triangles. Une fois faite la correction due à la rotondité de la terre, la somme des 3 angles des triangles doit faire 180°. On note les écarts. Ces écarts ne résultent pas d'une mesure directe, mais de mesures faites dans les mêmes conditions, c'est à dire suivant les hypothèses du TCL. La répartition de ces écarts est celle de la loi normale.

Soit précis s'il te plait. Dis moi comment tu définis les "écarts". Dis moi ce qui correspond au "Xi" du TCL ?
Et en quoi les erreurs de mesure sont lié à la variable Zn ?



On fait souvent l'hypothèse que l'erreur de mesure est une loi normale.
Et tu peux justifier cette modélisation en disant qu'une erreur de mesure est le résultat de la somme (au sens addition)
de plein de petites erreurs de mesures (indépendantes et de taille comparable). C'est d'ailleurs ce qu'explique Levallois.

Il faut lire aussi les 40 lignes qui suivent :

Certes mais elles disent toutes la même chose : la moyenne empirique converge vers l'espérance, et la  moyenne empirique  ressemble à une gaussienne.

P.S: on noteras que ce lien, dont tu prétends qu'il raconte la même chose que toi, utilise le même vocabulaire que moi...