Des mathématiciens de Cambridge, Oxford, Columbia et ETH Zurich ont publié un texte de onze pages sur les risques que l’IA fait peser sur leur discipline. Selon eux, un système d’IA peut produire un argument qui ressemble à une preuve mathématique sans qu’on puisse vérifier qu’il est correct.
https://clubic.com//actualite-615115-une-preuve-produite-par-l-ia-est-elle-vraiment-fiable.html
Gaspillage de ressources pour une « recherche » dont on connaissait déjà le résultat.
Le raisonnement des mathématiciens (tout comme celui des biologistes, etc) est toujours le même dans la science : on se base sur les acquis précédents.
C’est bien, mais (par expérience) ça pose 2 problèmes fondamentaux :
La science est toujours obligée de respecter les travaux antérieurs parce que souvent, les financements en dépendent. Donc, il y a un fond potentiellement régressif qui ne s’ouvre pas à des alternatives potentielles par manque de courage ou de moyens financiers.
Si on s’appuie sur les travaux de X issus de Y eux même issus de Z… on peut remonter jusqu’à l’origine. Or, leur raisonnement démonte théoriquement la base historique scientifique qui dit que tout doit être continuité alors qu’il y a bien eu un début mais sans accepter de nouveaux débuts. C’est un cercle vicieux limitant qui peut pousser au manque d’innovation.
Le plus problématique, c’est de s’en prendre à l’IA alors que c’est un problème qui affecte fondamentalement le fonctionnement de toute la science sans se limiter à l’IA : elle manque d’efficience à cause de son modèle. Je ne dis pas qu’il faut tout casser, je dis juste qu’il faut savoir ouvrir la voie pour des dynamiques plus performantes, que ce soit l’IA ou les humains qui sortent des sentiers battus.
Bien évidemment, le contrôle des méthodes et des résultats reste fondamental.
Je ne suis pas d’accord. Le problème des mathématiques n’est pas le même que celui des biologistes, etc. Car les mathématiques ne sont pas des sciences. Dans les sciences, c’est la confrontation des théories aux observations qui détermine si la théorie tient ou pas. On peut donc très bien venir avec une nouvelle théorie sortie de nulle part et si elle explique mieux les observations, elle sera considérée comme valide (exemple: relativité générale pondue par Einstein)
En mathématique, cela ne fonctionne pas comme cela. Le savoir mathématique est une construction qui se base sur le savoir passé. On ne va pas redémontrer tout à chaque fois, on se base sur le savoir passé qui a été rigoureusement vérifié.
Quand l’AI produit des preuves mal étayées, en mentionnant mal ses sources (voire pire en les hallucinant), cela rend le processus de vérification difficile, voire impossible.
Et si BigTech commence à publier « preuve » sur « preuve » pour impressionner la galerie, sans attendre le travail de vérification qui peut parfois prendre des années, cela deviendra impossible à gérer. Comme il le dise, le risque est que d’autres mathématiciens ou l’AI elle-même commence à se baser sur des preuve hallucinées et fausses pour en établir d’autres et l’édifice mathématique risque de devenir complètement instable dans qu’on puisse retrouver à partir d’où la structure a commencé à faiblir.
on va faire simple :
https://dictionnaire.lerobert.com/definition/mathematique
https://www.larousse.fr/dictionnaires/francais/mathématique/49858
https://www.dictionnaire-academie.fr/article/A9M1353
Maintenant, si l’Académie Française se trompe, on est fichu 
On va faire compliqué alors:
Université de Stanford: Mathematics is not science
American Association of Mathematics: Math is like science, only with proof
Blog de math du CNRS: La mathématique n’est pas une science
Donc, oui, si les mathématiciens sont d’accord pour dire que les maths ne sont pas une science, L’Académie Française se trompe
Plus sérieusement, c’est une question plus philosophique que pratique car même ceux qui considèrent que les maths peuvent être qualifiées de science (car même cadre de rigueur et de logique) sont tous d’accord pour dire qu’elle ne sont pas une science comme les autres car elles ne cherchent pas à décrire la réalité concrète de l’univers mais sont avant tout des constructions abstraites.
C’est pas parce que certains mathématiciens le disent que « les mathématiciens sont d’accord » hein… Quel est le consensus sur la question ? (j’en sais rien hein, tu as peut-être raison… mais le fait est que ce n’est pas en citant trois articles d’opinion de mathématiciens que tu fais avancer le sujet… on peut en trouver autant qui disent le contraire)
Je peux aussi retourner l’argument: ce n’est pas en citant la définition du dictionnaire qu’on obtient l’ opinion des mathématiciens et des philosophes sur la question.
Sinon, tu avais vu par quel emoji se terminait ma phrase que tu as citée ?
De toute façon, ce débat est sans objet par rapport à l’article, car ce qui est déterminant ici, c’est la méthode d’acquisition des savoirs mathématiques. Et pour ceci, les mathématiques sont bien à part vu qu’il n’y a pas de confrontation à une réalité expérimentale.
Je veux bien mettre de l’eau dans mon vin et admettre les mathématiques comme une science à part. Cela dépend de définition du mot « science » (que j’ai tendance à confondre avec la méthode scientifique, mais je serai en bonne compagnie). Cela ne changera rien à mon propos initial.
Après plusieurs recherches, la question Maths= science ou pas n’est pas manichéenne et reste non résolue globalement.
Maintenant, je maintiens quand même mon opinion par expérience : en maîtrise de biologie, pendant les travaux de recherches, mon sujet a amené à une conclusion qui invalidait certains « acquis » précédents. Mon professeur a repris tous mes travaux et est arrivé à la même conclusion que moi. Son aveux à la fin de mes travaux de recherche : « parfois, un nom suffit à faire passer certains articles là où d’autres n’auraient pas été acceptés. Et ça produit de mauvaises bases et de mauvais fondements pour la suite ».
Les sciences et même les maths fonctionnent par étayage et parfois ça ne fonctionne tout simplement pas. Si un gugus invente un théorème démontrable mais qu’il ne sort de nulle part, pas dit que son théorème soit reconnu même s’il est démontrable. Là est ma nuance. C’est ce point là que je critique vis à vis de la position anti IA. C’est pour moi une forme d’arrogance qui de mon point de vue nuit aux sciences. Ce n’est cependant que mon point de vue, bien sûr.
Cela dit : Huber, J., Inoua, S., Kerschbamer, R., König-Kersting, C., Palan, S., & Smith, V. L. (2022). « Nobel and Novice: Author Prominence Affects Peer Review. » Proceedings of the National Academy of Sciences (PNAS), 119(41).