À Abou Dhabi, une application renouvelle une carte d’identité, réserve un rendez-vous médical et règle une amende de stationnement, parfois avant même que l’utilisateur en fasse la demande. Ce modèle de gouvernement piloté par l’IA repose toutefois sur un contexte politique qu’aucune démocratie ne peut reproduire.
Je trouve ça intelligent. On pourrait aller plus loin :
La justice sur les affaires courantes (pas besoin de perdre 107 ans).
Moi je trouve cela inhumain et effrayant…
8 « J'aime »
Faut pas se voiler la face, c’est clairement un outil de contrôle de la population. J’imagine que, si ce n’est pas déjà la cas, cette application sera obligatoire et pré-installée sur les smartphones à la vente. Toute personne refusant de l’utiliser sera alors suspecte…
1 « J'aime »
Alors c’est un progrès, ça fait beau sur le papier, mais il faut se méfier de plusieurs choses dans ces projets.
Le premier, c’est d’avoir trop confiance dans l’outil. Le second, c’est que certaines étapes humaines soient surchargées (pensez aux projets opensource et le fait que des failles déjà réparées sont annoncées par des IA … appliquez cela à leur signalement d’ampoule en panne)
On ajoute le problème de l’inadaptabilité de ces systèmes en cas de changement de règle, et enfin la possibilité de saturer des services en trouvant comment déclencher des faux positifs.
Le dernier est l’empoisonnement d’IA permettant de contourner les règles.
Ca paraît cool sur le papier, ça marche dans des pays qui n’ont pas beaucoup de règles.
Et pour rappel: en France, on a des outils du genre (chez France Travail, aux impôts …) mais ils restent assez supervisés.
Avec Appel géré par la même IA, qui ne contredirait jamais la précédente…
Le cauchemar devenu réalité.
C’est fou tout de même qu’il y ait des gens qui voient Black Mirror et se disent « Ah oui ça a l’air trop cool, je veux que ce futur arrive le plus vite possible ».
2 « J'aime »
Encore un titre inutilement racoleur : moi quand on me parle de « remplacer entièrement un gouvernement », je pense chef d’état, législation, ministères, constitution, ce genre de choses fondamentales. En fait Abou Dhabi a juste confié une partie du travail de son administration à une IA, le gouvernement lui-même reste en place.
Et dire qu’ils ont « une décennie d’avance » sur la France, c’est s’engager un peu à la légère, on ne sait pas du tout ce qui se passera (et même si ça se passera) dans 10 ans en France.