Commentaires : L'IA de Google Photo accuse un utilisateur de pédocriminalité par erreur (et le dénonce à la police)

Une erreur d’interprétation commise par un outil d’intelligence artificielle créé par Google a conduit à l’ouverture d’une enquête pour pédocriminalité.

Le gars a été innocenté par la police qui n’a pu le lui dire car il n’avait plus de mail ni de numéro de téléphone valide/connu. Et lorsqu’il a recontacté Google ils n’ont pas voulu rouvrir ses comptes. 2eme effet kiss cool pour le gars pour gérer les problèmes de double authentification avec les services qui utilisaient son mail ou son numéro de portable…

6 « J'aime »

Donc la détection c’est bien, la coupure des services avant décision de justice, ça l’est moins.

11 « J'aime »

Raison de plus pour ne pas placer tous ces oeufs dans le même panier :eyes:

1 « J'aime »

Cette absence d’interlocuteur chez les GAFAM est affligeante… On peut au mieux cliquer sur un bouton qui fait une requête, mais personne ne traite « humainement » les demandes et ça rend toute communication impossible. Nombreux sont les cas de coupures injustifiées avec des victimes qui ne peuvent absolument pas plaider leurs causes.

Quand c’est juste un compte Twitter, c’est pas un drame (encore que, pour certains c’est une activité rémunérée), mais quand c’est un compte Google, les conséquences sont quand même hyper lourdes. L’adresse email est devenue une partie de l’identité, elle est fournie aux administrations, elle sert à valider des contrats…

Pire encore, bloquer le compte immédiatement n’est pas stratégique dans ce cas-là, ce n’est pas ce que ferait la police. Mieux vaut maintenir le compte actif et lever les alertes « en sous-marin » pour aider les autorités à intervenir ou remonter une filière.
Une fois qu’elle sait qu’elle est repérée, la personne réellement coupable a le temps de réagir avant intervention (se débarrasser des supports de stockage, détruire des preuves physiques, voire tout ce qu’on peut imaginer d’ignoble dans ce cas là), ce qui est contre productif.

9 « J'aime »

les gafam qui se substituent à la justice…

17 « J'aime »

Pour moi c’est ça le plus choquant!

5 « J'aime »

Et comment on fait ? On achète Apple. Il n’y a pas 10 000 solutions pour un néophyte !

2 « J'aime »

Google un espion, et une balance qui juge à la va vite en fermant ses comptes au pauvre type qui n’a rien fait à part recevoir une photo de sa nièce de…disons 14 ans…quelle I.A. mal barrée. :upside_down_face:

1 « J'aime »

Si l’idée est de « ne pas placer tous ses oeufs dans le même panier », acheter du matériel Apple n’est très certainement pas la solution…

12 « J'aime »

C’est beau l’IA. C’est bien de lutter contre la pédophilie (pas besoin de le préciser, enfin j’espère), mais qu’une IA qui plus est, pas au point, qui vérifie et surtout contact la police sans que ce soit vérifié par un humain (moins susceptible de se tromper sur ce genre de choses) c’est d’une d*bilité …

4 « J'aime »

Alors …

Je vais être cynique, mais répétez après moi « Je m’en fout de mes données personnelles, je n’ai rien à cacher » …

Les personnes qui nous sortent sans honte cette tirade à longueur de sujets sur l’importance des données personnelles, vous commencez à voir le danger ou pas encore ?

Au cas où, je pose ça là :

9 « J'aime »

Oui, mais ça, ça n’a RIEN à voir.
C’est une tentative d’escroquerie (qui fonctionne malheureusement sur certaines personnes).

2 « J'aime »

Merci pour l’article, très intéressant, que je n’avais pas vu quand il est sortis.

1 « J'aime »

par ici le gros chèque

Selon Klaus Schwab, « Si on n’a rien à cacher, il ne faut pas avoir peur » :joy:

1 « J'aime »

Il y a quelques temps de cela les gens mettaient un morceau de ruban adhesif ou un coup de tampon a l’arriere de leur enveloppe pour se proteger que personne ne l’ouvre et personne n’avait legalement le droit de l’ouvrir. De nos jours les particuliers et les entreprises utilisent tous ces services cloud, email, stockage, etc. en sachant tres bien que le contenu va etre lu et utiliser, pour la publicite cicblee, pour une soit disante protection, acheter ou hacke par un entreprise concurrente, pour entrainer des AI, ou lu par des employes.

3 « J'aime »

C’est pareil chez Apple. Ce n’est pas la première fois que ça arrive ce genre de chose.

On arrive de plus en plus à faire mieux que les pires films d’anticipation…

La couille n’était pas que sur la photo, elle était aussi dans l’IA ^^