La dernière mise à jour de l’IA de Microsoft a entraîné le bannissement de certaines catégories de prompts, notamment ceux pouvant générer des contenus violents, choquants ou à caractère sexuel.
L’étape suivante sera-t-elle de contrôler ce que tu tapes dans word et compagnie ? Je caricature bien sur, mais on peut se questionner de où tout ça peut mener, jusqu’à quel point ils vont interfacer les logiciels avec l’IA. Perso, pour le moment, je prefere juste utiliser chat GPT comme un truc à part, mais les IA vont je pense devenir inévitable dans certains domaines à commencer par le développement.
1 « J'aime »
Les IA seront des machines à propagandes c’est inévitables, les restrictions seront forcément biaisée de par les opinions politiques des développeurs, et leur sensibilité à tel ou tel sujet, la foirade gémini nous a donné une bonne idée de la pensée dominantes chez les ingé IA de Google (et qui s’est retournée contre eux)
2 « J'aime »
Tu ne pourra tout simplement pas enregistrer / imprimer un document qui ne validera pas certains idéaux prédéfinies.
La définition de la liberté? pouvoir faire tout ce qui est autorisé par les entreprises qui entrainent les IA de nos OS.
Écrire de la merde toi-même et administrer un service pouvant servir d’arme de propagande, ça n’est pas tout à fait la même chose 
De la même manière, tu peux écrire un livre bourré d’idées vomitives si ça te tente mais les éditeurs ne sont pas tenus de le publier.
1 « J'aime »
Bonjour @Sodium,
Je ne sais pas si je parlais d’idées vomitives ou non-vomitimes, mais je parlais surtout de contrôle.
C’est aux gouvernements et à l’Europe de légiférer. On ne peut pas laisser des entreprises commerciales américaines décider de ce qui est acceptable ou non. Facebook ne fait pas la différence entre nudité et pornographie. La nudité n’a rien de choquant, la bannir, c’est revenir aux années 60, lorsque l’église décidait de qui était acceptable ou pas. Aux USA le fric justifie tout, pas en France. Sur bing, demander une photo de deux adultes qui s’embrassent est considéré comme choquant. Produire une photo d’armes, ça passe tranquille…
1 « J'aime »
Je ne vois pas ce que les gouvernements pourraient décider là dessus. Tout au plus pourront-ils interdire les blocages explicites ou exiger d’ajouter d’autres blocages, mais comment pourraient-ils forcer un entrainement sans biais politico-culturel? Il suffit de lire n’importe quel journal ou parler à n’importe qui pour voir que les biais sont partout et donc ils seront aussi dans les IA! Et j’ai l’impression que nos gouvernements s’orientent vers l’ajout de lois pour limiter la liberté d’expression plutôt que l’inverse.
Mon propos n’est de toute manière que de la pure SF. Pour le moment, l’interface avec l’IA n’est qu’au stade de compagnon bien pratique. On est pas encore au stade où il corrige pour toi, sans meme te demander ton avis… et je ne sais pas si cela arrivera un jour.
Néanmoins, il est bon de s’interroger, car au final, celui qui défini ce qui est acceptable ou non, c’est toujours la morale et toutes les morales ne se valent pas. Quand on sait qu’un simple propos sur internet peut entrainer un torrent de haine dans un sens ou dans l’autre… Mais oui ce qui est important, c’est le controle, tant qu’on a le controle sur ce qu’on dit, je pense qu’il n’y aura pas de soucis.
Je pense que les IA sont parfaites pour tout ce qui est technique, par contre dès qu’on entre dans des cadres moins objectifs, l’IA n’est pas pertinente. Soit elle generera du contenu au pif parfois choquant, soit elle aura tendance à etre biaisé par ceux qui la contrôlent.
Et ajouter des lois me semblent une fausse bonne idée. C’est juste détourner le probleme.