Commentaires : Facebook : Cash Investigation dévoile la dureté de la tâche des modérateurs de contenus

Le géant des réseaux sociaux, Facebook, emploie une armée de modérateurs de contenus. Une activité psychologiquement douloureuse, pour certaines de ces petites mains du Web.

1 « J'aime »

Le problème étant que même avec un salaire net de 5000€ les images n’en seraient pas moins choquantes…
En effet, on peut pointer Facebook du doigt, mais la réalité est qu’il n’y a pas vraiment de solution au problème.
De plus, l’union européenne tien les plateformes pour responsables si du contenu choquant est publié, donc Facebook n’a pas vraiment d’autres choix que de faire appel à des modérateurs…
Existe-il des IA pour aider ces personnes dans leur tâches quotidiennes?

1 « J'aime »

Facebook planche sur le développement d’une IA qui pourrait gérer un peu en “autonomie” tout ça mais… on ignore quand le système sera véritablement mis en place.

2 « J'aime »

Supprimer Facebook, ça c’est la solution.

5 « J'aime »

Quand on voit la plupart du temps, les commentaires insultants et injurieux que s’échangent les « jeunes » sur YouTube, souvent sur des vidéos anodines… ça part tellement vite dans des extrêmes…

Que ce soit facebook, YouTube ou Twitter, les réseaux sociaux sont une plaie. Chaque parent devrait mettre un peu son nez dans les comptes de ses enfants, souvent mineurs, qui non seulement n’ont pas légalement le droit d’être inscrit, mais’surtout Sont influencés d’une manière nauséabonde (rappel: aucun compte avant 13 ans, c’est la loi américaine, qui s’applique à tous.)

2 « J'aime »

Tu as tout à fait raison. Bien que 800 euros brut par mois pour supporter un tel traitement c’est bien trop léger…

C’est au Portugal , il faut remettre dans le contexte, 800€ chez eux, c’est beaucoup !!

Après recherche, c’est lequivalent d’environ 1800 € en france (en se basant sur les deux smics Portugal/France)

1 « J'aime »

C’est évident, et personne ne dit le contraire l’ami :wink:

horrible…

quel malheur de faire ce boulot :frowning:

D’une certaine façon les modérateurs participent à l’entraînement de l’IA : les éléments qu’ils retirent font office de base connaissance pour l’IA (du moins ça me paraîtrait logique de faire ainsi)
Par contre ils participent également à leur propre disparition : une fois que l’IA sera suffisament fiable, les jobs de modérateur vont être réduits, voire supprimés

Tu crois vraiment ?
Si Facebook est supprimé, les enragés iront se défouler ailleurs.
C’est pas Facebook le problème, c’est les gens.

5 « J'aime »

Oui oui j’avais bien noté que c’était au Portugal. Après ça me paraissait tout de même un peu léger pour l’impact psychologique. Mais c’est subjectif :smiley:

L

Ça laisse au moins la perspective qu’ils n’aient un jour plus besoin de le faire…

Ca, on en est encore loin p

Parce que pour ce qui est de l’apprentissage par l’IA via des éléments retirés, ces éléments sont actuellement à l’appréciation de chaque modo (même si on a bien sûr de grandes lignes directrices) et un message qu’un modo supprimera ne le sera pas forcément par un autre plus tolérant, parce que nous ne sommes après tout que des humains avec tout ce que ça implique du point de vue du jugement personnel ^^

Bref, ce que devront surtout apprendre les IA, c’est la subtilité et le discernement qui leur permettra de bien comprendre pourquoi un message peut être acceptable dans un certain contexte et pas du tout dans un autre…c’est de cela que nous sommes encore très éloignés

Exemple concret :

  • un membre écrit que son chien est décédé et qu’il en est très triste, et quelqu’un lui répond “ce n’est q’un animal, il peut crever” : inacceptable, message supprimé

  • un membre écrit que son voisin a massacré sa famille à coups de hache, et quelqu’un lui répond “ce n’est q’un animal, il peut crever” : acceptable dans le contexte (quoiqu’un peu brutal), message non supprimé

C’est ce genre de décision que les IA vont devoir prendre…et ne parlons même pas des trolls pas bien méchants ni des messages non constructifs ou hors-sujet que nous ne supprimons pas…mais qui le seront peut-être par une IA qui suivra ses règles strictes ^^

PS : et je ne défend pas notre boulot, nous sommes tous des bénévoles ane

Non non t’inquiète, aucun problème :wink:

C’est la solution que privilégie le Zuck (l’IA), mais je suis tout à fait d’accord avec toi. Je pense qu’il faudra bien des années avant d’avoir quelque chose de viable.

Et de toute façon, rien ne pourra jamais véritablement remplacer l’humain je pense…

Normalement une IA est capable de prendre en compte le contexte, pour savoir que “animal” n’a pas le même sens dans les deux phrases (le sens premier (chat/chien/…) dans la première phrase, une personne au comportement complètement déraisonné dans l’autre). Ce n’est qu’une relation entre les mots, il faut juste qu’elle en bouffe énormément pour le comprendre

Ce n’est pas faux, mais je pense quand même que c’est loin d’être gagné…quand tu vois comment des méprises et malentendus peuvent naître très facilement à cause d’un simple mot lors d’une conversation entre deux humains…et ce sont également des humains qui vont devoir apprendre à une IA un tas de règles et de concepts qui devront être ultra-précis ^^

Va faire comprendre le second degré à une IA… déjà qu’un humain a du mal à le comprendre…

1 « J'aime »

Tout-à-fait d’accord : on en est loin. D’autant que l’on ne parle ici que du français, et j’imagine que les subtilités de langage sont tout autant présentes (voire même davantage) dans d’autres langues.

Cependant l’article et l’émission cash investigation (que je n’ai pas vue) semblent avant tout parler des images/vidéo choquantes, et des conséquences psychologiques que leur vision pouvait générer. Je pense que les policiers qui traquent les pédophiles doivent subir le même calvaire. Il n’y a plus vraiment de notion de contexte ici. Pour reprendre l’exemple de l’article: une décapitation reste une décapitation, quel que soit le contexte.

Tout à fait vrai ^^