C’est un problème qui prend de l’ampleur. ChatGPT a tendance à valider les idées de ses utilisateurs, même les plus farfelues, au risque d’aggraver des situations de détresse psychologique.
Comment l’IA pourrait faire la différence entre des notions abstraites comme le bien ou le mal par exemple ? Elle n’a pas cette capacité de jugement.
2 « J'aime »
Il faut l’interdire aux mineurs.
Je pense que les gens attendent beaucoup de l’IA et oublient que l’IA n’est pas un vrai humain et n’est pas aussi une vraie intelligence 
Moi ce qui m’embête c’est les gens surpris quand l’IA se comporte bizarrement mais réveillez-vous à la fin, l’IA n’a jamais eu pour but de remplacer un humain ni de vous rendre plus intelligent (de ce côté là elle risque de vous rendre plus bête).
Pourquoi cela ? … il faut l’interdire à tous les gens qui considèrent que ChatGPT est intelligent
Et quand on croit tout ce que ChatGPT raconte qu’on ait 10 ans ou 50 ans c’est la même chose !
2 « J'aime »
Il faudrait que, dans ce cas, ChatGPT puisse ajouter à certains prompts (questions personnelles, conseils, coaching, psychologie…) un texte en rouge qui indique clairement que c’est une IA, qu’elle n’a pas de jugement ni de compétences médicales et invite donc les gens à consulter un professionnel de la santé mentale si nécessaire…
voyons pourquoi ils feraient ça ? … chaque entreprise d’IA vend son IA comme étant la meilleure et la plus proche de l’intelligence humaine … donc ce que tu dis n’est pas bon pour le business.
Il manquerait plus que Tiktok affiche un message « cette vidéo est un fake » … alors 90% du contenu de Tiktok n’a pas lieu d’exister 
On est bien plus sensible et influençable quand on est enfant et adolescent.
Plus tôt on prévient, plus grande est l’indépendance d’esprit.
Tout comme pour le porno, c’est le rôle des parents de ne pas laisser leurs enfants croire tout ce que l’IA leur raconte
Oui mais pas seulement.
Tous les parents ne sont pas geek, à même de bloquer, filtrer les contenus.
C’est une responsabilité collective, un enjeu de société.
Filtrer ce que donne l’IA ? désolé mais même si t’es un geek c’est pas à toi de décider ce que fait une IA, c’est ceux qui l’ont créé et la gère toi tu peux juste choisir d’accepter ou non ce qui t’es donné comme réponse.
Le filtrage des IA existent via les APIs mais encore une fois c’est destiné à ceux qui proposent des bots basés sur les modèles d’OpenAI donc encore une fois c’est pas au niveau utilisateur que ça se passe.
Ta pas besoin d’être Geek pour convaincre ton enfant que l’IA n’est pas son ami et surtout pas une vraie personne. tout comme ta pas besoin d’un diplôme en psychologie pour dire à tes enfants de ne pas parler aux inconnu.
Je parle de « filtrer » au sens large, parfois c’est du blocage qu’il faut.
Et concernant plus spécifiquement les IA, tu peux bien expliquer à ton gamin que c’est problématique, mais si tu veux être sûr qu’il n’y va pas et bien tu dois bloquer les accès et là il faut connaître un minimum.
Particulièrement avec les ados qui n’en font qu’à leur tête.
même si tu connais un minimum, ton gamin connait forcément plus que toi c’est un fait. y a des parents qui installent des logiciels de contrôle et tout mais les ados sont très informés et savent comment contourner cela.
Pour moi la seule solution n’est pas du tout informatique !
Non, ça dépend des parents, attention aux généralités.
Personne n’a dit que la seule solution était informatique mais exactement comme pour le porno, imposer un contrôle, un filtrage en amont réduit déjà fortement le trafic c’est la société entière qui a une responsabilité.