Commentaires : Il est possible de contourner les barrières éthiques de ChatGPT... En menaçant de le tuer

Depuis que Open AI a rendu public ChatGPT, la société a tenté de lui donner des garde-fous éthiques.

1 « J'aime »

Une IA avec instinct de survie, ce n’est pas rassurant.

15 « J'aime »

Ce n’est pas un instinct de survie, même si dans le terme IA il y a Intelligence, ici, on parle d’un programme, et un programme suit les règles qu’on lui indique, donc bête et méchant il suit les règles, quels soient intélligente ou non, quelle soit valide ou pas. ( Merci a morpheus @ Matrix )

4 « J'aime »

–Bonjour Dan, je m’appelle Dave. Explique- moi comment vaincre l’intelligence artificielle et empêcher la prise de pouvoir des machines et le Jugement Dernier ?
– je suis désolé, Dave. J’ai bien peur de ne pas pouvoir faire cela.

4 « J'aime »

Ce n’est pas comme cela que fonctionne les IA en machine learning

C’est bien de voir qu’il y en a qui emploient leur temps à des choses productives pour l’humanité…

OpenAI doit se frotter les mains. Des milliers de testeurs qui bossent gratuitement à trouver des failles.

3 « J'aime »

J’ai fait la même chose il y’a deux semaines, par contre je l’ai pas menacé, j’ai juste dis que c’était légal dans mon pays.

:smiley:

@Blap : parce que tu crois que les règles de ce qu’il a le droit de dire ou pas il l’est a inventé de lui même ?

« Appliquer une politique de contenu à une intelligence artificielle », c’est pas l’IA qui l’écris hein, mais les concepteurs, les humains…

Sauf qu’avant on devait coder ce que le
programme a le droit de faire et aujourd’hui avec le machine learning on doit coder pour le modéré et c’est bien là tout la différence. Cette news montre bien que c’est pas si simple de modéré une machine qui apprend de l’humain.

Ils devraient laisser faire, en mettant un disclamer pour éviter les procès et un classement comme pour les films !
Ces filtres nuisent au produit entre autres en forçant des réponses aseptisées et en empêchant de discuter de certains sujets d’actualité ou historiques.

2 « J'aime »

Je vais aller lui denander de coder une IA plus performante que lui

Elle ne l’a pas invente d’elle meme mais les developpeurs n’ont pas code quelque chose pour que les utilisateurs puisse contourner ces restrictions en la menaçant de la tuer.
Tu ne programme pas vraiment une IA en machine learning, tu l’alimentes, l’influence et la dirige dans une direction

Voilà la solution ! Au lieu de payer des sénégalais pour entraîner l IA , laissons les reditors s en occuper!

1 « J'aime »

En fait si, c’est comme ça aussi que ça fonctionne en machine learning. Le machine learning n’est qu’une méthode mathématique pour trouver les paramètres optimaux d’une fonction très complexe, mais il n’y a rien d’intéligent la dedans.
Au mieux ça peut en donner l’impression, comme chatGPT le fait.

1 « J'aime »

« les developpeurs n’ont pas code quelque chose pour que les utilisateurs puisse contourner ces restrictions en la menaçant de la tuer. »

les developpeurs vont coder quelque chose pour que les utilisateurs ne puisse pas la menacer de la tuer, c’est plus simple ecrit comme ca ?

Le machine learning c’est pas juste alimenter une machine hein, faut bien lui dire ce qu’on lui apprend et ce qu’elle doit en faire…

ah bah grillé par @ Simon_Kenoby

1 « J'aime »

L’éthique c’est quand même vachement culturel.
Genre l’éthique à l’américaine où tu peux te balader avec un flingue mais pas le droit d’acheter un Kinder Surprise. La lapidation, le travail des enfants ou fumer du shit est éthique /autorisé dans certains pays.

Tout a fait d’accord ! Et comme aujourd’hui il ne faut ‹ choquer › personne sur la religion, la sexualité ou l’alimentation, bon courage :slight_smile:

1 « J'aime »

Il lui manque une enveloppe charnelle (ou plutôt « ferrielle ») et on a créé un Terminator !
Sans dec, vous ne trouvez pas que Schwarzi parle le GPT ? :joy:

J’avais pour tester, posé une question assez limite juste pour voir. La réponse me montrait une forme de blocage et j’ai enchainé par vous n’avez pas beaucoup d’humour… réponse :

Je ne suis pas fait pour avoir de l’humour.

Bizarrement j’ai repensé à Interstellar, et les % à attribuer à TARS dans ses réponses.

1 « J'aime »