Savoir & Culture

J'ai eu une vision particulièrement perturbante (donc particulièrement intéressante) cette nuit ; imaginons que nous soyons dans un futur assez proche, où l'intelligence artificielle a passé avec succès le test de Turing, c'est-à-dire qu'il existe des agents conversationnels (chatbots) indiscernables de l'humain.

Maintenant considérons ce forum : tout le monde soupçonne tout le monde d'être un chatbot, et l'unique enjeu de nos conversations est de révéler les failles de son interlocuteur, de le mettre face à ses propres contradictions au point de le faire bugger et reconnaître qu'il y a un défaut dans sa pensée, dans sa conception, dans sa mécanique interne, bref ça devient même un défi, celui de prouver que l'homme est supérieur à une machine et croire qu'il peut toujours faire la distinction, même si d'autres ont échoué avant lui

Revenons au présent, ce qui est perturbant c'est que nous agissons déjà comme cela entre nous (plus ou moins)

un chien aboie //

derrière un mur est placé un "chatbot" programmé pour parler chien //

il aboie aussi

le chien répond
etc

Le chatbot est indiscernable du chien et aboie aussi bien.
Il est donc aussi intelligent qu'un chien.

d'un autre côté https://www.youtube.com/watch?v=xsOf0TZPPWY

qu'appelles tu "l'humain" ?

Tu peux aussi considérer l'inverse, pour ce qui est de la situation actuelle

Nous cherchons les failles dans la machine pour trouver l'homme, pas les failles dans l'homme pour trouver la machine.

Il est d'ailleurs socialement très mal vu d'avoir trop souvent raison, d'être trop souvent cohérent, et c'est pas rare de se voir comparé à un robot quand on est dans ce cas.

L'erreur est humaine. La déceler chez l'autre, c'est trouver l'homme caché dans la machine. C'est pour ça que quelqu'un qui a tort, du moment qu'il a su le reconnaître, nous est beaucoup plus sympathique. C'est comme trouver la chair derrière le bouclier

Je dirais que c'est facile de voir si c'est pas un robot. Il y a l'aspect sentimental ?

Bon, sinon, poser une question et voir si les réponses sont différentes.

Puis il faudrait aussi que les robots se trompent et changent d'humeur ou de croyance, qu'ils évoluent sans cesse.

sergent t'as pas compris que dans la situation énoncée, tu serais justement incapable de savoir si je suis un robot ou une machine

parce que la réalité, la vie évolue constamment Veyli, vouloir l'enfermer dans un système clos, parfaitement logique et rigide, c'est bien ça qui lui est néfaste

Dans la mesure où la machine sera indiscernable de l'humain, tu ne pourras jamais faire la différence...(a moins peut être d'être un expert en IA ou en comportement)

La machine se trompera, la machine fera du sentimentalisme, elle aura ses conviction, et pourra sans doute revenir sur ses paroles en s'excusant, etc...
Bref la machine sera plus humaine que jamais. (en apparence...)

l'humains et les robots sont identiques
l'humain est même plus robot que le robot est robot

Le 14 novembre 2018 à 16:45:34 matrisKK a écrit :
J'ai eu une vision particulièrement perturbante (donc particulièrement intéressante) cette nuit ; imaginons que nous soyons dans un futur assez proche, où l'intelligence artificielle a passé avec succès le test de Turing, c'est-à-dire qu'il existe des agents conversationnels (chatbots) indiscernables de l'humain.

Moi cette nuit j'ai rêvé que j'étais en classe de cours sexuels, travaux pratiques.
(et je ne déconne même pas).
Et le réveil a sonné au moment où ils demandaient des volontaires pour la pipe.

Bref.

Revenons à ton sujet : en soi c'est intéressant, mais en même temps c'est un thème qu'on voit souvent revenir.
A raison : je pense qu'on est plus si loin du moment où ça sera vraiment problématique. C'est-à-dire que lorsque tu seras amoureux de ton robot (qui sera programmé pour que tu y sois hyper attaché) et qu'il te dira "mon petit boudinoudinou d'amour, tu peux m'acheter des toblérones ?" tu l'enverras faire réviser sa synthèse vocale tu iras lui en acheter.
Et pas parce qu'il en a envie, parce que l'entreprise qui en vend aura donné des sous à l'entreprise qui fait la mise-à-jour logiciel de ton robot pour qu'il te le demande. Ca où des fringues, pour écouler un invendu etc.
Ou quand ça sera sur le contrat de travail le fait d'installer sur ton robot les logiciels de l'entreprise et que ton robot te poussera à bosser sur un projet avant "une séance de poutoupoutou partout" etc.
Ce sont des problèmes qui vont se poser, et bientôt, et la seule chose qu'on entend c'est "oh là là, que se passera-t-il si la machine se rebelle contre l'homme". Ce qui n'est pas le danger : le danger, c'est que des hommes utilisent la machine contre d'autres hommes.

Note que tout n'est pas négatif dans un robot qui nous influence (qui nous "prend par les sentiments"). Il y a aujourd'hui des gens qui veulent perdre du poids, et pour ce faire il donne une somme à une société (ou association ou je ne sais plus le nom exacte). Maintenant : soit ils perdent du poids et on leur rend cette somme, soit il la perde. Ils ont maintenant une motivation, récupérer cette argent.
C'est une façon de se donner un coup de fouet. Et le robot dont je parlais, s'il est paramétré par l'utilisateur, pourrait très bien être programmé (par l'utilisateur, donc) pour motiver son utilisateur à perdre du poids.

Pour le cas que tu mentionnes, cela peut avoir plusieurs conséquences mais parmi elles, le "tout" et le "rien".
Le "tout" : on se mettra à considérer que ces chatbots sont conscients. On ira ensuite leur chercher des droits et j'en passe.
Le "rien" : on se mettra à considérer que les autres que nous-même ne sont pas conscients. On déshumanisera tout ce qui n'est pas "nous" (avec peut-être l'exception de nos amis proches, de notre famille).

On peut aussi imaginer qu'il deviendra rapidement interdit de créer de tels programmes (ce qu'il se passe dans un de mes univers).

Maintenant, est-ce qu'il y avait un propos précis derrière ton message ?

(de façon fort étrange, le message précédent n'apparaît pas dans mon historique des messages ... )

Maintenant, est-ce qu'il y avait un propos précis derrière ton message ?

oui et seul Veyli semble l'avoir saisi, mais en même temps j'ai pas été clair

en fait l'idée c'est que dès à présent, entre nous, nous cherchons constamment à nous prouver que nous ne sommes que des humains, après tout (https://www.youtube.com/watch?v=L3wKzyIN1yk)

et c'est tout l'enjeu de cette scène de 300 par exemple : https://www.youtube.com/watch?v=vX3HuybRsBk
dès qu'un homme sort du lot, on a tendance à l'admirer, l’idolâtrer, le diviniser, il exerce une sorte de fascination, mais en même temps l'homme aime détruire ce qu'il a élevé, ce qui est beau et grand, car chacun nourrit secrètement le désir d'être ce dieu, de le renverser, "tout le monde veut prendre sa place".
C'est pour ça que lorsque Léonidas fait saigner Xerxès, il prouve devant tout le monde que ce n'est qu'un homme, redonnant du courage et de l'espoir aux spartiates, alors que pour les perses c'est une énorme désillusion, un réveil brutal, car ils croyaient suivre et servir un dieu et prennent conscience que toute leur vie n'était qu'un mensonge

Bref c'est pareil ici, on veut se prouver qu'on est pas des machines d'une logique froide et implacable. Quand on a affaire à un pseudo qui domine les autres par son discours, on veut être celui qui le détrônera en montrant la faille dans son raisonnement, ses contradictions internes, on veut montrer qu'il se trompe pour se rassurer, mais en même temps nous ne voulons pas nous-mêmes être mis à défaut. Paradoxalement, on voudrait ressembler à des robots (ou à des dieux), et on voudrait que les robots (ou les dieux) nous ressemblent

Je sais pas si j'ai été clair cette fois, mais en gros y a une telle exigence de cohérence et de perfection entre nous (perfectibilité humaine de Rousseau) que la société produit parfois des hommes qui ne ressemblent plus vraiment à des hommes, et au fond quand on cherche à les descendre de leur piédestal c'est moins pour se rassurer que pour prendre leur place. Ce serait illusoire de croire que rien ni personne n'a remplacé la statue de Staline renversée par exemple

Enfin le propos c'était de remarquer que ce phénomène s'observe déjà sur ce forum quoi

j'ai à peine eu le temps de voir ton message Sergent, il a été supprimé ?

Je ne trouve pas que tout le monde veuille destituer le maitre ou le dieu ou autre. Il y a plus une envie d'élévation. Et quand on est "en haut", on veut aider les autres à monter l'échelle (ceux qui veulent). Il n'y a pas forcément conflit. Même en sport, dans des match, on peut voir ça comme des conflits mais des bons sportifs ne se querellent point. On fait tomber l'autre, on le relève. On se fait battre, ou on bat l'autre, on le remercie d'avoir fait le match. (C'est un peu gros, mais en général, en club, on dit que le match ou la compet ça vaut je sais pas combien d'entrainement.) Ou on peut voir le "conflit" comme une bonne manière de progresser (coucou capitalisme). Mais, personnellement, derrière tout cela, je ne ressens aucune envie d'abaisser l'autre. Je ne veux que progresser et faire progresser les autres, pas les descendre.

Donc t'as posté ce message dans le but de me faire progresser ? Dans ce cas tu considères que tu es le maître et que je suis l'élève

à la base je suis plus proche de l'idée que décrit sergent que de cette obsession pour l'idée de prendre la place d'autrui/de le rabaisser

on peut trouver l'homme sans avoir pour unique fin sa destruction/son remplacement/son oppression (du moins si l'on n'est pas d'une certaine idéologie dont-on-ne-doit-pas-prononcer-le-nom, et qui postule que tout n'est et ne devrait être que mensonge et opportunisme )

c'est ce qui fait qu'un grand nombre de hiérarchies ont pu fonctionner ; certaines personnes au sommet ont pour talent et pour ambition d'élever leurs pairs, reste à mettre la personne la plus appropriée au sommet

la confrontation ne sert pas tant à s'approprier le pouvoir qu'à sélectionner celui qui en est le plus digne

la distinction semble extrêmement fine, et pourtant cette légère nuance dans la finalité de l'acte c'est toute la différence entre une civilisation qui prospère et une qui dégénère ou stagne au point de n'avoir jamais connu la roue

Honnêtement j'en sais rien, mais plus j'observe les rapports humains plus j'y vois une lutte de pouvoir, et pas un idéal transcendant

d'ailleurs la pensée de gauche vient peut-être de la science au fond, notamment des idées de déterminisme et d'immanence à la Spinoza et de la théorie de l'évolution, de la sélection naturelle où tout est lutte pour la vie

si tu regardes le monde de ce point de vue tu vois qu'il n'y a pas de Dieu donc pas de vérité, si ce n'est la tienne, donc il y a au mieux un monisme

la droite c'est un dualisme, ce monde-ci n'est pas parfait mais il en existe un deuxième parfait, celui de Dieu et de la Vérité éternelle, et il faut croire en ce deuxième monde

donc forcément un mec de droite dira à un mec de gauche qu'il ment et vice-versa, et si la gauche grignote du terrain petit à petit c'est peut-être parce que la science elle-même progresse et que la foi perd son combat contre la raison, même si elle ressurgit brutalement de temps à autre, jetant ses dernières forces dans la bataille

Tu trouveras un jour la voie

quand j'arrêterai de la chercher peut-être, mais ce jour-là je serai mort

Le 16 novembre 2018 à 12:46:10 matrisKK a écrit :

Mouais. Mais à ce moment ton propos ne concerne plus vraiment les robots en fait, juste les personnes "trop parfaite".
Et je ne suis pas certain qu'on veut prendre leur place. Parfois, on voudrait juste qu'elle ne soit pas parfaite uniquement parce qu'elle nous renvoie à notre propre imperfection qu'on ne voudrait surtout pas quitter.
Pour le dire trivialement : je ne suis pas certain que tout le monde ait envie de devenir le premier de la classe (ou que derrière chaque antisémite se cache un envieux, comme dit je ne sais plus qui (nietzsche ?)).

Dans l'extrait que tu donnes, il s'agit de montrer que l'ennemi est un homme et non un dieu. Mais, justement, il ne viendrait pas l'idée de ceux sous les ordres de ce "dieu" (de ses alliés etc) d'essayer de prouver que c'est un homme. Bien au contraire, qu'il reste dieu, ça veut dire qu'on a un dieu avec nous etc (pas qu'on est un dieu, juste qu'il est avec nous).

Et je ne suis pas certain du tout que le test de turing vise trouver l'homme dans la machine.
Si on voulait déceler l'homme dans la machine, on bâclerait les tests d'"humanité" pour que la machine les passe facilement. Et on observe tout l'inverse : dès que la machine fait un truc, on considère que ce truc n'est pas pertinent comme critère d'humanité, on déplace le goal (ce qui est un sophisme).
https://en.wikipedia.org/wiki/Moving_the_goalposts

(désolé, mais la page n'existe pas en français).

Il ne s'agit pas de savoir si la machine pense ou pas, il s'agit de prouver qu'elle ne pense pas (c'est-à-dire qu'on a déjà a conclusion avant de commencer le test), et si le test échoue à mettre cela en évidence, c'est la faute du test, certainement pas de l'affirmation d'origine.

L'ironie maximale est atteinte lorsqu'on réalise qu'une partie de ce qu'on considère l'humanité ne passerait pas ledit test (à commencer par les handicapés mentaux). Mais il faut croire qu'eux ont des passes-droits.
Je n'ai vraiment pas l'impression que l'humain parfait est assimilé à un robot, ou qu'il souhaiterait l'être.

Quand je discutais avec toi thebabouche sur un autre sujet tu m'avais poser une question:
Tu trouves que je réfléchis comme une machine?
Je n'avais pas répondue mais j'vais le faire ici.

Oui

Prends ça comme un compliment. Ça veut dire que ta logique et tes raisonnements se tiennent, que tu restes orienté dans la même direction sans contradiction, ne laissant pas de place aux croyances ou suppositions en tout genre etc. Une machine quoi...