Savoir & Culture

Dans les textes sacrés on parles d'entité à la puissance et au pouvoir incommensurable. Absolument innateignable par l'être humain.

Et les êtres humains vont prendre ces idoles pour Dieu. Ils ne savent pas faire la différence entre l'absolu et l'extremmement grand.

Je me demande si c'est ce qui va se passer avec l'IA à un moment donné.

A un moment donné nous n'arriverons plus du tout à comprendre ce que nous racontent les IA et prendrons ce qu'ils disent pour la perfection, parce que ca nous semblera si "génial" que c'est "forcément" ça la perfection.

C'est déjà arrivé dans le monde des echecs, Dans les années 2010, les dernière machines etait tellement puissante que certains se sont mis à les idealiser. Pourtant arrivé dans les années 2020 ces même machines capable de stratégie "parfaite" se faisait exploser par les nouvelles stratégie des nouvelles machines.

Comme quoi "la perfection" n'etait pas si parfaite.

Je me dit qu'il pourrait se passer la meme chose avec chat gpt 37.5 dans 200 ans il sera tellement loin qu'on se mettra a se dire que ce qu'il dit est parfait. Ce qu'il proposera semblera tellement génial qu'on se dira "forcément que c'est vrai". Et pourtant pas du tout en fait, en comparaison de l'absolu il sera en réalité a des années lumière.

Je me demande si cet hubris ne nousfera pas prendre des decisions radicale que l'on n'aurait pas prise avec notre humilité humaine.

En se basant sur des entité que l'on ne comprend pas que l'on pense parfaite peut etre qu'on oubliera l'humilité qui nous a été utile toute notre evolution ?

Peut etre qu'on choisira une voie, un modèle de société, un modèle economique qui sur le papier semblera absolument parfait et en tant qu'humain on sera incapable de le refuter et ca aurait l'air genial, du jamais vu et pourtant ce serait une erreur monumental que les version futur des IA pourront facilement percevoir ?

Ca fait un peu peur.

Bref tldr j'espère que même doté de fausses idoles qu'on conservera notre humilité et que l'on n'oubliera pas l'Absolu.

Dès qu'on connait le fonctionnement actuel de chatgpt, il est impossible de se faire avoir par les prétentions que présentent d'autres naifs : chatgpt ne fait que statistiquement écrire des mots selon la probabilité de leur apparition.

Je suis d'accord. On est très loin de tout ça la tout de suite.

Mais je serais toi j'aurais un peu plus peur que ça.

Ne serait ce que la volonté de deepmind de combiner le travail qu'ils avaient fait sur alphazero/alphago/alphastar (starcraft) aux possibilités données par les modèles de langage actuel.

Ce sont ces machines qui me font peur bien plus que chatgpt.

Si leurs prouesses dans ces sport intellectuelle peut etre reutilisé dans le monde du langage on va commencer à atteindre des trucs extremmement particulier.

Pour le moment chatgpt ne fait qu'essayer de nous imiter aux mieux. Recoder le tout pour arriver a des reponses meilleurs que celles du plus grand expert (c'est ce que fait alphago) dans ces sport intellectuelles en tout cas ca a tres vite eclipsé le genie humain.

On parlait de coup du siècle au go avant que les machines arrivent. Des coups fait par des etres humains avec une sublime intution, qui n'arrive qu'une fois par decennie. Maintenant les machines en font chaque année.