IA, Dans 10 ans, tous au chômage :lensois: Options

[Tchoune]

(...)
Pour rappel c'était déjà le discours avant de sortir GPT-2 : https://techcrunch.com/2019/02/17/openai-te...ator-dangerous/

Comme l'a dit Miam, le discours sur "les modèles si incroyables qu'ils en sont dangereux" fait entièrement partie de la communication de ces boites depuis le début pour prouver l'avancée de leur R&D et attirer les investisseurs.

L'alignement est effectivement un énorme champ de recherche en IA, il y a des études de cas intéressantes à lire sur la façon dont les IA procèdent pour atteindre leurs objectifs, mais aujourd'hui sortir "l'IA a 10% de détruire l'humanité" c'est aussi poussé qu'un tweet "Julian Alvarez va signer au barça à 85% sauf retournement de situation".

Quand chaque foyer possèdera un robot capable de manier des couteaux de cuisine utilisant tous la même IA connectée à un système centralisé genre I-Robot, là ok on pourra en reparler Mais je mise plutôt sur la victoire du calcul en local pour les usages IA du quotidien. Apple va cartonner

Ton "pouvoir faire max de thunes" n'est pas vraiment l'enjeu, OpenAI et Anthropic flippent d'être les prochains WorldCom ou Compaq qui ont crevé avec la bulle internet. L'open source et le calcul décentralisé rendent leurs produits extrêmement fragiles, sans parler des concurrents chinois qui te divisent la facture d'utilisation par 10 à chaque nouvelle itération de modèle.

Je suis conscient que ça fait partie d'une démarche marketing. Jusqu'à quand ? Le jour où ça ne l'est plus comment fais-tu la différence. C'est l'histoire du garçon qui criait "Au loup !".
Pour les 10% et le monsieur en question j'ai déjà dit que même si c'est 1% c'est déjà trop. Et oui la méthode de lancer des chiffres effrayant pour faire parler ne me plaît pas plus qu'à vous. Mais encore une fois il n'est pas seul à l'avoir fait au cours des dernières années, et pas tous de manière aussi m'as-tu vu.
Concernant l'usage futur en local, je ne m'y connais pas suffisamment pour te dire si je trouve ça plausible. Pour le moment Apple est à la ramasse mais il se peut que le chemin emprunté soit plus long pour un meilleur résultat final.
Ils ne cherchent pas à s'enrichir ? Je veux bien que tu me dises quel est la motivation derrière ça alors. Quel est l'enjeu.


Donc pour toi il n'existe aucun risque et ces grandes firmes font le nécessaire pour que le danger soit nul ?
La course à la puissance est bien encadrée et n'accroît pas le risque de dérapage ?
On connait les principaux écueils et on a mis en place des solutions de contournement ?
Parce que c'est ça le souci ici, un risque faible d'occurrence mais au potentiel catastrophique.
Et à titre perso je ne mettrai pas ma vie entre les mains de Sam Altman par exemple...

Mais pour revenir au risque exprimé par ce bon Jacob Coxon, je pense qu'à ce jour on n'est pas encore au stade de la création d'une entité supra intelligente ET consciente. Je n'ai cependant pas de certitude que ce ne sera pas le cas dans moins de 10 ans compte tenu du rythme effréné des avancées.
Une entité supra intelligente ET consciente ça pose tout un tas de questions, à tout le moins philosophique. Et rarement il en ressort que l'être supérieur n'exploite pas les autres.

Pour moi, vous le savez, on court à notre perte en tant que société. Mais l'IA n'est qu'un outsider actuellement. Et avec ce qu'il faut de chance (beaucoup donc) ça pourrait même plutôt être une porte de sortie par le haut.
J'ai juste du mal à être positif quand je vois qui est en charge de nos jours.
Tout ça sans même parler de ce que Zehef évoquait, du fait que les méfaits sur le quotidien sont déjà présents et que je ne vois pas comment ça irait en s'améliorant.

[succo]

On commence par rire avec des sons de Cara puis on finit par se battre contre Skynet.

Winter is coming.

[Gombrenba]

On commence par rire avec des sons de Cara puis on finit par se battre avec des couilles taureau contre Skynet.

FYP

[Oyé Sapapaya]

https://twitter.com/TheTNHoller/status/2097894768587972761

— CulturePSG (@CulturePSG) November7, 2011

https://twitter.com/factpostnews/status/2097697080651219449

— CulturePSG (@CulturePSG) November7, 2011

Me voilà rassuré.

[Gombrenba]

C'est un bon pitch ça, les US qui ont toujours besoin d'avoir une guerre sous le coude font la guerre à une IA.

Il y a un côté cercle vertueux

[Oyé Sapapaya]

Dans un domaine moins apocalyptique

https://twitter.com/restitutorII/status/2097918742571139093

— CulturePSG (@CulturePSG) November7, 2011

C'est tellement le dernier scenario mais bon tout va bien

[VNR]

Ils ne cherchent pas à s'enrichir ? Je veux bien que tu me dises quel est la motivation derrière ça alors. Quel est l'enjeu.

Une fois qu'on a dit grossièrement que les acteurs économiques "cherchent à s'enrichir", je précisais tout simplement qu'OpenAI et Anthropic cherchent à faire survivre leur boite à la bulle.

Donc pour toi il n'existe aucun risque et ces grandes firmes font le nécessaire pour que le danger soit nul ?
La course à la puissance est bien encadrée et n'accroît pas le risque de dérapage ?
On connait les principaux écueils et on a mis en place des solutions de contournement ?
Parce que c'est ça le souci ici, un risque faible d'occurrence mais au potentiel catastrophique.
Et à titre perso je ne mettrai pas ma vie entre les mains de Sam Altman par exemple...

Mais bien sûr que la recherche et l'innovation supposent un risque ! On ne peut pas agir en risque zéro, encore moins innover. Un risque se documente, pour l'instant les "risques" évoqués dans les médias se basent plus sur le scénario de terminator que sur les travaux en cours. Tu parles par exemple d'une IA "consciente", mais il y a bien plus de chercheurs qui réfutent la possibilité de voir un jour une IA "consciente", et le jour où une IA s'avère consciente en labo dans un circuit fermé on pourra en reparler et amorcer le débat sur les risques de cette découverte, mais réguler avant que l'innovation ait lieu c'est tout bonnement ahurissant.

Dans un domaine moins apocalyptique

https://twitter.com/restitutorII/status/2097918742571139093

— CulturePSG (@CulturePSG) November7, 2011

C'est tellement le dernier scenario mais bon tout va bien

Le dernier scénario est le plus bandant mais j'y crois peu pour l'Europe. Grosse cote : l'Europe proche du premier scénario, les US et la Chine proches du troisième scénario. Les touristes américains passeront leurs vacances en France comme on passe nos vacances en Thaïlande.

[Pathfinder]

Le dernier scénario est le plus bandant mais j'y crois peu pour l'Europe.

Il y a un truc quand meme a prendre en compte dans ton scenario bandant, si on met 20% de personnes au chomage, ces personnes ne vont plus consommer donc je ne vois pas trop comment l'economie pourrait s'en sortir. Oui, le PIB va certainement croitre mais quand on utilise l'IA dans l'equation en tant que force de travail, le PIB ne represente plus une mesure serieuse pour mesurer la croissance d'une economie.

Car meme pour des emplois ou l'IA n'a pas d'impact, par exemple un serveur dans un resto, il faut des clients pour que le resto marche et donc paie le serveur. C'est pas les 10% de la population Francaise qui auront les richesses issues de l'IA qui vont faire tourner l'economie de tout un pays.

Je n'arrive meme pas a comprendre comment ce principe si basique n'est pas compris par les apotres de la croissance via l'IA.

[Tchoune]

Une fois qu'on a dit grossièrement que les acteurs économiques "cherchent à s'enrichir", je précisais tout simplement qu'OpenAI et Anthropic cherchent à faire survivre leur boite à la bulle.



Mais bien sûr que la recherche et l'innovation supposent un risque ! On ne peut pas agir en risque zéro, encore moins innover. Un risque se documente, pour l'instant les "risques" évoqués dans les médias se basent plus sur le scénario de terminator que sur les travaux en cours. Tu parles par exemple d'une IA "consciente", mais il y a bien plus de chercheurs qui réfutent la possibilité de voir un jour une IA "consciente", et le jour où une IA s'avère consciente en labo dans un circuit fermé on pourra en reparler et amorcer le débat sur les risques de cette découverte, mais réguler avant que l'innovation ait lieu c'est tout bonnement ahurissant.



Le dernier scénario est le plus bandant mais j'y crois peu pour l'Europe. Grosse cote : l'Europe proche du premier scénario, les US et la Chine proches du troisième scénario. Les touristes américains passeront leurs vacances en France comme on passe nos vacances en Thaïlande.

Si bulle il y a c'est que le système déconne non ?

Pas réguler alors si c'est tellement un vilain mot pour toi Préparer par des concertations en amont ? Parce que le jour où ça arrive (et ça peut arriver vite) ça pose tout de suite des problèmes moraux...

[VNR]

Il y a un truc quand meme a prendre en compte dans ton scenario bandant, si on met 20% de personnes au chomage

20% à court-moyen terme dans ton scénario extrême. À moyen-long terme tu retrouves le plein emploi. Je comprends que la transition pique, mais encore une fois c'est une hypothèse extrêmement offensive, les innovations de rupture ont toujours amené des évolutions très progressives du marché du travail.

Si bulle il y a c'est que le système déconne non ?

Pas réguler alors si c'est tellement un vilain mot pour toi Préparer par des concertations en amont ? Parce que le jour où ça arrive (et ça peut arriver vite) ça pose tout de suite des problèmes moraux...

S'il y a bulle elle dégonflera, y a rien qui déconne, c'est juste que beaucoup de gens misent beaucoup d'argent sur beaucoup d'hypothèses différentes pour l'avenir de l'IA. Une partie de ces gens se tromperont et perdront leur mise, ce n'est pas un dysfonctionnement.

Et oui je préfère "discuter" ou "débattre" à "réguler" comme premier réflexe. La peur de la nouveauté est normale, légiférer sur des fantômes et des hypothèses de fiction n'a aucun sens.

[Pathfinder]

20% à court-moyen terme dans ton scénario extrême. À moyen-long terme tu retrouves le plein emploi. Je comprends que la transition pique, mais encore une fois c'est une hypothèse extrêmement offensive, les innovations de rupture ont toujours amené des évolutions très progressives du marché du travail.

Je suis vraiment curieux de comprendre (et c'est pas ironique, j'arrive juste pas a me l'imaginer) comment on peux passer de 25% de chomeurs (on va dire les chomeurs existants + les nouveaux 20%) au plein emploi? Avec 25% de chomeurs (et les 20% qui vont sauter suite a l'IA ne seront pas les salariés les moins bien payés je pense), je ne vois pas comment notre economie et l'etat peuvent survivre, ca me parait impossible, entre les couts liés au chomage, les pertes de rentrée d'argnent pour l'etat et la consommation qui va chuter drastiquement.

Sinon, je pense sincerement que cette innovation n'a rien a voir avec les precedentes car a part l'invention de la machine a vapeur dans une certaine mesure, aucune innovation n'avait pour but de remplacer l'humain mais plutot de faciliter sa vie. Dans le cas de l'IA, le but ou la finalité est de remplacer l'humain par une machine, c'est tres different.

Des pans entiers de notre societe vont disparaitre, par exemple les avocats, profession vouée a disparaitre a part certains d'entre eux. Tu va les former pour un autre job afin qu'ils retrouvent un emploi?

Je ne suis pas convaincu que l'IA va detruire l'humanité mais je suis persuadé que les changements qui arrivent dans les 5 prochaines années vont fondamentalement modifier notre civilisation et pas que en bien.

[RegardZehef]

Le dernier scénario est le plus bandant mais j'y crois peu pour l'Europe. Grosse cote : l'Europe proche du premier scénario, les US et la Chine proches du troisième scénario. Les touristes américains passeront leurs vacances en France comme on passe nos vacances en Thaïlande.

C'est deja le cas

1% c'est déjà trop.

Apres ce sont des estimations qui sortent du cul d'un mec ca Quand le CERN a lance son accelerateur de particules y'avait 1% de chances qu'un trou noir apparaisse (admire le champ lexical )

Tout ce tintouin avec le mec qui avertit le WSJ avant de demissioner, qui a 0 followers et dont le tweet est relaye par des comptes proches de l'ecosysteme AI-sceptique, les pourcentages a la con, ca pue un peu l'operation de com.

C'est dommage, parce que le debat est important mais faut aussi l'avoir dans des conditions serieuses.

https://twitter.com/BBCNewsnight/status/2097810529339187515

— CulturePSG (@CulturePSG) November7, 2011

Ce segment est revelateur, quand elle demande comment les explications sont brumeuses et melangent beaucoup de scenarios possible.

Le danger biotechnologique (virus modifie) est reel, mais il existait bien avant l'IA (le Covid ) et existera meme si vous coupez le courant. Les IA sont assez nulles en biologie moleculaire d'ailleurs.

[VNR]

Je suis vraiment curieux de comprendre (et c'est pas ironique, j'arrive juste pas a me l'imaginer) comment on peux passer de 25% de chomeurs (on va dire les chomeurs existants + les nouveaux 20%) au plein emploi? Avec 25% de chomeurs (et les 20% qui vont sauter suite a l'IA ne seront pas les salariés les moins bien payés je pense), je ne vois pas comment notre economie et l'etat peuvent survivre, ca me parait impossible, entre les couts liés au chomage, les pertes de rentrée d'argnent pour l'etat et la consommation qui va chuter drastiquement.

Sinon, je pense sincerement que cette innovation n'a rien a voir avec les precedentes car a part l'invention de la machine a vapeur dans une certaine mesure, aucune innovation n'avait pour but de remplacer l'humain mais plutot de faciliter sa vie. Dans le cas de l'IA, le but ou la finalité est de remplacer l'humain par une machine, c'est tres different.

Des pans entiers de notre societe vont disparaitre, par exemple les avocats, profession vouée a disparaitre a part certains d'entre eux. Tu va les former pour un autre job afin qu'ils retrouvent un emploi?

Je ne suis pas convaincu que l'IA va detruire l'humanité mais je suis persuadé que les changements qui arrivent dans les 5 prochaines années vont fondamentalement modifier notre civilisation et pas que en bien.

Si je prends l'exemple de la crise de la dette européenne 2011-2014 : l'Espagne avait 26% de chômage en 2013 et est passée sous 10% cette année, la Grèce 28% en 2013 est désormais à 8% (comme la France pour qui 7-8% c'est le plein emploi), le Portugal 18% en 2013 est aujourd'hui au vrai plein emploi à 4%. Ils ont vécu une décennie de rigueur pour nettoyer les comptes publics, très peu de croissance en face, c'était rude, mais ça se fait, et ça se fait même souvent, la croissance est théorisée comme cyclique au rythme des innovations, les politiques budgétaires se sont traditionnellement calquées sur ces cycles pour agir en contra-cyclique (pas en France car nous sommes trop mignons trop douillets trop chouchou pour initier des politiques budgétaires restrictives permettant de constituer l'airbag des prochaines crises).

Je pense que ta vision (répandue) du caractère unique de l'IA comme une innovation "pas comme les autres" relève d'un biais de récence. Internet devait aussi détruire l'économie, les emplois physiques, l'économie de bureau... mais elle l'a juste transformée. Je suis à peu près sûr qu'on trouvait des avis similaires dans les journaux du 18ème siècle pour la machine à vapeur. Je peux adhérer à l'hypothèse de la transformation, j'ai du mal à comprendre l'hypothèse de la destruction. Si tu estimes qu'à moyen-long terme les x% de chômage créés dans l'immédiat par l'IA ne disparaitront pas, alors tu dis que l'économie ne se transformera pas, qu'elle ne créera pas de nouveaux emplois, de nouveaux débouchés, de nouveaux besoins de mains d'oeuvre... Tu juges finalement que la société actuelle, les civilisations humaines actuelles telles que nous les connaissons en 2026, sont arrivées à leur stade final, leur stade le plus évolué, que rien ne sera plus créé, que rien n'évoluera plus ensuite, que l'IA prend la main sur les dernières missions possibles qu'un être humain puisse remplir d'ici l'extinction de la race humaine. Ce n'est ni ma croyance, ni le constat empirique.

[Alain Miamdelin]

Tout ce tintouin avec le mec qui avertit le WSJ avant de demissioner

Il a quand même bossé genre 6 semaines à Anthropic.

[Pathfinder]

Si je prends l'exemple de la crise de la dette européenne 2011-2014 : l'Espagne avait 26% de chômage en 2013 et est passée sous 10% cette année, la Grèce 28% en 2013 est désormais à 8% (comme la France pour qui 7-8% c'est le plein emploi), le Portugal 18% en 2013 est aujourd'hui au vrai plein emploi à 4%. Ils ont vécu une décennie de rigueur pour nettoyer les comptes publics, très peu de croissance en face, c'était rude, mais ça se fait, et ça se fait même souvent, la croissance est théorisée comme cyclique au rythme des innovations, les politiques budgétaires se sont traditionnellement calquées sur ces cycles pour agir en contra-cyclique (pas en France car nous sommes trop mignons trop douillets trop chouchou pour initier des politiques budgétaires restrictives permettant de constituer l'airbag des prochaines crises).

Je veux bien t'accorder ce point que meme a 25% de chomage, un pays peut s'en sortir, je ne pensais pas que c'etait si haut en Espagne par exemple. Donc on a des exemples de pays avec un taux de chomage tres eleve qui ont reussi a s'en sortir.

Je pense que ta vision (répandue) du caractère unique de l'IA comme une innovation "pas comme les autres" relève d'un biais de récence. Internet devait aussi détruire l'économie, les emplois physiques, l'économie de bureau... mais elle l'a juste transformée. Je suis à peu près sûr qu'on trouvait des avis similaires dans les journaux du 18ème siècle pour la machine à vapeur. Je peux adhérer à l'hypothèse de la transformation, j'ai du mal à comprendre l'hypothèse de la destruction. Si tu estimes qu'à moyen-long terme les x% de chômage créés dans l'immédiat par l'IA ne disparaitront pas, alors tu dis que l'économie ne se transformera pas, qu'elle ne créera pas de nouveaux emplois, de nouveaux débouchés, de nouveaux besoins de mains d'oeuvre... Tu juges finalement que la société actuelle, les civilisations humaines actuelles telles que nous les connaissons en 2026, sont arrivées à leur stade final, leur stade le plus évolué, que rien ne sera plus créé, que rien n'évoluera plus ensuite, que l'IA prend la main sur les dernières missions possibles qu'un être humain puisse remplir d'ici l'extinction de la race humaine. Ce n'est ni ma croyance, ni le constat empirique.

En effet, je pense que le chomage crée par l'IA ne pourra pas se resorber dans le temps et qu'il continuera d'empirer. Je ne crois pas non plus au fait que l'IA permettra de creer de nouveaux emplois car le besoin de mains d'oeuvre ira en declinant. Tu parles d'Internet, cela n'a pas detruit l'economie (et je ne l'ai jamais pensé) mais cela a modifie des pans de notre economie, comme par exemple les journaux ou bien les services de poste. Mais cela a aussi apporté beaucoup et pour moi la balance risque/benefice est clairement positive avec Internet.

Je ne juge pas comme tu l'ecrit "que la société actuelle, les civilisations humaines actuelles telles que nous les connaissons en 2026, sont arrivées à leur stade final, leur stade le plus évolué, que rien ne sera plus créé, que rien n'évoluera plus ensuite" car je ne crois pas que cela soit une "decision" de l'homme mais plutot le resultat de quelques personnes qui ont amene l'IA la ou elle est.

Je ne crois pas non plus a l'extinction de la race humaine par une action directe d'une IA, je crois beaucoup plus a la fin progressive de notre civilisation par le fait que les generations futures ne veulent plus ou ne peuvent plus avoir d'enfants (difficile d'avoir des gosses si t'as pas de boulot pour les nourrir et que l'etat n'est pas en capacite de te payer un salaire universel) d'ou une demographie qui chuterait brutalement. On peut aussi imaginer que les peuples ne vont pas se laisser mettre au chomage sans reagir. C'est une chose d'avoir quelques pays avec un taux de chomage stratospherique, c'en est un autre d'avoir la plupart des pays dans la meme situation.

On a une vision diametralement opposé car tu penses que le marché va se reguler de lui-meme, je n'y crois pas une seconde. L'histoire montre que si on ne regule pas un secteur, il y a des derives.

Je t'accorde que ma vision fait un peu voir beaucoup apocalypse et si je devais parier ma maison dessus, je ne le ferais pas mais je pense que c'est un scenario tout a fait possible.

[NewYorkSup]

Le danger biotechnologique (virus modifie) est reel, mais il existait bien avant l'IA (le Covid ) et existera meme si vous coupez le courant. Les IA sont assez nulles en biologie moleculaire d'ailleurs.

Ca a quand meme gagne le Noel de chimie y a pas longtemps il me semble.

[RegardZehef]

Ca a quand meme gagne le Noel de chimie y a pas longtemps il me semble.

Alphafold yes, mais on est dans de la biochimie pure et dure
Demis Hassabis qui disait qu’avec alphafold 3 toutes les maladies allaient être guérissables dans 10 ans, je peux te dire qu’il est vite revenu sur ses paroles et pourtant on parle d’un outil révolutionnaire.

Le passage de la théorie au concret est en général très douloureux dès que tu entres dans un système biologique. Moins de 0.1% des molécules finissent prescrites chez des humains, sans garantie d’efficacité d’ailleurs.

[Dofr]

Je comprends pas votre scepticisme sur le fait que les ia pourraient entrainer notre fin.

Vous pensez que jamais une ia ne pourrait avoir envie d'exterminer les humains ? Ou que si c'est possible mais qu'ils en auront jamais les moyens ?

Moi perso, je réponds oui aux 2 questions, ptet car j'ai trop vu de film catastrophes mais je pense pas . Apres aucune idée du pourcentage de chance ou de quand ca pourrait arriver , mais ca me parait totalement plausible.

Apres perso, j'ai quasi jamais utilisé l'ia , pas besoin niveau prof ni niveau perso .

Mais je pense qu'on devrait l'utiliser pour gérer tout un tas de trucs, ca géra forcément mieux que des humains , je pense meme qu'un prédisent de la république ia , gérait mieux la france que tout ceux qui ont essayés ces derniers décénnies avec les bons prompts bien sur et avec des limitations de pouvoir .

D"ailleurs : https://www.rfi.fr/fr/europe/20250912-l-alb...ce-artificielle

[RegardZehef]

Vous pensez que jamais une ia ne pourrait avoir envie d'exterminer les humains ? Ou que si c'est possible mais qu'ils en auront jamais les moyens ?

Désolé mais cette question n’a pas vraiment de sens.

Tous les discours alarmistes à mon avis servent aujourd’hui surtout les intérêts d’OpenAI et d’Anthropic:
- ca fait de la pub sur les capacités de leurs modèles
- leur demande de régulation sert à étouffer l’émergence de toute concurrence et de se partager le marché.

Voila c’était ma théorie du complot à 2 balles, fin ça c’est pas moi qui l’dit

[NewYorkSup]

Alphafold yes, mais on est dans de la biochimie pure et dure
Demis Hassabis qui disait qu’avec alphafold 3 toutes les maladies allaient être guérissables dans 10 ans, je peux te dire qu’il est vite revenu sur ses paroles et pourtant on parle d’un outil révolutionnaire.

Le passage de la théorie au concret est en général très douloureux dès que tu entres dans un système biologique. Moins de 0.1% des molécules finissent prescrites chez des humains, sans garantie d’efficacité d’ailleurs.

Oui ca c'est clair qu'entre le labo et le vivant il y a toujours une difference gigantesque. Merci pour les precisions sur alphafold. Je pense qu'on commence vraiment a avoir un arsenal d'outils assez fou (alphafold, crispr, les vaccins mRNA) et qu'on va quand meme commencer a accelerer assez fort sur pas mal de maladies. Apres, tout guerir sur 10 ans bon, faut bien apater les angel investors quoi .