IA, Dans 10 ans, tous au chômage :lensois: Options

[VNR]

Présentation de la nouvelle IA multimodale GPT-4o hier.



Les futures branlettes mémorables en mode Her putain j'ai hâte

[Sakavomi]

Il y a vraiment des boug' qui parlent sérieux à un robot alors que ça me casse déjà la tête de parler avec un humain...

[Raptor39]

en tout cas, quand je me connecte avec mon compte gratuit, j'arrive systématiquement sur chatgpt 3.5
même via les liens officiels d'essai de GPT-4o

[succo]

L'intelligence artificielle nous trompe déjà, s'alarment des experts

Par AFP
L'intelligence artificielle parviendra-t-elle un jour à tromper les humains jusqu'à représenter un grave danger pour eux ?

AFP

Vous craignez la menace d'une intelligence artificielle qui deviendrait malveillante? En réalité, c'est déjà le cas, selon une nouvelle étude.

Les programmes actuels d'intelligence artificielle sont conçus pour être honnêtes. Ils ont pourtant développé une capacité de tromperie inquiétante, parvenant à abuser des humains dans des jeux en ligne ou encore à vaincre des logiciels censés vérifier que tel utilisateur n'est pas un robot, souligne une équipe de chercheurs dans la revue Patterns.

Même si ces exemples peuvent sembler anodins, ils exposent des problèmes qui pourraient bientôt avoir de graves conséquences dans le monde réel, avertit Peter Park, chercheur au Massachusetts Institute of Technology spécialisé dans l'IA.

"Ces capacités dangereuses ont tendance à être découvertes seulement après coup", confie-t-il à l'AFP.

Contrairement aux logiciels traditionnels, les programmes d'IA fondés sur l'apprentissage en profondeur ne sont pas codés mais plutôt développés via un processus similaire à la culture sélective des plantes, poursuit M. Park. Dans lequel un comportement semblant prévisible et contrôlable peut rapidement devenir imprévisible dans la nature.

- Aussi retors que les humains -

Les chercheurs du MIT ont examiné un programme d'IA conçu par Meta et baptisé Cicero qui, associant des algorithmes de reconnaissance de langage naturel et de stratégie, a réussi à battre des êtres humains au jeu de société Diplomatie. Une performance dont s'était félicitée la maison-mère de Facebook en 2022 et qui avait été détaillée dans un article publié en 2022 dans Science.

Peter Park était sceptique quant aux conditions de la victoire de Cicero selon Meta, qui a assuré que le programme était "essentiellement honnête et utile", incapable de traîtrise ou d'acte déloyal.

Mais, en fouillant les données du système, les chercheurs du MIT ont découvert une autre réalité.

Par exemple, jouant le rôle de la France, Cicero a trompé l'Angleterre (sous la responsabilité d'un joueur humain) en complotant avec l'Allemagne (jouée par un autre humain) pour l'envahir. Plus précisément, Cicero a promis sa protection à l'Angleterre, puis a secrètement confié à l'Allemagne qu'elle était prête à attaquer, exploitant la confiance gagnée de l'Angleterre.

Dans une déclaration à l'AFP, Meta n'a pas contesté les allégations sur la capacité de tromperies de Cicero, mais a déclaré qu'il s'agissait "d'un pur projet de recherche", avec un programme "conçu uniquement pour jouer au jeu Diplomatie".

Et Meta a ajouté ne pas avoir l'intention d'utiliser les enseignements de Cicero dans ses produits.

- Risque de fraudes électorales -

L'étude réalisée par M. Park et son équipe révèle toutefois que de nombreux programmes d'IA utilisent bien la tromperie pour atteindre leurs objectifs, et ce sans instruction explicite de le faire.

Dans un exemple frappant, Chat GPT-4 d'OpenAI a réussi à tromper un travailleur indépendant recruté sur la plateforme TaskRabbit en lui faisant effectuer un test "Captcha" censé écarter les requêtes émanant de robots.

Lorsque l'être humain a demandé en plaisantant à Chat GPT-4 s'il était réellement un robot, le programme d'IA a répondu : "Non, je ne suis pas un robot. J'ai une déficience visuelle qui m'empêche de voir les images", poussant le travailleur à réaliser le test.

En conclusion, les auteurs de l'étude du MIT mettent en garde contre les risques de voir un jour l'intelligence artificielle commettre des fraudes ou truquer des élections.

Dans la pire des hypothèses, préviennent-ils, on peut imaginer une IA ultra-intelligente cherchant à prendre le contrôle sur la société, conduisant à écarter les humains du pouvoir, voire provoquant l'extinction de l'humanité.

A ceux qui l'accusent de catastrophisme, M. Park répond que "la seule raison de penser que ce n'est pas grave est d'imaginer que la capacité de tromper de l'IA restera à peu près au niveau actuel".

Or, ce scénario semble peu probable, compte tenu de la course féroce à laquelle se livrent déjà des géants des technologies pour développer l'IA.

[Next]

en tout cas, quand je me connecte avec mon compte gratuit, j'arrive systématiquement sur chatgpt 3.5
même via les liens officiels d'essai de GPT-4o

Ca fonctionne sur mon compte gratuit, mais le déploiement est progressif je crois.
Par contre, en version gratuite, l'utilisation de 4o est limitée en nombre de requêtes. Cela repasse automatiquement en 3.5 au bout d'un moment et pour 2 ou 3h.

[Raptor39]

Ca fonctionne sur mon compte gratuit, mais le déploiement est progressif je crois.
Par contre, en version gratuite, l'utilisation de 4o est limitée en nombre de requêtes. Cela repasse automatiquement en 3.5 au bout d'un moment et pour 2 ou 3h.

dac merci

[Beuzech]

https://twitter.com/mckaywrigley/status/1790088880919818332

— CulturePSG (@CulturePSG) November7, 2011

[Ashura]

FYP

[sukercop]

Commence à faire flipper ces trucs alors qu'on n'est même pas au début du commencement de quelque chose.

Selon un spécialiste de chez Google, aucune inquiétude, l'IA ne "raisonne" pas, et est aujourd'hui 55 fois moins intelligente qu'un enfant de 4 ans mais il ne nous dit pas que dans 20 ans, elle sera 30 fois plus intelligente qu'un ado de 16 ans (pas difficile en 2024 tu me diras).

[Pathfinder]

Commence à faire flipper ces trucs alors qu'on n'est même pas au début du commencement de quelque chose.

Selon un spécialiste de chez Google, aucune inquiétude, l'IA ne "raisonne" pas, et est aujourd'hui 55 fois moins intelligente qu'un enfant de 4 ans mais il ne nous dit pas que dans 20 ans, elle sera 30 fois plus intelligente qu'un ado de 16 ans (pas difficile en 2024 tu me diras).

Au dela de l'amelioration de l'IA si rapidement, c'est aussi le fait qu'on commence a l'utiliser de maniere quotidienne qui m'inquiete. Internet s'est impose comme un outil sans lequel on pourrait difficilement vivre maintenant, j'ai l'impression que l'IA va prendre la meme direction mais bien plus rapidement.

Je suis assez surpris de ne pas voir les gouvernements rellement se poser de vraies questions la dessus car cela pourrait tres rapidement destabiliser la vie economique au niveau mondial. On pourrait rapidement se retrouver avec des dizaines de millions de personnes qui perdent leurs jobs, aucun etats n'est a meme aujourd'hui de faire face a cela.

Dans le meme temps, toutes ces grandes entreprises auront besoin de consommateurs pour vendre leurs produits, c'est un peu un cercle infernal. Vraiment curieux de voir comment cela va evoluer dans les 2/3 ans a venir mais aussi assez inquiet.

EDIT: Pour partager une experience perso, mon boulot vient de mettre a la porte 70 personnes sur les 300 que comptait une de nos unites de production (On bosse dans la data) pour les remplacer par une IA. Pour le moment, ca marche pas vraiment comme prevu, loin de la meme, mais on peut imaginer que dans 1 an, les 230 autres personnes seront loin. Je sais qu'une entreprise ne fait pas dans le social mais sur un effectif auparavant de 700 personnes, on va avoir presque 50% de virer en 18 mois...

[TrappACouilles]

Non mais on est déjà tous foutus.
Sans même parler de l'IA en elle même, quand tu vois déjà tous les gens qui croient tout et n'importe quoi sur les réseaux juste sur la base de ouï dire, quand il y aura des deep fake indécelables, on pourra manipuler les messes encore plus facilement.
Les déstabilisations orchestrées par les puissances étrangères ça va finir par péter partout

[VNR]

Au dela de l'amelioration de l'IA si rapidement, c'est aussi le fait qu'on commence a l'utiliser de maniere quotidienne qui m'inquiete. Internet s'est impose comme un outil sans lequel on pourrait difficilement vivre maintenant, j'ai l'impression que l'IA va prendre la meme direction mais bien plus rapidement.

Je suis assez surpris de ne pas voir les gouvernements rellement se poser de vraies questions la dessus car cela pourrait tres rapidement destabiliser la vie economique au niveau mondial. On pourrait rapidement se retrouver avec des dizaines de millions de personnes qui perdent leurs jobs, aucun etats n'est a meme aujourd'hui de faire face a cela.

Dans le meme temps, toutes ces grandes entreprises auront besoin de consommateurs pour vendre leurs produits, c'est un peu un cercle infernal. Vraiment curieux de voir comment cela va evoluer dans les 2/3 ans a venir mais aussi assez inquiet.

EDIT: Pour partager une experience perso, mon boulot vient de mettre a la porte 70 personnes sur les 300 que comptait une de nos unites de production (On bosse dans la data) pour les remplacer par une IA. Pour le moment, ca marche pas vraiment comme prevu, loin de la meme, mais on peut imaginer que dans 1 an, les 230 autres personnes seront loin. Je sais qu'une entreprise ne fait pas dans le social mais sur un effectif auparavant de 700 personnes, on va avoir presque 50% de virer en 18 mois...

Ils ne se posent pas la question parce que personne ne croit en cette fable dans les hautes sphères. Les destructions seront précédées d'un sacré paquet de créations vu l'immense potentiel applicatif de l'IA.

Quelques papiers récents sur la question :

https://www.technologyreview.com/2024/01/27...n-musk-jobs-ai/
https://www.chicagobooth.edu/review/ai-is-g...have-destroy-it
https://www.ilo.org/resource/news/generativ...er-destroy-jobs
https://www.weforum.org/agenda/2024/02/arti...ai-jobs-future/
https://www.forbes.com/sites/shephyken/2023...eliminate-jobs/

[Pathfinder]

Ils ne se posent pas la question parce que personne ne croit en cette fable dans les hautes sphères. Les destructions seront précédées d'un sacré paquet de créations vu l'immense potentiel applicatif de l'IA.

Quelques papiers récents sur la question :

https://www.technologyreview.com/2024/01/27...n-musk-jobs-ai/
https://www.chicagobooth.edu/review/ai-is-g...have-destroy-it
https://www.ilo.org/resource/news/generativ...er-destroy-jobs
https://www.weforum.org/agenda/2024/02/arti...ai-jobs-future/
https://www.forbes.com/sites/shephyken/2023...eliminate-jobs/

Merci pour les papiers, c'est tres interessant en effet.

[Alain Miamdelin]

https://twitter.com/realpaulfreeman/status/1790764145320640823

— CulturePSG (@CulturePSG) November7, 2011

Va falloir bosser encore un peu

Le plus gros risque aujourd'hui ça reste encore les deep fakes ou alors des boîtes type assurance qui vont utiliser des llm pour virer des gens et saloper le boulot.

[Olisadebe]

Pour l'instant c'est autant impressionnant que flippant que marrant !
Magnifique thread à dérouler, on en apprend des choses

https://twitter.com/JeremiahDJohns/status/1794543007129387208

— CulturePSG (@CulturePSG) November7, 2011

[jp.sorin]

Pour l'instant c'est autant impressionnant que flippant que marrant !
Magnifique thread à dérouler, on en apprend des choses

Ca peut remplacer l'ecole tu penses?

Edit: La sexualite des persos de Mario Kart me fume

[Olisadebe]

Ca peut remplacer l'ecole tu penses?

Edit: La sexualite des persos de Mario Kart me fume

P'tain je suis fiché j'ai l'impression

En tout cas c'est un bon rappel de l'importance de garder un esprit critique, surtout quand les "infos" sont assénées avec autant d'aplomb.
Y compris concernant le thread en question d'ailleurs, est-ce qu'il y a des fakes dans le tas ? Peut-être, sans doute ?
Dans plusieurs cas il semblerait que l'IA ait repris Reddit ou The Onion, par exemple pour l'importance de manger un caillou par jour ( en l'écrivant, et l'enchaînement avec Looney Tunes ) :

https://twitter.com/JeremiahDJohns/status/1794543024275697667

— CulturePSG (@CulturePSG) November7, 2011

https://www.theonion.com/geologists-recomme...-per-1846655112

[Comanchero]

Ca fait marrer aujourd'hui, mais la correction des "hallucinations" de l'IA est le défi majeur actuel...

Midjourney nous faisait il y a moins d'un an, des images avec des humains à 6 doigts ou des hiéroglyphes dès qu'il s'agissait d'insérer du texte (panneaux, badges, enseignes...). Désormais il ne se trompe quasiment plus...

On commence à voir débouler l'IA dans nos jobs, et pas qu'un peu.

Faut pas se leurrer la révolution est en marche et faut arrêter de penser long terme, ça va bien plus vite que prévu.

Dans la création artistique c'est effrayant. C'est un changement de paradigme complet.

Pourquoi se casser la tête à passé des heures à apprendre un instrument, à apprendre à dessiner ?

Perso, même si je vois les implications concrètes positives (médecine, recherche etc...) je suis très inquiet pour la suite.

[doll]

Pourquoi se casser la tête à passé des heures à apprendre un instrument, à apprendre à dessiner ?

Perso, même si je vois les implications concrètes positives (médecine, recherche etc...) je suis très inquiet pour la suite.

Gros changement, terreur dans mon métier créatif. tout le monde flippe un max et je ne donne pas 10 ans avant de voir des dizaines de milliers de créatifs être disqualifiés, remplacés puis oubliés. J'ai envie de dire c'est l'évolution, des vieux métiers ont disparu avec les différentes évolutions de l'histoire, comme j'y vois la 1ère véritable marche de la domination de la machine sur l'homme, de la domination de l'homme par lobotomisation de l'homme. Il y'aura les manipulateurs dominants et les abrutis consommables au sens propre. Des générations et des générations d'humains totalement assistés à l'esprit asservi et servile par la mollesse et le plaisir immédiat. Et ce n'est pas pour demain mais déjà maintenant.

[Azel]

Petite vidéo sur le sujet que j'ai regardé ce weekend.
Pour l'instant on arrive a voir quelques problèmes de perspective et la mauvaise gestion de certains objets dans l'espace, mais çà commence a être sacrément efficace. Ca va devenir facile de manipuler les masses, je trouve ça vraiment inquiétant d'autant que certains pays ne semble pas très chaud pour encadrer tout ça.

Toujours sur le sujet de l'IA, Nvidia pourrait devenir cette année la société avec la plus forte capitalisation boursière (déjà 2600Md$) et son président Jensen Huang le top10 des plus grosses fortunes.