IA, Dans 10 ans, tous au chômage :lensois: Options

[VNR]

C'est un peu plus compliqué que "Buvez de l'eau".

Le risque de dépendance doit être vu a travers 3 couches: le modele, le mécanisme d'accés et la partie hardware. Pour le modele, on a les 3 mastodontes qui sont tous US, pour le mécanisme d'accés, c'est généralement du Cloud et donc on a AWS ou Azure, tous les deux US encore et enfin pour la partie hardware, c'est quasiment 100% Nvidia et qui est encore US. On va plutôt boire du Bourbon je pense.

Pour ta partie sur les modeles hébergés en local, il te faut quand meme un modele et les 3 fournisseurs principaux ne fournissent pas de modeles open source. Il te reste certes des modeles assez puissants comme DeepSeek ou Z.ai mais qui sont chinois, pas sur que cela soit vraiment mieux. Meme Mistral utilise Azure pour distribuer son modele donc Mistral depend de toute manière de Microsoft.

Et de toute façon, le problème est l'adoption par les entreprises et pour le moment la tendance très clair est a l'utilisation des 3 mastodontes.

Mais ça c’est le problème des boites si elles veulent cramer leur pognon sur des abonnements pour avoir Fable et Astra alors qu’un Kimi hébergé en local fait le taff pour 99% des boites et de rentabilise largement plus à horizon 5 ans. C’est comme les boites qui upgradent leur microsoft 365 pour avoir copilot, les mauvaises décisions se paient, c’est le jeu. Les DSI des boites performantes vont prioriser l’installation de serveurs en local pour du modèle open source parfois tuné en interne pour répondre aux besoins IA, les achats de serveurs font partie des plans d’investissement de ces boites qui ont fait le calcul entre les abonnements OpenAI/Anthropic et l’amortissement de serveurs. Et je ne parle même pas de la confidentialité des données, chez les plus grosses boites et les boites innovantes ça reste un sujet excluant d’office les modèles cloud.

À partir du moment où les modèles open source suivent la cadence, la « dépendance » aux modèles payants américains est fictive, il ne reste que la dépendance aux micro-processeurs made in Taiwan.

Le problème il est surtout que plusieurs acteurs plutôt importants du développement de l'IA disent qu'il existe un risque loin d'être négligeable (10% dans le tweet relayé par Oyé) de destruction de l'humanité par l'IA à moyen terme
Mais ça on s'en fout ? On ne régule pas ?

Bah l’Europe régule et ça marche plutôt bien, on a abandonné la course et on dépendra de l’avancée des autres, avec du retard sur la commercialisation et des fonctionnalités en moins pour le client européen dans le cadre de l’IA act.

Jusqu’à présent je n’ai lu beaucoup de papiers sérieux sur « la destruction de l’humanité par l’IA », le twittos là il aurait été sympa d’exposer un peu plus en détail sa théorie.

[tonato]

Mais ça c’est le problème des boites si elles veulent cramer leur pognon sur des abonnements pour avoir Fable et Astra alors qu’un Kimi hébergé en local fait le taff pour 99% des boites et de rentabilise largement plus à horizon 5 ans. C’est comme les boites qui upgradent leur microsoft 365 pour avoir copilot, les mauvaises décisions se paient, c’est le jeu. Les DSI des boites performantes vont prioriser l’installation de serveurs en local pour du modèle open source parfois tuné en interne pour répondre aux besoins IA, les achats de serveurs font partie des plans d’investissement de ces boites qui ont fait le calcul.

Le problème c'est qu'il y a eu une vague de migration des servers et de l'infra IT vers Azure et AWS en particulier il y a genre 5 à 8ans dans beaucoup de grosses boîtes européennes et cette dépendance influence beaucoup les choix pour l'Ia maintenant. Je le vois à la DB et à la SCNF où on a fermé les datacenters physiques en 2019 et 2020, alors que ça touche de l'infra critique du pays, des vraies dingueries. Et oui chez les PME ça se réglera éventuellement "naturellement" ces mauvais choix, mais une grosse partie de nos économies n'est pas exposé à ce genre de jeu de concurrence.

[ikki]

Pour mon boulot j'utilise l'IA. Pour faire tourner une IA en local il faut de la ressource hardware non? 16Go sur mon mac mini ça suffira pas?

Et du coup je réfléchissais à une option autre : j'ai un vieux mac Pro Mid 2012 avec 32go de RAM mais une carte graphique bof. Je suis un non-sachant dans ce domaine, donc aucune idée de ce dont j'aurai besoin pour mettre tout ça en musique. Si c'est faisable.

[Gombrenba]

le twittos là il aurait été sympa d’exposer un peu plus en détail sa théorie.

Même ressenti ici quand j'ai vu le tweet et lu l'article du monde, il nétoffe pas sur le(s) scénario(s) possible mais uniquement sur les méthodes de volonté des entreprises de vouloir arriver premier sur l'auto-amélioration récursive quitte à retirer de leur charte de sécurité l'engament de suspendre le développement de leurs modèles et l'absence d'encadrement des états afin d'intervenir pour un ralentissement coordonné si les acteurs n'arrivent plus à maîtriser les risques.

Je serai pas très étonné si demain je lis dans le journal que des groupouscules interieurs anti-IA ont faut sauter des data center à coups de bombes artisanales (dont la conception a été dictée par une IA bien évidemment).

[Pathfinder]

Pour mon boulot j'utilise l'IA. Pour faire tourner une IA en local il faut de la ressource hardware non? 16Go sur mon mac mini ça suffira pas?

Et du coup je réfléchissais à une option autre : j'ai un vieux mac Pro Mid 2012 avec 32go de RAM mais une carte graphique bof. Je suis un non-sachant dans ce domaine, donc aucune idée de ce dont j'aurai besoin pour mettre tout ça en musique. Si c'est faisable.

Ca depend très fortement du modele que tu vas utiliser en fonction de tes besoins. Tu peux faire tourner un modele leger sur une machine qui a 5 ans, 16Go de RAM et une CG de merde mais tu ne pourras utiliser qu'un modele tres leger.

Je dirais que pour avoir quelque chose qui tourne pas trop mal et te fournisse un resultat qualitatif tout en te fournissant la reponse dans un delai raisonnable (soit environ 15-20 tokens / secondes), tu devrais partir sur un Mac Studio M3 Ultra 96 Go, ca tourne autour de €5,500.

Apres, on te diras que tu peux utiliser quelque chose de moins puissant mais pour en avoir faire l'experience sur un PC Gaming avec 32Go de RAM, un GPU avec 8Go de RAM et un CPU qui a 5 ans, ca fait tourner un model type Qwen 3B mais le meme modele en 70B etait impossible a utiliser car il fallait 1 ou 2 minutes pour obtenir une phrase de quelques mots.

Sinon pour répondre, ton Mac Pro de 2012, il ne va rien faire tourner, c'est meme pas la peine de te prendre la tete avec ca.

Mais ça c’est le problème des boites si elles veulent cramer leur pognon sur des abonnements pour avoir Fable et Astra alors qu’un Kimi hébergé en local fait le taff pour 99% des boites et de rentabilise largement plus à horizon 5 ans. C’est comme les boites qui upgradent leur microsoft 365 pour avoir copilot, les mauvaises décisions se paient, c’est le jeu.

Mais ton raisonnement est valable pour des boites de taille moyenne ou grosses mais pour les TPE, PME et professions liberales, tu fais comment? Toutes les entreprises n'ont pas de service IT donc ils ont deux options: 1) Ils n'utilisent pas l'IA et sont voué je pense a disparaitre ou 2) ELles utilisent une solution cle en main et se tourneront donc vers nos "amis" Americains.

le twittos là il aurait été sympa d’exposer un peu plus en détail sa théorie.

C'est un % au doigt mouillé mais ca n'en reste pas moins qu'il faut quand meme se poser la question. On ne parle pas de la destruction de l'humanité en mode "Terminator" mais on peux "disparaitre" de bien des manieres differentes. Par exemple, on va faire quoi des dizaines de millions de chômeurs si on part sur un scenario catastrophe?

[ikki]

Merci Pathfinder pour ton retour. J'ai pas le budget, très clairement
Je vais continuer comme je fais et j'attendrai un miracle économique pour changer de machine ^^

[Pathfinder]

Merci Pathfinder pour ton retour. J'ai pas le budget, très clairement
Je vais continuer comme je fais et j'attendrai un miracle économique pour changer de machine ^^

Je pense sincèrement que si tu n'as pas de problèmes de confidentialités, que tu acceptes que les données que tu partages avec Claude ou ChatGPT puissent être utilisé par eux mais surtout que l'IA n'est pas un composant essentiel et critique dans ton activité (un exemple est lorsque le ministère du commerce US en Juin a ordonné a Anthropic de couper son modele Fable immédiatement), alors utiliser OpenAI ou Claude (ou Mistral mais c'est pas vraiment pensé pour le grand public ou les TPE) est la solution la plus simple et la meilleure marché.

[ikki]

Je pense sincèrement que si tu n'as pas de problèmes de confidentialités, que tu acceptes que les données que tu partages avec Claude ou ChatGPT puissent être utilisé par eux mais surtout que l'IA n'est pas un composant essentiel et critique dans ton activité (un exemple est lorsque le ministère du commerce US en Juin a ordonné a Anthropic de couper son modele Fable immédiatement), alors utiliser OpenAI ou Claude (ou Mistral mais c'est pas vraiment pensé pour le grand public ou les TPE) est la solution la plus simple et la meilleure marché.

Yep, c'est bien comme ça. J'ai pas de gros besoins.

Merci encore.

[Gombrenba]

https://www.ecranlarge.com/films/news/artif...reateur-chatgpt

[Alain Miamdelin]

Le problème il est surtout que plusieurs acteurs plutôt importants du développement de l'IA disent qu'il existe un risque loin d'être négligeable (10% dans le tweet relayé par Oyé) de destruction de l'humanité par l'IA à moyen terme
Mais ça on s'en fout ? On ne régule pas ?

Le problème c'est que ça fait partie du marketing de ces boîtes. C'est vraiment très très con ce qu'ils font à ce niveau là. L'en jeu pour eux d'ailleurs c'est de savoir s'ils sont en vie dans 2 ans, pas ce qui va arriver à l'humanité dans 10.

Par exemple le tweet de 10% c'est de l'hyperbole pour faire fantasmer sur les capacités des modèles.

A mon avis, il y a des risques importants au niveau social avec l'IA, mais pas ceux qu'on peut imaginer.

Pour mon boulot j'utilise l'IA. Pour faire tourner une IA en local il faut de la ressource hardware non? 16Go sur mon mac mini ça suffira pas?

Et du coup je réfléchissais à une option autre : j'ai un vieux mac Pro Mid 2012 avec 32go de RAM mais une carte graphique bof. Je suis un non-sachant dans ce domaine, donc aucune idée de ce dont j'aurai besoin pour mettre tout ça en musique. Si c'est faisable.

Pour faire simple il faut charger le modèle en mémoire. Donc à 16Go tu peux charger un petit modèle uniquement. Après la "vitesse" dépendra de la qualité du CPU/GPU selon.

Si t'es habitué à des modèles hauts de gamme, il te faudrait aujourd'hui une machine à $10k+ pour s'en approcher.

La Chine a le edge sur la fabrication des gpu avec TSMC.

Taiwan TSMC.

[ikki]

Le problème c'est que ça fait partie du marketing de ces boîtes. C'est vraiment très très con ce qu'ils font à ce niveau là. L'en jeu pour eux d'ailleurs c'est de savoir s'ils sont en vie dans 2 ans, pas ce qui va arriver à l'humanité dans 10.

Par exemple le tweet de 10% c'est de l'hyperbole pour faire fantasmer sur les capacités des modèles.

A mon avis, il y a des risques importants au niveau social avec l'IA, mais pas ceux qu'on peut imaginer.



Pour faire simple il faut charger le modèle en mémoire. Donc à 16Go tu peux charger un petit modèle uniquement. Après la "vitesse" dépendra de la qualité du CPU/GPU selon.

Si t'es habitué à des modèles hauts de gamme, il te faudrait aujourd'hui une machine à $10k+ pour s'en approcher.



Taiwan TSMC.

Ouais je crois que je vais continuer en ligne.
Merci.

[Tchoune]

@VNR @Gombrenba
Mais nous sommes d'accord que ce n'est pas le premier à tirer le signal d'alarme ?
Il y a eu des gens un peu plus éminents que juste "le twittos là".
Même à 1% de risque, même à 0.1% de risque il faudrait mettre en place des garde-fous au lieu d'accélérer pied au plancher pour pouvoir faire un max de thunes.

Et il existe quand même quelques travaux sur l'explosion d'intelligence et ses risques, en particulier sur les problèmes d'alignement.

[ikki]

@VNR @Gombrenba
Mais nous sommes d'accord que ce n'est pas le premier à tirer le signal d'alarme ?
Il y a eu des gens un peu plus éminents que juste "le twittos là".
Même à 1% de risque, même à 0.1% de risque il faudrait mettre en place des garde-fous au lieu d'accélérer pied au plancher pour pouvoir faire un max de thunes.

Et il existe quand même quelques travaux sur l'explosion d'intelligence et ses risques, en particulier sur les problèmes d'alignement.

Même ça c'est compliqué visiblement

[Alain Miamdelin]

@VNR @Gombrenba
Mais nous sommes d'accord que ce n'est pas le premier à tirer le signal d'alarme ?
Il y a eu des gens un peu plus éminents que juste "le twittos là".
Même à 1% de risque, même à 0.1% de risque il faudrait mettre en place des garde-fous au lieu d'accélérer pied au plancher pour pouvoir faire un max de thunes.

Et il existe quand même quelques travaux sur l'explosion d'intelligence et ses risques, en particulier sur les problèmes d'alignement.

Ce sont des salariés (ou ex-salariés) des dites entreprises, pas "le twittos là".

[RegardZehef]

https://twitter.com/hilbertspaess/status/2097476196791709843

— CulturePSG (@CulturePSG) November7, 2011

On débranche quand le bordel ?

Le probleme c'est qu'entre lanceur d'alerte et attention whore la frontiere est relativement mince.

Entre l'IA d'aujourd'hui et la fin du monde dans 10 ans, il y a plein d'etapes peut etre imaginables mais ni demontrees, ni probables, ni imminentes. Les risques concrets sont bien identifies: facilitation des cyberattaques, utilisation militaire, desinformation, automatisation excessive, notamment entre les mains de regimes totalitaires.

L'incident Hugging face est egalement preoccupant et montre qu'il peut etre difficile d'anticiper comment les agents agissent, mais il s'agissait d'un test de cybersecurite assez particulier, et toute la dialectique autour d'une volonte autonome de prendre le controle n'est rien d'autre que de l'anthropomorphisation.

Le risque biologique existe aussi, mais c'est peut etre le domaine dans lequel l'IA decoit le plus par rapport aux promesses, ca dit on guerira tout dans 10 ans puis on se rend compte que le reel en biologie est ultra complexe.

M'enfin, vous verrez bientot ces mecs dans tous les podcasts, conferences et organes de regulation pres de chez vous.

Si vous voulez un vrai scandale interessez vous plutot aux equations de Navier-Stokes, Tristan Buckmaster et collegues

[Raijojp]

Le problème il est surtout que plusieurs acteurs plutôt importants du développement de l'IA disent qu'il existe un risque loin d'être négligeable (10% dans le tweet relayé par Oyé) de destruction de l'humanité par l'IA à moyen terme
Mais ça on s'en fout ? On ne régule pas ?

L'humanité a largement prouvé son égoïsme et sa propension pour l'auto-sabotage, rien de surprenant en soit.

[Gombrenba]

@VNR @Gombrenba
Mais nous sommes d'accord que ce n'est pas le premier à tirer le signal d'alarme ?
Il y a eu des gens un peu plus éminents que juste "le twittos là".
Même à 1% de risque, même à 0.1% de risque il faudrait mettre en place des garde-fous au lieu d'accélérer pied au plancher pour pouvoir faire un max de thunes.

Et il existe quand même quelques travaux sur l'explosion d'intelligence et ses risques, en particulier sur les problèmes d'alignement.

Non mais je suis pour un ralentissement coordonné si les acteurs n'arrivent plus à maîtriser les risques, même à 0,1%, mais ça va être très compliqué à mettre en place car tout le monde veut arriver premier coûte que coûte.

C'est sur les perspectives de scénarios catastrophe, pour le moment, je suis assez déçu , il ya beaucoup de fantasmes éculés (et pas que issus de la Science Fiction), j'ai ausi un peu de mal avec ce genre de chiffres sortis un peu au pif vu le manque d'arguments pour les justifier, tout aussi employé qualifié qu'il est, pour moi en l'état, il balance un peu une bouteille à la mer.

A cet instant je m'intéresse plus aux groupuscules anti IA qui commencent à passer à l'action tels des anarchos terroristes.

[TrappACouilles]

Le problème ce n'est pas d'avoir un provider, c'est que les entreprises en EU l'utilise et que l'Europe aide Mistral a devenir un fournisseur AI qui soit un candidat sérieux face aux 3 mastodontes et ce n'est pas le cas pour le moment.

Les chiffres de Dec 2025 donnent 40% pour Anthropic, 27% pour OpenAI et 21% pour Google soit 88% des dépenses AI pour les entreprises avec Mistral seulement entre 5% et 7%.

Le probleme c'est meme pas l'IA en elle même mais les datacenters nécessaires a coté.
Meme Anthropic s'est allié avec Google pour utiliser leur infrastructure pour empecher que leurs serveurs saturent.
Avoir la meilleure IA du monde ça suffira pas si tu peux pas l'utiliser à plus de 10 en meme temps

[Pathfinder]

Le probleme c'est meme pas l'IA en elle même mais les datacenters nécessaires a coté.
Meme Anthropic s'est allié avec Google pour utiliser leur infrastructure pour empecher que leurs serveurs saturent.
Avoir la meilleure IA du monde ça suffira pas si tu peux pas l'utiliser à plus de 10 en meme temps

Oui, je suis d'accord mais c'est un tout pour moi. Quand je parle de l'IA, ce n'est pas que le modele, c'est tout l'ecosysteme qui permet a l'IA de vivre et proposer un service.

Le probleme c'est que tout l'ecosysteme est pratiquement 100% US, c'est un risque considerable.

Et sans aller dans le complotisme, une simple rupture des connexions reseaux entre EU et US serait deja tres problematique.

[VNR]

Le problème c'est qu'il y a eu une vague de migration des servers et de l'infra IT vers Azure et AWS en particulier il y a genre 5 à 8ans dans beaucoup de grosses boîtes européennes et cette dépendance influence beaucoup les choix pour l'Ia maintenant. Je le vois à la DB et à la SCNF où on a fermé les datacenters physiques en 2019 et 2020, alors que ça touche de l'infra critique du pays, des vraies dingueries. Et oui chez les PME ça se réglera éventuellement "naturellement" ces mauvais choix, mais une grosse partie de nos économies n'est pas exposé à ce genre de jeu de concurrence.

Je suis d'accord ça piquera, il y a eu une énorme erreur d'appréciation stratégique en déléguant l'infrastructure physique aux puissances étrangères pour l'hébergement du calcul, du software et des données, logique identique à celle qui a mené à la terrible désindustrialisation européenne des filières à haute valeur ajoutée (osef du Doliprane). Un candidat qui ne parle pas de plan d'investissement massif dans des fermes de serveurs en Europe ferme les yeux sur un sujet géostratégique majeur.

Mais ton raisonnement est valable pour des boites de taille moyenne ou grosses mais pour les TPE, PME et professions liberales, tu fais comment? Toutes les entreprises n'ont pas de service IT donc ils ont deux options: 1) Ils n'utilisent pas l'IA et sont voué je pense a disparaitre ou 2) ELles utilisent une solution cle en main et se tourneront donc vers nos "amis" Americains.

Les TPE/PME/professions libérales ont le droit de creuser le sujet de leurs dépenses, on parle encore une fois de décisions de gestion. Si des TPE/PME/professions libérales estiment devoir absolument souscrire à un abonnement pour utiliser les modèles des 3 américains, c'est leur problème, les alternatives existent, à moins que leur business model ne repose que sur l'utilisation des modèles plus avancés du marché des 3 américains, mais là c'est un business model plus que fragile.

C'est un % au doigt mouillé mais ca n'en reste pas moins qu'il faut quand meme se poser la question. On ne parle pas de la destruction de l'humanité en mode "Terminator" mais on peux "disparaitre" de bien des manieres differentes. Par exemple, on va faire quoi des dizaines de millions de chômeurs si on part sur un scenario catastrophe?

Le fameux scénario catastrophe on peut l'attendre indéfiniment. Pour l'instant aux US, pays occidental le plus avancé sur l'adoption de l'IA par les boites et de très très loin, rien n'indique que l'IA va créer une société de chômeurs. La fluctuation du taux d'emploi reste corrélée aux fluctuations du taux de croissance. À titre perso je suis investisseur, si une boite me dit "avec l'IA on va supprimer des postes" je lui file pas un rond car elle me prouve juste qu'elle a zéro idée. Par contre une boite qui me dit "l'IA nous permet d'automatiser/se passer de l'humain sur x% de nos tâches actuelles, ce qui nous permet de redéployer l'humain sur de nouveaux périmètres et d'utiliser les gains de productivité pour recruter afin de lancer de nouveaux projets qu'on ne pouvait pas se permettre d'aborder avant", là ok on parle. Et c'est le raisonnement répandu chez les investisseurs, une boite qui fait du surplace et pète le champagne parce qu'elle a moins d'effectifs ça te fait pas bander sur ses perspectives de développement.

@VNR @Gombrenba
Mais nous sommes d'accord que ce n'est pas le premier à tirer le signal d'alarme ?
Il y a eu des gens un peu plus éminents que juste "le twittos là".
Même à 1% de risque, même à 0.1% de risque il faudrait mettre en place des garde-fous au lieu d'accélérer pied au plancher pour pouvoir faire un max de thunes.

Et il existe quand même quelques travaux sur l'explosion d'intelligence et ses risques, en particulier sur les problèmes d'alignement.

Pour rappel c'était déjà le discours avant de sortir GPT-2 : https://techcrunch.com/2019/02/17/openai-te...ator-dangerous/

Comme l'a dit Miam, le discours sur "les modèles si incroyables qu'ils en sont dangereux" fait entièrement partie de la communication de ces boites depuis le début pour prouver l'avancée de leur R&D et attirer les investisseurs.

L'alignement est effectivement un énorme champ de recherche en IA, il y a des études de cas intéressantes à lire sur la façon dont les IA procèdent pour atteindre leurs objectifs, mais aujourd'hui sortir "l'IA a 10% de détruire l'humanité" c'est aussi poussé qu'un tweet "Julian Alvarez va signer au barça à 85% sauf retournement de situation".

Quand chaque foyer possèdera un robot capable de manier des couteaux de cuisine utilisant tous la même IA connectée à un système centralisé genre I-Robot, là ok on pourra en reparler Mais je mise plutôt sur la victoire du calcul en local pour les usages IA du quotidien. Apple va cartonner

Ton "pouvoir faire max de thunes" n'est pas vraiment l'enjeu, OpenAI et Anthropic flippent d'être les prochains WorldCom ou Compaq qui ont crevé avec la bulle internet. L'open source et le calcul décentralisé rendent leurs produits extrêmement fragiles, sans parler des concurrents chinois qui te divisent la facture d'utilisation par 10 à chaque nouvelle itération de modèle.