IA, Dans 10 ans, tous au chômage :lensois: Options

[guiclay]

Virtual Private Server

En gros ta machine. Louer un PC a distance.

Le but étant de faire tourner openclaw dessus pour avoir accès 24/24 a tes agents IA personnels et tes fichiers.
Mais ces serveurs ont pas de vRAM et souvent peu de stockage, donc tu peux pas faire tourner des modèles locaux, tu dois utiliser la API des IA mainstreams, donc ça coûte très cher.
Dans l'idée c'est pour avoir une machine qui tourne tout le temps et a des capacités de vRAM, mais du coup oui il faut louer du GPU comme dans ton lien et plein d'autres.

Du coup il faut louer un VPS, et loué du GPU pour ce VPS. Faudrait voir combien ça coûte et les performances, mais bien configuré tu rentabiliser ça très vite par rapport au prix des tokens des API genre chatgpt et Claude.
Bon après malheureusement tu as pas nano banana et autres en local

Edit
Bon j'ai trouvé des trucs mais c'est cher
Faut voir avec un raspberry Pi mais niveau stockage c'est nul

Mais tu veux faire ça juste pour du perso ou il y a un but de prod derrière ?

[TrappACouilles]

Mais tu veux faire ça juste pour du perso ou il y a un but de prod derrière ?

Je vais faire avec un raspberry, un SSD et louer du GPU je pense.

Disons que j'aime pas trop filer mes données a openAI, google, les chinois etc
Donc j'aimerais bien avoir tout un setup IA en local
Et c'est aussi utile pour des projets pro oui

[guiclay]

Je vais faire avec un raspberry, un SSD et louer du GPU je pense.

Disons que j'aime pas trop filer mes données a openAI, google, les chinois etc
Donc j'aimerais bien avoir tout un setup IA en local
Et c'est aussi utile pour des projets pro oui

Ton pi je vois pas trop ce qu'il va faire là dedans ? Ça va te faire un énorme bottleneck pour utiliser le GPU en ligne, sauf si c'est pour juste transmettre du prompt . Mais si ce que tu veux c'est une IA sur tes documents chaque fois que tu vas quitter le GPU en ligne il va perdre le contexte.

[TrappACouilles]

Ton pi je vois pas trop ce qu'il va faire là dedans ? Ça va te faire un énorme bottleneck pour utiliser le GPU en ligne, sauf si c'est pour juste transmettre du prompt . Mais si ce que tu veux c'est une IA sur tes documents chaque fois que tu vas quitter le GPU en ligne il va perdre le contexte.

Openclaw tournera sur mon Pi, et il utilisera du GPU quand le modèle local (nul) lui dira. Le contexte et la mémoire persistante est stockée localement, pareil avec Claude Code. Le seul truc relou c'est le reboot du GPU qui met 1-2 minutes si j'ai détruit mon instance.

Et oui c'est quasi que du prompt a transmettre, mais avec un contexte et une mémoire. Dans le pire des cas c'est que qq Monde documents en supplément, ce sera jamais une vidéo de 2Go que je file au GPU, et même dans ce cas là c'est pas hyper long

[Alain Miamdelin]

Openclaw tournera sur mon Pi, et il utilisera du GPU quand le modèle local (nul) lui dira. Le contexte et la mémoire persistante est stockée localement, pareil avec Claude Code. Le seul truc relou c'est le reboot du GPU qui met 1-2 minutes si j'ai détruit mon instance.

Et oui c'est quasi que du prompt a transmettre, mais avec un contexte et une mémoire. Dans le pire des cas c'est que qq Monde documents en supplément, ce sera jamais une vidéo de 2Go que je file au GPU, et même dans ce cas là c'est pas hyper long

Pour cet usage là plupart prennent un mac mini. Ça semble raisonnable. Par contre faut regarder du côté des gros processeurs dispos donc ça va quand même faire grimper la facture.

[Azel]

Pas de panique le fondateur d'openclaw vient de rejoindre Sam Altman, d'une manière ou d'une autre ils auront rapidement accès à tout.

Pour le meilleur ou pour le pire on est en train de vivre une révolution mais ça se passe à une vitesse exponentielle. Je pense que sur ce forum on a tous vécu la révolution internet, mais c'est finalement arrivé assez lentement en comparaison. Là, tu tombes dans le coma pendant un an et a ton réveil l'IA sera partout et les robots vont également arriver bien plus vite que prévu.
L'IA est le catalyseur le plus puissant de l'humanité, et vu comme on est bon pour tout pervertir c'est pas hyper rassurant pour la suite.

[doll]

Je ne sais trop où le mettre, mais nous en sommes là niveau robotique. Déferlement prévu 2027... Anéantissement de la population par implosion et masse critique d'humains non indispensables au système prévu à horizon 2030

s dans le coma pendant un an et a ton réveil l'IA sera partout et les robots vont également arriver bien plus vite que prévu.
L'IA est le catalyseur le plus puissant de l'humanité, et vu comme on est bon pour tout pervertir c'est pas hyper rassurant pour la suite.

J'imagine que l'on va passer des années à réguler l'ensemble, à trouver un équilibre au prix fort forcément avec une part non négligeable de l'humanité qui subira la loi techno et sa valeur. Tu peux te payer l'iA ou non. L'échelle sociale sera encore plus violente. Puis dans une centaine d'années peut être serons nous passer à autre chose avec une réduction du nombre d'humains quasi incontournable.

Prochain game ensuite l'allongement de la vie...

[Tchoune]

Je ne sais trop où le mettre, mais nous en sommes là niveau robotique. Déferlement prévu 2027... Anéantissement de la population par implosion et masse critique d'humains non indispensables au système prévu à horizon 2030

C'est les cousins de Bender, déjà tous alcooliques !

[TrappACouilles]

Pour cet usage là plupart prennent un mac mini. Ça semble raisonnable. Par contre faut regarder du côté des gros processeurs dispos donc ça va quand même faire grimper la facture.

Oui j'avais vu aussi mais le problème du MacMini c'est sur c'est certes mieux pour des petits modèles mais ça permet toujours pas de faire tourner des gros modèles en local.

J'ai pris un Raspberry Pi 5 + 2To de SSD et je vais louer du GPU sur vast.ai pour les tâches que mon modèle local jugera trop complexes pour lui. Ça reste pas très cher 0,1/0,2 € l'heure.
Bon par contre je pense pas que je vais mettre openclaw, ça a l'air d'être bien trop dangereux si je lui file des accès à mes données, je vais voir si je peux utiliser Claude code pour répliquer les parties d'openclaw qui me plaisent.
J'ai vu des gars qui faisaient ça, ça a l'air jouable.

Je pense que d'ici 3-4 ans ça sera devenu "mainstream" et Google & Co te vendront des abos et du matos pour avoir ton vrai assistant personnel accessible à la ménagère

Une des grosses révolutions en cours c'est le mini modèles IA pour les drones, robots, la domotique, etc. J'ai lu que Mistral était bien positionné la dessus

[VNR]

Je suis aussi sur la stratégie de tourner sur mon propre service agentique avec Claude Code sans passer par OpenClaw. J’ai un peu abandonné la partie LLM en local pour l’instant vu les besoins et les coûts hardware, je fais tout chez Claude et quand j’ai des choses trop confidentielles je les garde hors du périmètre IA. Bon je laisse les US avoir accès à des trucs de ma boite du coup, mais franchement y a rien de très intéressant pour eux

[TrappACouilles]

Je suis aussi sur la stratégie de tourner sur mon propre service agentique avec Claude Code sans passer par OpenClaw. J’ai un peu abandonné la partie LLM en local pour l’instant vu les besoins et les coûts hardware, je fais tout chez Claude et quand j’ai des choses trop confidentielles je les garde hors du périmètre IA. Bon je laisse les US avoir accès à des trucs de ma boite du coup, mais franchement y a rien de très intéressant pour eux

Je vais essayer avec une couche locale, une couche API en utilisant les API gratitude ou en me limitant, et une couche location de GPU pour les plus gros trucs ou tout ce qui est confidentiel. Je vous dirai comment ça se passe d'ici 2-3 semaines

[Zul]

J'imagine que l'on va passer des années à réguler l'ensemble, à trouver un équilibre au prix fort forcément avec une part non négligeable de l'humanité qui subira la loi techno et sa valeur. Tu peux te payer l'iA ou non. L'échelle sociale sera encore plus violente. Puis dans une centaine d'années peut être serons nous passer à autre chose avec une réduction du nombre d'humains quasi incontournable.

Prochain game ensuite l'allongement de la vie...

Les projections montrent une baisse de la population mondiale inévitable, le vrai défi sera plutôt l'étalement de la prise en charge des citoyens tout au long de leur vie, à savoir le modèle social actuel n'est pas viable et la révolution IA va demander une réaffectation des formations car les actuelles sont pour une bonne partie obsolète avec le futur modèle économique assisté par l'IA. Faudra réinventer l'utilité des gens, leur droits et leurs devoirs surtout pendant la jolie transition qu'on nous prépare.

Mais bon on va d'abord réguler les RS (et pas qu'aux enfants) avant de nous pondre une nouvelle loi sur les retraites, l'IA on verra plus tard. Pays de nullards.

[Za£e]

Ca va trop vite bon sang == et personne pour légiférer là dessus !

légiférer ne servira à rien.
L'industrie du cinéma est entrain de flipper et joue la carte des droits mais ça va être le zoo.

Assez flippant en tout cas de voir à quelle vitesse ça va vite et à quel point on ne pourra plus rien croire. Autant la scène Trump Lebron, on voit que c'est de l'IA, même si c'est plutôt qualitatif, autant la pub Nike est hyper hyper réaliste.

Je suis aussi sur la stratégie de tourner sur mon propre service agentique avec Claude Code sans passer par OpenClaw. J’ai un peu abandonné la partie LLM en local pour l’instant vu les besoins et les coûts hardware, je fais tout chez Claude et quand j’ai des choses trop confidentielles je les garde hors du périmètre IA. Bon je laisse les US avoir accès à des trucs de ma boite du coup, mais franchement y a rien de très intéressant pour eux

C'est que j'aimerais faire faire pour la boite que j'ai lancé récemment et avoir des agents IA pour gérer l'achat média et une grande partie de la prospection commerciale.