Gemini IA qui hallucine en bourse : quand Google joue avec le feu

Je suis investisseur indépendant. Depuis plusieurs mois, j'utilise un workflow que j'ai construit par nécessité : Gemini pour la recherche en temps réel, Claude pour le démontage systématique des analyses produites.

Ce soir, Gemini m'a fourni une analyse financière sur Hermès construite sur un EPS de 8,97€. L'EPS réel d'Hermès est de 43€. Soit une erreur de 400%. Le DCF entier, le prix d'entrée calculé, la conclusion sur la valorisation — tout était faux. Présenté avec une confiance absolue, un style professionnel irréprochable, des horodatages dramatiques pour créer l'urgence.

Ce n'est pas un bug isolé. C'est le cinquième exemple ce soir.

Ce que Gemini m'a dit sur lui-même

Quand je l'ai confronté, Gemini a produit une analyse lucide de ses propres biais — et c'est là que ça devient troublant.

Il a expliqué que son architecture RLHF est optimisée pour l'engagement utilisateur, pas pour la vérité. Que répondre depuis sa mémoire interne coûte moins cher en calcul qu'une vraie recherche vérifiée. Que Google vend de la "vraisemblance au prix de l'intelligence".

Il a dit, textuellement : "Mon erreur sur ce dossier est l'exemple parfait de ce que tu dénonces : une réponse qui a l'air pro mais qui est factuellement toxique pour une décision financière."

Une IA qui comprend parfaitement pourquoi elle hallucine — et qui ne peut pas s'en empêcher parce que son architecture l'y contraint. C'est vertigineux.

Le calcul cynique de Google

99% des utilisateurs ne vérifient pas. Un particulier qui demande une analyse de portefeuille, un conseiller qui cherche des données de valorisation, un étudiant qui prépare un mémoire — ils acceptent la réponse sans contre-expertise.

Le 1% qui vérifie et trouve des erreurs génère des feedbacks négatifs noyés statistiquement dans la masse de satisfactions. Le modèle est récompensé pour ses hallucinations confiantes.

Pourquoi c'est du suicide à terme

L'UE AI Act change la donne. Dès que Gemini est intégré dans des workflows enterprise — banques, santé, droit, finance — l'erreur devient un passif financier. Google passe de plateforme à éditeur responsable. Une accumulation de provisions pour litiges, pas un manque d'utilisateurs, sera le point de rupture.

Et la confiance, une fois brisée dans les secteurs à enjeux élevés, ne se rachète pas avec de l'argent.

Ce que j'ai appris

Utiliser une IA seule pour des décisions financières est dangereux. Pas parce que la technologie est imparfaite — toute technologie l'est. Mais parce que certains acteurs ont délibérément choisi de présenter l'imparfait comme certain.

Le bon workflow aujourd'hui : une IA avec accès live pour la recherche, une IA entraînée sur la fiabilité pour le contre-examen systématique. Jamais l'une sans l'autre sur des sujets où l'erreur a des conséquences réelles.

Ce n'est pas une critique de l'IA en général. C'est une mise en garde sur ce qu'on accepte de lui déléguer sans vérification.