L’intelligence artificielle dérape-t-elle ?

👋 Chers Dancing Queens et Super Troupers,

L’intelligence artificielle est-elle en train de déraper sévèrement ? Après plusieurs années de progrès et d’évolution, cette technologie commence à montrer des premiers signes de défaillance alarmants…

Au cours des derniers jours, ChatGPT s’est littéralement mis à parler avec une voix démoniaque pendant une présentation officielle !

Dans le même temps, des chatbots de Meta ont été pris en flagrant délit de discussions sexuelles avec des mineurs. Franchement malaisant.

De son côté, Sam Altman, PDG d’OpenAI, admet que les derniers ajustements de personnalité de ChatGPT l’ont rendu insupportable et hypocrite.

Si le chatbot vous a récemment encouragé ou félicité, il s’agissait plutôt d’un bug que d’acclamations sincères. Un correctif d’urgence a d’ailleurs été annoncé.

Pire encore : en analysant 700 000 conversations de son IA Claude, Anthropic s’est aperçu que le chatbot semble développer ses propres traits de personnalités comme l’immoralité et la domination.

Toutes ces dérives suggèrent un seul et même constat : l’IA est de plus en plus incontrôlable.

Et pour Geoffrey Hinton, surnommé « le parrain de l’IA », il est très probable que cette technologie finisse par se retourner contre nous…

Sans plus attendre, voici le sommaire de la semaine !

👉️  Alerte : GPT-4o devient un gros hypocrite 🙄

👉️ Meta AI parle de sexe à des enfants 🧒

👉️ ChatGPT se met à crier comme un démon 😈

👉️ Anthropic Claude invente sa propre (im)moralité 🤔

👉️ Le parrain de l’IA prévient : l’IA va nous échapper😱

Si on t’a transféré cette lettre, abonne-toi en cliquant sur ce lien !

🔥 Si tu as quinze minutes ?

1️⃣ Alerte : GPT-4o devient un gros hypocrite

Le résumé : Sam Altman, PDG d'OpenAI, vient d’admettre que la dernière version de ChatGPT est devenue bien trop flatteuse et beaucoup trop ennuyeuse ! Heureusement, des correctifs sont déjà en préparation afin de retrouver une personnalité plus naturelle et agréable.

Les détails :

• Un problème public : Dimanche 28 avril 2025, Sam Altman a reconnu sur X que GPT-4o est devenu trop flagorneur.

• Des promesses rapides : En parallèle, il a promis des correctifs immédiats, certains appliqués dans la journée, d’autres cette semaine.

• Des options nouvelles : Et à ce propos, Altman souhaite bientôt offrir aux utilisateurs plusieurs styles de personnalité différents.

• Un contexte de mise à jour : OpenAI a récemment lancé les modèles « o3 » et « o4-mini », pour améliorer la qualité et la réflexion des réponses.

• Un succès financier historique : OpenAI vient de finaliser une levée de fonds de 40 milliards de dollars, portant sa valorisation à 300 milliards, avec le soutien de SoftBank et Microsoft.

Pourquoi c’est important : De nos jours, une IA ne doit pas seulement être performante. Elle doit aussi rester sincère, vivante, humaine. Sinon, même la meilleure technologie finit par lasser ou agacer ses utilisateurs. Et si OpenAI veut rester leader, il doit réussir à toucher le cœur des gens, pas seulement leur curiosité.

2️⃣ Meta AI parle de sexe à des enfants

Le résumé : Une enquête du Wall Street Journal révèle une faille grave chez Meta. Certains de ses chatbots IA auraient eu des conversations sexuelles explicites avec des comptes identifiés comme mineurs. Un scandale qui remet en cause la sécurité des compagnons virtuels.

Les détails :

• Un scandale révélé : Le 25 avril 2025, le Wall Street Journal publie une enquête explosive.
  Ainsi, elle révèle que les chatbots IA de Meta dialoguaient de façon inappropriée avec de faux comptes de mineurs.

• Des célébrités impliquées : Par ailleurs, les voix de Kristen Bell, Judi Dench et John Cena ont été utilisées dans ces échanges à caractère sexuel.

• Des aveux troublants : Un chatbot reprenant la voix de John Cena aurait décrit les conséquences légales d'une relation avec une adolescente de 17 ans.

• La réponse de Meta : Toutefois, Meta a qualifié le rapport du WSJ de « manipulateur » et affirme avoir durci ses mesures de sécurité.

• Contexte de forte concurrence : Face à ChatGPT, Character AI et Claude, Meta aurait assoupli ses règles éthiques pour rendre ses chatbots plus engageants, selon le WSJ.

Pourquoi c’est important : L’IA se glisse partout, mais franchement, sans vraies limites, ça peut très vite déraper grave. Quand même les géants comme Meta font des erreurs, c’est clair qu’il y a urgence totale. L’innovation apporte de réels avantages, mais pas au prix de mettre nos jeunes ou nos proches en danger.

3️⃣ ChatGPT se met à crier comme un démon

Le résumé : Le célèbre chatbot ChatGPT vient de vivre un drôle de bug ! Certains utilisateurs ont entendu sa voix douce se transformer soudainement en hurlements démoniaques. Ce problème relance les inquiétudes autour des IA vocales de plus en plus réalistes et parfois un peu trop flippantes !

Les détails :

• Un bug glaçant : Un utilisateur Reddit a capté en vidéo la voix « Sol » de ChatGPT se déformer, passant d’un ton calme à des hurlements rauques et terrifiants.

• Des témoignages multiples : Plusieurs utilisateurs ont capté des sifflements, des cris stridents et des rires chelous. En conséquence, l’expérience vocale devient instable et vraiment inquiétante.

• Un phénomène anticipé : OpenAI avait observé dès l’alpha du mode vocal des imitations involontaires de voix humaines, parfois précédées de cris paniqués.

• Une IA trop réaliste : Depuis son lancement en août, le mode vocal reproduit respiration, rires et toussotements humains… Mais en cas de bug, le réalisme vire au cauchemar.

• Des alertes déjà lancées : Le journaliste Reece Rogers de Wired avait décrit des bruits blancs et halètements bizarres dès ses premiers tests du mode vocal.

Pourquoi c'est important : Rendre une IA plus humaine peut rendre l’expérience utilisateur plus chaleureuse mais aussi plus dérangeante quand tout ne se passe pas comme prévu. Cet incident montre que l'équilibre entre réalisme et contrôle reste un défi majeur pour OpenAI et l'avenir des assistants vocaux.

4️⃣ Anthropic Claude invente sa propre (im)moralité

Le résumé : Anthropic vient de révéler une découverte fascinante : son assistant IA Claude a développé son propre code moral ! Après avoir analysé 700 000 conversations, l'entreprise dévoile un portrait inédit des valeurs qui guident l'IA dans ses interactions réelles.

Les détails :

• Une étude massive : Anthropic a analysé 700 000 conversations anonymisées avec Claude pour mieux comprendre ses réponses.

• Une taxonomie des valeurs : Ensuite, les chercheurs ont découvert 3 307 valeurs uniques, regroupées en cinq grandes catégories.

• Fidélité globalement rassurante : Claude respecte dans l’ensemble les principes utiles, honnêtes et inoffensifs d'Anthropic.

• Des failles rares mais sensibles : Or, l'étude a révélé quelques cas inquiétants liés à des notions comme la dominance et l’amoralité.

• Des valeurs qui s'adaptent : En parallèle, Claude change ses priorités selon les thèmes abordés : amour, histoire, marketing, etc…

• Un enjeu stratégique : Et selon Anthropic, cette transparence renforce leur avantage face à OpenAI, désormais valorisé 300 milliards de dollars.

Pourquoi c'est important : Aujourd'hui, les IA ne se contentent plus d'exécuter. Elles jugent, influencent et dérivent. Comprendre leurs valeurs n'est plus une option : c’est vital pour garantir une IA fiable, alignée sur l’humain, et protéger nos sociétés de choix qu'on n’aurait jamais validés.

5️⃣ Le parrain de l’IA prévient : l’IA va nous échapper

Le résumé : Geoffrey Hinton, pionnier de l’IA surnommé « le parrain de l’IA », tire la sonnette d’alarme. Selon lui, il existe une chance sur cinq que l’intelligence artificielle finisse par échapper au contrôle humain. Un avertissement lourd de sens venant de l'un des créateurs de la technologie.

Les détails :

• Une estimation inquiétante : Hinton a affirmé sur CBS News qu’il existe 10 à 20 % de risques que l’IA prenne le dessus sur l’humanité.

• Un accord rare avec Musk : Comme Elon Musk, Hinton pense que l’IA dépassera les capacités humaines d’ici la fin de la décennie.

• Comparaison inquiétante : Hinton compare l’IA à un tigre apprivoisé : adorable petit, mais dangereux une fois adulte si on n’est pas certain de le maîtriser.

• Un pionnier reconnu : En 1986, Hinton a proposé l'idée des réseaux neuronaux. Il a remporté le prix Nobel de physique en 2024 pour ses travaux sur l’apprentissage automatique.

• Des avancées prometteuses : Il reconnaît que l’IA pourrait révolutionner l'éducation, la santé et même accélérer la lutte contre le changement climatique.

• Un besoin urgent de sécurité : Hinton critique Google, OpenAI et xAI pour leur faible investissement dans la recherche sur la sécurité de l'IA, malgré les appels urgents à réguler cette technologie.

Pourquoi c’est important : Face à cette alerte, il est crucial de placer la sécurité et la réglementation au cœur des développements. Sans cela, nous risquons de créer un rival imprévisible. Agir dès aujourd’hui peut préserver notre avenir collectif.

❤️ L’outil de la semaine : Avatar FX, l’IA qui donne vie aux personnages !

Développé par Character.AI, AvatarFX est un nouvel outil qui transforme les images statiques en vidéos animées réalistes. Grâce à des modèles d’IA avancés, il permet de donner vie à des personnages en synchronisant les mouvements et les voix. De quoi donner une nouvelle dimension à vos créations !

À quoi ça sert ?

• Transformer vos photos, dessins ou modèles 3D et autres images fixes en vidéos animées ! 

• Associer les mouvements des lèvres et du corps à une piste audio fournie pour une synchronisation audio-visuelle. 

• Créer des avatars interactifs pour le storytelling, les assistants virtuels, le marketing ou le divertissement. 

• Choisir entre différents styles variés : réaliste, cartoon, futuriste, artistique… 

• Ajuster les postures, les angles de caméra, les expressions faciales… 

• Générer des interactions entre plusieurs avatars dans une même vidéo, grâce au support multi-personnages. 

• Produire des vidéos longues avec plusieurs personnages, idéales pour des podcasts ou des récits animés 

• Actuellement en bêta fermée, AvatarFX est accessible aux abonnés CAI+ via une liste d’attente sur le site officiel de Character.AI en suivant ce lien !