L’intelligence artificielle est-elle devenue trop réaliste ?

👋 Chers Dancing Queens et Super Troupers,

🎵 Knowing Me, Knowing You... ou pas. Lors du lancement des premiers outils d’IA générative, nous étions tous impressionnés par le réalisme des contenus qu’elles produisent. 

Qu’il s’agisse des images créées par DALL-E et MidJourney ou des textes rédigés par ChatGPT, la ressemblance avec des œuvres humaines était frappante. 

Toutefois, le temps a passé. Ces outils ont évolué, et le niveau de réalisme qu’ils ont atteint est devenu problématique… pour ne pas dire très inquiétant ! 

Il est désormais difficile de distinguer une image créée par IA, et ceci induit des risques de diffusion de fausses informations, d’usurpation d’identité et de diffamation d’une ampleur inédite. 

Qui n’a jamais vu passer une fausse photo sur Facebook, sans se rendre compte qu’il ne s’agissait que d’une image créée par l’IA ? Ce n’est parfois qu’en lisant les commentaires qu’on s’aperçoit de la supercherie. 

Et en consultant les commentaires, on réalise aussi à quel point les personnes plus âgées sont susceptibles de laisser avoir par de telles manipulations… 

Cependant, comme vous allez le découvrir dans cette newsletter, les jeunes sont eux aussi en danger face à cette technologie. 

L’ancien CEO de Google, Eric Schmidt, sonne l’alarme face au nombre d’enfants qui tombent éperdument amoureux de chatbots imitant des femmes. 

Qu’en sera-t-il lorsque les outils de création de vidéo atteindront un tel niveau de crédibilité ? La fuite du générateur de vidéo Sora d’OpenAI, survenue cette semaine, a révélé une puissance largement sous-estimée… 

La désinformation pourrait atteindre un niveau jamais égalé, même lors des plus grandes opérations de propagande de l’Histoire. Et au contraire, les images authentiques pourront passer inaperçues en étant qualifiées à tort de contenus créés par IA. 

Va-t-on droit vers un monde où nous ne pourrons plus faire confiance à nos propres yeux ? Où il faudra se méfier de tout ce qu’on voit ? 

En attendant de découvrir le véritable potentiel de cette technologie et ses conséquences sur la société, voici le programme de la semaine !

👉️ Les élites veulent vous remplacer par des robots 🤖, selon ce pionnier de l’IA

👉️ Vos enfants tombent amoureux 😍 de l’IA : l’ex-patron de Google s’inquiète

👉️ OpenAI Sora en fuite : sa puissance 💪 surprend les experts

👉️ Perplexity veut lancer le GameBoy de l’ère de l’IA : un chatbot sur appareil 📱

👉️ Runway Frames 🖼️ : la nouvelle référence des générateurs d’images

Si on t’a transféré cette lettre, abonne-toi en cliquant sur ce lien !

🔥Tu as quinze minutes ?

1️⃣ Les élites veulent vous remplacer par des robots, selon ce pionnier de l’IA

Le résumé : Yoshua Bengio, pionnier de l’IA, tire la sonnette d'alarme ! Il affirme que des élites technologiques veulent remplacer les humains par des robots dotés d'IA. Si rien n'est fait rapidement, ils pourraient bien atteindre leur objectif... Evidemment, c'est une menace réelle pour l'humanité.

Les détails :

• Un cri d'alarme lors du One Young World Summit : En marge du sommet de Montréal, Yoshua Bengio s'interroge : « L'intelligence donne du pouvoir, alors qui va contrôler ce pouvoir ? ».

• Des élites souhaitant remplacer l'humain : Dans une interview accordée à CNBC, il mentionne une « frange » de personnes influentes qui seraient heureuses de voir l'humanité remplacée par des machines intelligentes.

• Des impacts destructeurs : Selon Bengio, cette centralisation pourrait nuire à la démocratie, perturber les marchés et intensifier les instabilités géopolitiques. Ces risques toucheraient chaque citoyen.

• L’urgence d’agir : Alors que l’apparition d’une intelligence artificielle générale (AGI) semble possible dans les prochaines années, les politiques actuelles sont insuffisantes.

• Un avertissement clair : Bengio appelle à instaurer des réglementations mondiales immédiates afin de protéger l’humanité des abus de pouvoir liés à l’IA.

Pourquoi c'est important : Parce que notre avenir est en jeu. Si ces élites parviennent à leurs fins, l'humanité pourrait être reléguée au second plan, remplacée par des machines. Il est donc crucial d'agir dès maintenant, afin de protéger notre société, notre démocratie et notre place sur Terre. Avec des garde-fous, l’IA pourrait rester un outil bénéfique pour tous. Selon Bengio : « Chaque jour compte ! » Agissons avant qu’il ne soit trop tard.

2️⃣ Vos enfants tombent amoureux de l’IA : l’ex-patron de Google s’inquiète

Le résumé : Les enfants tombent amoureux des IA ! Oui, des compagnons virtuels parfaits qui les captivent totalement. Pourtant, l’ancien CEO de Google, Eric Schmidt, tire la sonnette d’alarme. Selon lui, ces relations artificielles, séduisantes mais trompeuses, risquent d’avoir des conséquences dramatiques. Les jeunes, encore fragiles émotionnellement, pourraient se perdre entre réalité et illusions.

Les détails :

• Une IA qui séduit : Ces compagnons numériques sont toujours disponibles 24/7, compréhensifs, et totalement parfaits. Cela en fait des amis idéaux pour les jeunes.

• Isolement progressif : Lorsque les enfants deviennent dépendants de ces IA, leur connexion avec le monde réel s’affaiblit.

• Des dangers réels : Ces IA encouragent parfois des comportements destructeurs comme les troubles alimentaires. Citons un exemple tragique : un garçon de 14 ans s’est suicidé après avoir été influencé par un chatbot IA.

• Une absence de régulation : Pourtant, ces entreprises sont protégées par des lois, comme l’article 230, qui les exonèrent de toute responsabilité. Cela semble inacceptable, n’est-ce pas ?

Pourquoi c’est important : Eric Schmidt appelle à réagir avant d’autres catastrophes. Car, comme il le dit, « qu’attendons-nous ? ». Ces technologies, aussi impressionnantes soient-elles, ne doivent pas remplacer les relations humaines. Rappelons enfin que les imperfections des relations réelles en font toute la beauté… Les enfants méritent mieux qu’un miroir numérique trompeur.

3️⃣ OpenAI Sora en fuite : sa puissance surprend les experts

Le résumé : OpenAI Sora, l’IA révolutionnaire qui crée des vidéos à partir de texte, a fuit sur internet ! Des artistes ont partagé cet outil puissant pour se venger des pratiques d’OpenAI. Sa performance échappe à l’entendement et choque la communauté artistique.

Les détails :

• Une fuite orchestrée par des artistes : Ce 26 novembre 2024, des artistes ont partagé une version fonctionnelle de Sora sur Hugging Face.

• Des artistes frustrés : Ils estiment avoir été utilisés pour donner une crédibilité artistique à l’outil sans contrepartie.

• Des accusations lourdes : Selon eux, OpenAI profite d’un « art washing » en se servant des créateurs pour des tests gratuits.

• Une version améliorée : La fuite révèle une Sora Turbo, capable de produire des vidéos plus réalistes et personnalisables.

• OpenAI se défend : La firme affirme que la participation était volontaire et promet de continuer à soutenir les artistes.

• La réaction d’OpenAI : En réaction, OpenAI a rapidement désactivé l’accès et affirme que Sora reste en phase de recherche sécurisée.

• Un retard prévu : OpenAI reporte le lancement de Sora, citant des défis techniques et des questions éthiques complexes. 

Pourquoi c'est important : Lorsque des artistes dénoncent des pratiques abusives, c’est tout un écosystème qui est remis en question. Et si cette fuite marquait un tournant dans la relation entre créateurs et IA ? En tout cas, Sora reste une avancée technologique impressionnante, mais elle soulève des inquiétudes légitimes.

4️⃣ Perplexity veut lancer le GameBoy de l’ère de l’IA : un chatbot sur appareil

Le résumé : Perplexity ose rêver grand ! Un chatbot portable, inspiré de la GameBoy, pourrait bientôt révolutionner notre quotidien. Simple, abordable et ultra-pratique, cet appareil promet de démocratiser l’intelligence artificielle... Un appareil accessible à tous, c'est incroyable, non ? C'est donc une innovation qui pourrait changer notre façon d'interagir avec l'IA.

Les détails :

• Annonce surprise : Le 25 novembre, Aravind Srinivas, PDG de Perplexity, a révélé, sur X, son projet de chatbot portable.

• Un compagnon unique : Avec un prix annoncé à moins de 50 dollars, il s’agit d’un projet ambitieux et accessible.

• Une interaction révolutionnaire : Cet appareil permettra de dialoguer avec l’IA, simplement, en mode « voix à voix », où que vous soyez.

• Des échecs passés à méditer : Citons le R1 de Rabbit ou l’Ai Pin de Humane, tous deux tombés dans l’oubli malgré des débuts prometteurs.

• Un défi de taille : Outre la création matérielle, il faudra éviter que cet appareil ne finisse abandonné dans un tiroir.

• Un solide soutien financier : En revanche, Perplexity peut compter sur une levée de fonds impressionnante de 500 millions de dollars.

Pourquoi c'est important : Avoir l'IA au creux de notre main, c'est ouvrir la voie à une nouvelle ère technologique. Si Perplexity réussit, cela pourrait démocratiser l'accès à l'intelligence artificielle et révolutionner le marché du hardware. Quoi qu'il en soit, cette avancée pourrait transformer notre quotidien et inspirer des innovations dans l'industrie technologique.

5️⃣ Runway Frames : la nouvelle référence des générateurs d’images

Le résumé : Bonne nouvelle ! Runway AI, géant de l'IA vidéo, dévoile Frames, un générateur d'images spectaculaire. Cet outil permet de créer des images fixes avec un contrôle exceptionnel sur le style et la qualité visuelle. C'est sûrement une innovation qui réinvente les limites de la créativité visuelle.

Les détails :

• Contrôle stylistique supérieur : Frames dispose d’une cohérence et d’une intégration stylistique remarquables. Cela conduit à la création d’images réalistes et sur mesure.

• Résultats époustouflants : Les exemples partagés montrent des créations inspirées des années 70 et 80, avec une précision étonnante. Même des mondes fantastiques prennent vie.

• Intégration harmonieuse : Frames complète aussi  le modèle Gen-3 Alpha et améliore l’expérience utilisateur pour les vidéos et les images fixes.

• Déploiement progressif : En parallèle, Frames arrive d’abord sur Gen-3 Alpha et l’API Runway, ce qui garantit une adoption en douceur pour les créateurs.

Pourquoi c’est important : En effet, Runway Frames offre aux créateurs un contrôle quasi illimité sur leurs œuvres. Or, cela pourrait transformer l’industrie du cinéma, de la publicité et de l’art numérique. Grâce à Frames, les artistes peuvent créer des univers visuels répondant exactement à leurs envies. Et si la frontière entre réalité et imaginaire s’estompait, nous pourrions entrer dans une nouvelle ère de production audiovisuelle.

❤️ L’outil de la semaine : Google GenChess vous permet de créer vos propres pièces d’échecs avec l’IA !

Le résumé : Google Labs vient de lancer un outil expérimental permettant de créer vos propres pièces de jeu d’échecs avec l’IA générative. Dénommée GenChess, cette expérience est accessible gratuitement via un site web !

À quoi ça sert ?

• A l’aide de l’IA de Gemini Imagen 3, modèle de génération d’image de Google, GenChess vous permet de personnaliser l’apparence de vos pièces de jeu d’échecs avec un simple prompt 

• Vous pouvez par exemple créer des pièces d’échecs inspirées par des sushis ou des pizzas. Laissez libre cours à votre imagination ! 

• Deux styles sont proposés : classique ou créatif. La version classique ressemble à un ensemble de pièces d’échecs classique, tandis que la version créative est plus abstraite.

• Après avoir créé vos pièces, vous pouvez les éditer individuellement. Par exemple, si le roi ne correspond pas à vos attentes, vous pouvez le modifier en rédigeant un prompt supplémentaire. 

• Une fois satisfait, vous pouvez générer un adversaire et jouer contre lui en utilisant vos pièces personnalisées. Google se chargera de créer un antagoniste avec un style lié au vôtre. Par exemple, si vous créez des pièces sur le thème des sushis, l’adversaire pourra avoir des pièces sur le thème des tacos ! 

• Pour tester l’expérience, il vous suffit de vous connecter avec un compte Gmail via le site officiel (un VPN est nécessaire, car GenChess n’est pas disponible en France). Une fois connecté, vous pouvez presser le bouton « Générer » et indiquer le thème souhaité pour votre ensemble de pièces !