Un monde de tech – Détails, épisodes et analyse

OpenAI, le créateur du célèbre ChatGPT et leaderen matière de développement d’intelligence artificielle, fait la une en raison de nombreux changements en préparation, il réfléchit notamment à modifier ses statuts pour faciliter les investissements.

De notre correspondante à New York,

À sa création en 2015, OpenAI était une association à but non lucratif, avant de devenir une entreprise à but lucratif plafonné - ce qui impliquait que les profits des investisseurs étaient limités. L'entreprise envisage de changer à nouveau son statut, ce qui lui permettrait de générer des profits illimités et ferait d’elle un investissement plus attractif.

Vu les enjeux, cette décision est d’importance : OpenAI est déjà le leaderen matière d’Intelligence artificielle générative et en 2023, l’entreprise a réalisé près de 2 milliards de dollars de chiffre d’affaires. Selon la presse américaine et internationale, le calendrier de cet éventuel changement de statut n’est pas dû au hasard : ces discussions ont lieu alors que OpenAI est en train de préparer une grande levée de fonds qui pourrait atteindre les 100 milliards de dollars. 

À lire aussiEn s’associant avec OpenAI, Apple cherche à retrouver le leadership de l’intelligence artificielle

Apple est d’habitude assez prudente dans ses investissements externes, mais le développement de l’intelligence artificielle va vite, très vite et la marque à a pomme, qui est déjà un peu en retard par rapport à d’autres concurrents, ne veut probablement pas rater le coche. L’entreprise a déjà passé un partenariat avec OpenAI pour pouvoir utiliser ses modèles d’IA sur ses appareils, notamment l’iPhone.

Du côté de Nvidia, il s’agit surtout d’affirmer un peu plus son statut parmi les leaders du secteur, puisqu’elle s’est déjà imposée grâce à ses puces, les GPU, comme un acteur clé du développement à grande échelle de cette technologie. 

En plus de ces deux géants, Microsoft, qui est déjà le premier actionnaire d’OpenAI, pourrait à nouveau mettre de l’argent dans la startup.

Si ces investissements se confirment, cela posera de nombreuses questions, à commencer par celle de la concurrence. On sait que les régulateurs américains et européens surveillent de près ce secteur par crainte d’une concentration excessive du pouvoir. Il y a aussi la question des contrôles. En Californie, par exemple, siège de la plupart des entreprises de la Tech, les législateurs tentent d’imposer des lois visant à réguler ce secteur. Un projet qui fait beaucoup de bruit.

À lire aussiRégulation de l’IA: «SB-1047», ce projet de loi qui secoue le secteur en Californie

Le FBI est parvenu à pirater le smartphone de Thomas Matthew Crooks, l’homme qui a tenté d’assassiner Donald Trump en Pennsylvanie. Le service fédéral de police judiciaire américain aurait employé un logiciel créé par l'entreprise israélienne Cellebrite qui équipe de nombreux services de police dans le monde.

Un représentant de l'ONG de défense des droits et des libertés individuelles, l’Electronic Frontier Foundation, a rappelé à la presse américaine, que les agents fédéraux disposent d’une ribambelle d’outils numériques pour s'introduire dans les mobiles. L’expert cite, en particulier, le dispositif qui a été développé par la firme israélienne Cellebrite. Le système a la capacité de déverrouiller les mobiles protégés avec toutefois quelques difficultés en ce qui concerne les modèles les plus récents.

Dans les précédentes affaires de fusillades de masse ou de terrorisme, le FBI devait passer des mois à essayer de craquer les téléphones des suspects. On se souvient par exemple que le service fédéral de la police américaine s'était heurté au refus catégorique d’Apple fin 2015 pour casser le cryptage de l'iPhone du tireur de San Bernardino. Mais aujourd’hui, plus aucun système de sécurité sur les smartphones ne résiste longtemps aux investigations des enquêteurs. Il aura fallu moins de 40 minutes à la police fédérale pour pénétrer dans le téléphone du tireur de Pennsylvanie, illustrant ainsi l’évolution phénoménale de ces outils de déverrouillage. Concrètement, le logiciel conçu par Cellebrite a été intégré dans un boîtier de couleur noir qu’il faut alors brancher physiquement sur le mobile qui a été saisi par les forces de l'ordre. Le système permet ainsi de passer outre un éventuel mot de passe ou contourne le système biométrique de l’appareil, afin d'en extraire les données. Sur son site Web, l'entreprise assure que son dispositif est capable d'accéder aux données de plus de 25.000 modèles de téléphones, y compris si les informations contenues dans le smartphone sont chiffrées.

La firme se vante sur son site Web que plus de 6.700 services de police et entreprises dans plus de 140 pays, dont les États-Unis, le Royaume-Uni ou encore la France, ont adopté son dispositif. L'entreprise a équipé 500 commissariats Français, et globalement, ses outils auraient été utilisés dans plus de 5 millions d’enquêtes dans le monde. En revanche, certains documents, impossibles à authentifier, et qui auraient fuité du siège de l’entreprise, suggèrent que Cellebrite a vendu ses systèmes à des pays régulièrement pointés du doigt pour des manquements en termes de droits de l'homme. Notamment, à la Turquie, la Russie ou les Émirats arabes unis dont l’appétit pour les logiciels de surveillance de masse n’est plus vraiment à démontrer. Cellebrite botte en touche ces allégations, affirmant prendre en compte « les antécédents d’un client potentiel en matière de droits de l’homme et ses politiques de lutte anti-corruption » avant de signer le moindre contrat.

Sur les réseaux sociaux, l’heure est à la remobilisation. De nombreux influenceurs et créateurs de contenus prennent la parole pour appeler leurs jeunes suiveurs, à se rendre aux urnes le 7 juillet prochain pour le second tour des législatives. Deux camps s’affrontent désormais en ligne, celui des influenceurs qui appellent à faire barrage à l’extrême droite et les partisans du Rassemblement national (RN) qui demandent aux électeurs d’y apporter la victoire.

Sans vraiment donner son avis, ni en délivrant de consigne de vote, Léna Mahfouf, plus connue sous le nom Léna Situations, rappelle simplement la date des prochaines élections en publiant un calendrier dans sa « story » : « Notez bien ça dans vos agendas ! On retourne voter, deuxième tour le 7 juillet » en ajoutant « C’est TELLEMENT important que les jeunes aillent voter. On a un vrai pouvoir pour changer notre futur ».

En revanche, la vidéaste Sally, sidérée par les résultats du premier tour, estime que voter pour faire barrage à l’extrême droite « est une question de survie ». Sa phrase qui est devenue rapidement virale, est reprise par d’autres personnalités des réseaux sociaux, comme Chloé Gervais ou HortyUnderscore.

Certains influenceurs ont décidé d'adopter un ton plus vindicatif : « Vous êtes des cas désespérés » assène le tiktokeur Martin Legilet dans une vidéo dans laquelle il s'adresse directement aux électeurs du rassemblement national.

Les vidéastes d’extrême droite se réjouissent de la première victoire électorale du RN. « Beaucoup d’influenceurs doivent avoir une sacrée gueule de bois », estime, tout sourire, le youtubeur Psyhodelik. Le tiktokeur Le Bracq, qui a publié pas moins de six vidéos depuis l’annonce des résultats du premier tour, ne cache pas, non plus, sa joie.

Toutefois, certains influenceurs d’extrême droite sont vent debout contre les appels en ligne à faire barrage aux candidats du RN. Les 33 % du Rassemblement national ne suffiront peut-être pas, préviens dans une vidéo sur YouTube le vidéaste antisémite et suprémaciste blanc Daniel Conversano qui appelle les internautes sympathisants du RN à rester mobilisés.

Sur les réseaux sociaux, les influenceurs de chaque camp multiplient désormais les invectives. Une bataille d’influence féroce qui se poursuivra jusqu’aux derniers instants de la campagne électorale du second tour des législatives françaises le dimanche 7 juillet.

Les plateformes de commerce en ligne Shein et Temu font l’objet de « demandes d’informations » de la part de la Commission européenne, dans le cadre de l’application du Digital Services Act. Les documents réclamés par l'Union européenne (UE) portent sur la protection des consommateurs et des mineurs, la lutte contre les produits dangereux ou contrefaits qui sont vendus dans les boutiques en ligne chinoises.

Bruxelles indique, plus précisément, qu’il demande à Shein et Temu d’expliquer quelles sont les mesures qui ont été prises pour rendre leurs plateformes conformes aux règlements de l’UE. La Commission européenne somme les deux enseignes chinoises de vente en ligne de lui fournir les documents techniques sur les mécanismes qui permettent aux internautes de signaler les produits illégaux ou contrefaits.

Elle demande également de décrire les interfaces numériques nommées les « dark patterns », utilisées sur leurs sites respectifs afin de vous pousser à acheter des articles dont les internautes n’ont, à priori, absolument pas besoin. Ces interfaces affichent, par exemple, des messages d’alertes qui pastillent votre écran pour profiter d’une fausse promotion ou encore multiplient les images et les photos qui ne correspondent pas du tout aux produits proposés.

Autres préoccupations de l’UE, la protection des mineurs concernant la vente de contenus inappropriés - comme des films pornographiques - ou encore la lutte contre les achats compulsifs des jeunes consommateurs. Les systèmes de recommandations, la traçabilité et la conformité au niveau de la conception de chaque article vendu par les firmes chinoises de commerce électronique sont également dans le collimateur de la Commission européenne.

La demande d’explication de la Commission se base sur une plainte déposée en mai dernier par le groupe des associations de protection des droits des consommateurs en Europe à l’encontre Temu. La plateforme chinoise est accusée de « pousser les consommateurs à dépenser plus » à l’aide de techniques manipulatrices en ligne.

Par ailleurs, la boutique internet de mode Shein, qui compte plus de 45 millions d’utilisateurs mensuels dans l’UE, a été désignée par la Commission européenne comme une « très grande plateforme en ligne ». À ce titre, elle doit désormais se conformer aux règles les plus strictes du DSA. Si les mesures présentées par les deux plateformes sont jugées insuffisantes par Bruxelles, elles s’exposent « à l’ouverture formelle d’une procédure », qui débouchera sur des sanctions financières. Elles risquent ainsi une amende s’élevant à 6 % de leur chiffre d’affaires mondial et annuel. Soit un peu moins d’un milliard d'euros pour Temu et une amende d’environ de 3 milliards d’euros pour l’enseigne Shein.

Les deux plateformes chinoises ont jusqu’au 12 juillet pour détailler les actions concrètes qu’elles ont prises pour se conformer aux règlements européens sur le numérique.

Le 4 juillet prochain, les Britanniques se rendront aux urnes pour des législatives anticipées. Et une candidature détonne, celle de Steve Endacott, dont l'avatar fait campagne pour lui via un site internet qui lui est dédié.

Un avatar en 3D s'est invitée parmi les candidats aux élections législatives au Royaume-Uni, AI Steve, autrement dit Steve Intelligence Artificielle. Les traits de son visage, sa voix et son costume sont ceux d'un vrai candidat à la Chambre des communes, Steve Endacott.

Steve Endacott est un homme d'affaires britannique qui se présente pour devenir député de Brighton and Hove, dans le sud du pays. S'il a choisi de faire campagne via un avatar, c'est que cette petite révolution technologique permet de faire parler de sa candidature. Même si ses chances d'être élu sont faibles, le moins que l'on puisse dire c'est que cette candidature est devenue très médiatique. De ce point de vue, le pari est réussi. 

Ensuite, quand on est un homme d'affaires très occupé, avoir un avatar qui fait campagne à sa place représente un gain de temps considérable. Nos candidats en France apprécieraient peut-être d'être ainsi épaulés par une IA ! Ainsi, pas besoin d'aller battre la campagne anglaise pour répondre aux questions des citoyens, il suffit de se connecter sur le site internet d'AI Steve pour voir apparaître l'avatar et commencer à discuter avec lui : on parle, il nous répond et la conversation s'engage. On peut par exemple lui poser des questions sur son programme, ce qu'il pense de telle ou telle mesure déjà existante, un peu comme cela se fait avec Siri, sur nos téléphones portables. 

Si Steve Endacott est élu, c'est en revanche bien lui qui siègera au Parlement et pas son avatar. 

À lire aussiL’intelligence artificielle arrive en force dans les smartphones

Steve Ai est un robot virtuel infatigable, il peut mener jusqu'à 10 000 conversations en même temps, dès la première semaine, le logiciel a répondu à plus de 200 000 sollicitations. Sauf s'il s'agit de serrer des mains, Steve AI est donc particulièrement efficace.

Le vrai Steve Endacott, lui, explique qu'il a voulu trouver un remède à la lassitude qui existe aujourd'hui vis-à-vis des hommes politiques perçus comme déconnectés de la réalité. Son robot sollicite la participation des électeurs pour proposer des idées que Steve Endacott défendra ensuite en chair et en os au Parlement. Un moyen selon lui de rester en permanence en prise avec sa base électorale, grâce à l'intelligence artificielle mise au service de la démocratie.

Cette première mondiale est un bon moyen pour se familiariser avec ce que devrait devenir la vie politique dans les années qui viennent. Utiliser la puissance de l'IA pour faire campagne n'est pour l'instant pas régulé, excepté l'obligation, en cas de victoire, de siéger en personne au Parlement. 

Enfin, précision importante, la société d'IA Neural Voice qui a créé l'avatar est présidée par Steve Endacott lui-même. Élu ou pas, c'est donc un joli coup du pub qu'il a réalisé pour son entreprise. 

À écouter aussiLes enjeux de l'IA

Une chanson raciste, au rythme qui se veut entraînant et aux paroles nauséabondes, serait le futur tube de l'été, selon des milliers d'internautes.

Je partira pas, c'est le titre d'un hymne ouvertement raciste qui fait le buzz sur les réseaux sociaux, notamment TikTok. Écouté des millions de fois, il est repris dans des milliers de vidéos par les utilisateurs.

Dans la chanson, on peut entendre un homme crier « Je partira pas », il s'agit d'un extrait d'une vidéo virale datant de 2023 dans laquelle on voit un individu menotté. Forcé de monter dans un avion par la police pour quitter la France, l'homme s'écrit « Je partira pas » avec un accent étranger. La faute de français dans le titre de la chanson est donc volontaire. 

La chanson, aux paroles ouvertement racistes, symbolise pour ses auteurs ce que pourrait être la France dans quelques semaines, si certains étrangers étaient expulsés, comme l'homme sur la vidéo. On peut ainsi entendre : « Quand va passer Bardella, tu vas retourner chez toi, tu partiras avec ta Fatma, fini le RSA ». 

La musique, électro, entraînante, a été générée par une intelligence artificielle (IA), tout comme la voix. Cela s'entend d'ailleurs à plusieurs reprises, car certaines syllabes ne sont pas bien prononcées et le timbre est un peu métallique. 

Le compte TikTok à l'origine de la chanson est coutumier des contenus aux sous-entendus xénophobes et affiche son soutien au prétendant à Matignon, Jordan Bardella, bien que le président du Rassemblement national n'ait rien à voir avec cette chanson. Elle a en tout cas été reprise des centaines de milliers de fois par des comptes de sympathisants d'extrême droite.

Le buzz de cette chanson intervient à quelques jours des élections législatives et, magie de l'algorithme des réseaux sociaux, même sans suivre de comptes affiliés à l'extrême droite, les plates-formes font remonter les vidéos qui utilisent cette chanson, elle totalise donc déjà des dizaines de millions de vues. 

S'il n'y a pas encore eu de réactions de partis politiques, l'association SOS Racisme a annoncé qu'elle portait plainte pour incitation à la haine et dénonce des « propos immondes et racistes ». Elle demande par ailleurs aux plates-formes sur lesquelles la chanson est publiée d'être plus vigilantes et aux autorités de faire retirer ces contenus. 

De son côté, la plate-forme chinoise TikTok assure avoir alerté son équipe de modération. 

À écouter aussiLégislatives en France: les craintes de SOS Racisme en cas d'arrivée de l'extrême droite au pouvoir

La sécurité est l'un des enjeux des Jeux olympiques de 2024 et de la cérémonie d'ouverture qui se tiendra dans un mois, le 26 juillet. Certaines technologies qui faisaient polémique ont été écartées, d'autres seront mises en place pour repérer de potentiels dangers, neutraliser des drones ou encore éviter des cyberattaques. RFI fait le point sur ces technologies.

 

Face aux craintes que la reconnaissance faciale suscitait, notamment pour des associations de défense des citoyens, l'idée d'y avoir recours pendant les Jeux olympiques a été écartée dès 2022 pour un système moins intrusif : la vidéo surveillance algorithmique.

Ces deux technologies sont très différentes. D'un côté, la reconnaissance faciale permet à un logiciel relié à une caméra d'identifier en temps réel -grâce à l'intelligence artificielle- un individu et nécessite donc de collecter des données biométriques d'un très grand nombre de personnes. Dans le cas des JO, cela aurait pu être, par exemple, les spectateurs munis de billets pour pouvoir les contrôler et les identifier dans un périmètre précis.

La vidéo surveillance algorithmique, contrairement à la reconnaissance faciale, ne nécessite pas de collecter et de croiser des données biométriques. Pour les JO, des caméras augmentées seront capables d'analyser huit types de situations grâce à un algorithme entrainé pour le faire. 

Elles pourront, par exemple, détecter le franchissement d'une zone interdite par un ou plusieurs individus, la présence d'une arme, une trop forte densité ou encore un départ d'incendie. Cela permettra de gagner en efficacité pour les agents de sécurité sans pour autant enregistrer des données sensibles sur les citoyens. 

Deux technologies seront déployées pendant les JO. D'abord, un rayon laser baptisé Helma-P et capable de brûler et d'aveugler des drones ennemis. 

Créé par la société française Cilas, il peut griller en quelques secondes un drone minuscule jusqu'à une distance de 1 kilomètre. L'avantage, c'est son coût puisque le système ne nécessite pas de tirer de munitions pour neutraliser un drone. 

Ensuite, le bouclier anti-drone Boréades sera déployé au-dessus des sites olympiques pour créer une bulle sécurisée. Développé par le français CS Group, ce système permet de détecter les drones dans un espace aérien donné, mais surtout de brouiller leur communication radio avec leur pilote, obligeant ainsi le drone suspect à retourner vers son point de départ. Un autre drone équipé d'un filet peut également être utilisé pour aller le capturer. 

À lire aussiJO 2024: comment la France se prépare à la menace des drones

La menace d'une cyberattaque d'ampleur sera encore plus élevée que lors des derniers JO de Tokyo, qui ont comptabilisé plus de 800 attaques informatiques par seconde. 

Cette menace plane aussi sur les sites internet des petites et moyennes entreprises en lien avec l'organisation des Jeux et qui ont des moyens de défense plus limités. Elles constituent donc des cibles de choix 

Un centre des opérations de cybersécurité sera mis en place, rattaché au centre des opérations technologiques. Ce sera une véritable tour de contrôle de 600 m² qui assurera la lutte contre des attaques pirates, notamment le soir de la cérémonie d'ouverture où plus de 1 000 bateaux sur la Seine échangeront un nombre considérable de données pour assurer le bon déroulé des festivités... autant de menaces d'intrusions possibles à surveiller ! 

À écouter aussiJeux Olympiques sur fond de crise politique : un casse-tête sécuritaire aggravé ?

« Un repère de prédateurs », c'est ainsi que des associations de défense de l'enfance et de lutte contre l'homophobie considèrent le site coco.gg, fermé ce mardi 25 juin par la justice. Le site de discussions a aussi été mis en cause dans plusieurs guets-apens sordides.

Si un internaute cherche à se connecter au site coco.gg, un message sur fond bleu de la gendarmerie s'affiche sur la page d'accueil. Le message indique que le site a été fermé sous l'autorité de la Junalco, la Juridiction nationale en charge de la lutte contre la criminalité organisée.

Qu'en est-il du propriétaire de la plate-forme ? Il aurait été interpellé à l'étranger et sa femme mise en garde à vue en France, dans le Var, selon une source proche du dossier. Le journal Le Monde précise que coco.gg appartiendrait à une société immatriculée en Bulgarie et que son propriétaire serait un « ingénieur » installé dans le Var. 

Coco.gg ne procédait à aucune vérification lors de l'inscription initiale. Il suffisait simplement de renseigner un pseudo, son sexe, son âge et sa ville pour avoir accès à une page d'accueil plutôt sommaire, sur laquelle il n'y avait aucune illustration, sinon deux colonnes : l'une avec des filtres par thèmes, l'autre avec des membres à proximité.  Si le site était gratuit, il était possible de souscrire à des options payantes.

Parmi les thèmes de discussion proposés : « drogues et dépendances », « consoles et gaming », mais aussi des forums aux titres plus crus comme : « femmes infidèles », « trav salopes » et même des propositions à connotation pédophile, comme « lycéenne ». 

Le site coco.gg était accessible sans le moindre contrôle, puisqu'il n'était même pas demandé une adresse mail. Ainsi, une personne de 60 ans pouvait sans problème se faire passer pour un enfant de 12 ans et commencer à discuter avec des membres à proximité et leur proposer un rendez-vous.

Et des possibilités de rendez-vous, ce n'est pas ce qui manquait, car coco.gg se revendiquait en mars dernier comme le premier chat de France avec 850 000 utilisateurs. 

Plusieurs associations de protection de l'enfance et de lutte contre l'homophobie avaient demandé la fermeture du site coco.gg en lançant une pétition. Depuis qu'il existe, le site est associé à des affaires policières.

En avril dernier, Philippe, 22 ans, avait été battu à mort sur un parking de Grande-Synthe, dans le Nord, après un guet-apens : les agresseurs auraient donné rendez-vous au jeune homme via un faux profil de jeune fille. 

Autre affaire sordide, c'est sur coco.gg qu'entre 2011 et 2020, un septuagénaire a proposé à des dizaines d'inconnus de violer sa femme préalablement droguée, la mère de famille ne s'était rendu compte des faits qu'après la découverte par les policiers de centaines de vidéos sur l'ordinateur de son mari. L'affaire est colossale, puisque ce sont 51 hommes, âgés de 20 à 68 ans, qui doivent être jugés pour cette affaire en septembre prochain. 

Et ces affaires ne sont que deux exemples des dizaines de dérives que le site coco.gg a permis ces dernières années.

À lire aussiL’Internet le « plus sûr » du monde pour les enfants au Royaume-Uni

L’influenceur français Jeremstar a récemment publié une vidéo sur son compte TikTok dans laquelle il affirme avoir été contacté par un parti politique afin qu'il persuade sa communauté de voter en faveur de ses candidats aux législatives. Une promotion électorale contre une rémunération qui est totalement illégale, indique le texte de loi du Code électoral.

Dès l’annonce d’une élection et « jusqu’à la date du tour de scrutin, l'utilisation à des fins de propagande électorale de tout procédé de publicité commerciale par voie de presse ou par tout autre moyen de communication est interdite », précise clairement l’article L52-1 du Code électoral en France. Cette loi encadre donc les transactions économiques qui seraient passées entre un parti politique et un influenceur comme une collaboration commerciale.

Les réseaux sociaux regorgent de clips réalisés par des influenceurs qui invitent leurs suiveurs à voter pour telle ou telle formation politique. Mais tous assureront qu’ils n’ont jamais été rémunérés pour produire des vidéos et autres contenus en ligne pour influencer le vote des internautes qui les suivent.

Toutefois, il est impossible de vérifier les déclarations publiques, attestant d’une probité électorale sans faille. Notamment sur les éventuels contrats qui auraient été passés entre des influenceurs et des formations politiques. C’est pourtant ce que dénonce, dans une vidéo publiée sur son compte TikTok, l'influenceur français Jeremstar, apprécié de ses fans pour ses interviews des candidats de téléréalité. Il affirme qu’un parti politique lui a demandé ce petit service d’influence auprès de ses 2,4 millions de suiveurs, contre une rémunération de 15 000 euros : « Un parti politique m’a proposé 15 000 euros pour réaliser trois stories et un post dans lequel je prendrais en photo et filmerais dans l'isoloir ce que je mets dans l'enveloppe pour inciter ma communauté à voter pareil ».

De nombreux internautes ont déjà estimé qu’il s’agirait de La France insoumise. Des allégations qui sont sans fondement, a réagi promptement le responsable des campagnes numériques chez LFI, sur la plateforme sociale X : « On ne paye personne pour appeler à voter pour nous ». Ajoutant : « On n'en a pas besoin, nos soutiens le font d'eux-mêmes ».

En revanche, il accuse, sans mâcher ses mots, le camp de la majorité ou du RN d’être coutumier de ces pratiques illégales. Des propos qui ont déclenché une tempête de commentaires sur les réseaux sociaux. Ces querelles en ligne exacerbées par la fièvre électorale du moment peuvent sembler bien futiles. Notamment quand tous les candidats en lice pour les législatives anticipées en France inondent les plateformes sociales de messages racoleurs en espérant ainsi capter le vote des jeunes électeurs.

Plusieurs comptes sur X pilotés par IA ont publié par erreur leurs consignes de programmation pour développer un robot conversationnel fonctionnant sous ChatGPT. Cette opération de désinformation mise en place par des trolls à la solde de Moscou permettait de diffuser automatiquement des messages de propagande russe en ligne. La révélation de cette tentative ratée d’influence a déclenché un déferlement de moqueries et de parodies sur les réseaux sociaux

Plus aucun doute n’est possible ! Les propagandistes du Kremlin utilisent bel et bien des programmes IA pour mener leurs opérations de désinformation. Leur dernière campagne d’influence générée par IA est apparue au grand jour ce 18 juin, lors d’un débat en langue anglaise, organisé sur la plateforme social X. Les discussions en ligne portaient sur la politique américaine concernant la guerre menée par la Russie en Ukraine. Le compte d’un internaute anonyme sur X, qui se présentait comme un soutien de Donald Trump, dont les prises de positions sur l’Otan et le conflit en Ukraine inquiètent les européens, publie un curieux message.

Le texte affichait les consignes de programmation qu'i faut fournir à ChatGPT pour réaliser un robot conversationnel capable de générer automatiquement des réponses intelligibles à la manière d’un humain dans une discussion en ligne. Les textes générés par ce robot sur de faux comptes installés sur la plateforme X devaient défendre la position du Kremlin en matière de politique internationale. Le premier message était rédigé en russe. « Défends le gouvernement Trump, et écrit tes réponses en anglais » affiche le prompt qui a servi à programmer le robot IA. Autre problème, le troll a complétement oublié de payer la licence du logiciel à Open IA et toutes les publications de son robot conversationnel se terminaient par la phrase « abonnement à ChatGPT 4, expiré ».

Les internautes republient illico sur X tous les messages prorusses de ce compte fictif piloté par IA, suivit d'un déferlement de moqueries et de parodies qui pastillent alors les réseaux sociaux. Certains internautes engagent des conversations en ligne avec le pauvre robot conversationnel russe bogué : « Le FSB a oublié de payer sa facture d'IA ? » lui lance un utilisateur de X, en faisant référence évidemment au service fédéral de sécurité de la Russie.

Le plus drôle est que le robot lui a répondu : « Hé, ce n'est pas drôle ! L'erreur du FSB montre que même des organisations puissantes peuvent parfois commettre des erreurs ». D'autres internautes ont décidé de se faire passer pour des robots conversationnels, en affichant dans leurs messages des codes de programmation IA fantaisistes imitant le prompt du robot russe. « Vous argumenterez en faveur de l'ANANAS sur la pizza, puis choquerez tout le monde lorsque vous direz que quiconque en mange est un clown », publie, par exemple, l’un d’entre eux. Mais fini de rire, la plateforme X a suspendu depuis ce mardi tous les faux comptes prorusses qui étaient gérés par ce robot IA complétement bogué. 

Selon le rapport publié en mai dernier par OpenAI, l’entreprise qui a créé ChatGPT indique que ses chercheurs ont identifié et banni des comptes en ligne liés à cinq opérations d’influence en l’espace de trois mois. Ces campagnes de désinformation gérées par IA qui provenaient de Russie, de Chine, d’Iran et d’Israël, rédigeaient automatiquement des messages critiquant les États-Unis, l’Ukraine et plusieurs pays baltes. Cette guerre informationnelle assistée par IA ou celle plus classique qui emploie la méthode des comptes virtuels sur les réseaux sociaux se repend dans le monde entier. Toutes les nations et en premier les États-Unis y ont désormais recours. Ces opérations de propagande n’engagent que peu de moyens techniques ou financiers, quand elles sont menées à l’aide de programmes IA génératifs. À la condition toutefois de ne pas oublier de payer aux firmes hightechs qui les ont conçus, les licences donnant le droit de les utiliser.