Actualité · Droit et économie de la presse · 29 octobre 2026Robots d'IA : ce que Cloudflare a finalement changé le 15 septembre
Le 1er juillet 2026, Cloudflare annonçait qu'à partir du 15 septembre ses réglages par défaut bloqueraient, sur les pages affichant de la publicité, les robots d'exploration « à usage mixte », qui servent à la fois la recherche et l'IA. À l'échéance, le dispositif a changé de forme. Un nouveau réglage, « Refuser l'entraînement des IA », laisse passer Googlebot, Bingbot et Applebot pour la recherche tout en signalant un refus de l'entraînement, que Google, Microsoft et Apple respectent ou se sont engagés à respecter. Les sites existants, eux, conservent leurs réglages. Le 30 septembre, Cloudflare a aussi ouvert la bêta de Pay Per Use, qui rémunère l'éditeur à l'usage de ses contenus plutôt qu'au passage des robots. Ce qui a changé, et ce qu'un éditeur doit vérifier.
L'annonce de juillet
Ce qu'annonçait Cloudflare le 1er juillet 2026
Le 1er juillet 2025, lors de sa première « Journée de l'indépendance du contenu », Cloudflare avait bloqué par défaut les robots d'entraînement des IA sur les nouveaux domaines et lancé Pay Per Crawl en bêta privée. Un an plus tard, le 1er juillet 2026, l'entreprise a présenté une nouvelle série de mesures. Ses outils classent désormais les robots selon trois usages : la recherche (indexer un site pour répondre plus tard à des questions), l'agent (visiter une page en temps réel pour le compte d'une personne, comme le fait un assistant conversationnel) et l'entraînement de modèles. Ces trois réglages sont ouverts à tous les clients, offre gratuite comprise.
Le communiqué fixait une échéance. Le 15 septembre 2026, pour les nouveaux clients et les nouveaux sites des clients existants, les réglages par défaut devaient autoriser la recherche mais bloquer l'entraînement et les agents sur les pages comportant de la publicité ; les robots mixtes qui ne permettent pas de choisir entre ces usages devaient être bloqués sur toutes ces pages. Les clients de l'offre gratuite qui n'auraient pas modifié leurs réglages avant cette date devaient basculer aussi. Cloudflare se donnait deux mois d'échanges et de tests pour « finaliser » ces règles.
L'entreprise visait Google. Dans son rapport publié le même jour, elle estime que Google a accès à environ deux fois plus d'informations que les principales entreprises d'IA, parce que son robot à usage mixte rend difficile de rester visible dans sa recherche sans servir aussi à ses produits d'IA. Toujours selon Cloudflare, les robots mixtes représentaient plus de 36 % de l'activité d'exploration observée sur son réseau, et 52 % des requêtes des robots d'exploration servaient l'entraînement en juin 2026, contre 22 % au printemps 2025.
Sources : Cloudflare, communiqué du 1er juillet 2026 ; Cloudflare, « Votre site, vos règles », 1er juillet 2026 ; Cloudflare, rapport du 1er juillet 2026 ; Cloudflare, communiqué du 1er juillet 2025 ; TechCrunch, 1er juillet 2026.
Le 15 septembre
Ce qui a changé le 15 septembre
Le 15 septembre, Cloudflare n'a pas appliqué ce blocage tel qu'il l'avait annoncé. Il a créé un réglage, « Refuser l'entraînement des IA », et une catégorie de robots dits « Responsables ». Avec ce réglage, Cloudflare publie dans le fichier robots.txt du site le refus de l'entraînement propre à chaque opérateur, laisse passer pour la recherche les robots mixtes classés « Responsables » et bloque tous les autres robots d'entraînement, dont ceux qu'Amazon, Anthropic, Meta et OpenAI réservent à cet usage.
Pour être classé « Responsable », un opérateur doit offrir, ou s'engager à offrir dans un délai donné, quatre garanties : un moyen de refuser l'entraînement par robots.txt ou un standard équivalent ; un moyen de refuser les résumés générés par l'IA ; une visibilité page par page sur les contenus mis à disposition pour l'entraînement et sur leur présence dans la recherche ; l'assurance que ce refus n'affecte pas les résultats de la recherche classique.
Les sites existants ne changent pas de régime. À la question de ce qu'il faut faire, Cloudflare répond : « Rien, dans presque tous les cas. » Les réglages en place sont convertis vers les nouvelles options ; un ancien blocage de l'entraînement devient ainsi « Refuser l'entraînement des IA ». L'extension automatique aux clients de l'offre gratuite, annoncée en juillet, n'apparaît plus dans ce billet. Pour les nouveaux domaines, Cloudflare propose à l'inscription deux configurations recommandées, selon que le site tire ou non des revenus de la publicité, et chaque réglage peut être modifié à tout moment.
| Configuration proposée à l'inscription | Site sans revenus publicitaires | Site financé par la publicité |
|---|---|---|
| Recherche | Autoriser | Autoriser |
| Entraînement | Autoriser | Refuser l'entraînement des IA |
| Agents | Autoriser | Bloquer sur les pages contenant des publicités |
Un point appelle la vigilance. Depuis le 15 septembre, les options « Bloquer » et « Bloquer sur les pages contenant des publicités » s'appliquent aussi aux robots mixtes : choisir « Bloquer » pour l'entraînement arrête Googlebot, Bingbot et Applebot, recherche comprise. Pour refuser l'entraînement sans sortir de ces moteurs, c'est « Refuser l'entraînement des IA » qu'il faut sélectionner. D'après Cloudflare, moins de 1 % des sites de son réseau bloquent les robots de recherche, et 17 % ont activé un moyen de bloquer l'entraînement.
Sources : Cloudflare, « Bénéficiez du meilleur des deux mondes », 15 septembre 2026 ; Cloudflare, « Internet a un second public », 30 septembre 2026.
Les robots mixtes
Googlebot, Bingbot, Applebot : les robots mixtes nommés par Cloudflare
Cloudflare a nommé les robots en cause. Dès juillet, il citait Googlebot, Applebot et Bingbot comme robots à usages multiples, susceptibles d'être bloqués chez les clients qui refusent l'entraînement. Le 15 septembre, il les a classés tous trois « Responsables » : avec « Refuser l'entraînement des IA », ils continuent d'explorer le site pour la recherche, et seul « Bloquer » les arrête. Chaque entreprise dispose de ses propres mécanismes, que Cloudflare décrit ainsi :
- Google : refus de l'entraînement par une règle Disallow visant le jeton Google-Extended dans robots.txt, et un réglage de la Search Console pour exclure le site des résultats génératifs. Google a déclaré que refuser Google-Extended n'a pas d'effet sur le classement.
- Microsoft : les préférences d'entraînement s'expriment aujourd'hui par la balise NOARCHIVE ; la prise en compte d'un refus inscrit dans robots.txt est visée pour début 2027. D'ici là, le réglage de Cloudflare ne transmet pas ce refus à Bing par robots.txt.
- Apple : refus de l'entraînement par une règle visant Applebot-Extended ; l'outil de suivi page par page est annoncé pour l'an prochain.
Pour un éditeur, la nuance décisive tient à Google. Selon sa documentation, Google-Extended détermine si le contenu exploré peut servir à entraîner les futurs modèles Gemini et à « ancrer » les réponses des applications Gemini et de Vertex AI ; il n'a aucune incidence sur l'inclusion d'un site dans la recherche Google. Or Googlebot explore aussi pour les fonctionnalités d'IA de la recherche, les Aperçus IA et le Mode IA, rappelle TechCrunch. Refuser l'entraînement par Cloudflare ne retire donc pas un site des Aperçus IA : c'est le réglage « IA générative dans la Recherche » de la Search Console qui le permet, au prix des impressions venues de ces fonctionnalités. Nous l'avons détaillé dans Aperçus IA : la Search Console mesure votre visibilité, et permet de vous en exclure.
Sources : Cloudflare, 15 septembre 2026 ; Cloudflare, « Votre site, vos règles », 1er juillet 2026 ; Google, robots d'exploration communs, mise à jour du 20 octobre 2026 ; TechCrunch, 1er juillet 2026.
La rémunération
Pay Per Use : être payé à l'usage plutôt qu'au passage
Pay Per Crawl, lancé le 1er juillet 2025 en bêta privée, permet à un site de faire payer l'accès à ses pages : le robot présente une intention de paiement, ou reçoit une réponse HTTP 402 (« paiement requis ») accompagnée du prix. En février 2026, Stack Overflow a présenté un modèle de ce type, lancé avec Cloudflare : la catégorisation des robots et des règles de pare-feu de Cloudflare servent à renvoyer une réponse 402 à certains robots, en complément de ses licences de données classiques.
Le 1er juillet 2026, Cloudflare a annoncé faire évoluer ce dispositif vers Pay Per Use, qui rémunère l'éditeur quand son contenu est réellement utilisé, et pas seulement récupéré. Son argument : une page peut être explorée une fois puis citée dans des milliers de réponses, ou explorée sans cesse sans jamais servir. Parmi ses premiers partenaires, il citait Ceramic.ai, qui paie l'éditeur volontaire chaque fois que son contenu apparaît dans ses résultats de recherche, et You.com, qui permet à un agent de payer à la demande un contenu premium précis.
Pay Per Use est en bêta depuis le 30 septembre 2026. L'acheteur, une entreprise d'IA, définit l'usage qu'il paie et en fixe le prix ; l'éditeur accepte ou non l'offre dans son tableau de bord ; l'acheteur déclare chaque usage, et Cloudflare le facture puis reverse les sommes à l'éditeur chaque mois. Les conditions de chaque programme précisent ce que l'acheteur peut faire du contenu, y compris d'éventuelles restrictions sur l'entraînement. Deux points comptent pour un éditeur : les usages sont déclarés par l'acheteur lui-même (les conditions imposent une déclaration complète, et Cloudflare vérifie que chaque usage déclaré correspond à un éditeur inscrit) ; et Pay Per Crawl reste proposé, chacun choisissant le modèle qui lui convient. Ce marché automatisé s'ajoute aux accords de licence négociés un par un, plus de 50 depuis 2023 selon Cloudflare, dont nous avons fait le point dans Droit d'auteur et IA : où en est la rémunération des œuvres.
Le même 1er juillet, Cloudflare a lancé un programme de recherche sur des signaux de fraîcheur, pour éviter aux moteurs d'IA de réexplorer des pages inchangées. Selon son communiqué, plus de la moitié du trafic d'exploration des robots liés à l'IA sert à réexplorer des pages qui n'ont pas changé ; son billet de blog applique le même chiffre à l'ensemble des « bons » robots. Un pilote mené avec OpenAI sur environ 1 % de son réseau a permis, selon les deux entreprises le 15 octobre, d'ajouter des centaines de millions de pages à l'index de recherche d'OpenAI.
Sources : Cloudflare, « Introducing pay per crawl », 1er juillet 2025 ; Stack Overflow, 19 février 2026 ; Stack Overflow, 26 février 2026 ; Cloudflare, « Making AI search smarter », 1er juillet 2026 ; Cloudflare, « Pay Per Use », 30 septembre 2026 ; Cloudflare et OpenAI, 15 octobre 2026.
À vérifier
Ce qu'un éditeur peut vérifier maintenant
Le choix n'est pas neutre. Un robot de recherche ou un agent bloqué ne peut plus s'appuyer sur le site pour répondre ni le citer. Refuser l'entraînement ne pèse pas sur le classement dans la recherche, selon Google, Apple et Microsoft cités par Cloudflare, mais ne vaut que pour les collectes à venir. Les robots mixtes étaient le cas le plus délicat ; le réglage du 15 septembre permet désormais de dissocier recherche et entraînement chez Google, Microsoft et Apple, dans les limites décrites plus haut. Pour un site servi par Cloudflare, trois vérifications s'imposent.
- Lire ses réglages actuels. Dans les paramètres de sécurité du domaine, regarder ce qui est choisi pour la recherche, l'entraînement et les agents. « Bloquer » sur l'entraînement arrête désormais Googlebot, Bingbot et Applebot ; « Refuser l'entraînement des IA » les laisse explorer pour la recherche.
- Contrôler ce qui s'est passé depuis la mi-septembre. Dans les journaux de serveur et les tableaux de bord de Cloudflare, repérer quels robots accèdent encore au site et lesquels reçoivent un refus, et relire le fichier robots.txt effectivement publié.
- Décider et documenter. Choisir explicitement, usage par usage, plutôt que garder un réglage hérité, et conserver une trace datée de la configuration. Cloudflare présente lui-même les données d'exploration (qui explore, quelles pages, combien de visites renvoyées) comme un appui pour les éditeurs dans leurs discussions de licence.
La question ne se limite pas à Cloudflare : les conditions commerciales de Meta, qui doivent s'appliquer le 20 novembre, posent celle de l'accès de ses robots aux sites liés aux comptes professionnels. Nous l'avons détaillé dans Meta reporte au 20 novembre ses conditions autorisant l'exploration des sites des comptes pro.
Sources : Cloudflare, 15 septembre 2026 ; Cloudflare, rapport du 1er juillet 2026.
Questions fréquentes sur Cloudflare et les robots d'IA
Qu'est-ce qu'un robot d'IA à usage mixte ?
C'est un robot d'exploration qui sert à la fois à la recherche et à l'entraînement de modèles d'IA : le bloquer, c'est se fermer aux deux usages. Cloudflare cite Googlebot, Bingbot et Applebot. Depuis le 15 septembre, son réglage « Refuser l'entraînement des IA » les laisse explorer pour la recherche tout en signalant un refus de l'entraînement. Sa définition de juillet englobait aussi l'usage d'agent ; celle du 15 septembre retient la combinaison de la recherche et de l'entraînement.
Mon site a-t-il changé de réglages le 15 septembre sans que j'agisse ?
En principe non. Selon Cloudflare, les réglages des domaines existants ont été conservés et convertis vers les nouvelles options, et il n'y a rien à faire « dans presque tous les cas ». Seuls les domaines ajoutés depuis le 15 septembre se voient proposer une configuration recommandée à l'inscription. Il reste prudent de relire ses paramètres, car « Bloquer » s'applique désormais aussi aux robots mixtes comme Googlebot.
Refuser l'entraînement avec Cloudflare fait-il sortir des Aperçus IA de Google ?
Non. Pour Google, ce refus passe par le jeton Google-Extended, qui couvre l'entraînement des modèles Gemini et l'ancrage des réponses des applications Gemini et de Vertex AI, pas la recherche. Les Aperçus IA et le Mode IA font partie de la recherche Google : pour en sortir, il faut utiliser le réglage dédié de la Search Console, au prix des impressions venues de ces fonctionnalités.
Qu'est-ce que Pay Per Use ?
C'est un programme de Cloudflare, en bêta depuis le 30 septembre 2026, qui rémunère l'éditeur quand une entreprise d'IA utilise son contenu, et non quand elle l'explore. L'acheteur définit l'usage payé et son prix, l'éditeur accepte ou refuse l'offre, puis l'acheteur déclare ses usages et Cloudflare facture et reverse les sommes chaque mois. En juillet, Cloudflare citait Ceramic.ai et You.com parmi ses premiers partenaires.
Sources
Les documents cités dans cet article
- Cloudflare, « Cloudflare permet à l'Internet agentique de se développer grâce à une philosophie simple : votre contenu, vos règles », communiqué du 1er juillet 2026.
- Cloudflare, « Votre site, vos règles : nouvelles options de gestion du trafic lié à l'IA pour tous les clients », 1er juillet 2026.
- Cloudflare, « Journée de l'indépendance du contenu, un an après : bâtir le modèle économique de l'Internet agentique », 1er juillet 2026.
- Cloudflare, « Making AI search smarter », 1er juillet 2026.
- TechCrunch, Sarah Perez, « Cloudflare's new policy pushes AI companies to pay for publishers' content », 1er juillet 2026.
- Cloudflare, « Bénéficiez du meilleur des deux mondes : préservez votre référencement tout en refusant l'entraînement des IA », 15 septembre 2026.
- Cloudflare, « Pay Per Use: when AI uses your work, you should get paid », 30 septembre 2026.
- Cloudflare, « Internet a un second public », 30 septembre 2026.
- Cloudflare et OpenAI, « Cloudflare and OpenAI: Making AI discovery better for everyone », 15 octobre 2026.
- Cloudflare, « Introducing pay per crawl: Enabling content owners to charge AI crawlers for access », 1er juillet 2025.
- Cloudflare, « Cloudflare Just Changed How AI Crawlers Scrape the Internet-at-Large; Permission-Based Approach Makes Way for A New Business Model », communiqué du 1er juillet 2025.
- Stack Overflow, « Why Stack Overflow and Cloudflare launched a pay-per-crawl model », 19 février 2026.
- Stack Overflow, « Beyond block or allow: How pay-per-crawl is reshaping public data monetization », 26 février 2026.
- Google, « Robots d'exploration communs de Google » (Google-Extended), mise à jour du 20 octobre 2026.
À lire aussi sur 6medias.com : Droits voisins de la presse : l'Autorité de la concurrence enjoint Meta de négocier, Meta reporte au 20 novembre ses conditions autorisant l'exploration des sites des comptes pro et Aperçus IA : la Search Console mesure votre visibilité, et permet de vous en exclure.
Documents lus le 29 octobre 2026. Les citations de Cloudflare reprennent ses versions françaises quand elles existent ; les autres, en anglais, sont traduites par la rédaction. Cloudflare présente Pay Per Use comme une expérimentation et ses réglages peuvent encore évoluer : cet article décrit leur état à cette date. Une erreur ? Écrivez à contact@6medias.com.
Éditeurs et médias en ligne
Parlez-nous de votre projet
Deux minutes pour décrire votre site, vos contenus et la place que vous voulez tenir dans les moteurs et les IA. Votre demande arrive par e-mail à 6Médias ; un chef de rédaction vous rappelle pour en parler.
Merci, votre demande est bien reçue.
Un chef de rédaction vous rappelle pour parler de votre projet. Vous pourrez ensuite, si vous le souhaitez, demander une proposition chiffrée.