Éthique de l'IA
Des outils qui génèrent des personnes ont besoin de limites claires.
Covely génère des personnes, des voix et des marques. C'est précisément pourquoi le consentement, la sécurité et l'honnêteté sur ce qui est synthétique sont ici des exigences produit, et pas une page de règles que personne ne lit.
Trois engagements
Tout ce qui suit en découle. Là où une règle limite ce que le produit peut faire, nous acceptons la limite.
Le consentement d'abord
Aucun visage et aucune voix n'entre dans Covely sans l'autorisation documentée de la personne concernée.
La sécurité dès la conception
Des contrôles automatiques plus une relecture humaine, et une liste d'usages que nous refusons, peu importe qui demande.
Honnêtes sur le synthétique
Un contenu généré devrait être reconnaissable comme généré partout où un spectateur, une plateforme ou un régulateur l'attend.
Consentement, image et voix
Un créateur numérique, c'est le visage d'une personne réelle. Nous le traitons comme tel.
- Les créateurs de la bibliothèque sont construits à partir d'interprètes qui ont donné une autorisation écrite pour un usage synthétique, sur un périmètre défini, et qui ont été payés pour cela.
- Les créateurs sur mesure et les voix clonées exigent l'autorisation documentée de la personne, téléversée par vous et conservée.
- Pas de personnalités publiques. Nous ne construisons pas l'image ni la voix d'une personne réelle qui n'a pas donné son accord, aussi célèbre soit-elle.
- Le retrait fonctionne. Une personne peut nous demander de retirer son image ou sa voix, et cela sort de la bibliothèque.
- Vos assets sur mesure restent les vôtres. Ils sont rattachés à votre compte, pas versés dans une bibliothèque publique.
Sécurité et usages interdits
La modération tourne à la génération, pas après publication. Une partie est automatique, une partie est une personne.
Comment nous vérifions
Un filtrage du prompt et du rendu pour les catégories ci-dessous, avant qu'un asset n'existe.
Les créateurs sur mesure, les voix clonées et les générations signalées sont regardés par une personne.
La génération est liée à un compte : un abus a donc un responsable et une conséquence.
N'importe qui peut nous écrire au sujet d'un contenu ou d'une image, et nous agissons.
Ce que nous refusons
Du contenu qui présente une personne réelle comme disant ou approuvant quelque chose qu'elle n'a pas dit.
Des messages politiques synthétiques construits pour avoir l'air de venir de quelqu'un d'autre.
Y compris tout ce qui sexualise des mineurs, que nous signalons au lieu de simplement bloquer.
Des allégations médicales, financières ou scientifiques fabriquées, ou des avis et recommandations inventés.
Cette liste n'est pas exhaustive et elle s'allonge. Si un usage est légal mais qu'un spectateur se sentirait trompé, considérez-le hors limites et demandez-nous.
Dire que c'est généré
La créa synthétique n'est pas un problème. La créa synthétique qui se fait passer pour un documentaire, si.
- Là où une plateforme exige une mention de contenu IA, utilisez-la. Toutes les grandes plateformes en ont une désormais.
- Là où un créateur est synthétique et où le format suggère un vrai client, dites-le dans la créa.
- Gardez la trace de génération. Covely conserve le projet, les entrées et les références derrière chaque asset.
- Suivez le marché où vous publiez, pas le plus permissif que vous puissiez trouver.
Pourquoi cela compte commercialement
Une recommandation synthétique non déclarée est le moyen le plus rapide pour une marque de perdre l'audience qu'elle vient d'acheter. La protection la moins chère, c'est une mention et un script honnête.
Réglementation
Où le règlement européen sur l'IA s'applique à nous
Covely génère des images, des vidéos et de l'audio synthétiques : les règles de transparence du règlement nous touchent donc directement et non dans l'abstrait. Voici ce qu'elles demandent, et ce à quoi nous nous tenons.
- Article 50(2), marquer ce qu'une machine a fait. Un fournisseur de système qui génère des images, de l'audio ou de la vidéo synthétiques doit marquer sa production pour qu'elle soit détectable comme générée artificiellement. Nous traitons cela comme une exigence produit et non comme un avis : la marque appartient au fichier, pas seulement à l'écran à côté.
- Article 50(4), hypertrucages. Quiconque publie un contenu représentant de façon réaliste une personne réelle doit dire qu'il a été généré. Cette obligation est celle du publiant, donc la vôtre : notre travail est de la rendre facile à remplir, car chaque asset conserve le projet, les entrées et les références derrière lui.
- Article 5, pratiques interdites. Le règlement interdit purement et simplement un ensemble d'usages. Notre liste de refus, plus haut sur cette page, est plus large que l'interdiction, et elle le reste.
- Article 4, maîtrise de l'IA. Quiconque opère un système comme celui-ci est censé comprendre ce qu'il fait et où il échoue. C'est pourquoi les notes de modèles disent quel modèle a tourné, et pourquoi nous vous disons quand une étape n'est pas fiable au lieu de la livrer comme finie.
Le règlement entre en vigueur par étapes sur plusieurs années, et l'essentiel vise les systèmes à haut risque de l'annexe III : recrutement, crédit, biométrie, infrastructures critiques. Un outil de production créative n'en fait pas partie : il n'y a donc ici ni évaluation de conformité ni marquage CE, et nous préférons le dire clairement plutôt que de laisser entendre une approbation que personne ne nous a donnée. Si votre service juridique a besoin du détail par écrit, demandez-le-nous.
Votre matériel et vos données
Les brand kits, produits, références et assets finis vous appartiennent.
À vous de le garder
Vos produits, références et assets générés vous appartiennent. Nous ne les vendons pas et ne les mettons pas dans une vitrine publique sans demander.
Transmis uniquement pour générer
Une génération envoie au fournisseur du modèle ce dont cette étape a besoin, et rien d'autre. Les fournisseurs sont liés par leurs propres conditions, que nous examinons avant d'ajouter un modèle.
Retirable
Demandez-nous de supprimer le matériel d'un compte et il part, y compris les créateurs sur mesure et les voix clonées.
Les modèles en dessous
Covely s'appuie sur des modèles génératifs tiers. Cela veut dire que leurs capacités, et leurs limites, font partie de notre responsabilité.
- Nous examinons les conditions et la posture de sécurité d'un fournisseur avant d'ajouter un modèle.
- Nous retirons ou restreignons un modèle qui ne passe pas notre barre, même populaire.
- La qualité de génération varie selon les modèles. Là où une étape n'est pas fiable, nous le disons au lieu de la livrer comme finie.
- L'aiguillage automatique existe pour choisir le modèle adapté à une tâche, pas pour cacher lequel a tourné.
Les questions qu'on nous pose
Puis-je cloner ma propre voix, ou celle d'un collègue ?
La vôtre, oui. Celle de quelqu'un d'autre seulement avec son autorisation documentée, que vous téléversez avec la demande. Nous en gardons la trace.
Puis-je utiliser un créateur numérique pour suggérer un vrai avis client ?
Vous pouvez produire une créa au format témoignage, et vous devriez indiquer clairement que la personne qui parle est synthétique. Présenter une personne générée comme une cliente vérifiée de votre produit, c'est usurper l'identité d'un client, et ce n'est pas quelque chose que nous soutenons.
Covely respecte-t-il le règlement européen sur l'IA ?
Les parties qui s'appliquent à un système générant des médias synthétiques, oui : le rendu est signalé comme généré, chaque asset conserve la trace derrière lui, et notre liste de refus est plus large que les interdictions du règlement. Covely n'est pas un système à haut risque au sens de l'annexe III : il n'y a donc ni évaluation de conformité ni marquage CE, et aucun organisme ne certifie la conformité d'un outil comme celui-ci. Ce qui est sur cette page est notre propre déclaration, et vous pouvez nous y tenir.
À qui appartient ce que Covely génère ?
À vous, dans les limites de votre forfait et des conditions des fournisseurs de modèles sous-jacents. Nous ne revendiquons aucune propriété sur vos rendus.
Comment signaler un contenu ou une image ?
Écrivez à hello@covely.ai ce que vous avez vu et où. Les signalements émanant de la personne concernée passent en tête de file.
Tenez-nous-en responsables.
Si quelque chose sur la plateforme ne correspond pas à ce qui est écrit ici, dites-le-nous et nous corrigerons le produit ou la page.