La dernière version expérimentale de Google, Gemini 2.0 Flash, fait parler d'elle pour toutes les mauvaises raisons. Des utilisateurs sur X et Reddit ont découvert que ce modèle peut faire l'impensable : supprimer les filigranes d'images provenant de sites comme Getty Images et générer des représentations de célébrités malgré les protections habituelles. C'est comme si Google venait de distribuer un outil de crochetage de serrures numériques à grande échelle!
Un modèle aux capacités controversées
Je trouve particulièrement troublante cette fonction de suppression de filigranes. C'est simple : ces marquages numériques sont l'équivalent d'un cadenas que les créateurs et distributeurs d'images ont placé sur leur travail. Quand Gemini 2.0 Flash peut les éliminer sans effort, c'est comme donner un passe-partout universel à n'importe qui.
Parallèlement, la génération d'images de célébrités montre que les barrières de protection du modèle sont bien moins solides que celles de la concurrence. Des utilisateurs partagent des exemples où Gemini crée des images d'acteurs ou de musiciens sans leur consentement – une capacité que la plupart des concurrents ont intentionnellement bridée, et pour cause!
Un terrain légal glissant
Franchement, Google s'aventure en territoire miné. La suppression de filigranes? C'est pratiquement une invitation aux poursuites judiciaires – probablement une violation directe du DMCA américain. Et ne parlons même pas des droits à l'image concernant les célébrités!
Les précédents juridiques restent limités, mais Getty Images a déjà montré qu'elle n'hésitait pas à poursuivre les géants tech pour des infractions similaires. La question qui me préoccupe : qui porte la responsabilité légale finale? L'entreprise qui fournit la technologie ou l'utilisateur qui l'emploie? À mon avis, Google ne pourra pas se cacher longtemps derrière cette ambiguïté.
Un coup dur pour l'écosystème créatif
Pour les photographes et créateurs visuels, c'est un véritable coup de massue. Si n'importe qui peut s'approprier leurs œuvres sans compensation, leur modèle économique s'effondre. Des plateformes comme Getty ou Adobe Stock pourraient voir leur valeur s'évaporer.
Le plus inquiétant? La porte grande ouverte aux deepfakes malveillants. Imaginez des vidéos ou images falsifiées de personnalités publiques qui semblent authentiques, utilisées pour manipuler l'opinion ou nuire à des réputations. La frontière entre création artistique et violation de droits personnels n'a jamais été aussi floue.
Solutions potentielles (mais imparfaites)
Google pourrait implémenter des restrictions techniques plus robustes, comme la détection automatique des filigranes. Mais soyons réalistes : chaque protection technique peut être contournée par une technique plus avancée. C'est un jeu du chat et de la souris sans fin.
Les filtres plus stricts pour les personnalités publiques semblent logiques, mais ils risquent d'étouffer l'expression artistique légitime ou la parodie. L'équilibre sera difficile à trouver.
Sur le plan réglementaire, l'autorégulation de l'industrie montre clairement ses limites. Il me semble évident que nous avons besoin d'un cadre législatif spécifique à l'IA générative. En Europe, le AI Act commence à aborder ces questions, mais au Canada et aux États-Unis, nous sommes encore à la traîne.
Une perspective internationale
En tant que Canadien, je constate que notre approche réglementaire diffère de celle des États-Unis. Notre Loi sur le droit d'auteur pourrait offrir une protection plus forte que le DMCA américain dans certains cas, mais l'application transfrontalière.
