Voilà qui devrait relancer encore plus les débats sur l'éthique et l'IA, enfin surtout concernant le champ des possibles et les abus des utilisateurs ! Le générateur d’images intégré à ChatGPT suscite depuis son lancement un engouement massif.
des utilisations incroyables...
Forcément, il peut quasiment tout faire, écrasant au passage quelques droits d'auteurs et des années d'efforts ou de travail. Utilisé pour créer ou modifier des visuels, il a notamment permis à de nombreux internautes de transformer des photos iconiques en dessins animés ou leur donner une nouvelle esthétique. Mais comme souvent avec les outils puissants et accessibles, certaines utilisations ont rapidement dérivé vers des cas d’abus, notamment dans un contexte professionnel.
On assiste ainsi à une invasion de fausses notes de frais générées en quelques secondes. Selon une enquête de TechCrunch, des utilisateurs se servent désormais du générateur d’images de ChatGPT pour créer de faux reçus réalistes, notamment dans le cadre de notes de frais frauduleuses. L’exemple le plus cité est celui de Deedy Das, investisseur en capital-risque, qui a généré un faux ticket de caisse d’un restaurant américain avec une grande fidélité dans les détails : prix, typographie, mise en page.
Ce faux document a ensuite été repris par Michael Gofman, professeur à l’Université hébraïque de Jérusalem, qui y a ajouté des détails visuels réalistes (comme des taches de boisson ou de nourriture) pour le rendre encore plus crédible.
Modification de vrais reçus : une falsification sans compétences techniques
Au-delà de la création d’images fictives, le générateur de ChatGPT peut également être utilisé pour modifier des reçus réels, avec d'excellents résultats pour un document produit en quelques secondes, sans intervention manuelle ni outil graphique comme Photoshop.
C'est l'expérience qu'a tenté Raphael Chenol, directeur Digital Learning au sein du groupe Ynov. Mon application de saisie de notes de frais n’y voit que du feu, a-t-il précisé sur LinkedIn, tout en ajoutant qu’il ne comptait pas l’utiliser à des fins frauduleuses, mais qu’il tenait à souligner les dérives possibles de ces outils en entreprise.
Un risque concret pour les outils de gestion et de comptabilité
Les exemples cités montrent que les systèmes de traitement automatisé des justificatifs, souvent intégrés aux logiciels RH ou comptables, ne sont pas (encore) capables de distinguer un reçu authentique d’un visuel généré par IA. Dans ces conditions, serait-on obligé de repasser par le bon vieux ticket de CB ou l'envoi électronique directement depuis le restaurant au service de compta ? A moins de supprimer les frais de bouche...
Quoi qu'il en soit, cela pose un véritable enjeu pour les entreprises, confrontées à une augmentation potentielle des tentatives de fraude, désormais à la portée de n’importe qui. Ces dérives illustrent également les limites actuelles de la détection des images générées, notamment lorsqu’elles s’appuient sur des documents sources crédibles.
