Je viens de vivre une expérience très désagréable avec Apple Intelligence et un mail reçu par la SNCF, et vous allez vite comprendre le problème avec ce genre d'IA, qui n’a clairement pas la fiabilité attendue.
(J'ai bien sûr utilisé une IA pour illustrer cet article qui se plaint de l'IA)
En toute innocence, j’achète un billet de train
Il y a quelques semaines, j’ai acheté des billets pour monter à Paris en OUIGO avec ma famille. Notre voyage a lieu ce jeudi, pendant les grèves des contrôleurs de la SNCF, planifiées malicieusement pendant ce long week-end de pont. Vous pensez bien qu’on est quelque peu inquiets à l’idée de ne pas pouvoir partir, entre les hôtels déjà payés, les événements sur place, etc.
La SNCF m’a quand même envoyé un mail il y a 24 heures pour me prévenir que mon train était confirmé, j’étais donc très rassuré… jusqu’à il y a quelques minutes, où je vois ce nouveau mail s’afficher dans l’application Mail de macOS, je vous laisse jeter un oeil au screenshot ci-dessous :
Le TGV de Schrödinger
Un descriptif très clair n’est-ce pas ? Qui me fait tout de suite comprendre que notre OUIGO a été annulé. Rha ! Quel enfer ces grèves ! Désespoir et damnation. Qu’ai-je fait au ciel pour mériter une telle punition ? Est-ce que c’est à cause de mon article d’hier sur les infractions au code de la route sur Mac4Ever qu’une malédiction s’abat sur moi ?!
Moi devant Apple Intelligence
J’ouvre quand même le mail en entier, et là, surprise, absolument rien dans ce mail n’indique que mon train est annulé. C’est simplement un mail de la SNCF qui m’indique que, si je ne veux plus voyager, je peux annuler mon billet pour libérer la place. Heu, d’accord… Merci pour l’info, mais heu… WTF ?
Et en vrai, voilà le contenu du mail
Merci Apple Intelligence, c’est sympa d’avoir essayé…
Pourquoi Diable, Apple Intelligence m’a résumé ce mail en me racontant que mon train était annulé ? Comment on a pu en arriver à ce degrés de nullité sur une intelligence artificielle ? C’est d’autant plus agaçant que j’ai rédigé aujourd’hui 2 ou 3 articles qui traitent justement de ce sujet, à savoir des erreurs des IA, qui sont de plus en plus fréquentes. J’ai même programmé un article en fin de journée (que vous avez intérêt à aller lire) sur un voyageur qui n’a pas pu monter dans son avion à cause de ChatGPT qui lui a raconté n’importe quoi.
Ca va être ça notre vie désormais ? Devoir paniquer parce que les IA racontent et font n’importe quoi ? Et ce, même quand on est face à une IA ultra basique comme celle d’Apple, qui se contente de tâches a priori très simples ? C’est épuisant. Et du coup, j’espère que mon train ne sera pas annulé, au pire s’il venait à l’être, Apple pourra communiquer sur mon cas pour expliquer que son IA sait prédire le future !
Mon cas n’a rien d’isolé
Rien de très original ici en fait, si ça se trouve vous avez aussi vécu ce genre de bêtises d’Apple Intelligence. Mais surtout, des incidents plus graves ont été rapportés, comme des notifications erronées affirmant que des personnalités publiques étaient décédées. La BBC a par exemple protesté contre des résumés faux attribués à ses articles, ce qui a même poussé Apple à suspendre temporairement la fonctionnalité de résumés pour les applications d'actualités.
Une confiance à reconstruire
Face à ces dysfonctionnements à répétition, Apple a ajouté une mention dans les paramètres : « Les résumés peuvent contenir des erreurs ». Une reconnaissance implicite des limites de son IA. En attendant des améliorations, la prudence est de mise. Je ne peux que vous conseiller de vérifier les informations directement dans les messages originaux comme je l’ai fait pour pour mon OUIGO, sans vous fier uniquement aux résumés générés par l'IA.
