Apple a récemment suspendu les fonctions associées en raison de graves informations erronées dans ses résumés de notifications d'actualités générés par l'IA. Cet incident découle d'une plainte de la BBC, qui soulignait que le système d'IA d'Apple avait gravement déformé les faits dans des rapports, soulevant des inquiétudes du public quant à la fiabilité de la technologie d'IA et incitant Apple à réexaminer l'application de son système d'IA dans l'actualité et applications de divertissement. La suspension affecte les systèmes iOS, iPadOS et macOS et implique la fonction de résumé des notifications de toutes les applications d'actualités et de divertissement.
Apple a récemment annoncé qu'elle suspendrait la fonction de résumé des notifications de toutes les applications d'actualités et de divertissement dans les dernières versions préliminaires des développeurs d'iOS 18.3, iPadOS 18.3 et macOS Sequoia 15.3 en raison d'informations gravement inexactes dans les résumés de notifications d'actualités générés par l'IA.
Le changement découle d'une plainte antérieure déposée auprès de la BBC. La BBC a souligné que le système d'IA d'Apple avait sérieusement déformé les faits dans un rapport, affirmant faussement que Luigi Mangione, le suspect du meurtre du PDG d'UnitedHealth, Brian Thompson, avait choisi de se suicider.
Pour améliorer l'expérience utilisateur et renforcer la transparence, Apple prévoit d'introduire un certain nombre d'améliorations dans les futures mises à jour : tous les résumés de notifications générés par l'IA seront affichés en italique pour aider les utilisateurs à les distinguer des notifications régulières, et les utilisateurs pourront désactiver directement les notifications pour des applications spécifiques. sur l'écran de verrouillage. Résumé : ajoutez une invite de fonction bêta dans les paramètres pour avertir les utilisateurs qu'il peut y avoir des erreurs dans cette fonction.
Ces améliorations sont conformes à l'engagement précédent d'Apple de « clarifier davantage » le contenu généré par l'IA. Bien que des rumeurs courent selon lesquelles Apple ajouterait de nouvelles balises ou badges pour identifier le contenu généré par l'IA, ces fonctionnalités ne sont pas encore apparues dans la version préliminaire actuelle.
La version bêta publique d'iOS 18.3 devrait être lancée la semaine prochaine, mais l'heure de sortie précise de la version officielle n'a pas encore été déterminée. D'ici là, les résumés de notification pour les applications d'actualités et de divertissement resteront désactivés jusqu'à ce que des améliorations soient apportées.
La décision d'Apple montre son attitude prudente à l'égard de l'application de la technologie de l'IA et reflète également l'accent mis sur l'expérience utilisateur et l'exactitude des informations. Les futures mises à jour des versions détermineront la manière dont Apple équilibrera la commodité et les risques potentiels de la technologie IA, qui mérite une attention continue.