Apple suspendió recientemente funciones relacionadas debido a una grave desinformación en sus resúmenes de notificaciones de noticias generados por IA. Este incidente surgió de una queja de la BBC, que señaló que el sistema de inteligencia artificial de Apple distorsionó gravemente los hechos en los informes, lo que generó preocupación pública sobre la confiabilidad de la tecnología de inteligencia artificial y llevó a Apple a reexaminar la aplicación de su sistema de inteligencia artificial en noticias y Aplicaciones de entretenimiento. La suspensión afecta a los sistemas iOS, iPadOS y macOS e implica la función de resumen de notificaciones de todas las aplicaciones de noticias y entretenimiento.
Apple anunció recientemente que suspenderá la función de resumen de notificaciones de todas las aplicaciones de noticias y entretenimiento en las últimas versiones preliminares para desarrolladores de iOS 18.3, iPadOS 18.3 y macOS Sequoia 15.3 debido a información gravemente inexacta en los resúmenes de notificaciones de noticias generados por IA.
El cambio surge de una denuncia anterior a la BBC. La BBC señaló que el sistema de inteligencia artificial de Apple distorsionó gravemente los hechos en un informe, afirmando falsamente que Luigi Mangione, el sospechoso del asesinato del director ejecutivo de UnitedHealth, Brian Thompson, decidió suicidarse.
Para mejorar la experiencia del usuario y aumentar la transparencia, Apple planea introducir una serie de mejoras en futuras actualizaciones: todos los resúmenes de notificaciones generados por IA se mostrarán en cursiva para ayudar a los usuarios a distinguirlos de las notificaciones normales, y los usuarios pueden desactivar las notificaciones de aplicaciones específicas directamente. en la pantalla de bloqueo Resumen: agregue un mensaje de función beta en la configuración para advertir a los usuarios que puede haber errores en esta función.
Estas mejoras están en línea con el compromiso anterior de Apple de "clarificar aún más" el contenido generado por IA. Si bien hay rumores de que Apple agregará nuevas etiquetas o insignias para identificar el contenido generado por IA, estas funciones aún no han aparecido en la versión preliminar actual.
Se espera que la versión beta pública de iOS 18.3 se lance la próxima semana, pero aún no se ha determinado el tiempo de lanzamiento específico de la versión oficial. Hasta entonces, los resúmenes de notificaciones para las aplicaciones de Noticias y Entretenimiento permanecerán deshabilitados hasta que se realicen mejoras.
La medida de Apple muestra su actitud cautelosa hacia la aplicación de la tecnología de inteligencia artificial y también refleja su énfasis en la experiencia del usuario y la precisión de la información. Las futuras actualizaciones de versiones determinarán cómo Apple equilibra la conveniencia y los riesgos potenciales de la tecnología de inteligencia artificial, que merece atención continua.