Instan a Apple a retirar una nueva función de IA tras un resumen erróneo de noticias

La reacción se produce después de que una notificación push creada por Apple Intelligence y enviada a los usuarios la semana pasada resumiera incorrectamente un reporte de la BBC que decía que Luigi Mangione, el sospechoso detrás de la muerte del CEO de UnitedHealthcare, se había disparado a sí mismo.

“Las IA son máquinas de probabilidad y los hechos no se pueden decidir con una tirada de dados”, dijo Berthier en un comunicado. “La producción automatizada de información falsa atribuida a un medio de comunicación es un golpe a la credibilidad del medio y un peligro para el derecho del público a una información fiable sobre los asuntos de actualidad”.

En respuesta a las preocupaciones, la BBC dijo en un comunicado: “es esencial para nosotros que nuestras audiencias puedan confiar en cualquier información o periodismo publicado en nuestro nombre y eso incluye las notificaciones”. Apple no respondió a una solicitud de comentarios.

Apple presentó su herramienta de inteligencia artificial generativa en Estados Unidos en junio, cuando promocionaron la capacidad de la función para resumir contenido específico “en forma de un párrafo digerible, puntos clave con viñetas, una tabla o una lista”.

El problema con el incidente de Apple Intelligence surge de la limitación de los medios de comunicación para tomar acciones. Si bien algunos medios de comunicación y agencias de noticias optan por el uso de inteligencia artificial en la redacción de piezas periodísticas, la decisión queda en ellos.

Pero los resúmenes de Apple Intelligence, que son opcionales para el usuario, atribuyen las sinopsis a los medios. Esto significa que, demás de difundir información errónea potencialmente peligrosa, también se corre el riesgo de dañar la credibilidad de los medios.

Via: cnn