ChatGPT usa conversaciones reales revisadas por humanos para entrenar su IA
Una investigación revela que OpenAI emplea a cientos de revisores externos que analizan chats de usuarios reales para mejorar el modelo. La compañía aplica filtros de privacidad, pero los expertos advierten de que pueden fallar y dejar datos sensibles al descubierto.
Por Marcos Esteban
OpenAI utiliza conversaciones reales mantenidas con ChatGPT para entrenar y mejorar sus modelos de inteligencia artificial, y parte de ese material pasa por las manos de cientos de revisores humanos. Así lo ha revelado una investigación del medio especializado 404 Media, que ha documentado el funcionamiento de Project Lily, un programa en el que trabajadores externos analizan mensajes escritos por usuarios reales del chatbot.
La investigación, publicada el 14 de septiembre, se basa en documentos internos filtrados, instrucciones proporcionadas a los trabajadores y conversaciones reales a las que tuvo acceso el medio. Según estos materiales, los revisores reciben un flujo constante de mensajes de ChatGPT con una doble misión: evaluar lo que el usuario pretendía conseguir y puntuar y criticar las respuestas generadas por la IA. Parte de ese trabajo está destinado, por ejemplo, a evitar que el chatbot se presente como si fuese una persona y a reducir comportamientos excesivamente complacientes con el usuario.
El aspecto más delicado del programa es el origen del material que llega a los revisores. Entre el contenido que analizan hay mensajes procedentes de usuarios reales y, en algunos casos, conversaciones completas entre una persona y el chatbot. Esto resulta especialmente sensible porque muchos usuarios emplean estas herramientas para consultas personales, profesionales o relacionadas con aspectos íntimos de sus vidas.
OpenAI sostiene que los trabajadores que participan en Project Lily no reciben el nombre de usuario asociado a la conversación y que aplica sistemas para eliminar información personal antes de que los mensajes lleguen a los revisores. La compañía utiliza un sistema denominado Privacy Filter, diseñado para detectar y ocultar datos personales antes de que determinados contenidos se incorporen a los procesos de entrenamiento. Este filtro también se aplica a las conversaciones de usuarios que tienen activada la opción de permitir que sus chats se utilicen para mejorar los modelos.
Sin embargo, la propia OpenAI reconoce que Privacy Filter puede cometer errores y pasar por alto determinados identificadores o referencias privadas. Según la investigación de 404 Media, eso implica que información sensible puede permanecer en algunas conversaciones y llegar a los revisores humanos. La existencia de Project Lily aporta así nuevos detalles sobre una práctica que la compañía reconoce de forma general: las conversaciones mantenidas en los servicios destinados a particulares pueden utilizarse para entrenar y mejorar sus modelos, salvo que el usuario decida excluirse.
Lo que permite conocer ahora la investigación es el componente humano que participa en parte de ese proceso y la posibilidad de que esas personas encuentren información privada dentro de las conversaciones que revisan. No obstante, esto no significa que cientos de trabajadores puedan entrar libremente en el historial de cualquier usuario ni que todas las conversaciones sean leídas por humanos.
Para reducir al máximo la exposición, los usuarios disponen de varias medidas. La principal es impedir que las nuevas conversaciones se utilicen para entrenar los modelos de OpenAI. En la versión web, basta con pulsar sobre el perfil, entrar en Configuración, acceder a Controles de datos y desactivar la opción «Mejorar el modelo para todos». OpenAI asegura que, una vez desactivada, las nuevas conversaciones seguirán apareciendo en el historial, pero no se utilizarán para entrenar ChatGPT. La configuración se sincroniza entre los distintos dispositivos en los que se use la misma cuenta.
Para conversaciones especialmente delicadas existe otra opción: el Chat temporal. OpenAI indica que estas conversaciones no aparecen en el historial, no crean recuerdos y no se utilizan para entrenar sus modelos. Se conservan temporalmente durante un periodo limitado por motivos de seguridad y pueden revisarse para detectar posibles abusos. Se puede iniciar un chat temporal haciendo clic en el icono de la esquina superior derecha de la pantalla de chat.
También conviene tener cuidado al enviar valoraciones mediante los botones de aprobación o desaprobación de una respuesta. OpenAI advierte de que, aunque el usuario haya desactivado el entrenamiento, si envía comentarios sobre una interacción, la conversación completa asociada a ese feedback puede utilizarse para entrenar sus modelos. Ninguna configuración sustituye, además, una precaución básica: no introducir en un chatbot información extremadamente sensible si no es imprescindible, como contraseñas, credenciales bancarias, documentación confidencial o datos personales de terceros.
