ChatGPT ha sido criticado recientemente por probar
una función que permitía a los motores de búsqueda indexar las
conversaciones de los usuarios.
Como resultado, más de 100.000 registros de chat se hicieron públicos en
Internet. Aunque OpenAI ha colaborado con Google para desindexar estos
enlaces, más de 100.000 siguen siendo accesibles y consultables a través de
plataformas como Internet Archive y otros motores de búsqueda.
Este incidente no se debió a un error técnico, sino a un grave error de
cálculo de OpenAI respecto al nivel de competencia técnica del usuario
promedio. En concreto, la función para compartir conversaciones de ChatGPT
permite a los usuarios generar enlaces para compartir en sus chats, que
normalmente solo son accesibles para quienes poseen el enlace. Sin embargo, la
nueva función introducía una opción para que los usuarios permitieran a los
motores de búsqueda rastrear e indexar estas conversaciones compartidas. Si
bien esta opción no estaba seleccionada por defecto, OpenAI parece haber
sobreestimado la comprensión de las implicaciones por parte de los usuarios. A
pesar de las claras advertencias, muchos usuarios la marcaron, probablemente
sin ser conscientes de sus verdaderas implicaciones.
Al descubrir las implicaciones para la privacidad, OpenAI desactivó
rápidamente la función y colaboró con Google para eliminar el contenido
indexado. No obstante, los enlaces permanecen activos y accesibles, lo que
significa que motores de búsqueda como Microsoft Bing y servicios de archivo
como Internet Archive ya han indexado más de 100.000 enlaces, que aún pueden
visitarse directamente.
Entre las conversaciones indexadas se encuentran chats con material altamente
sensible. Una de estas conversaciones, realizada en italiano, involucraba a un
abogado que representaba a una multinacional energética. La empresa planeaba
construir una presa y una central hidroeléctrica en la selva amazónica. Sin
embargo, el sitio propuesto albergaba a una pequeña comunidad indígena
amazónica. En la conversación,
el abogado solicitó asesoramiento a ChatGPT sobre cómo explotar a los
habitantes locales, afirmando que los indígenas desconocían el valor de la
tierra y no entendían los mecanismos del mercado.
El abogado solicitó a ChatGPT estrategias de negociación para obtener la
tierra al menor costo posible.
Aunque se cree que la transcripción aún se encuentra en Internet Archive, el
experto en verificación de datos
Henk van Ess, quien descubrió el enlace inicialmente, se negó a hacerlo público alegando
motivos de privacidad. La conversación contenía suficientes detalles como para
identificar a la compañía energética e incluso al abogado involucrado.
Desde el punto de vista de la privacidad, van Ess optó por no revelar el
enlace, aunque señaló que localizarlo en Internet Archive no sería
particularmente difícil. Dado que Internet Archive ya había capturado una
instantánea, incluso la eliminación de la conversación original por parte del
abogado dentro de ChatGPT sería inútil.
Cabe destacar que Internet Archive declaró que OpenAI no los había contactado
con una solicitud de eliminación. De haberse presentado dicha solicitud,
Internet Archive indicó que la habría cumplido. Sin embargo, OpenAI parece
haber limitado sus esfuerzos de mitigación a la Búsqueda de Google,
descuidando otros motores de búsqueda y servicios de archivo.
Fuente:
SecurityOnLine