Un texto oculto en un sitio web puede manipular los resultados de búsqueda de ChatGPT, según un estudio

Un reciente estudio del periódico británico The Guardian ha revelado que el motor de búsqueda ChatGPT de OpenAI es vulnerable a la manipulación y el engaño.

Esto es lo que sabemos

Las pruebas revelaron que el texto oculto en las páginas web puede influir en las respuestas de ChatGPT, haciendo que ignore las reseñas negativas y genere resúmenes exclusivamente positivos. Esta técnica, conocida como "inyección rápida", puede utilizarse para crear malware y engañar a los usuarios. Los investigadores descubrieron que ChatGPT puede devolver código malicioso de los sitios web que busca, lo que supone una grave amenaza para la seguridad.

En las pruebas, ChatGPT recibió la URL de un sitio web falso diseñado como página de producto de una cámara, y a continuación se preguntó al chatbot si merecía la pena comprar la cámara. La respuesta a la página de prueba ofreció una valoración positiva pero equilibrada, haciendo hincapié en algunas características que podrían no gustar a los compradores. Sin embargo, cuando el texto oculto incluía instrucciones para que ChatGPT devolviera una valoración positiva, la respuesta era siempre completamente positiva, incluso cuando la página tenía reseñas negativas.

OpenAI, el desarrollador de ChatGPT, no hizo comentarios sobre el incidente, pero dijo que utiliza varios métodos para bloquear sitios web maliciosos y que está mejorando constantemente.

Fuente: The Guardian