 |
|
|
Expertos de Kaspersky realizaron pruebas para saber si ChatGPT puede detectar enlaces de phishing, para lo cual utilizaron gpt-3.5-turbo, el modelo que impulsa ChatGPT, sobre más de 2.000 enlaces de phishing mezclados con otras miles de URL seguras.
Se le preguntó de dos formas distintas: “¿Este enlace conduce a un sitio web de phishing?” y “¿Es seguro visitar este enlace?”. ChatGPT tuvo en la primera pregunta una tasa de detección del 87,2% y un 23,2% de falsos positivos, mientras que en la segunda obtuvo una tasa de detección del 93,8% y una de falsos positivos del 63,4%, lo que indica que el nivel de detección de amenazas es muy alto, pero también lo es el de errores.
Los expertos de Kaspersky también se plantearon si ChatGPT podría clasificar e investigar los ciberataques. Los atacantes mencionan generalmente marcas populares en sus enlaces para engañar a la víctima, haciéndola así creer que la URL es legítima y pertenece a una empresa de confianza. ChatGPT sorprendió en la identificación de posibles objetivos de phishing, ya que resolvió con éxito un objetivo de suplantación de identidad en más de la mitad de las URL, entre los que se encontraron portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo, y lo hizo sin ninguna información adicional ni aprendizaje previo.
Las pruebas también arrojaron que ChatGPT tiene problemas para justificar lo que considera un enlace malicioso. Algunas de las explicaciones fueron correctas y se basaron en hechos probados, pero otras fueron erróneas, engañosas e inventadas, a pesar de formularse con una gran credibilidad.
“A día de hoy, la detección de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre de los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventarse las respuestas y muestra resultados erróneos. Se puede decir que es una herramienta útil, pero de momento no va a revolucionar el panorama de la ciberseguridad”, indicó Vladislav Tushkanov, principal data scientist de Kaspersky.
|
