Se introdujo una nueva herramienta de inteligencia artificial llamada Vulnhuntr para revolucionar la forma en que descubrimos vulnerabilidades en proyectos de código abierto.
Esta innovadora herramienta aprovecha el poder de los modelos de lenguaje a gran escala (LLM) para encontrar y explicar vulnerabilidades complejas de varios pasos, incluidas vulnerabilidades de día cero explotables de forma remota, con una eficiencia y precisión sin precedentes.
Desarrollado por Protect AI, Vulnhuntr ya ha logrado avances significativos en el descubrimiento de vulnerabilidades en proyectos populares con más de 10.000 estrellas de GitHub.
Vulnhuntr detecta días cero
En solo unas pocas horas de ejecución, descubrimos más de una docena de vulnerabilidades de día cero, incluida una vulnerabilidad de ejecución remota de código (RCE) completa. Estos hallazgos incluyen vulnerabilidades en proyectos como gpt_academic, ComfyUI, FastChat y Ragflow.
Cómo elegir la solución SIEM gestionada definitiva para su equipo de seguridad -> Descargue la guía gratuita (PDF)
La clave del éxito de Vulnhuntr radica en su capacidad para dividir el código en fragmentos más pequeños y manejables, en lugar de sobrecargar el LLM en múltiples archivos.
Este enfoque nos permite realizar ataques quirúrgicos en nuestra base de código, reduciendo significativamente los falsos positivos y negativos.
Vulnhuntr analiza y vuelve a analizar el código en bucles para planificar la ruta completa desde la entrada del usuario hasta la salida del servidor, proporcionando un análisis final detallado, prueba de concepto y calificación de confianza para cada vulnerabilidad.
Las técnicas avanzadas de ingeniería de mensajes de Vulnhuntr, que incluyen las mejores prácticas de ingeniería de mensajes, mensajes basados en XML, mensajes de cadena de pensamiento y respuestas precargadas, proporcionan un conjunto lógico de mensajes para crear informes detallados sobre posibles vulnerabilidades.
Este enfoque fue muy preciso al reducir el código de un proyecto completo a unas pocas funciones simples en las que los cazadores de errores deberían centrarse cuando buscan vulnerabilidades.
Aunque Vulnhuntr tiene limitaciones, como que actualmente solo admite Python y se centra únicamente en vulnerabilidades de alto impacto y explotables de forma remota, su potencial es enorme.
La capacidad de la herramienta para crear y comprender lógicamente toda la cadena de llamadas de entrada del usuario representa una mejora espectacular con respecto a los analizadores de código estático de la generación actual.
Con Vulnhuntr, el futuro de la búsqueda de vulnerabilidades parece prometedor. A medida que LLM continúa evolucionando, la ventana de contexto puede crecer a millones o incluso infinitos tokens, lo que reduce la necesidad de análisis de código estático.
Sin embargo, incluso con una ventana de contexto infinita, el análisis manual del código mediante análisis estático puede reducir los falsos negativos y falsos positivos en la búsqueda de vulnerabilidades al alimentar el código de la cadena de llamadas desde la entrada del usuario a la salida del servidor.
Para aquellos interesados en probar Vulnhuntr, la herramienta está disponible en https://huntr.com. Este es un programa de recompensas por errores de IA que ayuda a proteger el creciente ecosistema de IA de código abierto. Los usuarios pueden ganar recompensas utilizando Vulnhuntr para proteger el ecosistema de IA.
Vulnhuntr representa un avance importante en el campo del descubrimiento de vulnerabilidades. Su enfoque innovador y sus avanzadas técnicas de ingeniería rápida lo convierten en una poderosa herramienta para descubrir y explicar vulnerabilidades complejas de varios pasos.
A medida que el ecosistema de IA siga creciendo, herramientas como Vulnhuntr desempeñarán un papel fundamental para protegerlo. Esta herramienta se puede descargar desde GitHub.
Características principales de Vulnhuntr:
Ingeniería solicitada avanzada: guía a LLM a través de una serie de pasos lógicos y crea informes detallados sobre posibles vulnerabilidades. Búsqueda en cadena de llamadas con LLM: analice y vuelva a analizar el código dentro de los bucles para mapear la ruta completa desde la entrada del usuario hasta la salida del servidor. Análisis de código estático: encuentre fragmentos de código relevantes utilizando un analizador estático de Python para reducir los falsos positivos y negativos. Compatibilidad con Python: actualmente admitimos Python, pero planeamos expandirnos a otros lenguajes en el futuro. Centrarse en las vulnerabilidades de alto impacto: centrarse únicamente en las vulnerabilidades explotables de forma remota, como RCE, LFI, SSRF, XSS, IDOR y SQLi.
Cómo utilizar Vulnhuntr:
Uso básico: ejecute vulnhuntr.py -r /path/to/target/repo para analizar automáticamente los archivos que analizan la entrada del usuario remoto. Uso específico: ejecute vulnhuntr.py -r /path/to/target/repo -a subfolder/file.py para analizar archivos específicos para analizar la entrada del usuario remoto o realizar funciones del servidor.
Seminario web gratuito sobre cómo proteger su pequeña empresa de las ciberamenazas avanzadas -> Mírelo aquí
