Revista Tecnología

Los 10 fallos de seguridad más graves de ChatGPT, Bard, Llama y LLM Apps

Publicado el 22 diciembre 2023 por Equagliano @quiquequagliano

Un modelo de lenguaje LLM (Large Language Model) es un tipo de modelo de inteligencia artificial (IA) que se utiliza para realizar tareas relacionadas con el procesamiento del lenguaje natural. Los LLM suelen estar entrenados con grandes cantidades de texto y pueden ser utilizados para comprender y responder a consultas escritas en un idioma determinado.

Algunos ejemplos de modelos de lenguaje LLM son los sistemas de búsqueda en internet que utiliza un LLM para comprender las consultas de los usuarios y ofrecer resultados relevantes, una aplicación de traducción automática que utiliza un LLM para traducir textos de un idioma a otro de manera rápida y precisa o un chatbot que utiliza un LLM para comprender y responder a las preguntas de los usuarios de manera autónoma, entre otros.

En el video a continuación, el hacker español Chema Alonso, miembro del Comité Ejecutivo de Telefónica y experto en ciberseguridad, explica en su participación en el II Forum Europeo de Inteligencia Artificial que no todo es oro lo que brilla en el universo IA: también hay fallos de seguridad en estos modelos, que deben ser tomados muy seriamente por su potencial gravedad.


Volver a la Portada de Logo Paperblog

Revista