IA de NOTION ataque de prompt malicioso
Estimada comunidad Remth 2.0.
La implementación de la Inteligencia Artificial cada vez es mas vital en empresas. El nivel de datos de gestión cada vez es mas amplio y aunque las empresas suelen tener gabinetes administrativos llega un momento en que es tan grande el volumen que es necesario la implementación de Agentes de IA. Con ello las empresas pueden subsanar gestiones de una forma más rápida pero no es todo oro lo que reluce.
El Agente de IA es se podría decir un administrativo a cuál tú le mandas una gestión y este trabaja para realizar esa meta. La verdad es que todavía estamos un poco verdes en este tipo de sistema y todavía queda mucho que realizar. A mi me comentaron cuando entro la informática en administración y los administrativos grapaban el disquete a las hojas de texto y a la mierda toda la gestión.
El caso es que NOTION tiene un fallo en el cual el atacante se hace pasar por el empleado y por medio de prompt malicioso hace que el Agente de IA le de acceso a datos relevantes de la empresa. Este sistema es algo que se realiza por medio de un archivo PDF en el cual se inyectan comandos los cuales engañan al Agente y con ello consigue vulnerar las defensas bases de la empresa.
La opción que veo yo mas obvia para poder tener en primera línea de defensa es dar a cada usuario una clave maestra la cual a menos que el ciberdelincuente pueda contar con ella no podrá explotar esta vulnerabilidad. Un cifrado para cada acción hará que archivos de esta índole al no ser gestionados por el usuario sean desechados y posteriormente su técnico de informática tome las medidas pertinentes.
Yo ya os digo que este tipo de fallos son lógicos puesto que todavía nos hayamos en una edad temprana de este tipo de tecnologías y aunque se busca corregir siempre fallos antes de su salida al mercado el ciberdelincuente siempre encuentra un resquicio por el cual poder atacar y explotar las vulnerabilidad.
Descripción Agente de IA:
Un Agente de IA es un sistema de software diseñado para actuar de forma autónoma en nombre de un usuario, utilizando inteligencia artificial para percibir su entorno, razonar y ejecutar acciones con el fin de alcanzar objetivos específicos.
| Tipo de Agente | |
| Asistentes de IA | Interactúan directamente con el usuario (ej. Copilot, Siri, Alexa). |
| Agentes Autónomos | Operan sin intervención humana, como los de vehículos autónomos. |
| Agentes Colaborativos | Trabajan junto a otros agentes para completar flujos de trabajo complejos. |
Siempre a su servicio.