ChatGPT trae avances y desafíos para la ciberseguridad
AS-013-2023
Fecha: 22/Feb/2023
Resumen:
Comprender por qué ChatGPT atrae tanta atención, requiere un poco de antecedentes. Hasta hace poco, los modelos de Inteligencia Artificial (IA) fueron "tontos": solo podían responder a tareas específicas cuando se entrenaban en un gran conjunto de datos que proporcionaban contexto sobre qué encontrar.
Al igual que con cualquier nueva tecnología, ChatGPT se puede usar tanto para bien como para mal , y esto tiene importantes implicaciones para el mundo de la ciberseguridad. (1)
ChatGPT impulsará la industria de la ciberseguridad.
ChatGPT es una mina de oro de conocimiento que elimina gran parte del trabajo relacionado con la investigación y la resolución de problemas permitiendo que los usuarios accedan a todo el conocimiento del Internet público con solo un conjunto de instrucciones.
Esto significa que, con este nuevo recurso al alcance de la mano, los profesionales de la ciberseguridad accedan rápida y fácilmente a la información, busquen respuestas, intercambien ideas y tomen medidas para detectar y protegerse contra las amenazas con mayor rapidez. Se ha demostrado que ChatGPT ayuda a escribir código, identificar brechas en el conocimiento y preparar comunicaciones, tareas que permiten a los profesionales realizar sus responsabilidades laborales diarias de manera mucho más eficiente.(1)
Los malos actores también tienen acceso.
Desafortunadamente, los profesionales y las empresas de ciberseguridad no son las únicas partes que pueden beneficiarse de ChatGPT y modelos de Inteligencia Artificial(IA) similares; los ciberdelincuentes también pueden hacerlo. Y se conoce que actores mal intencionados recurren a ChatGPT para facilitar la ciberdelincuencia, utilizándolo para ayudar con la codificación al escribir malware y crear correos electrónicos de Phishing creíbles, por ejemplo. (1)
Nos guste o no el ChatGPT está aquí para quedarse.
Podemos tener miedo del cambio y lo que está por venir, o podemos adaptarnos a él y asegurarnos de aceptarlo de manera integral, implementando una estrategia tanto ofensiva como defensiva.
Desde una perspectiva ofensiva, podemos usarlo para capacitar a los trabajadores para que sean más productivos y para que la empresa tome mejores decisiones. Desde un punto de vista defensivo, debemos implementar una estrategia que proteja a nuestras organizaciones y empleados de los riesgos de seguridad en evolución derivados de esta nueva tecnología, y esto incluye la actualización de políticas, procedimientos y protocolos para protegernos.
ChatGPT y la IA están cambiando el juego tanto para los profesionales de la seguridad como para los ciberdelincuentes, y debemos estar preparados. Ignorar estos desarrollos implica ponernos en riesgo.(1)
Medidas para evitar el mal uso de ChatGPT y la IA.
Consultando a la misma tecnología para evitar su mal uso, estas han sido parte de sus respuestas: “Es difícil evitar que los ciberdelincuentes usen el ChatGPT u otras tecnologías de IA para la ciberdelincuencia. Sin embargo, hay medidas que se pueden tomar para reducir los riesgos asociados:
Monitorización: las empresas pueden monitorear y bloquear el acceso a sitios web o herramientas que se sabe que los ciberdelincuentes usan para entrenar a modelos de IA para fines maliciosos.
Restricciones: las empresas también pueden implementar restricciones en el acceso a la red, limitando la cantidad de datos que pueden ser utilizados para entrenar a los modelos de IA.
Educación: es importante que los profesionales de la ciberseguridad se eduquen sobre las posibilidades de mal uso de la tecnología de IA y estén al tanto de los últimos desarrollos en este campo.
Responsabilidad: los proveedores de tecnología de IA también tienen la responsabilidad de garantizar que sus productos se utilicen de manera ética y responsable. Esto puede implicar la implementación de medidas de seguridad adicionales para detectar y prevenir el mal uso de la tecnología.
Capacitar a los trabajadores en seguridad: Es importante capacitar a los trabajadores para que comprendan los riesgos de seguridad asociados con el uso de tecnologías de IA, como el ChatGPT, y cómo pueden prevenir ataques cibernéticos. La educación puede incluir cómo identificar correos electrónicos de Phishing, cómo crear contraseñas seguras y cómo manejar datos sensibles.
Actualizar y parchar sistemas: Es importante asegurarse de que los sistemas y software utilizados por la empresa estén actualizados y parchados regularmente para reducir la exposición a vulnerabilidades conocidas.
Implementar la autenticación multifactorial: Es una medida de seguridad importante para proteger las cuentas de usuario de la empresa de posibles ataques de Phishing y fraude en línea. Al utilizar múltiples factores de autenticación, como contraseñas, códigos de acceso o tokens, se puede aumentar la seguridad y reducir el riesgo de ataques exitosos y garantizar una adopción segura y efectiva de la tecnología.” (2)
Referencias:
(1) https://www.helpnetsecurity.com/2023/02/21/chatgpt-cybersecurity-challenges/
(2) https://chat.openai.com
