Peligros para las empresas – Cómo los ciberdelincuentes explotan ChatGPT

Peligros para las empresas – Cómo los ciberdelincuentes explotan ChatGPT

Las aplicaciones de inteligencia artificial son utilizadas por muchos alemanes. También en las empresas se emplean para, por ejemplo, generar rápidamente códigos mediante ChatGPT. Sin embargo, los ciberdelincuentes aprovechan la vulnerabilidad del programa. Por lo tanto, lo que las empresas deben tener en cuenta al utilizar ChatGPT y similares.

Las aplicaciones basadas en inteligencia artificial han llegado al centro de la sociedad. Según el «Monitor de Opinión sobre Inteligencia Artificial», aproximadamente la mitad de los alemanes tiene una actitud positiva hacia los programas de IA como ChatGPT, y alrededor de un quinto de los alemanes ha utilizado ya la software de creación de textos, según Bitkom. Sin embargo, el 44% también tiene miedo a la IA y sus efectos. Y, de hecho, las aplicaciones de IA pueden ser muy útiles por un lado, pero por otro aumentan el peligro para la ciberseguridad de las empresas.

Los ciberdelincuentes colocan códigos maliciosos en ChatGPT

ChatGPT no solo es capaz de redactar un discurso de cumpleaños o el resumen de un artículo científico, sino que también puede utilizarse para crear códigos. El problema: ChatGPT sigue teniendo la tendencia a responder a las solicitudes con respuestas, citas y directorios inventados. Los ciberdelincuentes aprovechan esta falla para colocar códigos maliciosos en estos lugares inventados por ChatGPT.

Si las empresas acceden a estas fuentes y descargan los códigos correspondientes, ponen en grave peligro la seguridad de sus sistemas. Por lo tanto, el principio es: ¡nunca descargar ni ejecutar códigos no verificados de ChatGPT! Cada línea de código generada debe ser probada en un entorno seguro, además, son imprescindibles copias de seguridad regulares y protegidas de los códigos originales del sistema.

Uso de la IA en las empresas – lo que hay que tener en cuenta

Para no generar peligros adicionales al trabajar con programas de IA, las empresas deben tener en cuenta algunas reglas básicas. Estas incluyen:

• Conciencia del riesgo: Un uso despreocupado de ChatGPT y similares puede volverse rápidamente peligroso. Es importante crear conciencia sobre los efectos negativos que puede tener la IA.
• Sensibilidad de los datos: Los empleados no deben alimentar a los programas de IA con datos sensibles como contraseñas o información personal.
• Prácticas de seguridad probadas: Lo que es válido para todos los ámbitos, es especialmente cierto en el uso de la IA: los empleados deben aplicar prácticas de seguridad probadas, cambiar sus contraseñas regularmente y proteger la información sensible.
• Conocer los límites: Las empresas deben ser conscientes de que ChatGPT aún no es un programa maduro y, por lo tanto, llega regularmente a sus límites. Su capacidad de comprensión sigue siendo muy limitada, por lo que todos los productos del programa deben ser examinados con la mayor precisión posible.

La IA como asistente de seguridad

Al mismo tiempo, las aplicaciones de IA como ChatGPT también pueden ser útiles como asistentes en la defensa contra peligros cibernéticos. Por ejemplo, el programa se utiliza para verificar software en busca de vulnerabilidades de seguridad. La IA solo necesita ser entrenada con unos pocos datos y alivia a los empleados humanos, que de esta manera pueden realizar verificaciones de seguridad sin tener que entender los mecanismos básicos del software verificado. Además, ChatGPT puede utilizarse como filtro de spam. La IA es mucho más eficiente y precisa que un programa de spam convencional.

ChatGPT puede, por lo tanto, aliviar principalmente a sus colegas humanos, que, debido al aumento de incidentes de ciberseguridad y la avalancha de notificaciones relevantes para la seguridad que deben procesarse diariamente, simplemente llegan a sus límites. La IA realiza una primera evaluación y puede llevar a cabo verificaciones básicas, mientras que el ser humano se concentra en los eventos realmente importantes. Los responsables de la empresa pueden así beneficiarse de las ventajas de las aplicaciones de IA como ChatGPT y, al mismo tiempo, minimizar los riesgos para la seguridad de sus propios sistemas.

En resumen

• Los ciberdelincuentes colocan código malicioso en fuentes y directorios inventados por ChatGPT
• Las empresas nunca deben ejecutar códigos generados por IA sin verificar – las pruebas en un entorno seguro son obligatorias
• ChatGPT también puede utilizarse como asistente de seguridad: para auditorías de código, filtros de spam y análisis de incidentes

Datos clave

Uso de la IA en Alemania: Aproximadamente un quinto de los alemanes ya ha utilizado ChatGPT (Bitkom)

Riesgo principal: ChatGPT inventa citas y directorios – los atacantes colocan código malicioso allí

Regla de seguridad número 1: Nunca descargar ni ejecutar códigos de ChatGPT sin verificar

IA como defensora: ChatGPT puede utilizarse como filtro de spam y para verificaciones de seguridad automatizadas

Hecho: Los ataques de ingeniería social basados en deepfakes aumentaron un 550% según Europol en 2024.

Hecho: Los ciberataques basados en IA aumentaron un 135% según Darktrace en 2024.

Preguntas frecuentes

Cada pregunta está bloqueada. Un toque desbloquea la respuesta.

¿Cómo utilizan los ciberdelincuentes ChatGPT para ataques?

ChatGPT tiende a inventar fuentes y directorios de paquetes inexistentes. Los atacantes registran estas fuentes inventadas y colocan código malicioso allí. Si los desarrolladores descargan el código recomendado por ChatGPT, infectan sus sistemas.

¿Qué reglas deben establecer las empresas para el uso de la IA?

Las empresas necesitan directrices claras: no alimentar a la IA con datos sensibles, no ejecutar códigos generados sin verificar, cambiar las contraseñas regularmente y una conciencia general de la vulnerabilidad de la tecnología.

¿Puede ChatGPT también mejorar la ciberseguridad?

Sí. ChatGPT puede verificar software en busca de vulnerabilidades de seguridad, actuar como filtro de spam inteligente y realizar una primera evaluación de notificaciones relevantes para la seguridad. Esto alivia a los equipos de seguridad informática en el análisis diario de incidentes.

¿Pueden los empleados ingresar datos sensibles de la empresa en ChatGPT?

No. Los empleados no deben ingresar contraseñas, información personal o datos comerciales confidenciales en sistemas de IA. Los datos ingresados podrían utilizarse para el entrenamiento o hacerse accesibles a través de vulnerabilidades de seguridad.

¿Cómo se puede utilizar de manera segura el código generado por IA?

Cada línea de código generada por ChatGPT debe ser probada en un entorno de caja de arena aislado. Además, deben realizarse copias de seguridad regulares y protegidas de los códigos originales del sistema para poder restaurarlos rápidamente en caso de daño.

Lectura adicional en la red

Seguridad de la IA en entornos en la nube en cloudmagazin.com

Uso de la IA en la rutina empresarial en mybusinessfuture.com

Uso responsable de la IA como tarea de liderazgo en digital-chiefs.de

Imagen: Matheus Bertelli/pexels.com https://www.pexels.com/es-es/foto/foto-de-mujer-usando-laptop-16094040/

Artículos relacionados

• Tendencias de ciberseguridad 2026: Los 7 desarrollos que los responsables de seguridad deben conocer
• Guerra híbrida y desinformación: La amenaza cibernética subestimada para las empresas
• Palantir y el futuro de la ciberdefensa: La IA como arma estratégica

Fuente de imagen: Pexels