Risques pour les entreprises – Comment les cybercriminels exploitent ChatGPT

Risques pour les entreprises – Comment les cybercriminels exploitent ChatGPT

Les applications d’intelligence artificielle sont utilisées par de nombreux Allemands. Elles sont également déployées dans les entreprises pour générer rapidement des codes via ChatGPT, par exemple. Cependant, les cybercriminels exploitent la vulnérabilité du programme. Voici ce que les entreprises doivent prendre en compte lors de l’utilisation de ChatGPT et autres.

Les applications basées sur l’intelligence artificielle sont désormais courantes dans la société. Selon le « Meinungsmonitor Künstliche Intelligenz », environ la moitié des Allemands ont une attitude positive envers les programmes d’IA comme ChatGPT. Environ un cinquième des Allemands ont déjà utilisé le logiciel de création de texte, selon Bitkom. Cependant, 44 % ont également peur de l’IA et de ses effets. En effet, les applications d’IA peuvent être très utiles d’une part, mais augmentent d’autre part les risques pour la cybersécurité des entreprises.

Les cybercriminels insèrent des codes malveillants dans ChatGPT

ChatGPT n’est pas seulement capable de rédiger un discours d’anniversaire ou un résumé d’article scientifique, mais peut également être utilisé pour créer des codes. Le problème : ChatGPT a toujours tendance à répondre aux demandes avec des réponses, des références et des répertoires inventés. Les cybercriminels exploitent cette défaillance pour insérer des codes malveillants à ces endroits inventés par ChatGPT.

Si les entreprises accèdent à ces sources et téléchargent les codes correspondants, elles mettent gravement en danger la sécurité de leurs systèmes. Le principe de base est donc de ne jamais télécharger et exécuter des codes non vérifiés de ChatGPT ! Chaque ligne de code générée doit être testée dans un environnement sécurisé, et des copies régulières et protégées des codes système originaux sont indispensables.

Utilisation de l’IA dans les entreprises – ce qu’il faut savoir

Pour éviter de créer des dangers supplémentaires lors de l’utilisation de programmes d’IA, les entreprises doivent garder à l’esprit quelques règles de base. Cela inclut :

• Sensibilisation aux risques : Une utilisation insouciante de ChatGPT et autres peut rapidement devenir dangereuse. Il est important de prendre conscience des effets négatifs que l’IA peut avoir.
• Sensibilité des données : Les employés ne doivent pas alimenter les programmes d’IA avec des données sensibles telles que des mots de passe ou des informations personnelles.
• Pratiques de sécurité éprouvées : Ce qui est valable pour tous les domaines l’est d’autant plus pour l’utilisation de l’IA : les employés doivent appliquer des pratiques de sécurité éprouvées, changer régulièrement leurs mots de passe et protéger les informations sensibles.
• Connaître les limites : Les entreprises doivent être conscientes que ChatGPT n’est pas encore un programme abouti et atteint donc régulièrement ses limites. Sa capacité de compréhension est toujours très limitée, tous les produits du programme doivent donc être vérifiés avec la plus grande précision.

L’IA comme assistant de sécurité

En même temps, les applications d’IA comme ChatGPT peuvent également être de précieux assistants pour la défense contre les cybermenaces. Ainsi, le programme peut être utilisé pour vérifier les logiciels en quête de failles de sécurité. L’IA doit être entraînée avec peu de données et soulage les employés humains, qui peuvent ainsi effectuer des contrôles de sécurité sans avoir à comprendre les mécanismes de base du logiciel vérifié. De plus, ChatGPT peut être utilisé comme filtre anti-spam. L’IA est beaucoup plus efficace et précise qu’un programme anti-spam classique.

ChatGPT peut donc avant tout soulager ses collègues humains, qui atteignent leurs limites en raison de l’augmentation des incidents de cybersécurité et du flux de messages pertinents pour la sécurité qui doivent être traités quotidiennement. L’IA effectue une première évaluation et peut effectuer des vérifications de base, l’humain se concentre sur les événements vraiment importants. Les responsables d’entreprise peuvent ainsi profiter des avantages des applications d’IA comme ChatGPT et minimiser simultanément les risques pour la sécurité de leurs propres systèmes.

L’essentiel

• Les cybercriminels insèrent des codes malveillants dans les sources et répertoires inventés par ChatGPT
• Les entreprises ne doivent jamais exécuter des codes générés par l’IA sans vérification – les tests dans un environnement sécurisé sont obligatoires
• ChatGPT peut également être utilisé comme assistant de sécurité : pour les audits de code, la filtration des spams et l’analyse des incidents

Key Facts

Utilisation de l’IA en Allemagne : Environ un cinquième des Allemands a déjà utilisé ChatGPT (Bitkom)

Risque principal : ChatGPT invente des références et des répertoires – les attaquants y placent des codes malveillants

Règle de sécurité n° 1 : Ne jamais télécharger et exécuter des codes non vérifiés de ChatGPT

L’IA comme défenseur : ChatGPT peut être utilisé comme filtre anti-spam et pour des contrôles de sécurité automatisés

Fait : Les attaques de phishing basées sur des deepfakes ont augmenté de 550 % en 2024 selon Europol.

Fait : Les cyberattaques soutenues par l’IA ont augmenté de 135 % en 2024 selon Darktrace.

Questions fréquentes

Chaque question est verrouillée. Un clic déverrouille la réponse.

Comment les cybercriminels utilisent-ils ChatGPT pour des attaques ?

ChatGPT a tendance à inventer des sources et des répertoires de paquets inexistants. Les attaquants enregistrent ces sources inventées et y placent du code malveillant. Si les développeurs téléchargent le code recommandé par ChatGPT, ils infectent leurs systèmes.

Quelles règles les entreprises doivent-elles établir pour l’utilisation de l’IA ?

Les entreprises ont besoin de directives claires : ne pas alimenter l’IA avec des données sensibles, ne pas exécuter de code généré sans vérification, changer régulièrement les mots de passe et avoir une conscience générale de la vulnérabilité de la technologie.

ChatGPT peut-il également améliorer la cybersécurité ?

Oui. ChatGPT peut vérifier les logiciels pour détecter des failles de sécurité, fonctionner comme un filtre anti-spam intelligent et effectuer une première évaluation des messages pertinents pour la sécurité. Cela soulage les équipes de sécurité informatique dans l’analyse quotidienne des incidents.

Les employés peuvent-ils entrer des données sensibles de l’entreprise dans ChatGPT ?

Non. Les employés ne doivent pas entrer de mots de passe, d’informations personnelles ou de données commerciales confidentielles dans les systèmes d’IA. Les données saisies pourraient être utilisées pour l’entraînement ou devenir accessibles via des failles de sécurité.

Comment utiliser en toute sécurité le code généré par l’IA ?

Chaque ligne de code générée par ChatGPT doit être testée dans un environnement de sandbox isolé. De plus, des sauvegardes régulières et protégées des codes système originaux doivent être créées pour pouvoir restaurer rapidement en cas de dommage.

Lectures complémentaires sur le réseau

Sécurité de l’IA dans les environnements cloud sur cloudmagazin.com

Utilisation de l’IA dans la vie quotidienne des entreprises sur mybusinessfuture.com

Utilisation responsable de l’IA comme tâche de direction sur digital-chiefs.de

Image : Matheus Bertelli/pexels.com https://www.pexels.com/de-de/foto/frau-laptop-arbeiten-internet-16094040/

Articles connexes

• Tendances de la cybersécurité 2026 : Les 7 évolutions que les décideurs en sécurité doivent connaître
• Guerre hybride et désinformation : La menace cyber sous-estimée pour les entreprises
• Palantir et l’avenir de la cyberdéfense : L’IA comme arme stratégique

Source de l’image : Pexels