L’intelligence artificielle a toujours fait partie du paysage de la cybersécurité. Avec l’apparition de ChatGPT et la démocratisation de cette technologie, de nouvelles menaces font leur apparition, mais également de nouvelles opportunités pour les spécialistes de la cybersécurité et pour les organisations. Dans cet article, nous ferons un tour d’horizon des changements apportés par ChatGPT au monde de la cybersécurité.
Vous connaissez probablement Kali Linux ? C’est la distribution la plus populaire des Red et Blue Team, éditée par OffSec, qui est notre partenaire en France. Si vous souhaitez rentrer dans le petit cercle fermé de ceux qui possèdent la certification OSCP de l’OffSec, reconnue au niveau international par la profession, je vous recommande chaudement de suivre notre formation OSCP PEN-200 au format Bootcamp qui a lieu chaque lundi avec un expert du milieu.
L’équipe Ambient IT
L’Intelligence artificielle et la recherche
Depuis les débuts d’internet, les moteurs de recherches sont un domaine d’expertise clé pour les spécialistes en cybersécurité comme pour les pirates informatiques. On peut y trouver pratiquement toutes les informations nécessaires pour comprendre un sujet, mais ces moteurs de recherche ne représentent pas toutes les informations disponibles sur internet. Il peut également parfois être compliqué de formuler ses interrogations et ses questions sous la forme d’une recherche. C’est dans ce type de cas de figure que ChatGPT devient un allié précieux.
L’IA comme ChatGPT change fondamentalement la donne dans la façon dont elle utilise le traitement du langage naturel pour comprendre des questions et fournir des réponses directes aux questions des utilisateurs. Si vous lui fournissez un extrait de code, elle peut vous donner une explication ligne par ligne destinée à un débutant comme à un codeur très expérimenté.
De plus, plutôt que de lire un article, une réponse sur un forum ou de regarder une vidéo, ChatGPT vous donne l’opportunité d’interagir avec la réponse afin d’approfondir un sujet en particulier. Vous avez donc une influence directe sur votre recherche d’informations et vous pouvez directement aller à l’essentiel.
ChatGPT a également démontré ses capacités d’engagement asynchrone, c’est-à-dire la capacité à modifier la conversation ou le résultat en fonction de nouveaux stimuli.
Utilisé correctement, ChatGPT peut rapidement comprendre et localiser un code malveillant obscurci. Une fois que les méthodes d’engagement auront été perfectionnées, ces outils contribueront sans aucun doute à améliorer les solutions sur le marché à un rythme extrêmement rapide.
Attaques alimentées par l’IA
Alors que les chercheurs et les spécialistes utilisent l’IA pour détecter plus efficacement les menaces et répondre aux incidents, les pirates informatiques eux détournent ces technologies. En fait, les attaquants sont probablement ceux qui ont le plus profité les premiers des programmes d’IA alimentés par des technologies comme ChatGPT.
Il existe déjà des acteurs malveillants utilisant chatGPT pour créer des cyberattaques, y compris de nouveaux virus polymorphes extrêmement difficiles à détecter. Si la capacité d’écriture de code de ChatGPT en est encore à ses balbutiements, son potentiel est presque infini. Des IA de codage vont un jour apparaitre pour produire en masse des logiciels malveillants très perfectionnés, et ce, à une vitesse bien plus grande qu’aujourd’hui.
Certains pirates se sont déjà spécialisés dans des campagnes d’hameçonnages avec des mails créés par ChatGPT. Ces mails sont beaucoup plus compliqués à détecter, car ils sont généralement beaucoup plus crédibles que les tentatives de fishing classiques. Avec ChatGPT, fini les fautes et les tournures de phrases étranges, sa capacité à écrire des textes institutionnels ou professionnels crédibles n’est plus à démontrer.
Ces préoccupations ont incité le National Institute of Standards and Technology (NIST) à élaborer un cadre de gestion des risques liés à l’IA. L’objectif de ce travail est de fournir des orientations et des processus permettant de minimiser les risques liés à l’utilisation de l’IA.
Protection avec IA
Bien que ChatGPT soit utilisé par les hackers, c’est également un outil très puissant pour vous aider dans vos taches de cybersécurité. ChatGPT peut, par exemple, servir à l’analyse de journaux d’audit ou des paquets réseau. En impliquant l’intelligence artificielle, vous pouvez automatiser une multitude de taches, notamment le tri entre les menaces réelles et les fausses alarmes. Vous pourrez ainsi vous concentrer sur les missions ayant une plus forte valeur ajoutée.
ChatGPT est très performant dans l’analyse de modèles. Cette capacité peut être utilisée aussi bien pour générer des rapports que pour effectuer des calculs sur les différents facteurs de risque au sein de votre organisation. Vous pouvez donc voir ChatGPT comme un assistant de recherche de failles surpuissant. À noter également que ChatGPT peut parfaitement écrire ces rapports en langage naturel, les rendant plus facilement lisibles et naturels.
Sa maitrise du langage naturel qui le rend si performant à écrire des mails de fishing le rend également très efficace dans l’écriture de règles liées à votre politique de cybersécurité. Avec ChatGPT, il est très facile de générer rapidement des documents techniques et pédagogiques à destination de vos équipes et vos collaborateurs.
Le futur de ChatGPT pour la cybersécurité
ChatGPT étant complètement accessible (presque) partout dans le monde, nul doute que son usage va se développer chez des hackers comme dans chez les experts en cybersécurité. La question sera de savoir quel camp l’utilisera le mieux et s’adaptera aux transformations du secteur.
Bien qu’Open AI puisse rajouter des filtres empêchant une utilisation détournée et malveillante de ChatGPT, cela n’empêchera pas les pirates informatiques d’arriver à leurs fins.
La réelle révolution apportée par ChatGPT ne sera donc pas le type d’attaque, mais le nombre et la qualité celles-ci. IDC a estimé que les dépenses mondiales dans la sécurité informatique liées à l’intelligence artificielle atteindront les 307 milliards en 2027. L’IA devrait faire son entrée progressive dans de plus en plus d’outils et de processus de cybersécurité.
