Les limites de la mémoire de travail : Cerveaux humains et modèles d'IA

En informatique, le « working set » désigne la quantité de données qu’un processeur peut traiter en une seule fois pour résoudre des problèmes. Cette idée présente un parallèle intéressant dans la cognition humaine, appelé « mémoire de travail ». La mémoire de travail est comme un bloc-notes mental où nous conservons temporairement l’information. Elle est essentielle pour raisonner et prendre des décisions complexes.

Cependant, la mémoire de travail a une capacité limitée, ce qui peut limiter notre capacité à résoudre des problèmes très complexes. Cette information est importante alors que nous entrons dans un monde de plus en plus influencé par l’IA, notamment dans des domaines comme la cybersécurité.  

La bande passante d’un cerveau  

Les sciences cognitives comportent différents tests pour mesurer la capacité de mémoire de travail d’une personne. Ces tests montrent qu’il existe une limite supérieure constante, même pour les personnes qui sont des penseurs exceptionnels.

Par exemple, les maîtres d’échecs, les mathématiciens et les meilleurs musiciens possèdent des compétences remarquables, mais leur capacité de mémoire de travail n’est probablement pas très différente de celle d’une personne moyenne. Il semble que l’évolution ait affiné notre cerveau pour un certain niveau de capacité cognitive. Cela peut rendre difficile la compréhension complète de problèmes très vastes et complexes.

L’avantage de l’IA : Dimensionner la fenêtre de contexte (avec des réserves)  

Les systèmes d'intelligence artificielle, en particulier les grands modèles de langage (LLM), ont une limitation appelée leur fenêtre contextuelle "." Il s'agit du nombre de tokens (mots ou parties de code) qu'ils peuvent traiter en même temps. Contrairement aux humains, dont la mémoire de travail est fixe, la fenêtre contextuelle d'une IA peut être élargie, bien que cela soit coûteux. Un plus grand nombre de GPU, de meilleurs algorithmes ou un nouveau matériel peuvent tous augmenter la capacité d'une IA.

Cependant, cette approche présente des limites importantes. Au début, des tâches comme trouver des anomalies dans d’énormes ensembles de données complexes semblent parfaites pour les LLM. Dépenser beaucoup d’argent dans le temps de traitement de l’IA pourrait sembler valoir la peine pour ces informations.

Mais il est important de savoir que la détection d’anomalies s’accorde souvent mieux avec l’apprentissage automatique (ML) traditionnel et les statistiques qu’avec les réseaux de neurones avancés et l’apprentissage profond. C’est une bonne chose : les méthodes traditionnelles sont généralement plus prévisibles et fiables que certaines applications d’IA.

Pourtant, un problème plus important existe. Les modèles et utilisations d’IA actuels restent très défaillants. Des exemples comme des voitures autonomes qui échouent et des LLM qui produisent des « hallucinations » convaincantes mais fausses nous le rappellent. Avant d’utiliser l’IA à grande échelle pour résoudre de grands problèmes, nous devons nous assurer que ces systèmes sont fiables et cohérents et corrects.  

Trouver les bons outils pour le bon travail

Alors, où cela nous mène-t-il ? L’essentiel est de comprendre que le cerveau humain et les modèles d’IA possèdent des forces différentes. Les humains, grâce à notre capacité cognitive fixe, sont doués pour résoudre des problèmes détaillés dans les limites de notre mémoire de travail. Nous choisissons généralement des problèmes que nous avons de bonnes chances de résoudre nous-mêmes.

Les modèles d’IA, en revanche, peuvent être mis à l’échelle pour des problèmes qui seraient trop lourds pour un esprit humain. Mais cette approche n’a de sens que lorsque :

• La valeur financière de la solution est supérieure au coût de calcul.
• La confiance dans la précision du résultat est cruciale.

Le coût élevé du traitement de jeux de données complexes, ainsi que les limites actuelles d’explicabilité et de justesse, font que les problèmes que nous pouvons résoudre avec l’IA d’aujourd’hui restent limités. Leur meilleure utilisation est actuellement de réduire la portée et la complexité à un ensemble plus restreint de problèmes accessibles par la cognition humaine.  

Intégrer l’IA en cybersécurité : une approche stratégique

En matière de cybersécurité, l'objectif n'est pas seulement de lutter contre les menaces générées par l'IA avec plus d'IA, mais d'utiliser l'IA à bon escient dans les protocoles de sécurité. Les équipes de sécurité doivent faire preuve d'intelligence dans leurs investissements dans l'IA, en s'assurant qu'elle améliore leurs capacités sans créer de nouvelles faiblesses.

Illumio le fait avec des capacités de cybersécurité IA comme le conseiller virtuel d'Illumio qui offre des réponses conversationnelles aux questions sur la mise en place et l'utilisation de la segmentation zéro confiance. De plus, le nouveau moteur d'étiquetage alimenté par l'IA offre une visibilité instantanée sur les actifs dans les centres de données et les environnements cloud pour aider les entreprises à adopter plus rapidement la segmentation zéro confiance.  

Ces solutions utilisent l’IA pour analyser de grandes quantités de données tout en gardant la supervision humaine centrale dans la prise de décision en matière de sécurité. En combinant le cerveau dynamique et adaptatif des humains avec la puissance de traitement de l’IA, les équipes de sécurité peuvent mieux gérer le monde complexe des menaces modernes.

L’IA réduira-t-elle de façon exponentielle les coûts et renforcera la confiance ?

Un effet à la loi de Moore pourrait-il réduire drastiquement le coût d’une IA haute performance au fil du temps ? Cela reste incertain. Les progrès de l’IA dépendent non seulement du matériel, mais aussi de meilleurs algorithmes, d’enjeux de données améliorés et des avancées pour rendre les résultats en IA fiables et dignes de confiance.

C’est pourquoi il est essentiel de comprendre les limites et les coûts associés à la fois à la mémoire de travail humaine et aux fenêtres contextuelles de l’IA. Choisir le bon outil, qu’il s’agisse du cerveau humain ou d’une machine, nécessite une compréhension claire de la taille du problème, de sa valeur potentielle, des coûts de recherche d’une solution et de la fiabilité des résultats. En cybersécurité, cela signifie utiliser stratégiquement l’IA pour renforcer les capacités humaines, garantissant que le mélange d’intuition humaine et de puissance mécanique repose sur une confiance croissante dans les solutions d’IA.

En regardant vers l’avenir, l’avenir impliquera probablement un partenariat solide entre la pensée humaine et l’intelligence artificielle, chacun soutenant l’autre dans la face des défis d’un monde plus complexe.

Vous voulez en savoir plus sur les offres d'IA de la plateforme de segmentation zéro confiance d'Illumio ? Contactez-nous dès aujourd'hui.