Il ne faut pas faire confiance à l'IA : pourquoi le comprendre peut être transformateur

Au milieu du battage médiatique autour de l'IA, on se rend de plus en plus compte que l'IA n'est pas aussi « intelligente » qu'on nous le fait croire. Devin Coldewey de TechCrunch décrit l'IA en tant que « bullshitter le mieux informé au monde plutôt qu'une autorité sur aucun sujet ».

En tant que directeur technique, l'un des éléments clés du succès est de pouvoir comprendre la technologie. À mon avis, à un moment donné, vous êtes confronté à une technologie et à un ensemble de problèmes. Et pour cette technologie donnée, il y a une limite : à l'intérieur de cette limite se trouvent l'ensemble des problèmes qu'elle résout bien, et en dehors de cette limite se trouvent l'ensemble des problèmes pour lesquels elle ne fonctionne pas.

À l'heure actuelle, avec l'IA, nous constatons à quel point il est important pour les RSSI de comprendre la technologie.

CTO : soyez intentionnel pour découvrir la véritable valeur d'une technologie

L'une des fonctions clés exécutées par les ctOS consiste à examiner une technologie et à voir clairement la forme et la taille de cette limite. Ce n'est pas quelque chose que vous pouvez faire seul ; vous devez lire et parler à des personnes qui vous aident à découvrir et à voir clairement cette limite. Mais cela comporte également des défis.

D'un côté, vous avez les éducateurs. Comme vous, ils font de leur mieux pour dire ce qu'il y a de bon et de mauvais dans une technologie et essaient de mettre en lumière certaines parties de cette frontière. D'un autre côté, vous avez ceux qui essaient d'influencer votre décision, et ils veulent simplement vous dire que la technologie résout bien plus de problèmes qu'elle n'en résout, ou ils veulent vous en faire la promesse. Même si vous partez d'une intention positive, le manque de clarté peut être préjudiciable et vous amener, en tant que leader technologique, à prendre des décisions incorrectes qui pourraient avoir des répercussions négatives sur votre activité.

Les directeurs techniques doivent rechercher et trouver la vérité, et ce n'est qu'à partir de cette vérité qu'ils pourront exploiter la technologie pour le bien de l'entreprise. Sans cela, ils sont voués à l'échec, leurs résultats étant simplement fonction de la chance et non de leurs compétences.

Pourquoi les limites technologiques de l'IA sont plus petites qu'il n'y paraît

Passons maintenant à l'intelligence artificielle (IA), ou à cette récente vague d'IA générative. Je pense que ce qui est fait est vraiment incroyable et transformateur. Mais je constate que nous sommes incités à penser que la « frontière technologique » de l'IA est beaucoup plus grande qu'elle ne l'est aujourd'hui. Cette expansion incorrecte obscurcit notre jugement et pourrait vous empêcher de trouver de bonnes solutions d'achat ou de construction.

Nous avons tous vu l'IA hallucinant, et nous avons vu Photos de Mijourney des personnes ayant 6 doigts et 50 dents. C'est un peu effrayant. Je veux dire 5 ou 6 doigts, c'est juste un détail sans importance, non ? Il m'est même arrivé de demander à ChatGPT qui était le directeur technique d'Illumio — et je le suis depuis 10 ans, donc cela devrait faire partie de ses connaissances — et selon lui, je ne suis pas... hmmm.

Réduire les limites technologiques de l'IA révèle sa véritable valeur

C'est là que je commence à trouver ça passionnant. Optez pour la perfection et placez-la carrément en dehors des limites de la technologie de l'IA. Optez pour une précision et une précision élevées et placez-les en dehors des limites de la technologie de l'IA. Réfléchissez maintenant à ce qu'il contient et aux innovations qui peuvent se concentrer sur des problèmes pour lesquels il suffit d'avoir raison à 50 %.

Devin Coldewey avait une excellente citation dans son Article de TechCrunch qui illustre le même point : « Tout ce qui compte, c'est que ces systèmes ne font pas de distinction entre quelque chose qui est correct et quelque chose qui regards correct. Une fois que vous comprenez que l'IA considère ces choses plus ou moins interchangeables, tout prend beaucoup plus de sens. »

Quelles sont certaines de ces choses ? Je pense que l'art génératif est un domaine qui recèle un fort potentiel pour l'IA. L'art est subjectif. Ce qui parle à une personne ne parle pas à une autre. Et il arrive souvent que « assez bien » soit suffisant pour répondre à vos besoins, car il peut y avoir des centaines de très bonnes images qui pourraient être affichées sur votre présentation pour communiquer votre point de vue.

Un autre bon exemple est le problème que nous semblons tous avoir à regarder une feuille blanche. Lorsque je m'assois pour écrire un article de blog (y compris celui-ci), c'est un obstacle. L'IA générative pourrait écrire un premier brouillon, et nous pourrions l'appeler le brouillon zéro. Même si vous ne retiriez rien de ce que l'IA a créé ou si elle a servi de catalyseur pour démarrer, elle serait toujours utile.

Ce ne sont là que deux exemples de cas où le simple fait d'avoir raison à 50 % apporte de la valeur. Je suis sûr qu'il y en a beaucoup d'autres, et je suis à la recherche de ce type de cas qui se situent à l'intérieur des véritables « limites technologiques » de l'IA dans le cadre de mes propres recherches technologiques.

Connaissez les véritables limites de la technologie

Pensez à vous assurer de bien comprendre la véritable « frontière technologique » lorsque vous poursuivez vos projets créatifs et innovants. Il y a un endroit idéal à trouver aujourd'hui.

J'aimerais connaître le point de vue de ceux qui sont d'accord (ou en désaccord) sur les idées concernant les limites de la technologie de l'IA. Partagez vos réflexions avec @illumio sur LinkedIn ou Twitter.