/
Resiliência cibernética

A IA não deve ser confiável: por que entender isso pode ser transformador

Em meio ao entusiasmo em torno da IA, há uma crescente percepção de que a IA não é tão " smart " quanto pensamos. Devin Coldewey, do TechCrunch, descreve a IA como ", a mentirosa mais bem informada do mundo, em vez de uma autoridade em qualquer assunto. "

Como CTO, um dos principais elementos do sucesso é ser capaz de entender a tecnologia. A meu ver, em um determinado momento, você tem uma tecnologia e um conjunto de problemas. E para essa tecnologia existe um limite: dentro desse limite está o conjunto de problemas que ela resolve bem, e fora desse limite está o conjunto de problemas para os quais ela não funciona.

No momento, com a IA, estamos vendo o quanto é importante que os CISOS entendam a tecnologia.

CTOs: Seja intencional ao encontrar o verdadeiro valor de uma tecnologia

Uma função fundamental que os CTOs executam é observar uma tecnologia e ver claramente a forma e o tamanho desse limite. Isso não é algo que você possa fazer sozinho; você precisa ler e conversar com pessoas que o ajudem a descobrir e ver esse limite com clareza. Mas isso também traz desafios.  

Por um lado, você tem as pessoas que são educadoras. Como você, eles fazem o possível para dizer o que há de bom e ruim em uma tecnologia e tentam esclarecer partes desse limite. Por outro lado, você tem aqueles que estão tentando influenciar sua decisão e eles só querem dizer que a tecnologia resolve muito mais problemas do que resolve — ou vender a promessa disso. Mesmo que você assuma uma intenção positiva, a falta de clareza pode ser prejudicial e levar você, como líder em tecnologia, a tomar decisões incorretas que podem ter impactos negativos nos negócios.  

Os CTOs precisam buscar e encontrar a verdade, e somente com base nessa verdade eles podem aproveitar a tecnologia para o bem dos negócios. Sem isso, eles estão condenados, seus resultados são apenas uma função da sorte, não da habilidade.

Por que o limite da tecnologia de IA é menor do que parece

Agora, vamos à inteligência artificial (IA), ou essa recente onda de IA generativa. Acho que o que está sendo feito é realmente incrível e transformador. Mas vejo que estamos sendo influenciados a pensar que o “limite tecnológico” da IA é muito maior do que é hoje. Essa expansão incorreta está obscurecendo nosso julgamento e pode causar problemas na identificação de boas soluções para comprar ou construir.

Todos nós vimos a IA alucinando e vimos as fotos de Mijourney de pessoas com 6 dedos e 50 dentes. É meio assustador. Quero dizer, 5 ou 6 dedos, isso é apenas um detalhe sem importância, certo? Eu até perguntei ao ChatGPT quem era o CTO da Illumio — e eu sou há 10 anos, então isso deveria estar em seu corpo de conhecimento — e, de acordo com ele, eu não sou... hmmm.

Reduzir os limites tecnológicos da IA revela seu valor real

É aqui que começo a achar isso empolgante. Pegue a perfeição e coloque-a diretamente fora dos limites da tecnologia de IA. Pegue alta exatidão e precisão e coloque-as fora dos limites da tecnologia de IA. Agora, considere o que está dentro e quais inovações podem se concentrar em problemas em que você só precisa estar 50% certo.  

Devin Coldewey fez uma ótima citação em seu artigo do TechCrunch que ilustra o mesmo ponto: “Tudo o que importa é que esses sistemas não façam distinção entre algo correto e algo que parece correto. Quando você entende que a IA considera essas coisas mais ou menos intercambiáveis, tudo faz muito mais sentido.”  

Quais são algumas dessas coisas? Eu acho que a arte generativa é um lugar que tem muito potencial para a IA. A arte é subjetiva. O que fala com uma pessoa não fala com outra. E muitas vezes “bom o suficiente” é suficiente para sua necessidade, pois pode haver centenas de imagens muito boas que podem ser mostradas em sua apresentação para comunicar seu ponto de vista.  

Outro ótimo exemplo é o problema que todos nós parecemos ter ao encarar uma folha de papel em branco. Quando me sento para escrever uma entrada de blog (incluindo esta), é um obstáculo começar. A IA generativa poderia escrever um primeiro rascunho, e poderíamos chamá-lo de rascunho zero. Mesmo que você não tenha tirado nada do que a IA criou ou se ela servisse como um catalisador para começar, ela ainda seria valiosa.

Esses são apenas dois exemplos de casos em que apenas estar 50% certo agrega valor. Tenho certeza de que existem muitos outros, e estou procurando esses tipos de casos que estão dentro da verdadeira “fronteira tecnológica” da IA em minha própria exploração tecnológica.  

Conheça os verdadeiros limites da tecnologia

Certifique-se de entender o verdadeiro “limite tecnológico” ao perseguir seus esforços criativos e inovadores — há um ponto ideal para encontrar hoje.  

Eu adoraria ouvir aqueles que concordam (ou discordam) sobre as ideias sobre os limites da tecnologia de IA. Compartilhe suas ideias com @illumio no LinkedIn ou no Twitter.

Tópicos relacionados

Artigos relacionados

Manual do CISO: como a confiança torna a segurança um motor de crescimento empresarial
Resiliência cibernética

Manual do CISO: como a confiança torna a segurança um motor de crescimento empresarial

Descubra como Erik Bloch, da Illumio, mostra que a confiança pode transformar a segurança de um centro de custos em um mecanismo de crescimento empresarial que impulsiona vendas e escala.

Fora da vista, fora da mente: os perigos de ignorar a visibilidade da nuvem
Resiliência cibernética

Fora da vista, fora da mente: os perigos de ignorar a visibilidade da nuvem

Entenda por que as abordagens tradicionais de visibilidade não estão mais funcionando e como obter visibilidade completa em seus ambientes híbridos de várias nuvens.

Principais notícias sobre cibersegurança de dezembro de 2023
Resiliência cibernética

Principais notícias sobre cibersegurança de dezembro de 2023

Saiba como gerenciar em meio à escassez de habilidades em segurança cibernética, por que a resiliência cibernética está vinculada ao ROI e como usar o ZTS para resolver lacunas de segurança na nuvem.

A E/S do cluster Kubernetes é uma grande bagunça, mas a ajuda está a caminho
Resiliência cibernética

A E/S do cluster Kubernetes é uma grande bagunça, mas a ajuda está a caminho

Saiba mais sobre a proliferação de E/S do cluster Kubernetes e os esforços que estão sendo feitos para simplificar o cenário.

Quais definições de Zero Trust erram — e como corrigi-las
segmentação

Quais definições de Zero Trust erram — e como corrigi-las

Obtenha a definição correta de Zero Trust aprendendo por que o Zero Trust é um destino, mas o trabalho para alcançar o Zero Trust é uma jornada.

A rede baseada em intenção é uma tecnologia " que falhou "?
segmentação

A rede baseada em intenção é uma tecnologia " que falhou "?

Saiba como a natureza confiável e escalável do IBN, por sua vez, permite que plataformas como a Illumio ofereçam segurança confiável e escalável na nuvem.

Suponha que a violação seja feita.
Minimize o impacto.
Aumente a resiliência.

Pronto para saber mais sobre a segmentação Zero Trust?