/
Resiliência cibernética

A IA não deve ser confiável: por que entender isso pode ser transformador

Em meio ao entusiasmo em torno da IA, há uma crescente percepção de que a IA não é tão “inteligente” quanto pensamos. Devin Coldewey do TechCrunch descreve a IA como “a mentirosa mais bem informada do mundo, em vez de uma autoridade em qualquer assunto”.

Como CTO, um dos principais elementos do sucesso é ser capaz de entender a tecnologia. A meu ver, em um determinado momento, você tem uma tecnologia e um conjunto de problemas. E para essa tecnologia existe um limite: dentro desse limite está o conjunto de problemas que ela resolve bem, e fora desse limite está o conjunto de problemas para os quais ela não funciona.

No momento, com a IA, estamos vendo o quanto é importante que os CISOS entendam a tecnologia.

CTOs: Seja intencional ao encontrar o verdadeiro valor de uma tecnologia

Uma função fundamental que os CTOs executam é observar uma tecnologia e ver claramente a forma e o tamanho desse limite. Isso não é algo que você possa fazer sozinho; você precisa ler e conversar com pessoas que o ajudem a descobrir e ver esse limite com clareza. Mas isso também traz desafios.

Por um lado, você tem as pessoas que são educadoras. Como você, eles fazem o possível para dizer o que há de bom e ruim em uma tecnologia e tentam esclarecer partes desse limite. Por outro lado, você tem aqueles que estão tentando influenciar sua decisão e eles só querem dizer que a tecnologia resolve muito mais problemas do que resolve — ou vender a promessa disso. Mesmo que você assuma uma intenção positiva, a falta de clareza pode ser prejudicial e levar você, como líder em tecnologia, a tomar decisões incorretas que podem ter impactos negativos nos negócios.

Os CTOs precisam buscar e encontrar a verdade, e somente com base nessa verdade eles podem aproveitar a tecnologia para o bem dos negócios. Sem isso, eles estão condenados, seus resultados são apenas uma função da sorte, não da habilidade.

Por que o limite da tecnologia de IA é menor do que parece

Agora, vamos à inteligência artificial (IA), ou essa recente onda de IA generativa. Acho que o que está sendo feito é realmente incrível e transformador. Mas vejo que estamos sendo influenciados a pensar que o “limite tecnológico” da IA é muito maior do que é hoje. Essa expansão incorreta está obscurecendo nosso julgamento e pode causar problemas na identificação de boas soluções para comprar ou construir.

Todos nós já vimos a IA alucinante, e vimos o Imagens do Mijourney das pessoas com 6 dedos e 50 dentes. É meio assustador. Quero dizer, 5 ou 6 dedos, isso é apenas um detalhe sem importância, certo? Eu até perguntei ao ChatGPT quem era o CTO da Illumio — e eu sou há 10 anos, então isso deveria estar em seu corpo de conhecimento — e, de acordo com ele, eu não sou... hmmm.

Reduzir os limites tecnológicos da IA revela seu valor real

É aqui que começo a achar isso empolgante. Pegue a perfeição e coloque-a diretamente fora dos limites da tecnologia de IA. Pegue alta exatidão e precisão e coloque-as fora dos limites da tecnologia de IA. Agora, considere o que está dentro e quais inovações podem se concentrar em problemas em que você só precisa estar 50% certo.

Devin Coldewey tinha uma ótima citação em seu Artigo do TechCrunch que ilustra o mesmo ponto: “Tudo o que importa é que esses sistemas não fazem distinção entre algo que é correto e algo que parece correto. Quando você entende que a IA considera essas coisas mais ou menos intercambiáveis, tudo faz muito mais sentido.”

Quais são algumas dessas coisas? Eu acho que a arte generativa é um lugar que tem muito potencial para a IA. A arte é subjetiva. O que fala com uma pessoa não fala com outra. E muitas vezes “bom o suficiente” é suficiente para sua necessidade, pois pode haver centenas de imagens muito boas que podem ser mostradas em sua apresentação para comunicar seu ponto de vista.

Outro ótimo exemplo é o problema que todos nós parecemos ter ao encarar uma folha de papel em branco. Quando me sento para escrever uma entrada de blog (incluindo esta), é um obstáculo começar. A IA generativa poderia escrever um primeiro rascunho, e poderíamos chamá-lo de rascunho zero. Mesmo que você não tenha tirado nada do que a IA criou ou se ela servisse como um catalisador para começar, ela ainda seria valiosa.

Esses são apenas dois exemplos de casos em que apenas estar 50% certo agrega valor. Tenho certeza de que existem muitos outros, e estou procurando esses tipos de casos que estão dentro da verdadeira “fronteira tecnológica” da IA em minha própria exploração tecnológica.

Conheça os verdadeiros limites da tecnologia

Certifique-se de entender o verdadeiro “limite tecnológico” ao perseguir seus esforços criativos e inovadores — há um ponto ideal para encontrar hoje.

Eu adoraria ouvir aqueles que concordam (ou discordam) sobre as ideias sobre os limites da tecnologia de IA. Compartilhe suas ideias com @illumio em LinkedIn ou Twitter.

Tópicos relacionados

Artigos relacionados

3 etapas para iniciar a jornada de confiança zero da sua organização de saúde
Resiliência cibernética

3 etapas para iniciar a jornada de confiança zero da sua organização de saúde

Como os profissionais de saúde podem implementar uma estratégia Zero Trust e o papel fundamental que a Illumio Zero Trust Segmentation desempenha em qualquer arquitetura Zero Trust.

Principais notícias sobre cibersegurança de novembro de 2023
Resiliência cibernética

Principais notícias sobre cibersegurança de novembro de 2023

Obtenha informações sobre segurança, inovação e inteligência artificial e na nuvem nas melhores notícias deste mês.

Leve-me ao seu controlador de domínio: proteções e mitigações usando as ferramentas Zero Trust
Resiliência cibernética

Leve-me ao seu controlador de domínio: proteções e mitigações usando as ferramentas Zero Trust

Na parte 1 desta série de blogs, analisamos como os métodos de descoberta podem ser usados em um compromisso inicial.

A E/S do cluster Kubernetes é uma grande bagunça, mas a ajuda está a caminho
Resiliência cibernética

A E/S do cluster Kubernetes é uma grande bagunça, mas a ajuda está a caminho

Saiba mais sobre a proliferação de E/S do cluster Kubernetes e os esforços que estão sendo feitos para simplificar o cenário.

Quais definições de Zero Trust erram — e como corrigi-las
Segmentação Zero Trust

Quais definições de Zero Trust erram — e como corrigi-las

Obtenha a definição correta de Zero Trust aprendendo por que o Zero Trust é um destino, mas o trabalho para alcançar o Zero Trust é uma jornada.

A rede baseada em intenção é uma tecnologia “fracassada”?
Segmentação Zero Trust

A rede baseada em intenção é uma tecnologia “fracassada”?

Saiba como a natureza confiável e escalável do IBN, por sua vez, permite que plataformas como a Illumio ofereçam segurança confiável e escalável na nuvem.

Assume Breach.
Minimize Impact.
Increase Resilience.

Ready to learn more about Zero Trust Segmentation?