A IA não deve ser confiável: por que entender isso pode ser transformador

Em meio ao entusiasmo em torno da IA, há uma crescente percepção de que a IA não é tão “inteligente” quanto pensamos. Devin Coldewey do TechCrunch descreve a IA como “a mentirosa mais bem informada do mundo, em vez de uma autoridade em qualquer assunto”.

Como CTO, um dos principais elementos do sucesso é ser capaz de entender a tecnologia. A meu ver, em um determinado momento, você tem uma tecnologia e um conjunto de problemas. E para essa tecnologia existe um limite: dentro desse limite está o conjunto de problemas que ela resolve bem, e fora desse limite está o conjunto de problemas para os quais ela não funciona.

No momento, com a IA, estamos vendo o quanto é importante que os CISOS entendam a tecnologia.

CTOs: Seja intencional ao encontrar o verdadeiro valor de uma tecnologia

Uma função fundamental que os CTOs executam é observar uma tecnologia e ver claramente a forma e o tamanho desse limite. Isso não é algo que você possa fazer sozinho; você precisa ler e conversar com pessoas que o ajudem a descobrir e ver esse limite com clareza. Mas isso também traz desafios.

Por um lado, você tem as pessoas que são educadoras. Como você, eles fazem o possível para dizer o que há de bom e ruim em uma tecnologia e tentam esclarecer partes desse limite. Por outro lado, você tem aqueles que estão tentando influenciar sua decisão e eles só querem dizer que a tecnologia resolve muito mais problemas do que resolve — ou vender a promessa disso. Mesmo que você assuma uma intenção positiva, a falta de clareza pode ser prejudicial e levar você, como líder em tecnologia, a tomar decisões incorretas que podem ter impactos negativos nos negócios.

Os CTOs precisam buscar e encontrar a verdade, e somente com base nessa verdade eles podem aproveitar a tecnologia para o bem dos negócios. Sem isso, eles estão condenados, seus resultados são apenas uma função da sorte, não da habilidade.

Por que o limite da tecnologia de IA é menor do que parece

Agora, vamos à inteligência artificial (IA), ou essa recente onda de IA generativa. Acho que o que está sendo feito é realmente incrível e transformador. Mas vejo que estamos sendo influenciados a pensar que o “limite tecnológico” da IA é muito maior do que é hoje. Essa expansão incorreta está obscurecendo nosso julgamento e pode causar problemas na identificação de boas soluções para comprar ou construir.

Todos nós já vimos a IA alucinante, e vimos o Imagens do Mijourney das pessoas com 6 dedos e 50 dentes. É meio assustador. Quero dizer, 5 ou 6 dedos, isso é apenas um detalhe sem importância, certo? Eu até perguntei ao ChatGPT quem era o CTO da Illumio — e eu sou há 10 anos, então isso deveria estar em seu corpo de conhecimento — e, de acordo com ele, eu não sou... hmmm.

Reduzir os limites tecnológicos da IA revela seu valor real

É aqui que começo a achar isso empolgante. Pegue a perfeição e coloque-a diretamente fora dos limites da tecnologia de IA. Pegue alta exatidão e precisão e coloque-as fora dos limites da tecnologia de IA. Agora, considere o que está dentro e quais inovações podem se concentrar em problemas em que você só precisa estar 50% certo.

Devin Coldewey tinha uma ótima citação em seu Artigo do TechCrunch que ilustra o mesmo ponto: “Tudo o que importa é que esses sistemas não fazem distinção entre algo que é correto e algo que parece correto. Quando você entende que a IA considera essas coisas mais ou menos intercambiáveis, tudo faz muito mais sentido.”

Quais são algumas dessas coisas? Eu acho que a arte generativa é um lugar que tem muito potencial para a IA. A arte é subjetiva. O que fala com uma pessoa não fala com outra. E muitas vezes “bom o suficiente” é suficiente para sua necessidade, pois pode haver centenas de imagens muito boas que podem ser mostradas em sua apresentação para comunicar seu ponto de vista.

Outro ótimo exemplo é o problema que todos nós parecemos ter ao encarar uma folha de papel em branco. Quando me sento para escrever uma entrada de blog (incluindo esta), é um obstáculo começar. A IA generativa poderia escrever um primeiro rascunho, e poderíamos chamá-lo de rascunho zero. Mesmo que você não tenha tirado nada do que a IA criou ou se ela servisse como um catalisador para começar, ela ainda seria valiosa.

Esses são apenas dois exemplos de casos em que apenas estar 50% certo agrega valor. Tenho certeza de que existem muitos outros, e estou procurando esses tipos de casos que estão dentro da verdadeira “fronteira tecnológica” da IA em minha própria exploração tecnológica.

Conheça os verdadeiros limites da tecnologia

Certifique-se de entender o verdadeiro “limite tecnológico” ao perseguir seus esforços criativos e inovadores — há um ponto ideal para encontrar hoje.

Eu adoraria ouvir aqueles que concordam (ou discordam) sobre as ideias sobre os limites da tecnologia de IA. Compartilhe suas ideias com @illumio em LinkedIn ou Twitter.