No se debe confiar en la IA: por qué entenderla puede ser transformador

En medio de la exageración que rodea a la IA, existe una creciente comprensión de que la IA no es tan "inteligente" como nos hicieron creer. Devin Coldewey de TechCrunch describe la IA como "el tonto más informado del mundo en lugar de una autoridad en cualquier tema".

Como CTO, uno de los elementos clave del éxito es poder comprender la tecnología. La forma en que lo veo es que en un momento dado, tienes una tecnología y un conjunto de problemas. Y para esa tecnología dada hay un límite: dentro de ese límite están el conjunto de problemas que resuelve bien, y fuera de ese límite están el conjunto de problemas para los que no funciona.

En este momento, con la IA, estamos viendo lo importante que es para los CISO comprender la tecnología.

CTO: Sea intencional para encontrar el verdadero valor de una tecnología

Una función clave que ejecutan los CTO es mirar una tecnología y ver claramente la forma y el tamaño de ese límite. Esto no es algo que puedas hacer por tu cuenta; Tienes que leer y hablar con personas que te ayuden a descubrir y ver ese límite con claridad. Pero esto también conlleva desafíos.  

Por un lado, tienes a las personas que son educadoras. Al igual que usted, hacen todo lo posible para decir lo bueno y lo malo de una tecnología y tratan de arrojar luz sobre partes de ese límite. Por otro lado, tienes a aquellos que están tratando de influir en tu decisión, y solo quieren decirte que la tecnología resuelve muchos más problemas de lo que lo hace, o vender la promesa de eso. Incluso si asume una intención positiva, la falta de claridad puede ser perjudicial y llevarlo como líder tecnológico a tomar decisiones incorrectas que podrían tener impactos comerciales negativos.  

Los CTO necesitan buscar y encontrar la verdad, y solo a partir de esa verdad pueden aprovechar la tecnología para el bien del negocio. Sin eso, están condenados, sus resultados son solo una función de la suerte, no de la habilidad.

Por qué el límite de la tecnología de IA es más pequeño de lo que parece

Así que ahora a la inteligencia artificial (IA), o esta reciente ola de IA generativa. Creo que lo que se está haciendo es realmente asombroso y transformador. Pero veo que estamos siendo influenciados para pensar que el "límite tecnológico" de la IA es mucho más grande de lo que es hoy. Esa expansión incorrecta está nublando nuestro juicio y podría causarle problemas para identificar buenas soluciones para comprar o construir.

Todos vimos a la IA alucinando, y vimos las fotos de Mijourney de las personas con 6 dedos y 50 dientes. Es un poco espeluznante. Me refiero a 5 o 6 dedos, eso es solo un detalle sin importancia, ¿verdad? Incluso le pregunté a ChatGPT quién era el CTO de Illumio -y lo fui durante 10 años, así que eso debería estar en su cuerpo de conocimiento- y según él no lo soy... hmmm.

Recortar el límite tecnológico de la IA revela su valor real

Aquí es donde empiezo a encontrarlo emocionante. Tome la perfección y colóquela directamente fuera de los límites de la tecnología de IA. Tome alta precisión y precisión y colóquelos fuera de los límites de la tecnología de IA. Ahora considere lo que hay dentro y qué innovaciones pueden enfocar en problemas en los que solo tiene que tener un 50 por ciento de razón.  

Devin Coldewey tenía una gran cita en su artículo de TechCrunch que ilustra el mismo punto: "Todo lo que importa es que estos sistemas no distinguen entre algo que es correcto y algo que parece correcto. Una vez que entiendes que la IA considera que estas cosas son más o menos intercambiables, todo tiene mucho más sentido".  

¿Cuáles son algunas de esas cosas? Creo que el arte generativo es un lugar que tiene mucho potencial para la IA. El arte es subjetivo. Lo que le habla a una persona no le habla a otra. Y hay muchas veces que "lo suficientemente bueno" es suficiente para su necesidad, ya que podría haber cientos de imágenes realmente buenas que podrían mostrar en su presentación para comunicar su punto.  

Otro gran ejemplo es el problema que todos parecemos tener al mirar una hoja de papel en blanco. Cuando me siento a escribir una entrada de blog (incluida esta), es un obstáculo para ponerme en marcha. La IA generativa podría escribir un primer borrador, y podríamos llamarlo el borrador cero. Incluso si no tomara nada de lo que creó la IA o si sirviera como catalizador para comenzar, aún sería valioso.

Esos son solo dos ejemplos de casos en los que solo tener un 50 por ciento de razón proporciona valor. Estoy seguro de que hay muchos más, y estoy en busca de este tipo de casos que están dentro del verdadero "límite tecnológico" de la IA en mi propia exploración tecnológica.  

Conozca los verdaderos límites de la tecnología

Considere cerciorar de comprender el verdadero "límite tecnológico" mientras persigue sus esfuerzos creativos e innovadores: hay un punto óptimo para encontrar hoy.  

Me encantaría escuchar a aquellos que están de acuerdo (o en desacuerdo) con las ideas del límite tecnológico de la IA. Comparta sus pensamientos con @illumio en LinkedIn o Twitter.