No se debe confiar en la IA: por qué entender eso puede ser transformador

En medio del bombo que rodea a la IA, cada vez hay más conciencia de que la IA no es tan “inteligente” como se nos ha hecho creer. Devin Coldewey de TechCrunch describe AI como “el matón más ampliamente informado del mundo en lugar de una autoridad en cualquier tema”.

Como CTO, uno de los elementos clave del éxito es ser capaz de entender la tecnología. A mi manera de verlo es que en un momento dado, tienes una tecnología y un conjunto de problemas. Y para esa tecnología dada hay un límite: dentro de ese límite están el conjunto de problemas que resuelve bien, y fuera de ese límite están el conjunto de problemas para los que no funciona.

Ahora mismo con la IA, estamos viendo lo importante que es para los CISO entender la tecnología.

CTOs: Sea intencional para encontrar el verdadero valor de una tecnología

Una función clave que ejecutan los CTO es observar una tecnología y ver claramente la forma y el tamaño de ese límite. Esto no es algo que puedas hacer por tu cuenta; tienes que leer y platicar con gente que te ayude a descubrir y ver ese límite con claridad. Pero esto también viene con desafíos.

Por un lado, tienes a las personas que son educadores. Al igual que tú, hacen todo lo posible para decir lo bueno y lo malo de una tecnología y tratan de arrojar luz sobre partes de ese límite. Por otro lado, tienes a los que están tratando de influir en tu decisión, y ellos solo quieren decirte que la tecnología resuelve muchos más problemas de los que lo hace — o vender la promesa de eso. Incluso si asume una intención positiva, la falta de claridad puede ser perjudicial y llevarlo como líder tecnológico a tomar decisiones incorrectas que podrían tener impactos negativos en el negocio.

Los CTO necesitan buscar y encontrar la verdad, y solo a partir de esa verdad pueden aprovechar la tecnología para el bien del negocio. Sin eso, están condenados, sus resultados solo son una función de suerte, no de habilidad.

Por qué el límite tecnológico de IA es más pequeño de lo que parece

Así que ahora a la inteligencia artificial (IA), o a esta reciente ola generativa de IA. Creo que lo que se está haciendo es realmente asombroso y transformador. Pero veo que estamos siendo influenciados para pensar que el “límite tecnológico” de la IA es mucho más grande de lo que es hoy. Esa expansión incorrecta está nublando nuestro juicio y podría causarle problemas para identificar buenas soluciones para comprar o construir.

Todos hemos visto IA alucinante, y hemos visto el Fotos de Mijourney de las personas con 6 dedos y 50 dientes. Es un poco espeluznante. Quiero decir 5 o 6 dedos, eso es solo un detalle sin importancia ¿verdad? Incluso pasé a preguntarle a ChatGPT quién era el CTO de Illumio —y lo soy desde hace 10 años, así que eso debería estar en su cuerpo de conocimiento— y de acuerdo a ello no soy... hmmm.

Recortando los límites tecnológicos de la IA revela su valor real

Aquí es donde empiezo a encontrarlo emocionante. Tome la perfección y póngalo directamente fuera de los límites tecnológicos de IA. Tome una alta precisión y precisión y póngalos fuera de los límites tecnológicos de IA. Ahora considera qué hay dentro y qué innovaciones pueden enfocarse en problemas en los que solo tienes que tener un 50 por ciento de razón.

Devin Coldewey tuvo una gran cita en su Artículo de TechCrunch que ilustra el mismo punto: “Lo único que importa es que estos sistemas no distingan entre algo que es correcto y algo que miradas correcto. Una vez que entiendes que la IA considera estas cosas más o menos intercambiables, todo tiene mucho más sentido”.

¿Cuáles son algunas de esas cosas? Yo sí creo que el arte generativo es un lugar que tiene mucho potencial para la IA. El arte es subjetivo. Lo que le habla a una persona no le habla a otra. Y hay muchas veces que “lo suficientemente bueno” es suficiente para tu necesidad, ya que podría haber cientos de imágenes realmente buenas que podrían mostrarse en tu presentación para comunicar tu punto.

Otro gran ejemplo es el problema que todos parece tener mirando una hoja de papel en blanco. Cuando me siento a escribir una entrada de blog (incluyendo esta), es un obstáculo para ponerme en marcha. La IA generativa podría escribir un primer borrador, y podríamos llamarlo el borrador cero. Incluso si no tomara nada de lo que creó la IA o si sirviera como catalizador para comenzar, aún sería valioso.

Esos son solo dos ejemplos de casos en los que solo tener un 50 por ciento de razón proporciona valor. Estoy seguro que hay muchos más, y estoy en busca de este tipo de casos que están dentro del verdadero “límite tecnológico” de IA en mi propia exploración tecnológica.

Conozca los verdaderos límites de la tecnología

Considere asegurarse de comprender el verdadero “límite tecnológico” mientras persigue sus esfuerzos creativos e innovadores; hoy hay un punto ideal para encontrar.

Me encantaría saber de aquellos que están de acuerdo (o en desacuerdo) sobre las ideas del límite tecnológico de IA. Comparte tu opinión con @illumio en LinkedIn o Twitter.