AI를 신뢰할 수 없는 이유: AI를 이해하는 것이 혁신적일 수 있는 이유

공동 설립자 겸 고문

April 24, 2023

23 최소 읽기

AI를 둘러싼 과대 광고 속에서 AI는 우리가 생각하는 것만큼 “스마트”하지 않다는 인식이 커지고 있습니다.테크크런치의 데빈 콜드웨이 AI에 대해 설명합니다. “어떤 주제에 대한 권위자라기보다는 세계에서 가장 종합적인 정보를 가진 헛소리꾼”으로서 말이죠.

CTO로서 성공의 핵심 요소 중 하나는 기술을 이해하는 것입니다.제가 보기에는 특정 시점에는 기술이 있고 문제가 많다는 것입니다.주어진 기술에는 경계가 있습니다. 그 경계 안에는 잘 해결되는 문제들이 있고, 그 경계 밖에는 효과가 없는 문제들이 있습니다.

지금은 AI를 통해 CISO가 기술을 이해하는 것이 얼마나 중요한지 알 수 있습니다.

CTO: 의도적으로 기술의 진정한 가치를 찾아내세요

CTO가 실행하는 주요 기능은 기술을 살펴보고 해당 경계의 모양과 크기를 명확하게 파악하는 것입니다.이것은 혼자서 할 수 있는 일이 아닙니다. 경계를 분명하게 발견하고 이해하도록 도와줄 사람들을 읽고 이야기를 나눠야 합니다.하지만 여기에는 어려움도 따른다.

한편으로는 교육자인 사람들이 있습니다.여러분과 마찬가지로 그들도 기술의 장점과 단점을 말하기 위해 최선을 다하고 그 경계의 일부를 밝히려고 노력합니다.반면에 여러분의 의사 결정에 영향을 미치려는 사람들도 있습니다. 그들은 단지 기술이 해결해 주는 문제보다 훨씬 더 많은 문제를 해결한다고 말하거나 그 약속을 팔고 싶어하죠.긍정적인 의도를 가지고 있더라도 명확성이 결여되면 손해를 볼 수 있고 기술 리더로서 잘못된 결정을 내리게 되어 비즈니스에 부정적인 영향을 미칠 수 있습니다.

CTO는 진실을 찾고 찾아야 하며, 그 진실을 통해서만 기술을 비즈니스에 활용할 수 있습니다.그렇지 않으면 그들은 멸망할 것입니다. 결과는 기술이 아니라 운의 결과일 뿐입니다.

AI 기술 경계가 생각보다 작은 이유

이제 인공 지능 (AI), 또는 최근의 제너레이티브 AI 물결로 넘어가겠습니다.저는 지금 일어나고 있는 일들이 정말 놀랍고 혁신적이라고 생각합니다.하지만 인공지능의 “기술 경계”가 오늘날보다 훨씬 더 크다는 생각에 영향을 받고 있는 것 같아요.이러한 잘못된 확장은 우리의 판단력을 흐리게 하고, 구매하거나 구축할 좋은 솔루션을 찾는 데 어려움을 초래할 수 있습니다.

우리는 모두 AI를 보았습니다. 환각, 그리고 우리는 미저니 사진 손가락이 6개이고 이빨이 50개인 사람들이죠.좀 소름끼치네요.손가락 5~6개 말인데요, 그건 별로 중요하지 않은 디테일이죠?우연히 ChatGPT에 Illumio의 CTO가 누구냐고 물어본 적도 있습니다. 저는 10년 동안 일루미오의 CTO를 맡았기 때문에 CTO에 대한 지식에 포함되어야 합니다. 그리고 그 말에 따르면 저는... 흠.

AI의 기술 경계를 줄이면 AI의 진정한 가치가 드러납니다.

여기서부터 흥미진진해지기 시작합니다.완벽을 추구해서 AI 기술의 경계를 완전히 벗어나세요.높은 정확성과 정밀도를 바탕으로 AI 기술의 경계를 벗어나세요.이제 내면에 무엇이 있는지, 그리고 50% 만 맞아도 되는 문제에 어떤 혁신이 초점을 맞출 수 있는지 생각해 보세요.

데빈 콜드웨이 그의 글에 훌륭한 인용문이 있었습니다. 테크크런치 기사 동일한 점을 설명해 줍니다. “중요한 것은 이러한 시스템이 무언가를 구별하지 못한다는 것입니다. 입니다 옳고 그만한 것 보인다 올바른.AI가 이러한 것들을 어느 정도 상호 교환 가능한 것으로 간주한다는 것을 이해하면 모든 것이 훨씬 더 이해가 됩니다.”

그런 것들에는 어떤 것들이 있을까요?제너레이티브 아트는 AI의 잠재력이 큰 분야라고 생각해요.예술은 주관적입니다.한 사람에게 말하는 것이 다른 사람에게는 그렇지 않습니다.프레젠테이션에는 요점을 전달하기 위해 수백 개의 정말 좋은 이미지를 보여줄 수 있기 때문에 “충분히 좋은” 것으로도 충분할 때가 많습니다.

또 다른 좋은 예는 우리 모두가 빈 종이를 쳐다볼 때 겪는 문제일 것입니다.제가 앉아서 블로그 글 (이 글도 포함) 을 쓸 때는 시작하기가 정말 어려워요.제너레이티브 AI는 첫 번째 초안을 작성할 수 있는데, 우리는 이를 제9차 초안이라고 부를 수 있습니다.AI가 만든 것에서 아무것도 가져오지 않았거나 AI가 시작하는 데 촉매제 역할을 했더라도 여전히 가치가 있을 것입니다.

이러한 사례들은 단지 50% 만 옳은 것만으로도 가치를 얻을 수 있는 두 가지 사례에 불과합니다.물론 더 많은 것들이 있을 거라 확신합니다. 그리고 저는 제 기술 탐구에서 진정한 AI “기술 경계” 안에 있는 이런 종류의 사례를 찾고 있습니다.