AI は信頼されるべきではない：AIを理解することが変革をもたらす理由

、

共同創設者兼顧問

April 24, 2023

23 最小読取り

AIをめぐる誇大宣伝の中で、AIは私たちが信じ込まされてきたほど「スマート」ではないという認識が高まっています。TechCrunchのデヴィン・コールドウェイ AI について説明します「どんなテーマの権威というよりは、世界で最も包括的な知識を持ったでたらめ」と言っています。

CTO として成功するための重要な要素の 1 つは、テクノロジーを理解できることです。私の考えでは、ある時点でテクノロジーと一連の問題が発生しているということです。そして、その特定のテクノロジーには境界があります。その境界の内側には、そのテクノロジーがうまく解決できる一連の問題があり、境界の外側にはそのテクノロジーがうまく対処できない一連の問題があります。

現在、AIに関しては、CISOがテクノロジーを理解することがいかに重要かがわかってきました。

CTO: テクノロジーの真の価値を意図的に見つけよう

CTOが行う重要な役割は、テクノロジーを見て、その境界の形状と大きさを明確に把握することです。これは自分でできることではありません。境界を発見して明確に理解できるように助けてくれる人に本を読み、話しかける必要があります。しかし、これには課題も伴います。

一方には、教育者である人々がいます。あなたと同じように、彼らはテクノロジーの良い点と悪い点を最善を尽くして言い、その境界の一部に光を当てようとします。一方、あなたの意思決定に影響を与えようとしている人がいて、彼らは単にテクノロジーが解決する問題の方が実際よりもはるかに多いことを伝えたい、あるいはその可能性を売り込みたいだけなのです。たとえポジティブな意図を想定していても、明確性の欠如は損害をもたらし、テクノロジーリーダーであるあなたが、ビジネスにマイナスの影響を与える可能性のある誤った決定をしてしまう可能性があります。

CTO は真実を求め、見つける必要があります。そして、その真実から初めて、ビジネスの利益のためにテクノロジーを活用できます。それがなければ、彼らの運命は破滅し、彼らの結果は単なる運のせいであって、スキルによるものではありません。

AI技術の境界が見かけよりも小さい理由

それでは、人工知能（AI）、つまり最近のジェネレーティブAIの波についてです。今行われていることは本当に素晴らしく、変革をもたらすものだと思います。しかし、AIの「技術の境界」は今日よりもずっと大きいと考えるようになっています。こうした不適切な拡大は、当社の判断を曇らせ、購入または構築すべき優れたソリューションを見つける際に問題が発生する可能性があります。

私たちは皆 AI を見たことがある幻覚そして、私たちは見てきましたマイジャーニーの写真指が6本で歯が50本ある人のことですちょっと不気味だね指が5本か6本か、それは重要ではないディテールですよね？たまたまChatGPTにIllumioのCTOは誰なのか聞いてみたこともあります——そして私は10年間IllumioのCTOだったので、それはIllumioの知識体系にあるはずです—それによると、私は... うーん。

AIの技術境界を縮小することで、その真の価値が明らかになる

ここからがわくわくし始めるところです。完璧を目指して、AI テクノロジーの境界から完全に外れましょう。高い精度と精度を AI 技術の境界の外に置きましょう。ここで、50% 正解さえあれば問題に何が入っているのか、どのようなイノベーションが問題に集中できるのかを考えてみましょう。

デヴィン・コールドウェイ彼には素晴らしい引用がありましたテッククランチの記事これは同じ点を示しています。「重要なのは、これらのシステムが次のようなものを区別しないということだけですです正解で何か 見える 正しい。AI がこれらのことを多かれ少なかれ互換性があると考えていることを理解すれば、すべてがはるかに理にかなったものになります。」

それらの中にはどのようなものがありますか?ジェネレーティブ・アートは人工知能にとって大きな可能性を秘めている場所だと思います。アートは主観的です。ある人に話しかけるものは、別の人には話さない。また、「十分良い」だけで十分な場合もあります。なぜなら、あなたの主張を伝えるために、プレゼンテーションに何百もの本当に良い画像が表示される可能性があるからです。

もう1つの良い例は、私たち全員が白紙を見つめているときに抱えているように見える問題です。私が座ってブログ記事（この記事を含む）を書くとき、それは始めるのにハードルです。ジェネレーティブAIは最初の草稿を書くこともできますし、それをゼロ番目の草稿と呼ぶこともできます。AI が作成したものから何も取り出さなかったり、それがきっかけになったとしても、それでも価値があるでしょう。

これらは、50% 正しいだけで価値が得られるケースのほんの 2 つの例にすぎません。他にもたくさんあると思いますが、私自身のテクノロジー探求の中で、本当の AI の「技術の境界」の内側にあるこの種のケースを探しています。