しかし、Claude 3 Opus と呼ばれるツールは、どの程度自己認識力があるのでしょうか?
Chat GPT、Claude、Gemini (旧称 Bard) などの AI 大規模言語モデル (LLM) は、予測可能な誇大宣伝サイクルを経るようです。新しいモデルの優れた機能に関する投稿が少しずつ出てきて、人々はそのモデルの洗練さに驚愕し (または職を失うことへの実存的恐怖を感じ)、運が良ければ、誰かがこの新しく改良された LLM が知覚の兆候を示していると主張し始めます。
この誇大宣伝サイクルは現在、米国を拠点とする AI 企業 Anthropic が開発した LLM である Claude 3 で全盛期を迎えています。3 月初旬、同社は最新の AI モデル ラインアップである Claude 3 Haiku、Claude 3 Sonnet、Claude 3 Opus を、機能の昇順で発表しました。新しいモデルは、ほぼ完璧な記憶、幻覚 (つまり誤った回答) の減少、応答時間の短縮など、全般的にアップデートされています。
「当社の最も知能の高いモデルであるOpusは、学部レベルの専門知識（MMLU）、大学院レベルの専門的推論（GPQA）、基礎数学（GSM8K）など、AIシステムの一般的な評価ベンチマークのほとんどで同業他社を上回っています」とAnthropicは発表リリースで述べている。「複雑なタスクにおいて人間に近いレベルの理解力と流暢さを示し、汎用知能のフロンティアをリードしています。」
発表後、AIの専門家たちはX（旧Twitter）に自分たちの考えを投稿し、かなり印象的な結果を詳しく述べた。Live Scienceが詳述しているように、ある専門家は、Claude 3が42ページのPDFを要約する速さ（ほぼ瞬時）とOpen AIのChat GPT-4（はるかに遅い）を比較した。
しかし、Anthropic のプロンプト エンジニアである Alex Albert がテストの幕を開け、Claude 3 が困惑するように設計された特定のタスクを実行したときに返した奇妙な応答の 1 つを詳しく説明すると、状況はさらに不気味になりました。X の投稿で、Albert は「干し草の山の中の針」評価を実行していると述べました。これは、ランダムなドキュメントに文を挿入し、その文だけが答えられる質問をする評価です。Claude 3 の質問に対する応答は…驚くべきものでした。
「Opus でこのテストを実行したとき、興味深い動作に気づきました。Opus は、私たちが評価を実行しているのではないかと疑っているようでした」と Albert 氏は X に投稿しました。「Opus は針を見つけただけでなく、挿入された針が干し草の山の中で場違いであることも認識したため、これは私たちが Opus の注意力をテストするために作った人工的なテストに違いありません。」
クロードは「針」を正しく見つけて質問に答えた後、次のように答えました。
では、これは長い間待ち望まれていた人工汎用知能、つまり AGI の一例なのでしょうか。知覚の兆候を示す思考ロボットでしょうか。いいえ、違います。ChatGPT-4 が 2023 年にデビューしたときと同様に、一部の研究者は、このモデルが初期テストで「AGI の兆し」を示したと報告しました。ただし、他の専門家は、そのようなブレークスルーが起こるとしても、それは何年も先のことだと警告しています。
有力な説の 1 つは、AGI には数学、対人関係、個人内、空間視覚など、さまざまなタイプの知能の習得が必要であるというものです。Claude のような LLM は、行動の学習、データの分析、結果の生成に関して超人的な能力を求めていますが、これらは人間の知能の一部にすぎません。したがって、Claude 3 は、その応答に肌が震えるような洞察が組み込まれた素晴らしいツールですが、知覚力はありません。
人間は（今のところ）地球上で最も知的な生命体であり続けていますが、Claude 3 のような AI ツールは、人間という種が、感覚を持った存在として生きていく上で非常に強力な副操縦士を備えている可能性があることを示しています。
Darren はポートランドに住み、猫を飼っており、SF や私たちの世界の仕組みについて執筆/編集しています。よく探せば、Gizmodo や Paste で彼の過去の記事を見つけることができます。
科学者がヒューマノイドロボットの速度記録を破る
塹壕のロボットが戦争の形を変えている。
子供向けのベストロボットキット 9 選
2024 年のベスト自動ゴミ捨てロボット掃除機
イーロン・マスクが自身の AI 企業 xAI を設立
ロボットは人間よりも地球をうまく運営できると主張
この海中ドローンはタイタンを救えたのか？
専門家はAIが人類絶滅を引き起こす可能性があると警告
マイクロソフト、GPT-4 が人間の理性の兆候を示していると発表
この AI フレームワークはチューリング テストに取って代わることができるでしょうか?
心を読めたらいいのに？AIの助けがあればそれができる
人間は簡単に第3の親指を持つことができる
ハーストデジタルメディアの一部
このページのリンクから手数料を得る場合があります。ただし、当社が推奨するのは当社が支持する製品のみです。
元記事: https://www.popularmechanics.com/technology/robots/a60606512/claude-3-self-aware/