要約:

  • CriticGPTは、ChatGPTで作成されたコードを批評し、コード内のバグを指摘するニューラルネットワークベースのAIモデル。
  • 研究者らは、LLMsは自己修正がまだできないと主張し、Generative AIは自分のエラーを検出または修正できないと結論付けている。
  • OpenAIはこの主張に異議を唱え、CriticGPTと呼ばれるGPT-4のバージョンを提供し、モデル全体の精度を向上させるための誤りの検出と修正を支援できると主張。
  • 研究者らは、CriticGPTをプログラミングコードのライティングに設定し、ChatGPTが誤りを犯す場合をキャッシュする第二のニューラルネットとして提案。
  • Nat McAleeseらは、CriticGPTが人間の契約プログラマーのフィードバックを受け、プログラミングコードの生成された批評をレビューし、人間のフィードバックに基づいて批評を磨くようにトレーニング。

感想:

Generative AIの課題に対処するためのCriticGPTの開発は興味深い。人間とAIの協力により、コードのクリーンアップ作業を効果的にサポートできる可能性がある一方、AIの幻覚を完全に排除することは難しいようだ。人間とAIのチームワークによって、実際のコーディング作業を向上させる手法が模索されている点が注目される。


元記事: https://www.zdnet.com/article/openai-proposes-a-second-neural-net-to-catch-chatgpts-code-mistakes/