• GitHubとアクセンチュアの開発者を対象にした研究によると、Copilotの使用によりコーディング速度が55%向上し、より充実したものとなったが、別の開発者の投稿では生産性の向上は見られなかった。
  • アクセンチュアの開発者を二つのグループに分け、一方にはCopilotへのアクセスを許可し、もう一方には許可しない形で試験を実施し、その差を分析した。
  • Copilotを使用したグループは、プルリクエストを8.69%多く提出し、マージ率も15%高かった。成功したビルドは84%増加した。
  • 開発者の約30%がCopilotの提案を採用し、90%が提案を含むコードをコミットした。また、95%の開発者がCopilot使用時のコーディングをより楽しんだと回答。
  • ロンドンの開発者Yuxuan ShuiはCopilotを使用しているが、彼のプロジェクトの特性上、Copilotで大規模なコードベースの理解を助けることは難しいと指摘。
  • ShuiはCopilotが繰り返し作業には有用だが、提案の一貫性がなく、また反応速度が遅いと感じている。
  • Hacker Newsでの議論では、Copilotによるコードに極めて微妙な間違いが含まれているとの指摘もあり、意見が分かれている。
  • Copilot(および他のAIコーディングアシスタント)は有用かもしれないが、市場に出されているほど普遍的ではなく、開発者はそれをどのように価値を得るかを学ぶ必要がある。

要約:

この記事は、GitHubとアクセンチュアの研究を基に、Copilotが開発者の生産性に与える影響について報告しています。結果はプラスの面もあれば、限界や課題も指摘されています。特に、コードの一貫性の問題や反応速度の遅さなど、改善が必要な部分も見られます。一方で、繰り返し作業に対する助けとしては評価されていますが、複雑なタスクに対してはその効果が限定的であるとの声もあります。


元記事: https://devclass.com/2024/05/14/github-research-reports-high-copilot-satisfaction-from-enterprise-devs-but-others-doubt-productivity-gains/