• 清華大学のAI研究チームとZhipu AIの同僚が開発した大規模言語モデル(LLM)「LongWriter」が10,000語のテキストを生成可能と主張
  • LLMは通常は短い文書に訓練されているため、2000語程度が限界とされていたが、長い文書で訓練することで長いテキストを生成可能と判明
  • 研究者は、LLMが研究論文や書籍、原稿、映画の脚本まで生成できる可能性があるため、倫理的考慮が必要であると認識

この記事では、清華大学のAI研究チームとZhipu AIの同僚がLongWriterという大規模言語モデルを開発し、最大10,000語のテキストを生成できると主張しています。LLMは通常短い文書に訓練されているため、2,000語程度が限界と考えられていましたが、長い文書で訓練することで長いテキストを生成できることが判明しました。研究者たちは、LLMが研究論文、書籍、原稿、そして映画の脚本まで生成できる可能性があることから、倫理的考慮が必要であると認識しています。

元記事: https://www.infodocket.com/2024/08/16/report-ai-researchers-introduce-an-llm-capable-of-generating-text-outputs-of-up-to-10000-words/