- Textgrainは、24の公用語でオンラインでのヘイトスピーチを検出できるAIモデルを構築中
- 2016年に設立され、アントワープ大学のスピンオフ企業である
- AIベースのデータ管理と分析ツールを開発し、テキスト分析からソーシャルメディアプラットフォームやウェブサイト上のオンライン感情を測定するサービスを提供
- Textgrainは、EUのLarge AI Grand Challengeの受賞者の1つであり、2,500,000ユーロと200万時間の開発時間を獲得
- Textgrainは、独自の多言語LLMを構築し、ヘイトスピーチ検出に特化する予定であり、有毒な言語を認識できるが生成することはできない
Textgrainは、オンラインのヘイトスピーチがEU全体および世界中で増加している状況に対処するため、LLM技術を活用した最近の科学的取り組みに参加している。CEOのGuy De Pauw氏は、商用の大規模言語モデルは有害な言語を処理しないため、ヘイトスピーチを処理するのがほぼ不可能であると述べている。Textgrainは独自のLLMを構築し、主要プレーヤーであるOpenAIやMetaと同様に、市場で差別化を図っている。さらに、学術的アプローチと政策立案者、社会団体との連携も特徴的である。EUのDigital Services Act(DSA)が2月に施行されたことで、オンラインプラットフォームはヘイトスピーチを含む有害コンテンツを緩和する措置を取らなければならない。2025年にLLMを発表した後、Textgrainは国際展開を計画しており、さらなるSaaSアプリケーションの開発に焦点を当てる予定である。
元記事: https://thenextweb.com/news/belgian-startup-llm-detects-hate-speech-eu-languages