- NetflixのEVCacheシステムは、22,000台のサーバーで400M ops/secondを処理し、14.3 PBのデータを管理しており、バッチ圧縮の実装やDNSベースの検出への切り替えにより効率が最適化され、帯域使用量が削減されて運用コストが大幅に低減されている。
- Roland MeertensとAnthony Alfordは、HyperLogLogアルゴリズムに焦点を当てた確率的カウンティングの概念を紹介し、ユニークなアイテムの数を推定するために使用できるアルゴリズムについて議論している。
- OpenAIは、Realtime APIのパブリックベータ版をリリースし、低遅延な音声対話を可能にし、チャット補完APIではオーディオ入出力が使用可能になっている。早期フィードバックでは、音声オプションが限定されており、応答が途切れるという点が指摘されている。
- Realtime APIは、6つの事前設定ボイスを使用してリアルタイムで自然な音声対話を実現し、音声認識と合成を単一のAPI呼び出しに組み合わせている。
技術記事の内容から、NetflixのEVCacheシステムやOpenAIのRealtime APIについて興味深い情報が得られます。Netflixのシステムでは、効率性とコスト削減のために様々な最適化が行われており、OpenAIのRealtime APIは音声対話アプリケーションの開発をよりスムーズにする新しい機能を提供しています。
元記事: https://www.infoq.com/news/2024/10/realtime-api-openai/