データ管理とデータサイエンスの文化や言語が異なる理由について、前述の背景から説明が難しいと感じている。

Quantや金融工学などの分野は、データ管理と同様に、現代のデータサイエンスよりも数十年前から存在していた。

Quantは元々のデータサイエンティストであり、DeepSeekの登場など、Quantsは現代のAIエンジニアとしても優れた経歴を持っている。

これにより、Quant、データ管理、データ解析の3つの異なるが相互関連する世界が結びついている。

過去のデータ管理、Quant、解析チームの歴史を説明するためのタイムラインを作成し、数学者や統計学者がデータを整理し、Quantや金融工学に採用されたテーブルの歴史を示す。

2008年以降、Pythonのpandasライブラリが導入され、表形式の利便性が数値計算ライブラリと統合され、データサイエンスが本格化した。

データサイエンスは2010年代にPandasによって統一され、AIを支える新しい技術が登場している。

行列やベクトルはAIのエンジンとして引き続き機能するが、グラフ技術の発展により、表形式の利便性とグラフの関係性が融合している。

Parquet、Arrow、Iceberg形式の導入により、テーブルは今後も存続するだろう。

FinTech業界ではAIの推進と管理において多くの成果がある。

(著者:Steve Wilcockson、Souvik Chakraborty、Rolands Selakovs、Sergei Grechkin)

元記事: https://www.finextra.com/blogposting/27861/the-data-structures-that-drive-quant-and-ai