昨年秋、アトランティック誌は、Meta の大規模言語モデル AI LLaMA が英語学習のために秘密裏に無断で 17 万冊の書籍から情報を削除していたことを暴露した。これは考えてみると途方もない数だ。あれだけの単語が！著者の考え、経験、想像力、魂を表す言葉が、金銭面など著者の幸福を一切気にすることなく取り込まれた。すべては、AI が、話しかけられた私たちがまるで生身の人間と対話しているように感じるような話し方を学習するためだ。もちろん、生身の人間と実際に対話する必要はありません。AI がユーザーに運転ルートやプレス リリース、学期末レポートの執筆支援、または芸術作品の複製をより適切に提供できるように、これほど多くの芸術作品が略奪され、方向転換された。偽の芸術作品を作るための芸術だ。
アトランティックの記事には検索エンジンが付いていて、著者名を入力すると、削除された作品のデータベースにその著者の作品がいくつ存在するかを確認できました。ほぼ即座に、私が知っている作家やソーシャルメディアでフォローしている作家の多くが、自分自身を検索し始めました。作品全体が削除された人もいれば、1つか2つの作品だけが削除された人もいました。彼らの多くはソーシャルメディアを利用して、結果に対する怒りを表明しました（その怒りには、微妙ながらも明らかに誇りが混じっていたと言わざるを得ません。彼らはAIにふさわしいのです！AIが彼らの生活を奪いに来ようとも）。興味が湧いたので、自分で検索してみました。2018年に出版した、40歳で独身で子供がいない私の回想録は、ニューヨークタイムズのベストセラーリストには入りませんでしたが、売れ行きは良く、5年経った今でも健全な売上で印刷され続けています。今でも読者からそのことについて定期的に聞き、さまざまなリストにまだ登場しています。
私はこの無結果の投稿をわざわざしなかった。しかし数日後、また好奇心から、私が知っている他の作家を何人か検索した。ニューヨークタイムズのベストセラーを書いた黒人女性。女性の友情に関する本。回想録。黒人の歴史。それらはそこになかった。ニューヨークタイムズのハードカバーノンフィクションベストセラーリストで初登場1位となったエリオット・ペイジの回想録もなかった。劇作家のジェレミー・O・ハリスも、2021年に記録的な12のトニー賞ノミネートを獲得したにもかかわらず、欠落していた。
私が回想録を書いた理由の 1 つは、ある年齢に達し、自分の人生を何らかの形で反映しているような物語が存在しないことに気づいたことです。文化的なブラックホールに放り込まれたように感じました。この本は、私の行為の記録というよりは、存在の証拠でした。本が売れる前に、私は同様のテーマでエッセイを書いていて、それが話題になりました。つまり、私が孤立していると感じたのは、人生で孤独を感じた経験に基づくものではなく、多くの人が私と同じような生活を送っているのを見て (その数字は、現在、歴史上かつてないほど多くの未婚女性がいるという研究結果によって裏付けられています)、それらの生活が物語に正確に反映されたことがないのを見たときの苛立ちに基づくものでした。私は、それまでほとんどなかったその経験に命を吹き込むために、何らかの言葉を提供したかったのです。
LLaMA リストに自分の本が載っていないのは、ある種、再び消されたような気分だった。私は自分を売り込み、語り、耳を傾けてもらった。そして今、再び姿を消したのだ。奇妙なジレンマだった。一方では、私はデジタルの口に無断で、無報酬で送り込まれなかった。他方では、私がそのリストに載っていないことは、私たち人間の過ちの小さな例の 1 つであり、AI が強化するように訓練している例でもある。
それは並外れた規模で強化されるだろう。よく引用される推定では、今後数年でインターネットの 90 パーセントが人工的に生成される可能性がある。この記事を書いている今、私たちは、今後何年、あるいは何世紀にもわたって世界がどのように機能するかの基盤を再構築しているところだ。私たちが使用している素材、アルゴリズム、データベースによって、未来の真実の源、つまり過去を理解するための未来のガイドブックとなるものが決まるだろう。
これを考慮するときに問うべき重要な質問は、誰が真実を語ることができるのか、誰が物語に値するとみなされるのか、誰の言葉、考え、経験が私たちを導き、誰が取り残されるのか、この世界は誰のために作られているのか、などです。
誰が真実を語ることができるのでしょうか？誰が物語る価値があるとみなされるのでしょうか？
LLaMA の文化の大規模な吸収から特定の声が取り残されたことは、必ずしも驚くべきことではない。AI のトレーニング モデルの限界は十分に文書化されている。たとえば、AI は特に黒人女性を認識するのが難しく、頻繁に男性として分類している。最近のブルームバーグの調査では、より高給の仕事のために AI が自動生成した画像には「肌の色が薄い人物が多数」含まれていることが判明した。言語モデルのソースで現在繰り返されているように見えるこれらのバイアスの問題は、シリコンバレー自体の根深い問題、つまりスタートアップの世界を長らく悩ませてきた問題、つまり白人男性が多数を占めていることを直接物語っている。
実際、LLaMA の書籍データベースを詳しく調べたところ、それは、デートの後にあなたを自分のアパートに招き入れ、自分の趣味であなたを感心させようとしている架空の大学教育を受けた男性の本棚と、不気味なほど似ていました。ここにはシェークスピア、ここにはエディス・ウォートン、ここにはジェイムズ・ボールドウィンがあります。それは、夜はカーテンを開け放ち、通行人に感心してもらうために明かりを灯すマンハッタンのブラウンストーンの書棚です。見てください! と書いてあります。私たちは読書をします! 少なくとも、読書をします。
アトランティック誌が指摘したように、これは非常に西洋的な本棚です。「たとえば、西洋の正典を中心に訓練されたシステムでは、東洋文学に関する質問に対する答えは不十分なものになります。」あるいは、他の多くのことについてもです。
ミラン・クンデラ（データベースには登録されていない）は、小説「笑いと忘却の書」の中で、「ある朝（もうすぐだろうが）、誰もが作家として目覚めたとき、普遍的な聴覚障害と無理解の時代が到来しているだろう」と書いている。
過去 10 年間、私はその言葉をよく考えてきました。Twitter、そして今では X は、誰もが作家として目覚めたと言えるのではないかと思ったからです。Twitter/X の特定の要素は耳が聞こえず理解できないように感じましたが、それはまた、世界とその中の私たちの位置について私たちが考え、話す方法を変えた声と経験の不協和音でもありました。私たちに迫りくる AI の時代は、その逆を示唆しているようです。
シェークスピア（「善も悪もない。思考がそうさせるのだ！」）を第一の著者とする生成 AI モデルでは、聴覚障害や理解不能は起こりそうにないかもしれない。しかし、それをプログラムする人々が、これまで私たちのコミュニケーション方法（羽ペンとインク、またはコード）をプログラムしてきた人々とまったく同じであれば、このすべての変化は、過去の時代よりもさらに厳しいとはいえ、新しいバージョンへと私たちを急速に導く可能性がある。それが進歩であるかどうかは議論の余地がある。
ある予測によれば、今世紀末までにインターネットの 90 パーセントが人工的に生成される可能性がある。私たちは、今後何年、いや何世紀にもわたって世界がどのように機能するかの基盤を再構築しているのだ。
AIの偏見について最も大きな警鐘を鳴らしてきたコミュニティが、排除されたり、アイデンティティが歪められたりして最も苦しんでいるのは当然だ。例えば、コンピューター科学者のティムニット・ゲブルは、この事態を予見していた著名な有色人種女性の一人であり、2021年に広く読まれた論文の中で次のように書いている。「白人至上主義や女性蔑視、年齢差別などの見解がトレーニングデータに過剰に表れており、一般人口におけるその蔓延率を超えているだけでなく、こうしたデータセットでトレーニングされたモデルが偏見や危害をさらに増幅するように設定されている。」
過去が前兆であるならば、こうした偏見が蔓延し続けると、私たちはどこへ向かうのかよく分かっている。そして、それはただ一つの声しか許さなかった歴史に直接逆戻りすることになる。
その孤独な声は、勝者の声、インクを樽単位で買う人の声など、さまざまな呼び方で呼ばれてきました。最近では、アルゴリズムの声と呼ばれています。共通点は、ほとんどが男性で、ほとんどが白人だということです。その結果、人類が誕生してから何世紀にもわたって、ほとんどの物語、そしてその後の法律は、ごく少数の人々によって書かれ、作られてきました。
私たちはその過去がどのようなものか知っています。それは情報不足のように見えます。穴があいていて文脈が欠けているスイスチーズのスライスのようです。多くの場合、それは私たちの法律がどのように適用されるかのように見えます。ジョーン・ディディオン (15 エントリー) は、「私たちは生きるために自分自身に物語を語る」という有名な言葉を残しています。しかし実際には、私たちが語る物語が私たちの生き方を決定します。
私の場合、女性であることに関する物語はすべて祭壇で幸せに終わるようです。ここ数年、アメリカでは結婚率の低下に対するパニックが高まっています。結婚率は記録上最低です。2月にニューヨークタイムズ紙が行った著書「結婚する：なぜアメリカ人はエリートに逆らい、強い家族を築き、文明を救わなければならないのか」に関するインタビューで、バージニア大学のブラッド・ウィルコックス教授は、結婚制度が直面している課題の1つ（2021年は未婚のアメリカ人の数が記録上過去最多）は「ソウルメイト」神話だと考えていると述べました。
「私たちの文化、特にある意味ではポップカルチャーは、私がソウルメイト神話と呼ぶものをしばしば与えてくれます。それは、どこかにあなたを待っている完璧な人がいて、一度その人を見つけて愛し、結婚すれば、完璧なつながりが生まれ、強い感情的なつながり、ロマンス、情熱が生まれ、その結果、ほとんどの場合、幸せで満たされた気分になれるという考えです。」
ウィルコックス氏はさらに、結婚に関しては、人々に何が起こるのかを知ってもらい、その結果失望を減らす（研究によると、男性は結婚するとより幸せになり、うまくいくので、おそらく女性側の失望を減らす）ために、より現実的な物語りが必要であると述べている。
そういう話は、実際に存在する。そして、女性向けのウェブサイトや雑誌に数多く掲載されているだけではない。1987年、性教育者で作家のシア・ハイト（5回掲載）は、女性と男性の感情的な関係を分析したベストセラーのハイト・レポートの第3部「女性と愛」を出版した。ハイトは、結婚しているアメリカ人女性の大多数（5分の4）が自分たちの結婚は不平等であり、不満が広がっていると考えていたことを発見した。ハイト・レポートは推定5千万部を売り上げたが、この結果は、ウィルコックスがソウルメイト神話と呼ぶ、確立された結婚の筋書きとあまりにも矛盾していたため、ハイトはアメリカから追い出され、ヨーロッパに亡命した。もしこれらの話がもっと真剣に受け止められていたら、当時のアルゴリズムに含まれていたら、私たちは人々、結婚、家族がより健全な時代と国に住んでいただろうかと疑問に思う。
今起きていることも似たような感じがします。今は、プラットフォームにアクセスできる人が少数いる時代でも、声を届ける手段がほとんどない時代でもありません。まったく逆です。私たちは不協和音に悩まされています。しかし、AI をプログラミングしている人たちは、意図的か否かに関わらず、私たちの過去と現在の声と知識を活用しないことを選択し、私たちの未来を危険にさらしているようです。
まるで文化的なブラックホールに落とされたような気分でした。この本は私の行為の記録というよりは、存在の証拠でした。
AI は猛烈な勢いで発展しています。わずか 2 年足らずで、AI は私たちのコミュニケーション方法を一変させました。しかし、現在出現しているものは不条理と滑稽の間のどこかにあることを覚えておくと役に立ちます。Google の最新の大規模言語モデルである Gemini は、歴史を書き換えたように見え、白人の歴史上の人物をミュージカル「ハミルトン」のような有色人種の俳優に置き換えました。これが修正された後でも、結果として得られる音声は、実際の人間と話しているというより、ジャーナリストのジョン・ハーマンが「保険会社の請求を拒否するカスタマー サービス担当者」と表現した人物との会話に詰まっているようでした。確かに、電話を接続しようとしたり、他の種類のサービスを提供しようとしたりしてチャット ボックスで詰まったことがある人なら、別の意味で恐ろしいことはわかりますが、まったくの終末論的というわけではありません。
笑うのは簡単です。そして、それは楽しい報道となり、多くの専門家が表明している、AI によって人間の仕事のほとんどが不要になる、あるいは誤って核戦争を引き起こすというパニックを回避できます。しかし、歴史が私たちに教えてくれたもう一つのことは、冗談として始まったことがすぐに非常に深刻なものになる可能性があるということです。
現時点では、AI は、その欠点すべてにおいて、皮肉なことに、非常に人間的です。混乱状態です。扱いにくい技術が扱いにくい世界と衝突したのです。このすべてが非常にエキサイティングになる可能性があります。このすべての変化の真っ只中でさえ、想像しにくい方法で私たちの生活に浸透する可能性のある技術に、誰もが自分自身を見ることができるようになることです。しかし、私たちはそれを想像しなければなりません。この瞬間に私たちに求められているのは、必ずしも新しい物語ではなく (私たちの世界には物語が不足しているわけではありません)、物語が聞かれ続ける方法を想像するという主張です。
グリニス・マクニコルは作家でありポッドキャスターであり、彼女の最新作「I'm Mostly Here to Enjoy Myself」がこの夏出版される予定です。
このストーリーは、Deseret Magazine 2024 年 5 月号に掲載されます。購読方法については、こちらをご覧ください。
元記事: https://www.deseret.com/opinion/2024/05/11/ai-voice-machine-language-writing/