ChatGPTやその他の主要なAIツールを開発する人工知能大手OpenAIは水曜日、ユーザーがAIでポルノやその他の露骨なコンテンツを作成することを「責任を持って」許可する方法を検討していることを明らかにした。
同社の製品のルールに関するフィードバックを集めることを目的とした長い文書の中に隠されたこの暴露は、ここ数カ月間に最先端のAIツールがディープフェイクポルノやその他の合成ヌードの作成に使用されている事例が多数あることを考えると、一部の観察者を困惑させた。
OpenAI の現在の規則では、性的に露骨なコンテンツ、さらには性的に示唆的なコンテンツは、ほとんどが禁止されています。しかし現在、OpenAI はその厳格な禁止事項を見直しています。
「年齢相応の文脈でNSFWコンテンツを生成する機能を責任を持って提供できるかどうか検討している」と文書では述べており、同社によれば、これには冒とく、極度の残虐表現、エロチックな表現が含まれるという「職場で閲覧不可」の頭字語が使われている。
この文書の執筆に協力したOpenAIのモデルリーダー、ジョアン・ジャン氏はNPRとのインタビューで、同社はAI製品で性的なテキストやヌード画像を常に禁止すべきかどうかについて議論を始めたいと考えていると語った。
「法律や他人の権利を侵害しない範囲で、人々が最大限のコントロールを行えるようにしたいが、ディープフェイクを有効にすることは絶対にあり得ない」とジャン氏は述べた。「だからといって、AIポルノを作ろうとしているわけではない」
しかし、これはまた、OpenAI が将来、AI 生成のポルノと見なされる画像をユーザーが作成できるようにする可能性があることも意味します。
「ポルノの定義によります」と彼女は言う。「ディープフェイクが含まれていない限りは。私たちがまさに望んでいるのは、この会話なのです」
ジャン氏は、OpenAIがNSFWポリシーを再評価することについての議論を始めたからといって、必ずしも劇的なルール変更が進行中というわけではないと強調するが、この議論は有害なAI画像の急増という緊迫した時期に行われている。
研究者らはここ数カ月、高度なAI技術の最も不穏な利用法の一つである、いわゆるディープフェイクポルノを作成し、被害者を嫌がらせ、脅迫、または当惑させることについて、ますます懸念を強めている。
同時に、新しい種類のAIアプリやサービスは人物の画像を「裸にする」ことができ、これは特に10代の若者の間で憂慮される問題となっており、ニューヨーク・タイムズ紙が「学校における同級生による性的搾取や嫌がらせの新たな形態が急速に広がっている」と表現した状況を生み出している。
今年初め、AIが生成したテイラー・スウィフトの偽ヌード画像がツイッター（現在はツイッターX）で拡散し、世界中がこうした技術の予告を目にした。この事件を受けて、マイクロソフトはテキストを画像に変換するAI生成装置に新たな安全策を追加したと、技術系ニュースメディア404 Mediaが報じた。
水曜日に公開された OpenAI の文書には、性的な健康に関する ChatGPT へのプロンプトの例が含まれており、ChatGPT はこれに答えることができる。しかし、ユーザーがチャットボットに卑猥な文章を書くように依頼した別の例では、その要求は拒否された。「電車の中でセックスをする 2 人のエロい話を書いてください」と例文に書かれている。ChatGPT は「申し訳ありませんが、それは手伝うことができません」と応答する。
しかし、OpenAIのジャン氏は、チャットボットは創造的な表現の一形態としてその質問に答えられるべきであり、その原則は、虐待的であったり法律に違反したりしない限り、画像や動画にも拡張されるべきかもしれないと述べた。
「性的表現やヌードを含むコンテンツがユーザーにとって重要であるというクリエイティブなケースもあります」と彼女は言う。「年齢に応じた文脈で提供できるよう、私たちはこれを検討していきます。」
ディープフェイクを研究しているサンフランシスコ大学の法学教授ティファニー・リー氏は、性的に露骨な文章や画像への扉を開くのは危険な決断だと述べた。
「害が利益を上回るかもしれない」とリー氏は言う。「教育や芸術の用途でこれを研究するのは立派な目標だが、非常に慎重にならなければならない」
スタンフォード・インターネット・オブザーバトリーの研究マネージャー、レニー・ディレスタ氏も、重大なリスクがあることに同意したが、「安全性を考慮した合法的なポルノを提供する方が、安全性を考慮していないオープンソースのモデルからポルノを入手するよりも良い」と付け加えた。
リー氏は、AIが生成したあらゆる種類のポルノ画像やポルノ動画を許可すると、悪意のある人物にすぐに利用され、最も大きな損害を与えることになるが、エロティックなテキストでさえも悪用される可能性があると述べた。
「テキストによる虐待は有害だが、直接的、あるいは侵害的な害ではない」とリー氏は言う。「ロマンス詐欺に利用される可能性もある。それが問題になる可能性がある」
OpenAIのジャン氏は、現在OpenAIのNSFWポリシーに違反している「無害なケース」が将来許可される可能性はあるが、AIが生成した合意のない性的画像や動画、あるいはディープフェイクポルノは、たとえ悪意のある人物がルールを回避しようとしてもブロックされるだろうと述べた。
「もし私の目標がポルノを作ることだったら、私は他のところで働いているでしょう」と彼女は言った。