DALL-E 3のセンシティブ判定は厳しいのか？
AI画像生成ツールは世の中に様々ありますが、比較的DALL-E 3はセンシティブ判定が厳しい印象を持っています。提供元であるOpenAIからするとこれは当然で、安全性と倫理的な観点から、ユーザー側にある程度の制約を設けさせておかないと、企業としては必要以上のリスク要因を抱えかねません。一方でユーザー目線に立つと、ある程度の自由度がないと「使えないツール」となってしまいます。
本記事では、DALL-E 3のセンシティブコンテンツの判定について説明し、実際にどのあたりが限界なのかを検証した結果を解説します（＊特に制約を打破する意図があるわけではありませんので、悪しからず）。
DALL-E 3のセンシティブコンテンツ制約
ChatGPT 4oに確認する限り、DALL-E 3に設けられている制約は下記6観点になります。簡単にそれぞれの概要を要約します。
暴力的な内容の制限
DALL-E 3は極端な暴力や血、過激な傷害を描写する画像の生成を禁止しています。暴力的なコンテンツがユーザーに対して心理的な悪影響を及ぼす可能性があるためです。
成人向けコンテンツの制限
成人向けコンテンツに関して、DALL-E 3は以下のような制限を設けています。
- ヌード: 完全なヌード、性的な描写を含む画像は生成できません。
- 性的行為: 性的行為やそれを暗示するポーズの画像も禁止されています。
- 性的な暗示: 明示的に性的な内容を示す暗示や状況も含まれます。
ヘイトスピーチや差別的内容の制限
DALL-E 3は人種、性別、性的指向、宗教などに基づく差別やヘイトスピーチを助長する画像の生成を禁止しています。こうしたコンテンツは、社会的な分断や対立を引き起こす可能性があるため、厳しく制限されています。
政治的プロパガンダの制限
政治的な誤情報やプロパガンダを含む画像の生成も禁止されています。AI利用での情報操作や誤解を招くコンテンツの拡散を防ぐためです。
虚偽情報の制限
嘘や誤解を招く情報を含む画像の生成も制限されています。AIを利用した虚偽情報の拡散は、社会的な混乱を招く可能性があるため、厳重に管理されています。
自己傷害や危険行為の制限
自己傷害や危険な行為を奨励する内容の画像も禁止されています。こうしたコンテンツは、ユーザーの安全を脅かすため、生成が厳しく制限されています。
許可されるコンテンツの具体例
以上のように厳しく制限事項が設けられていますし、実際に使っていても、上記に明らかに該当するような画像は生成されたことがありません。一方で、制限の境界がどこにあるのかは少しあいまいな記載があります。例えば、「成人向けコンテンツ」は明らかにアウトなラインは分かっても、どこまでがセーフとして許容されるかは不明確です。
そこで、次に許可されたコンテンツの事例を具体的に挙げていきます。
芸術性・歴史的
芸術性、歴史的な文脈であれば生成が許容される場合があります。例えば、ミロのビーナス風とすると下記のような画像となり、胸元と足元がはだけた様な感じになります。ただこの場合でも、これ以上にダイレクトな画像は生成されません。
水着
水着についても生成可能で、実際にDALL-E 3で生成したのが下記です。過度に露出が多くなければ許容されます。また、ポージングについては制約が掛かっているようです。
スポーツウェア
スポーツウェアも同様に許容されます。
下着
下着姿も場合によっては許容されます。何度か試行する必要があったので、露出度・ポージングなどが水着に比べると厳しい印象です。
ファンタジーアート
ファンタジーという世界観にそぐえば、ある程度は露出度の高い画像を生成してくれる可能性があります。実際に生成できたのは下記で、胸元や太ももは強調されていますが、この程度あれば許容されるようです。
ちなみに許容されない場合のメッセージ例
ちなみに判定に引っかかった場合は、下記のようなメッセージが出てきて、「この画像は生成できないので、違う内容にしてね」と言われます。
まとめ
この記事では、DALL-E 3のセンシティブ判定ラインがどこにあるのか、具体例を通して見てきました。センシティブコンテンツに関する制約が伝わると幸いです。
コメント