急速に進化する人工知能の世界では、新しいツールのリリースはしばしば興奮と懸念を等しく巻き起こします。最近、OpenAIの動画生成モデル「Sora 2」は、安全性と革新性をめぐる激しい議論の中心となっています。11月11日、アドボカシー団体「Public Citizen」は、悪用される可能性に対する深刻な懸念を理由に、OpenAIに対しSora 2の配布停止を強く求めました。この要請は、AIベンダーが技術の限界を押し広げる一方で、自らの創作物の道徳的・倫理的影響についても常に葛藤していることを浮き彫りにしています。

## 注意喚起

消費者擁護団体ラルフ・ネーダー氏が設立したPublic Citizenは、Sora 2の急速な展開に懸念を表明しました。OpenAI宛ての書簡では、ディープフェイク技術に伴うリスク、特にデジタルハラスメントや個人の画像や肖像の同意なしの操作の可能性について、強く訴えています。 Public Citizenのテクノロジーアカウンタビリティ推進者であるJ.B. Branch氏は、重要な問いを投げかけました。「72時間以内に人々に危害を与える製品を市場に出すことを、私たちは許せるでしょうか？」

この訴えの緊急性は、Sora 2で作成された、暴力描写を含む不快な動画が発売直後からソーシャルメディア上で拡散し始めたという最近の報道によって強調されています。このような事例は、AI開発者が自社の技術を一般公開する前に安全性を確保する倫理的責任について、正当な懸念を提起しています。

## OpenAIの回答

OpenAIの広報担当者は、自社製品を擁護する立場から、Sora 2はユーザーの安全を念頭に置いて設計されたと主張しました。また、このアプリケーションには、個人の肖像の悪用を防ぐための複数の安全対策が講じられていると指摘しました。例えば、この機能はユーザーからの明示的なオプトイン同意を必要とし、厳格な検証プロセスに裏付けられています。また、ユーザーは自分の肖像を誰が利用できるかを管理でき、いつでもアクセスを取り消すことができます。

こうした保証にもかかわらず、有害コンテンツの急速な出現により、これらの対策が十分かどうか疑問視する声が高まっています。Public Citizenの行動喚起は、生成AI分野における説明責任の必要性を強調した過去の公開書簡を反映したものです。その主張は明確です。AI技術が進化するにつれ、その利用を規制する枠組みも進化しなければなりません。

## 今後の展望

Public Citizenの取り組みは称賛に値しますが、専門家はOpenAIがSora 2を市場から撤退させる可能性について懐疑的な見方を示しています。ワシントン大学のChirag Shah教授は、このモデルのバイラルな成功を考えると、OpenAIが撤退する可能性は低いと考えています。「彼らは間違いなくそのことで大きな注目を集めています。非常に人気があります。彼らはこれを収益化しようとするでしょう」と彼は述べています。

歴史的に、規制措置はテクノロジーに関連する重大なインシデントの後に行われることが多いのです。例えば、OpenAIのChatGPTに関連した悲劇的な事件の後、連邦規制当局はAIベンダーが実施した安全対策の精査を開始しました。しかし、Sora 2の場合、ディープフェイク技術の既存の悪用は懸念されるものの、まだ政府の即時介入を促すほど深刻ではない可能性があります。

OmdiaのアナリストであるLian Jye Su氏をはじめとする専門家は、これらのリスクを責任を持って回避する責任は最終的にユーザーに課される可能性があると示唆しています。AIツールが普及するにつれて、ユーザーは常に警戒を怠らず、情報を入手し、悪影響につながる可能性のある軽率な操作を避ける必要があります。Sora 2のような技術の悪用を防ぐ責任は、開発者ではなく、それらを利用する個人に委ねられるようになるかもしれません。

結論として、OpenAIのSora 2をめぐる継続的な議論は、AI技術を責任ある方法で進化させることの複雑さを浮き彫りにしています。開発者が革新を続ける中で、新機能の興奮と潜在的な危害に対する安全対策の必要性のバランスを取ることが依然として課題となっています。パブリック・シチズンの嘆願は、人工知能の進化し続ける世界において、警戒と責任が極めて重要であることを思い起こさせるものである。