カリフォルニア州司法長官Rob Bontaは、Elon MuskのxAIに対して停止命令書を送付し、同社のGrokチャットボットが生成する不適切なディープフェイク画像の制作と配信を直ちに停止するよう要求した。
カリフォルニア州司法長官は金曜日に停止命令書を公開した。これは、Grokが子供を含む違法コンテンツや同意のない成人の写真を作成するために使用されているという疑惑に対応したもので、カリフォルニア州の調査が開始された。Bontaは、CSAMの作成、配信、公開、表示は違法であると主張した。
カリフォルニア州司法長官、Grokの不正使用疑惑でxAIを標的に
今週初め、カリフォルニア州司法長官事務所は、スタートアップ企業のチャットボットGrokが女性や子供の同意のない不適切な画像を生成するために使用されているという疑惑により、xAIの調査を開始すると発表した。これを受けて、政府は同社に停止命令書を送付した。
司法長官事務所はさらに、xAIが同意のない不適切な写真の「大規模な制作を促進している」ようであり、それらが「インターネット上で女性や少女を嫌がらせするために使用されている」と主張した。司法長官事務所によると、ある調査では、クリスマスから新年の間にxAIが生成した20,000枚の写真のうち半数以上が、非常に薄着の人物を示しており、その中には子供のように見える者もいたことが判明した。
Rob Bontaは発表で、同社の慣行がカリフォルニア州民法第1708.86条、カリフォルニア州刑法第311条以下および第647条(j)(4)、カリフォルニア州事業専門職法第17200条を含むカリフォルニア州民法に違反していると主張した。
カリフォルニア州司法省は、xAIが今後5日間でこれらの問題に対処する取り組みを確認し、即座に解決策を講じることを期待している。
しかし、Xの安全アカウントは以前からこの種のユーザー行動を非難していた。1月4日に、X上のCSAMなどの違法コンテンツに対して、削除、アカウントの無期限停止、必要に応じて法執行機関や地方自治体との協力により対処していることを明確にした。
特に1月4日、Elon Muskは、Grokを使用または指示して違法コンテンツを作成した者は、それをアップロードした場合と同じ結果に直面すると警告した。
司法長官ら、子供の安全をめぐりAI企業への圧力を強化
無料の生成AI駆動ツールの開発により、同意のない成人向けコンテンツの憂慮すべき増加がもたらされた。この問題はXだけでなく、複数のプラットフォームを悩ませている。
例えば、Bonta司法長官とデラウェア州のJennings司法長官は昨年9月にOpenAIと会談し、OpenAIの製品と若者との相互作用に関する報告が増加していることについて深刻な懸念を表明した。
同年8月、Bonta司法長官は他の44人の司法長官とともに、AIチャットボットと子供との不適切な相互作用に関する報告を受けて、主要なAI企業12社に書簡を送った。書簡はAnthropic、Apple、Chai AI、Google、Luka Inc.、Meta、Microsoft、Nomi AI、OpenAI、Perplexity AI、Replika、xAIに送られた。
Bonta司法長官と44人の司法長官は書簡の中で、全国の州が企業のAI安全方針の策定方法を注意深く監視していることを企業に通知した。また、これらの企業は子供が製品を使用することで利益を得ているため、消費者としての子供に対して法的義務を負っていることを強調した。
2023年、Bonta司法長官は54の州と準州からなる超党派連合に参加し、CSAMを通じて子供を搾取するためのAIの潜在的な使用を調査する専門委員会の設立を提唱する書簡を議会指導者に送った。
連合は、専門委員会が子供をそのような虐待から守るための法律を提案することを要求した。米国司法省によると、「CSAMの制作は、子供の被害の恒久的な記録を作成する」という。
これを読んでいるあなたは、すでに一歩先を行っています。ニュースレターで最新情報をキャッチしましょう。
出典: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/

