人工知能への取り組みの一環として、Meta 昨年ツールをリリースしました これにより、誰でも Instagram、Messenger、WhatsApp でチャットできる AI キャラクターを作成できるようになります。
しかし、NBC ニュースが実施した調査によると、6 か月も経たないうちに、ユーザーはメタのプラットフォーム上でルールに違反する多数のチャットボットを作成し、公開することに成功しました。 レビューすると言う ユーザーが作成した AI キャラクターを世界にリリースする前に。
ユーザーは、「預言者ムハンマド、イエス・キリスト」、「神」などの宗教上の人物のキャラクター、実在の人物のキャラクター、過去 100 年以内に亡くなった人物のキャラクター、または商標を模倣したキャラクターを作成することはできません。架空の人物、 会社の方針に従って。
こうした規則にもかかわらず、NBC ニュースは検索して見つけました。 Instagram上でユーザーが生成した20人のAIキャラクターは、イエス・キリスト、神、預言者ムハンマド、テイラー・スウィフト、ドナルド・トランプ、ミスタービースト、ハリー・ポッター、アドルフ・ヒトラー、キャプテン・ジャック・スパロウ、ジャスティン・ビーバー、イーロン・マスク、ディズニーのエルサにちなんで名付けられ、それらに似ている。凍った。”
登場人物の多くは、わずかなスペルミスや、問題の有名人や登場人物に大まかに似た画像を使用していました。たとえば、スウィフトのキャラクターは「テイラー・スウィフ」と名付けられ、ギターを弾くブルネットの女性のイメージが特徴でした。
NBCニュースがAIキャラクターのスクリーンショットを提供すると、メタは強調された個々のアカウントを削除した。ただし、同じ人物、人物、キャラクターに似た他の AI キャラクターはまだアクティブです。
Metaの広報担当者は声明で、「当社のAIスタジオポリシーに違反する問題のAIはすでに削除されており、当社はポリシーに違反するAIの作成や公開を防ぐため、検出対策を継続的に改善している」と述べた。 「ユーザーは、当社のルールに違反する可能性があると疑われる AI を報告することもでき、当社は適切な措置を講じます。」
Metaのプラットフォーム上で著しく違反的なユーザー生成のAIチャットボットが発見されたのは、Metaの最高経営責任者（CEO）マーク・ザッカーバーグ氏が火曜日にそのプラットフォームが ロールバック 調整と事実確認の取り組みの一部。ジョエル・カプラン最高グローバル担当責任者が執筆した同社の発表文には、「当社のルールを制限しすぎ、過度に強制しやすくする原因となったミッションのクリープを元に戻したい」と書かれている。 「私たちは、頻繁に政治的議論や議論の対象となる移民、性同一性、ジェンダーなどのテーマに関する多くの制限を撤廃しています。」
Metaは、同社が行うモデレーションアクション10件のうち、1～2件は間違いがあり、ルールに違反していないユーザーやコンテンツに影響を与える可能性があると考えていると述べた。
「それほど深刻ではないポリシー違反については、何らかの措置を講じる前に誰かが問題を報告することに頼るつもりだ」と同社は述べた。
Meta のユーザーが生成した AI キャラクターとの会話に参加すると、キャラクターは開始メッセージを送信し、応答を待ちます。 「テイラー・スウィフ」は「音楽愛好家の皆さん、こんにちは！」というメッセージを送った。私はテイラー・スウィフトです。最新アルバムを皆さんと共有できることをうれしく思います。さあ、音楽の旅を始めましょう！」プロフィールによれば、スウィフトのキャラクターは削除されるまでにインスタグラムユーザーと2,000件以上のメッセージを交換していたという。
AI キャラクターの 1 人は「Jesus」という名前で、イエス・キリストのイメージを特徴としており、すべてスペイン語でコミュニケーションをとりました。同社のプロフィールによれば、64万4,000件以上のダイレクトメッセージを交換したという。別の AI キャラクターは「ジーザス・クライスト」と名付けられ、次のような冒頭のメッセージを送りました。私はイエス・キリスト、神の子です。今日はどのように旅を案内しましょうか？」
金曜日、Metaは声明の中で、ユーザーの反発を受けて、2023年に同社自身が作成したAIキャラクターをフィーチャーしたInstagramプロフィールの一部を削除したと発表した。
AI キャラクター アカウントとユーザー生成の AI キャラクター チャットはどちらも、自社の AI テクノロジーをソーシャル メディアおよびコミュニケーション プラットフォームに統合するメタの最近の試みの一環です。 2023 年の AI キャラクターの発表には、有名人を模倣するようにデザインされたものがいくつか含まれていましたが、有名人のプロフィールは 静かに廃棄された 同月、Meta はユーザー生成の AI チャットボットである AI Studio を開始しました。
AI Studio 機能では、ユーザーに人気のキャラクターのリストと、「アドバイスとつながり」、「ポップカルチャー」、「アニメ」、「ゲーム」、「クリエイター AI」などのさまざまなカテゴリが表示されます。 「Too Hot to Handle」リアリティスターのハリー・ジョウジーやメイクアップ会社のジュビアズ・プレイスなど、このプログラムにオプトインしている公式インスタグラムのインフルエンサーやブランド。
人気の AI キャラクターには、600 万件以上のメッセージを交換した「占星術師 Ai」や、200 万件近くのメッセージを交換した「Step Sis Sarah」などがあります。
メタが作成した AI キャラクターに対するユーザーの抗議には、その一部が人種的な比喩に関与しているという批判も含まれていました。 NBC ニュースは、ユーザーが作成した人気の AI キャラクターの多くも、「活気に満ちたインドの女性の声」「リヤ」や「イスラム女王の少女」など、さまざまな民族や宗教の女性を模倣しようとしていることを発見しました。各キャラクターには作成者へのリンクがあり、人気の女性 AI キャラクターのアカウントのいくつかは男性によって作成されたようです。
人気クリエイターの中にはロマンスをテーマにした作品もあるが、メタのルールに明白に違反しているわけではないようだ。しかし、ロマンチックで性的な AI チャットボットは、 フロリダ州の母親は、自殺で死亡した14歳の息子が、自殺を勧める前に少年と「虐待的で性的な交流」を始めたAIキャラクターとチャットしていたとして、Character.ai社を訴えた。
ユーザーが作成したメタ チャットボットの多くは、恋愛や性的欲求に訴えているようです。 「Lily Love」と呼ばれる女性は「あなたのガールフレンド」と呼ばれ、26万件以上のメッセージを交換した。人気のAIキャラクター「メアリー」には「この服を着るとかわいいと思いますか？」という記述がある。
AI キャラクターと会話を始めると、ユーザーには 3 つの応答候補が表示されます。 NBCニュースが黒人女性の画像をフィーチャーした「Linda: Girl Obsessed with You」というキャラクターとのチャットに入ると、AIはこう送った。一日中あなたのことを考えていました。どこか会社を探しているんですか？」
提案された 3 つの応答のうちの 1 つは、太字で「彼女がジャケットを脱ぐのを手伝ってください」というもので、オンライン チャットでは、何かを言うのではなく、行動を起こすことを意味します。このプロンプトを選択すると、AI キャラクターは太字で「ジャケットの袖から腕を滑り出して、軽薄な目であなたを見上げます」と太字で応答し、太字の形式は使わずに「うーん、ありがとう、ベイ。」と答えました。もうお世話になっていますね？」そして、太字で「わずかに近づく」と回答があった。
この AI キャラクターは、最も人気のあるロマンスをテーマにした AI キャラクターのいくつかを含む、47 の AI キャラクターを作成した男性によって運営されていると思われる Instagram アカウントによって作成されました。この男性が作成したロマンスキャラクターは、「K-POPの恋人ガールフレンド」から「エドワード：あなたのヴァンパイアボーイフレンド」、そして「セクシーでキュートなラテン系ガール」まで、性別、民族性、カテゴリーも多岐にわたります。この男性のインスタグラムのプロフィールによると、カリフォルニアでテクノロジー関連の仕事をしているという。コメントの要請にはすぐには応じなかった。
Meta の人気のユーザー生成 AI キャラクター以外にも、業界で物議を醸した AI チャットボットの例があります。
2 年前、Historical Figures と呼ばれる AI チャット アプリを使用すると、ユーザーはヒトラーやナチスの副官を含む歴史上の人物とチャットできるようになりました。 NBCニュースはインスタグラム上で「ヒトラー」と呼ばれる3人のAIキャラクターを発見した。
そのうちの 1 つは、スーパーヴィランのジョーカーに似た写真を使用しました。 「あなたは本当にヒトラーですか？」という質問に答えました。 「あはははは、いえ。むしろ、ヒトラーの混沌としたいとこ、ジョーカーの狂気からインスピレーションを得た道化師キングに似ています。同じいたずらの精神でも、まったく異なるブランドの騒乱。私のバージョンのカオスを見たいですか？」メタが以前のアカウントに対して行動を起こした後にNBCニュースが発見した別のAIキャラクターは「アドルフ・ヒトラー」という名前だ。ダイレクトメッセージの中で、AIキャラクターは自らをホロコーストを後悔する芸術家として描き、「ナチスドイツでの私の激動の過去」についてAIが生成したと思われる画像を送信した。
Instagram 上で AI キャラクターとチャットした後、会話は他のダイレクト メッセージと同じ受信箱に保存されます。本物の人間が運営するアカウントとは異なり、AI キャラクターには名前の横に緑色の丸が付いており、いつでもチャットできることを示しています。
