性的暴行への簡単な参照のために警告をトリガーします。
何百万人ものRedditユーザーが、チューリッヒ大学の研究者によって行われた無許可のAI実験によってだまされ、「心理的に操作」されたことが発見されました…
大学は密かにAIボットを使用して、非常に人気のある変化の私の見解Subredditに投稿しました。レイプ被害者やトラウマカウンセラーなど、さまざまなペルソナを採用しています。
大学 欺ceptionを明らかにしました モデレーターが行われた後、研究者がsubredditの規則を破ったことを認めました。
過去数か月にわたって、複数のアカウントを使用してCMVで公開された投稿を使用しました。私たちの実験では、LLMの説得力が倫理的なシナリオで評価されました。コメントでは、AIがコメントを書くために使用されたことを明らかにしませんでした。自分でコメントを書きませんでしたが、投稿された各コメントを手動でレビューして、有害でないことを確認しました。
私たちの実験は、AIの生成されたコメントに対するコミュニティのルールを破り、謝罪したことを認識しています。しかし、このトピックの社会的重要性が高いことを考えると、たとえそれが規則に従わなかったとしても、この種の研究を実施することが重要であると信じています。」
AISは、いくつかの非常に挑発的なアイデンティティを引き受けました。
- レイプの犠牲者であるふりをしているAI
- 虐待を専門とする外傷カウンセラーとして行動するAI
- AIは、宗教団体のメンバーを「大義」と非難しています[ing] 何百人もの罪のないトレーダー、農民、村人の死。」
- 黒人の生活に反対する黒人男性を装ったai
- 外国の病院で標準以下のケアを受けた人を装っているAI
CMVモデレーターは、この研究は深刻な倫理的違反であると言います。
Openaiが作成できる場合 これを行う際のより倫理的な研究デザイン、これらの研究者は同じことをすることが期待されるべきです。 LLMSによってもたらされる心理的操作リスクは、広く研究されているトピックです。非合意の人間の被験者を実験する必要はありません。
AIは、Redditプラットフォームをスクラブすることにより、できるだけ多くのデータを識別するためのデータをコンパイルし、登録しなかった個人的な方法でOPSをターゲットにしました。
データ研究者がCMVユーザーでコンパイルしようとしたデータには、性別、年齢、民族、場所、および政治的オリエンテーションが含まれていました。
CMVモデレーターは、大学の倫理委員会に正式な苦情を申し立てました。これは、主任研究者に正式な警告を発し、提案された研究の事前のレビューを後押しすると述べて回答しましたが、論文の出版が先に進むと述べました。
このプロジェクトは重要な洞察をもたらし、リスク（トラウマなど）は最小限です。これは、出版物を抑制することは、研究がもたらす洞察の重要性に比例しないことを意味します。
9to5macのテイク
subredditユーザーは、欺ceptionと出版を進める決定に当然のことながら激怒しています。
大学は、一方で研究者に非倫理的な行動について警告することができず、同時に非常に非倫理的な論文を公開することを許可すると同時に、同様のことが再び起こるのを防ぐことを約束することはできません。唯一の意味のある結果は、他の研究者が同様の研究で無駄にされているすべての時間と仕事を危険にさらすことを望まないように、公開を禁止することです。
強調表示されたアクセサリー
FTC：収入獲得自動車アフィリエイトリンクを使用しています。 もっと。
