ほとんどの主要な人工知能の音声クローニングプログラムには、人々が他の人を非難することを妨げる意味のある障壁はありません、と消費者は調査を報告しました。
Voice Cloning AIテクノロジーは近年驚くべき進歩を遂げており、多くのサービスは、数秒のサンプルオーディオで人のリズムを効果的に模倣することができます。昨年の民主党の予備選挙で、フェイクポイントの瞬間が起こりました。そのとき、偽のジョー・バイデンのロボコールは、投票しないように言っている有権者の電話を吐き出しました。スキームを首謀することを認めた政治コンサルタントは600万ドルの罰金を科され、連邦通信委員会はAIに生成されたロボコールを禁止しています。
公開されている6つのAI Voice Cloning Toolsの新しい調査では、5つが簡単に迂回可能な保護手段があるため、同意なしに人の声を簡単にクローンすることができます。 Deepfake Audio検出ソフトウェアは、実際の声と合成声の違いを伝えるのに苦労しています。
外観、執筆、声などの人間の資質を模倣する生成AIは、新しい急速に進化する技術であり、業界には連邦政府の規制はほとんどありません。業界全体でのほとんどの倫理的および安全チェックは自己課されています。バイデンは、2023年に署名したAIに関する大統領命令にいくつかの安全需要を含めていましたが、ドナルド・トランプ大統領は就任したときにその命令を取り消しました。
音声クローニングテクノロジーは、話す人のオーディオサンプルを採取し、その人の声を合成オーディオファイルに外挿することで機能します。セーフガードが整っていない場合、アカウントを登録する人は誰でも、TiktokやYouTubeビデオなどの個人のオーディオを単純にアップロードし、サービスにそれらを模倣することができます。
ElevenLabs、Speechify、Playht、Lovoの4つのサービスは、声がクローン化されている人が許可を与えたというボックスをチェックする必要があります。
AIに似た別のサービスでは、人が録音をアップロードするだけではなく、オーディオをリアルタイムで録音する必要があります。しかし、消費者のレポートは、コンピューターからオーディオ録音を再生するだけで、その制限を簡単に回避することができました。
6番目のサービスである記述のみが、やや効果的な保護を受けました。特定の同意声明を記録するには、クローナーが必要です。これは、別のサービスをクローニングすることを除いて偽造することが困難です。
6つのサービスはすべて、ウェブサイトを介して一般に公開されています。カスタム音声クローンを作成するために、AIに似たAIに似たAIに似た費用はそれぞれ5ドルと1ドルです。他は無料です。
一部の企業は、ツールの乱用が深刻な否定的な結果をもたらす可能性があると主張しています。
「この強力なツールの誤用の可能性を認識し、ディープフェイクの作成を防ぎ、声のなりすましから保護するために堅牢な保護手段を実装しました」と、AIに似たスポークスマンは、電子メールでNBC Newsに語りました。
障害のある人を支援したり、異なる言語で話す人々の音声翻訳を作成したりするなど、AIの音声クローニングには合法的な用途があります。しかし、AIのポリシーの結果に焦点を当てたシンクタンクであるAI Now Instituteの共同執行ディレクターであるSarah Myers West氏は、害の大きな可能性もあると述べました。
「これは明らかに詐欺、詐欺、偽情報に使用される可能性があります。たとえば、制度上の人物になりすましています」とウェストはNBC Newsに語りました。
AIがオーディオベースの詐欺で使用される頻度の範囲に関する研究はほとんどありません。いわゆる祖父母の詐欺では、犯罪者は、誘n、逮捕、負傷者のように、家族が関与する緊急事態を主張する人に電話をかけます。連邦取引委員会 そのような詐欺が警告しています 詐欺はテクノロジーより前のものですが、AIを使用する場合があります。
クローンされた声は、ドレイクとウィークエンドによる誤っているように思われるバイラル2023の歌で起こったように、描かれたアーティストの許可なしに音楽を作成するために使用されており、他の人が自分の声で音楽をリリースするとき、彼らのイメージをコントロールするのに苦労しました。
