Apple Intelligence は先週、通知概要機能のおかげで、ルイージ マンジョーネのフェイク ニュースを作成することに成功しました。どういうわけか、ユナイテッド・ヘルスCEOブライアン・トンプソン殺害の容疑者が自殺したと断定した。
この間違い自体は驚くべきことではありません。AI システムは常にこの種の間違いを犯します。むしろもっと驚くべきことは、簡単に避けられるはずだったにもかかわらず、アップルがそれを許してしまったということだ…
AI の間違いは面白いこともあれば危険なこともある
今日の生成 AI システムは多くの場合、素晴らしい結果をもたらしますが、もちろん実際にはインテリジェントではありません。そのため、かなり壮絶な間違いを犯していることもあります。
これらの多くは面白いです。マクドナルドのドライブスルーAIシステムがありました。 チキンナゲットを追加し続けた 合計 260 個に達するまで顧客の注文に応じます。 Google が地質学者の推奨事項を報告 1日1石を食べると提案しています。 接着剤を使用していること チーズがピザにくっつくのを助けるため。そして マイクロソフトがフードバンクを推奨 観光地として。
しかし、AI による危険なアドバイスの例もあります。キノコの採集について AI が書いた本があり、その方法としてキノコを味わうことを推奨していました。 有毒なものを特定する;地図アプリ 人々を山火事に誘導した;そしてボーイングシステムは、 2機の旅客機が墜落する原因となった、346人が死亡した。
あるいは単に恥ずかしいだけかもしれません
Apple Intelligence によるサマリー BBCニュース ストーリーは面白くも危険でもありませんでしたが、恥ずかしかったです。
今週初めに英国で外部向けに開始された Apple Intelligence は、人工知能 (AI) を使用して通知を要約し、グループ化します。今週、AIを活用した要約は、BBCニュースが、ニューヨークで医療保険CEOブライアン・トンプソン殺害後に逮捕されたルイージ・マンジョーネが銃自殺したと主張する記事を掲載したかのように誤って報道した。彼はそうではありません。
私たちがこれを目にしたのはこれが初めてではなかった – 以前の Apple Intelligence 通知の概要では、イスラエル首相が次のように述べていた ベンヤミン・ネタニヤフ首相が逮捕された、実際の話はICCが彼の逮捕状を発行したときでした。
マンジョーネのフェイクニュースは回避可能だった
これらのエラーをすべて回避することは不可能です。それは単に、生成 AI システムの性質上、それを作成するためのものです。
Apple のニュース見出しの通知概要の場合、これはなおさら当てはまります。見出しはその性質上、ストーリーの非常に部分的な要約です。 Apple Intelligence は、ニュース記事の高度に凝縮されたバージョンをさらに凝縮しようとしています。非常に短い概要の非常に短い概要。これが時々ひどい間違いを起こすことは、まったく驚くべきことではありません。
Apple は一般にこれを防ぐことはできませんが、少なくとも特にデリケートな記事での発生を防ぐことはできます。殺害、殺された、銃撃者、銃撃、死亡などのキーワードをトラップし、使用前に人間によるレビューのためにフラグを付けることができます。
この特定のケースでは、その間違いは単純に恥ずかしいものでしたが、このようなデリケートなテーマに関する間違いが、どのようにして多くの人々を非常に怒らせることにつながるかを理解するのは、まったく難しいことではありません。たとえば、暴力犯罪や災害の被害者を非難するような要約を想像してみてください。
もちろん、人間によるレビューは Apple News チームにとって追加の仕事となるだろうが、Apple はシフトで働く 6 人の従業員のコストを 24 時間年中無休で専用にチェックすることができるだろう。これは、まだ生まれたばかりの機能にとって大きな PR 上の惨事になりかねない事態を防ぐための Apple 側の出費としてはかなり少額であるように思われる。
写真提供者 ホルヘ・フランガニーリョ の上 アンスプラッシュ
FTC: 当社は収入を得る自動アフィリエイト リンクを使用しています。 もっと。
