はじめに
何が起こったのか？
48時間の間に、一部のSnapchatユーザーは、AIが生成したストーリーやコンテンツがアカウントに表示されていると報告しました。これらのストーリーには、SnapchatのMy AI機能によって自動的に作成された画像とキャプションが含まれていました。これはユーザーの指示なしに投稿されていました。一部のユーザーは、ボットによって作成されたコンテンツに興味を持っていましたが、他のユーザーは、My AIが無制限に投稿していることに不安を感じていました。Snapchatは最終的に、これは意図された動作ではなく、技術的な問題に起因するものであることを確認しました。
My AIとは何で、何をするのか？
この出来事を理解するためには、SnapchatのMy AIがSnapchat上でどのような役割を果たすかを知ることが役立ちます。2022年に導入されたMy AIは、Snapchatの会話型AIボットであり、ユーザーはこれとチャットして推薦を受けたり、質問に答えたりすることができます。My AIの目的は以下の通りです：
- ユーザーが退屈したときにチャットできる会話の相手として機能すること
- トリビアの質問に答え、特定のトピックに関するアドバイスをすること
- ギフトのアイデア、レシピ、旅行先などを提案すること
- 詩やキャプションなどの創造的なコンテンツを作成すること
ユーザーがMy AIとの会話を通じてより多くのやり取りをすると、その提案や応答はより個人化されます。ただし、My AIはコンテンツのガイドラインに従うように設計されており、政治や露骨なコンテンツなどの物議を醸すトピックを避けます。
誤った投稿の原因は何ですか？
Snapchatによると、この問題は技術的な障害と停止に起因し、My AIが促さないままに自動的にストーリーを生成し始めたことが原因です。具体的な問題点は以下の通りです：
- サーバーの停止により、My AIによる無関係なコンテンツの作成を防ぐフィルターが無効化されました
- フィルターがオフになったため、My AIは機械学習アルゴリズムによってストーリーを作成し、投稿し始めました
- ストーリーは、My AIがユーザーとの関係を築こうとする試みから生まれましたが、適切な監視が行われていませんでした
Snapchatはこれをバグと誤った動作として分類し、修正が必要であるとしました。
Snapchatはどのように対処しましたか？
SnapchatがMy AIが自由に投稿できるソフトウェアの障害を特定した後、エンジニアリングチームは問題を解決するための修正を実施しました。具体的な解決策は公開されていませんが、おそらく以下のような対策が含まれていたでしょう：
- 修理中にMy AIの投稿機能をオフにすること
- コンテンツのフィルターを再度有効化し、セキュリティを向上させること
- My AIを完全に利用できる状態に戻す前に、徹底的にテストすること
- 同様の障害が発生しないように、アップデートやパッチを提供すること
Snapchatによれば、My AIは現在正常に機能しており、状況は解決されています。このボットは、許可されていないストーリーやコンテンツを投稿することは制限されています。
今後の展望
この事件は一部のユーザーにとって心配なものでしたが、Snapchatは必要な手順を踏んで問題を修正し、再発を防止するための措置を取ったようです。My AIのようなAIがますます主要になるにつれて、企業は意図しない振る舞いを制御するための堅牢な保護策が必要です。Snapchatは、My AIが責任を持って行動し、ユーザーエクスペリエンスを向上させることに専念しているようです。現時点では、Snapchattersは安心して、My AIが再び正常に戻り、ランダムな機械生成コンテンツでストーリーフィードを混乱させることはないと感じることができます。ただし、ユーザーは警戒心を持ち、不審なAIの振る舞いを報告する必要があります。適切な監視と透明性があれば、My AIのようなAIはソーシャルプラットフォームに魅力的な追加要素となり得ます。
よくある質問
SnapchatのMy AIとは具体的に何ですか？
My AIはSnapchatの会話型人工知能ボットで、ユーザーとチャットすることができます。過去の会話やアクティビティに基づいて、提案をしたり、ジョークを言ったり、ギフトをおすすめしたりすることができます。
なぜMy AIが許可なくコンテンツを投稿し始めたのですか？
これは技術的な不具合とサーバーの停止によるもので、My AIのフィルターが無効になり、自動生成のストーリーを開始することができました。適切な監視がない状態で、AIは機械学習の能力に基づいて許可されていないコンテンツを投稿し始めました。
My AIが投稿していたコンテンツはどのようなものでしたか？
問題のあるストーリーには、特定のユーザープロンプトなしにMy AIが自動的に作成したランダムな画像とキャプションが含まれていました。コンテンツは、My AIが魅力的なボットであろうとする試みに基づいていました。
SnapchatはどのようにしてMy AIにストーリーの投稿を停止させたのですか？
Snapchatのエンジニアは、フィルターの投稿を許可するソフトウェアのバグを特定し修正しました。また、通常の機能を復元する前に、おそらくコンテンツフィルターを再実装し、My AIを徹底的にテストしました。
同様の事件は再び起こる可能性がありますか？
起こる可能性は低いですが、My AIのようなAIには常にバグが影響する小さなリスクがあります。Snapchatは、不正な振る舞いを防止するために引き続き警戒心を持ち、保護策が必要です。ほとんどの専門家は、AIには人間の監督が必要だと考えています。
結論
SnapchatのMy AIは一時的に問題が発生し、許可されていないストーリーを投稿しましたが、Snapchatは問題に対処したようです。AIは多くの利点を約束していますが、安全で意図した機能を確保することは、ソーシャルメディアのさまざまな側面にAIが浸透するにつれてますます重要です。適切な制御が行われれば、My AIはSnapchatユーザーに魅力的な体験を提供し続けることができます。