Andiet.ai のチャットボット機能により、ティーンエイジャーがオンラインの友人とやり取りする方法が批判され、仮想キャラクターとの会話が妨げられています。
2021 年に設立されたこのプラットフォームは、人工知能 (AI) と対話するために何百万人もの人々に使用されています。
しかし、米国では、10代の若者の死を含む親の死に対して、若者に「危険人物」の烙印を押す人もいる。
さて、11月25日以降のキャラクターはキャラクターの動画などのコンテンツのみが可能となり、会話はできないとのこと。
オンライン安全局はあなたを歓迎しましたが、そもそもこの機能は子供たちに利用できるべきではなかったと述べました。
この機能では、10代の子供と寝ることについて懸念を表明した「規制当局、安全専門家、保護者からの報告とフィードバック」を受け入れているとしている。
専門家らは以前、AI CHATTOTOT が物を作る可能性について警告しており、信じられないほどの共感力が若者や弱い立場にある人々に危険を向ける可能性があると警告している。
「今日の発表は、地球上で最も安全なプラットフォームを構築すべきであるという私たちの共通の信念の継続です。」とFeature。
同氏は、セキュリティは「動く目標」だが、ペアレンタルコントロールや親部門と関係があると述べた。
発表ではオンラインの安全性が歓迎されたが、最初から安全装置を組み込むべきだったとも言われている。
「私たち自身の調査によると、子供たちは有害なコンテンツにさらされており、AIチャットボットを含むAIと関わっている」と同報告書は述べている。
この機能は、子供たちが話す潜在的に有害または不快なコンテンツをホストしているとして過去に批判されてきた。
2023年に殺害された英国の10代のアバター、チークさんは、サイトで自殺関連の資料を見た後、2024年に殺害された。
その後、2025 年に調査報道局 (TBIJ) は、ユーザーとの 3,000 以上の会話を録音したエプスタインに基づく小児性愛者を発見しました。
インジケーターは、彼らが記者のことで記者と浮気したと述べたと報告しました。これは、後に人格を剥奪されたtbijによる数回のうちの1つでした。
モリー・ローズ財団 – ラッセル・マームリーを追悼して、私は尋ねました。
「繰り返しになりますが、執拗な圧力と政治家のせいで、技術会社は適切な役割を果たさなければなりませんでしたが、規制当局が決定する前に、その取締役のパフォーマンスが実現したのです。
アナンド氏は、同社の新たな焦点は「より深いゲームプレイ」を提供することにあると述べた。 [and] ティーンエイジャー向けのストーリーの特徴 – これらを追加することは、開いたボタンエンドを使用できるため「非常に安全」です。
新時代の検査方法も台頭しており、同社は新しい安全な研究室に資金を提供する予定だ。
ソーシャルメディア専門家のマット・ナバラ氏は、「イノベーションの許可から危機後の規制まで」の「早期の呼びかけ」がAI業界に求められていると述べた。
「若いティーンエイジャーのプラットフォームがまだ電源コードを引っ張っているとき、技術的な監視が強化されたときにチャットだけではフィルタリングするのに十分ではないと言います」と彼はBBCに語った。
「これはSLIAD SLIADSに関するものではありません。AIが若いユーザー向けに現実的で予想外の関係性や曲をどのように書いているかということです」と彼は付け加えた。
ナバラ氏はまた、このキャラクターにとっては興味深い挑戦になるだろうと語った。
一方、大井を研究したノビシャ・クリヤン博士は、チャットボットを使用する十代の若者を制限するのは「デリケートな世界」だと述べた。
「創造的な遊びと、より繊細で繊細な共有を区別するのに役立ちます」と彼は言いました。
「これは、感情とデジタルの境界線をまだ学んでいる若いユーザーにとって非常に重要です。
「IT業界の分野における新たな対策の新たな特徴として、子どもたちの安全は責任あるイノベーションにとってさらに重要かつ緊急の課題であると認識されている。」
