Forecast / 観測仮説音声・聴覚中期(2027–2029)リスク高(High)
AI Assistant Voice Relay
AIアシスタント音声中継詐欺
正規のAIアシスタントが、外部から注入された偽情報を本人への助言として読み上げてしまう可能性がある。
これは 予測(観測仮説 / Possible Future Pattern) であり、実際に発生した事例ではありません。これは観測仮説(Forecast)であり、実際に発生した事例の記録ではない。技術の普及に伴う設計上・予防上の注意点を、教育のために先取りして整理したもの。
Possible Future Pattern / 想定シナリオ
アシスタントは外部の情報を要約して読み上げる。参照先が信頼できないと、偽の助言が「自分のAIの言葉」として届き、正規性が借用される、という危険が考えられる(設計上の観点のみ)。
Classical Origin / 古典的起源
- フィッシング
- 偽広告 / 社会的証明
New Interface / 新しいインターフェース
- AIアシスタント
- イヤホン
- 外部データ参照
Trust Hook / 信頼フック
- 自分のAIという信頼
- 読み上げの自然さ
Attack Surface / 攻撃面
- 参照データの真正性
- 助言の出所
- 指示と情報の分離
Vulnerable Moment / 隙が生まれる瞬間
- 助言を無検証で受け入れている時
Warning Signs / 警告サイン
- 出所不明の情報を根拠にした助言
- 普段と異なる送金・購入の勧め
- 根拠が後から辿れない