AI・自動化・開発 プロンプトの工夫では防げない?AIが対話の途中で精度を落とす「意図の追従限界」と、破綻リスクを抑えるシステム設計論
対話が長くなるとAIの回答精度が落ちる原因はどこにあるのか。Microsoft Researchの論文『LLMs Get Lost in Evolving User Intent』が示した実証データを紐解き、プロンプトの調整だけに頼らず「セッション分割」「実行環境の分離」「多層防御(自動検証+人間承認)」によって破綻リスクを抑える実践的なシステム設計を解説します。