AI 에이전트가 실패하는 이유: 알아야 할 수학

원저자：Rahul Pandey

원본 소스：https://www.youtube.com/embed/sMMNXTmimJg

이 AI 에이전트의 모든 단계는 최소 90%의 시간 동안 작동합니다. 여전히 송장 3개 중 1개 이상은 실패합니다. 이 비디오에서는 일반 Python(LLM 없음, 프레임워크 없음)에서 처음부터 12개 도구 송장 에이전트를 시뮬레이션하고 10,000번의 실행을 시뮬레이션하여 모든 도구가 90%의 시간 동안 작동하는 경우에도 에이전트가 실패하는 이유를 알아냈습니다. 우리는 곱셈 법칙, 이를 깨뜨리는 두 가지 독립 거짓말(나쁜 날과 침묵의 상태 중독), 실제로 이를 고치는 것이 무엇인지, 고치는 데 드는 비용을 다룹니다. 확인할 수 있는 내용: - 평균 96% 신뢰도를 지닌 도구는 여전히 송장 1,000개 중 371개를 잃습니다. - 하나의 도구(PDF 추출)로 인해 전체 오류의 약 4분의 1이 발생합니다. - "나쁜 날"에는 성공률이 9% 미만으로 떨어집니다. - 재시도 성공률은 63%에서 94%로 떨어지지만, 자동으로 잘못된 답변을 할 가능성이 더 높습니다. - 검증기 추가: +0.7 도구 호출에 대해 97% 정확하고 잘못된 원장 항목이 25배 적습니다. 좋은 송장당 챕터: 00:00 소개 00:24 에이전트 워크플로우 대 에이전트 04:15 완벽한 에이전트 시뮬레이션 06:12 도구가 동전 뒤집기 10:27 1만 송장 시뮬레이션 11:32 곱셈 법칙 21:18 송장이 실패하는 경우 27:00 거짓말 #1: 나쁜 날 시뮬레이션(상관 실패) 31:25 거짓말 #2: 조용한 상태 중독 37:58 반격: 재시도 및 검증 40:58 결론 #AIAgents #AgenticAI #BuildFromScratch #Agents #AI