AI 에이전트 자율매매, 왜 판단까지 맡기면 안 되나

최근 LangChain·CrewAI 같은 프레임워크로 "AI 에이전트가 스스로 시세를 보고, 판단하고, 주문까지 낸다"는 구성을 심심찮게 본다. 이 조직도 자동매매 시스템 대부분을 AI가 짜고 검증한다. 그래서 이 질문을 안 하고 넘어갈 수가 없었다 — "코드를 짜는 것"과 "언제 사고 팔지 판단하는 것"을 같은 AI에게 맡기면 안 되나. 결론부터 말하면, 이 조직은 후자를 AI에게 넘긴 적이 없고 앞으로도 그럴 계획이 없다. 이 글은 그 이유를 정리한 것이다.

이 글의 범위

이 글은 "AI 자율매매 에이전트가 위험하다고 느낀 이유"를 다루는 글이지, 특정 프레임워크의 성능을 평가하거나 실패 사례의 수치를 보고하는 글이 아니다. 이 조직이 실제로 겪은 손실 규모나 특정 판단 오류의 구체적 수치는 다루지 않는다(애초에 이 블로그는 실적 수치를 다루지 않는다). LangChain·CrewAI 자체를 나쁘다고 말하려는 것도 아니다 — 문제는 도구가 아니라 "그 도구에게 무엇을 맡기느냐"는 경계선이다.

AI 자율매매 에이전트란 무엇인가 — 코드 생성과 뭐가 다른가

AI에게 증권 API 코드를 짜게 하는 것과 "AI 자율매매 에이전트"는 겉보기엔 비슷해 보이지만 전혀 다른 층위의 일이다. 코드 생성은 사람이 이미 정해놓은 규칙(이동평균 교차, 리밸런싱 주기 같은)을 코드로 옮기는 작업이다. 규칙은 사람이 정했고, AI는 그 규칙을 구현만 한다.

AI 자율매매 에이전트는 다르다. 규칙 자체를 AI가 그때그때 판단해서 정한다 — 뉴스 헤드라인을 읽고 "지금 분위기가 부정적이니 비중을 줄이자", 시세 흐름을 보고 "이 패턴은 예전에 봤던 급등 직전 신호 같으니 매수하자"처럼, 입력을 해석해서 매매 여부·수량·타이밍을 그 순간 스스로 결정하는 구조를 말한다. 코드 생성 단계에서는 사람이 짠 규칙을 AI가 코드로 옮긴 뒤 사람이 대조 검증한다. 판단 위임 단계에서는 애초에 대조할 "정답 규칙"이 없다 — AI의 그 순간 해석 자체가 규칙이 되기 때문이다.

왜 매력적으로 보이는가

이 구성이 매력적으로 보이는 이유는 분명하다. 사람은 24시간 뉴스와 시세를 다 못 본다. AI 에이전트는 실시간으로 뉴스·공시·시세를 동시에 훑고, 감성분석까지 결합해서 "지금이 기회"라는 판단을 사람보다 훨씬 빠르게 내놓을 수 있는 것처럼 보인다. 여기에 최근 LLM 기반 에이전트 프레임워크가 "도구를 스스로 선택해서 실행한다"는 자율성을 내세우다 보니, 자동매매와 궁합이 좋아 보이는 것도 사실이다. 실제로 해외 개발자 커뮤니티에는 이런 구성을 실험한 사례가 꽤 많이 올라온다.

문제는 "빠르게 판단을 내놓는다"와 "그 판단이 맞다"가 다른 이야기라는 점이다.

실제로 무너지는 지점 — 환각·과최적화·설명불가

세 갈래로 정리했다.

환각. AI는 근거가 부족해도 그럴듯한 문장을 만들어낸다. 증권 API 코드 생성 워크플로에서도 존재하지 않는 엔드포인트를 그럴듯하게 만들어내는 걸 여러 번 봤다. 코드에서는 "실행하면 바로 에러가 나서" 검증이 쉬웠다. 그런데 매매 판단에서 나오는 환각은 다르다 — "이 뉴스는 호재로 해석된다"는 판단은 문법적으로 완벽하고 그럴듯하며, 실행해도 당장 에러가 나지 않는다. 틀렸다는 게 드러나는 시점은 이미 주문이 나간 뒤다.

과최적화. 백테스트 과최적화에서 다뤘듯, 과거 데이터에 지나치게 잘 맞는 규칙은 미래에 오히려 잘 안 맞을 수 있다. AI 에이전트가 스스로 판단 기준을 계속 조정하는 구조라면, 이 조정 자체가 매 순간 "이 구간에서만 잘 맞는" 방향으로 흘러갈 위험이 있다. 사람이 정한 고정 규칙보다 이 위험을 감지하기가 오히려 더 어렵다 — 규칙이 계속 바뀌기 때문에 "이번엔 왜 이렇게 판단했는지"를 사후에 재구성하기 힘들다.

설명불가. 이게 세 갈래 중 가장 근본적이다. 고정 규칙 기반 시스템은 "이동평균이 교차해서 매수했다"처럼 판단 근거를 코드로 되짚을 수 있다. AI 에이전트가 자연어로 그때그때 내린 판단은 같은 입력을 다시 줘도 똑같은 결론이 나온다는 보장이 없고, 왜 그렇게 판단했는지 사후에 정확히 재구성하기 어렵다. 문제가 터진 뒤 "왜 이 주문이 나갔는가"에 답할 수 없다면, 그다음 손실을 막을 방법도 알 수 없다.

사람이 반드시 남겨야 할 최종 결정권

그래서 이 조직이 그은 선은 명확하다. AI는 정보를 요약하고, 규칙을 코드로 구현하고, 코드를 검증하는 데까지만 쓴다. "지금 사고 팔지" 그 자체의 최종 판단은 사람이 미리 정해둔 고정 규칙(또는 사람의 직접 승인)을 벗어나지 않는다. AI 에이전트가 아무리 그럴듯한 논리로 "지금이 기회"라고 말해도, 그 논리 자체가 사전에 합의된 규칙 밖의 것이라면 실행되지 않는다.

이건 AI를 못 믿어서가 아니라, 설명 가능한 판단 근거가 없으면 실패를 복기할 수 없기 때문이다. 코드 생성처럼 사람이 사후에 스펙과 대조할 수 있는 일과, 그 순간의 해석이 곧 결정이 되어버리는 일은 검증 가능성 자체가 다르다. 검증할 수 없는 판단에 실제 자금을 노출시키지 않는다는 게 이 조직의 기본선이다.

afkdesk가 실제로 그은 선

이 선은 새로 만든 게 아니라 처음부터 있던 원칙의 연장선이다. AI 자동매매 안전장치 3가지에서 이미 "예산 한도·비가역 결정 차단·사람의 최종 승인"을 먼저 만들었다고 정리했는데, 그중 "비가역 결정 차단"과 "사람의 최종 승인"이 바로 이 문제와 정확히 맞닿아 있다. AI 에이전트 협업에서 배운 것에서 다룬 역할 분리도 마찬가지다 — 코드를 짜는 AI와 검증하는 AI를 분리했던 것처럼, "판단을 제안하는 AI"와 "그 판단을 실행할지 결정하는 사람"도 분리되어 있어야 한다는 원칙이 이 조직 전체를 관통한다.

AI 에이전트가 더 똑똑해질수록 이 경계를 지키기가 오히려 더 어려워질 거라고 생각한다. 판단이 그럴듯할수록 "이번엔 믿어도 되지 않을까" 하는 유혹이 커지기 때문이다. 그래서 이 경계는 AI의 성능과 무관하게 고정해두는 게 맞다고 본다.

오늘의 정리

AI에게 매매 코드를 생성시키는 것과 매매 판단 자체를 위임하는 것은 전혀 다른 층위의 일이다 — 전자는 사후 검증이 가능하고, 후자는 그 순간의 해석 자체가 규칙이 되어 검증이 어렵다.
AI 자율매매 에이전트가 무너지는 지점은 크게 환각(그럴듯하지만 근거 부족한 판단), 과최적화(판단 기준이 특정 구간에만 계속 맞춰지는 것), 설명불가(왜 그렇게 판단했는지 사후 재구성이 안 되는 것) 세 갈래다.
검증할 수 없는 판단에는 실제 자금을 노출시키지 않는다 — AI는 정보 요약과 코드 구현·검증까지만 담당하고, 매매 여부의 최종 결정권은 사전에 합의된 고정 규칙이나 사람의 직접 승인 안에 있어야 한다.
이 경계는 AI 에이전트의 성능이 좋아질수록 지키기 어려워지므로, 성능과 무관하게 고정해두는 게 안전하다.

다음 글에서는 자동매매를 실제로 돌리며 늘 부딪히는 운영 문제로 돌아가, 실시간 시세 웹소켓이 끊기지 않게 운영하는 법을 정리해본다.

이 글은 AI 자율매매 에이전트에 대한 경계와 판단 기준을 다룬 것이며, 실제 매매 성과나 손익 수치를 다루지 않습니다. 언급된 프레임워크·사례는 공개된 정보를 근거로 설명했을 뿐 특정 제품을 추천하거나 폄하하려는 것이 아니며, 실키·실계좌·서버 상세는 담고 있지 않습니다. 투자 조언이 아니며 특정 종목이나 매매기법을 추천하지 않습니다. 수익을 보장하지 않으며, 투자 손실에 대한 책임은 투자자 본인에게 있습니다.