전체 글45 8장 : LLM의 성능을 높이는 패턴 오늘날 LLM에는 여러 중대한 한계가 존재하나,이러한 한계가 꿈꾸던 LLM 애플리케이션 구축을 막을 수 없다. LLM 애플리케이션은 본질적으로 두 가지 트레이드오프 위에 서 있다. 바로 자율성(agency)과 신뢰성(reliability)이다. 더 자율적으로 만들면 더 똑똑해 보이지만 결과가 들쭉날쭉해진다. 더 신뢰성 있게 만들면 견고하지만 단조롭다. 그래서 이 챕터의 목표는 한 마디로 정리된다.신뢰성을 유지한 채 자율성을 더 끌어올리거나자율성을 유지한 채 신뢰성을 더 강화하거나원래 자율성과 신뢰성은 시소처럼 한쪽을 올리면 한쪽이 내려간다. 이 시소 관계 자체를 깨고 둘 다 끌어올리는 것, 그게 목표다.이번 장은 그걸 가능하게 하는 네 가지 기법을 다룬다.구조화된 출력 : 미리 정해진 형식으로 출력하도.. 2026. 6. 22. 7장 : 에이전트 아키텍처 2 인간 사고 양식 중 하나를 본떠 자기 출력을 분석하는 성찰, 그리고 여러 LLM 에이전트가 집단으로 협력하는 멀티 에이전트 이전까지 혼자 툴을 골라 쓰고 결과를 보며 반복하고 스스로 멈출 정도로 꽤 똑똑하지만, 외로운 에이전트를 구현했다.이제 여러 에이전트가 역할을 나눠 협업하는 멀티 에이전트(multi-agent)에다가묻고 더블로 자기 답을 스스로 비평하고 고치는 성찰(reflection) 기법을 다룬다. 1. 성찰 : 자기 답을 스스로 검토하기성찰(자기비판)은 창작 프롬프트와 수정 프롬프트 사이의 반복으로 만들어진다. 사람이 글 쓰는 과정을 떠올려보자. 초안을 쓰고, 다시 읽어보며 "여기 좀 약한데?" 하고 고친다. 지금 읽는 이 책도 저자/감수자/편집자가 서로 논의하며 다듬은 결과물일 것이다. 대니.. 2026. 6. 22. 6장 : 에이전트 아키텍처 에이전트는 외부 환경과 상호작용하며 스스로 판단해 행동하는 AI 시스템으로, 계획-실행 반복 패턴을 통해 목표를 달성한다. 라우터엔 두 가지 한계가 있었다.1) LLM이 고를 수 있는 길이 개발자가 미리 정한 몇 갈래로 한정돼 있고, 2) 그래프에 사이클(반복)이 없어서 한 번 가면 끝, 되돌아가질 못한다. 이와 결정적인 차이를 가진 에이전트(agent)는 사이클(루프)를 가진다. LLM이 직접 툴을 골라 쓰고, 결과를 보며 "한 번 더 해? 아니면 끝내?"를 스스로 정하는 반복 루프다. 이번 장에선 기본 에이전트를 만들고, 성능을 끌어올리는 확장 두 가지(툴 우선 호출, 복수 툴 관리)를 살펴본다.1. 계획+실행 반복에이전트가 다른 아키텍처와 결정적으로 다른 점은 LLM이 주도하는 반복(loop)이다... 2026. 6. 21. 5장 : 인지 아키텍처 보유한 구성 요소(RAG/프롬프트/메모리)를 결합하는 방식, 즉 고유한 구조(아키텍처)가 결과물을 좌우한다. 지금까지 프롬프트 작성 기법(0/1장), RAG(2/3장), 메모리(4장) 라는 장치들을 짚어왔다. 그리고 4장에서는 "조건부 엣지를 쓰면 흐름을 동적으로 바꿀 수 있다"는 언급이 있다. 5장이 바로 그 떡밥을 회수하는 장이다. 인지 아키텍처(cognitive architecture)인간의 추론 과정을 모델링해 컴퓨터로 구현한 방식을 뜻하는 오래된 AI 용어인데, LLM 시대에선 "애플리케이션이 실행할 단계들의 레시피" 정도로 보면 된다. 부품을 어떻게 엮어 동적인 흐름을 만들지, 그 설계도에 관한 얘기다.1. 핵심 축 : 자율성 vs 신뢰성아키텍처를 고르는 기준이 뭘까? 책은 이걸 하나의 트레.. 2026. 6. 21. 4장 : 랭그래프를 활용한 메모리 기능 랭그래프(LangGraph)로 상태 저장 시스템을 구축하고, 그래프 기반 아키텍처로 대화 흐름을 관리한다. 3장에서 우리 챗봇은 외부 데이터를 똑똑하게 끌어다 쓰는 법을 배웠다. RAG로 무장해서 최신 정보도 척척 답한다. 근데 결정적인 문제가 하나 있다. 얘는 방금 자기가 한 말도 기억을 못 한다. 한 번 물으면 한 번 답하고 끝, 매번 처음 본 사람처럼 군다. 유사금붕어 원인은 LLM이 본질적으로 무상태(stateless)이기 때문이다. 호출할 때마다 백지 상태에서 시작한다. 챗GPT처럼 "아까 말한 그거 있잖아" 하고 대화를 이어가려면, 누군가 옆에서 대화 기록을 기억해 줘야 한다. 그 "기억 담당"이 바로 메모리다. 그리고 4장의 진짜 주인공은 그 메모리를 우아하게 구현하게 해주는 도구, 랭그래프.. 2026. 6. 20. 3장 : RAG 2단계 데이터 기반 대화 사용자 질의를 임베딩하고 데이터 소스에서 유사 문서를 찾아 프롬프트에 컨텍스트로 끼워 넣는 과정, 이걸 검색 증강 생성(RAG)이라 부른다. 2장에서 우리는 문서를 잘게 썰어(청킹) 임베딩으로 바꾸고 벡터 저장소에 차곡차곡 쟁여 넣는 작업을 했다. 근데 냉장고에 재료만 가득 채워놓고 요리를 안 하면 무슨 의미가 있겠는가. 3장은 드디어 그 재료를 꺼내 쓰는 단계다. 큰 그림은 이렇다. 기본 RAG 한 사이클을 빠르게 복습하고 → 실제 서비스에서 터지는 문제들(쿼리가 엉망이거나, 데이터 소스가 여러 개거나, DB는 자연어를 못 알아먹거나)을 하나씩 짚으면서 → 고급 RAG 기법들로 시스템을 단단하게 만들어 간다. 코드도 한 방에 완성된 걸 던지는 게 아니라 책처럼 점진적으로 발전시켜 볼 거다. 참고로 이 .. 2026. 6. 20. 이전 1 2 3 4 ··· 8 다음