용어사전 · AI 기초

컨텍스트 윈도우Context Window

컨텍스트 윈도우는 AI가 한 번에 기억하며 읽을 수 있는 글의 범위로, 범위를 넘어선 앞부분 내용은 잊거나 흐려질 수 있습니다.

#컨텍스트_윈도우#Context_Window#AI_기억_범위

개념 이해하기

AI와의 대화도, 한 번에 기억할 수 있는 분량에는 한계가 있습니다.

한 줄 정의

컨텍스트 윈도우는 AI가 한 번에 기억하며 읽을 수 있는 글의 범위로, 범위를 넘어선 앞부분 내용은 잊거나 흐려질 수 있습니다.

컨텍스트 윈도우는 AI가 질문에 답할 때 한 번에 참고할 수 있는 텍스트의 최대 범위를 뜻합니다. 긴 문서를 통째로 넣거나 대화가 길어지면, 이 범위를 넘어선 앞부분의 내용은 AI가 흐릿하게 기억하거나 아예 잊을 수 있습니다.

모델마다 이 범위가 다르며, 최근에는 매우 긴 문서도 처리할 수 있는 모델들이 늘고 있습니다. 다만 범위가 넓다고 해서 모든 내용을 똑같이 정확하게 기억하는 것은 아닙니다.

글 입력질문·문서·이전 대화가 들어옴

토큰으로 분해단어·글자 조각 단위로 잘림

컨텍스트 윈도우정해진 범위 안에서만 기억하며 처리

범위를 넘어서면 앞부분 내용부터 흐려지거나 잊혀질 수 있어, 중요한 정보는 뒷부분에 다시 넣어 주는 것이 안전합니다.

긴 문서 처리의 한계를 이해하게 합니다

매우 긴 자료를 AI에게 맡길 때 어느 부분이 누락될 수 있는지 예측할 수 있습니다.

콘텐츠 구조 설계에도 참고됩니다

핵심 정보를 앞부분에 배치하는 것이 AI의 기억·활용에 유리할 수 있습니다.

서비스 선택의 기준이 되기도 합니다

긴 문서를 다뤄야 하는 업무라면 컨텍스트 윈도우가 넓은 모델이 유리합니다.

컨텍스트 윈도우가 넓으면 무조건 좋은가요?

넓을수록 더 많은 정보를 참고할 수 있지만, 처리 비용과 속도에 영향을 줄 수 있어 용도에 맞게 선택하는 것이 좋습니다.

대화가 길어지면 이전 내용을 다 잊나요?

컨텍스트 윈도우를 벗어난 아주 이전의 내용은 흐려지거나 생략될 수 있지만, 범위 안의 최근 대화는 유지됩니다.

아래 1차 공식 자료를 바탕으로 정리했습니다.

콘텐츠·데이터 활용 상담으로 적합한 AI 도구와 방식을 안내해 드립니다.

함께 보면 좋은 페이지토큰 →LLM →