긴 글과 주제를 효과적으로 요약하는 법AI의 한계: 토큰 제약으로 인해 정보를 장기적으로 기억하고 처리하는 능력이 부족하여 대화가 길어질 경우 이전 대화 내용을 다시 알려주는 것이 필요합니다. 1. AI가 문맥을 이해하는 원리(GTP-4)트랜스포머 아키텍처와 지도 학습법을 이용하여 문맥을 이해합니다. - 트랜스포머 아키텍처: 자기-주의(Self-Attention) 메커니즘을 이용해 단어 간의 관계 파악 → 문맥을 파악하고 문장에서 각 단어의 역할 이해 - 지도 학습: 수백억 개의 문장 쌍으로 이루어진 큰 데이터 세트를 이용해 학습(인간의 말과 쓰기 패턴을 반영) → 문맥에서 다음에 올 단어나 문장을 예측하는 방법 습득 실제 경험이 없기 때문에 통계적인 패턴 학습에 기반하기 때문에 애매모호한 상황이나 복잡..
