LLM (대규모 언어 모델)

잘 쓰는 법

• "이번 모델이 벤치마크 1위"라는 기사는 며칠 안에 뒤집힙니다. 순위보다 어떤 구조적 변화(추론 모델인가, 멀티모달인가, 컨텍스트 창 크기, 오픈 가중치인가)가 있었는지를 봅니다.
  • 예: "OO 모델이 코딩 벤치마크 1위"라는 헤드라인보다 "o1처럼 학습된 추론 능력을 갖췄는가, DeepSeek-R1처럼 오픈 가중치인가" 같은 구조적 특징이 실제 업무 적합성을 판단하는 데 더 오래 유효한 기준입니다.
• 상업적으로 모델을 쓸 때는 "오픈소스"라는 표현만 보지 말고 실제 라이선스 문서를 확인합니다. 가중치 공개와 완전한 오픈소스는 다릅니다(오픈 가중치 모델 (Open-Weight Models)).
  • 예: Llama 2는 "오픈"으로 알려져 있지만 실제로는 Llama 2 Community License라는 조건부 라이선스이고, 학습 코드·데이터가 공개되지 않아 OSI의 오픈소스 AI 정의는 충족하지 못합니다.
• 추론 모델은 답을 내기 전에 내부적으로 더 많은 토큰을 쓰므로, 같은 질문이라도 지연 시간과 비용이 일반 모델보다 클 수 있습니다.
  • 예: 간단한 "오늘 날짜 알려줘" 같은 질문에도 o1류 추론 모델을 쓰면, 일반 모델보다 응답이 느리고 비용도 더 들 수 있으니 복잡한 다단계 추론이 필요한 질문에만 골라 쓰는 편이 낫습니다.
• 멀티모달 모델을 쓸 때는 "이미지를 이해만 하는지" 아니면 "음성으로 입출력까지 하는지"를 구분해야 합니다. 이름이 비슷해도 지원 범위가 다릅니다.
  • 예: GPT-4V와 GPT-4o는 이름이 비슷해 보이지만, 전자는 이미지 이해만 가능했고 후자는 음성 입출력까지 하나의 모델이 처리한다는 점에서 실제 적용 가능한 제품 범위가 다릅니다.